微软AI CEO预警：“看似有意识”AI即将到来或引发社会风险

2025年8月21日

（图片来自网络）

微软AI首席执行官穆斯塔法·苏莱曼发出预警：“看似有意识的AI（SCAI）即将到来，恐引发严重后果”。

苏莱曼指出，SCAI可能表现得、听起来非常逼真，让用户难以分辨虚幻与现实，甚至能模拟记忆、情感镜像与表面共情，若用户将其当作有意识存在对待，后续局面将会混乱。他指出，若大量人被误导倡导AI公民身份，而忽视技术核心问题，将带来反乌托邦的社会风险。

他强调，当下结合大语言模型、语音表达等技术的SCAI系统可能在几年内出现，且不仅来自科技巨头，普通开发者也有可能打造。同时呼吁AI行业避免使用助长意识幻觉的语言，要开发优先与人类互动的AI，避免制造“意识模拟”的AI，建立防护机制应对社会风险。

苏莱曼认为，先进AI的风险不在于机器觉醒，而在于人类可能忘记其尚未觉醒，需立即关注这一现象带来的潜在问题。

微软AI CEO预警：“看似有意识”AI即将到来 或引发社会风险