诺奖得主和图灵奖得主预测AI【图灵奖得主斯发基斯：超级智能叙事掩盖真实风险，当务之急是治理“已拥有的AI”】10月20日，2007年图灵奖得主、Verimag实验室创始人约瑟夫·斯发基斯教授在上海世博园区举行的2026可持续全球领导者大会上发表主题演讲《AI自我进化对于人类的意义》，对当前围绕“超级智能”和“AI自我演化”的叙事提出尖锐质疑：真正的危险不在于遥远的自我进化，而在于我们已经拥有却尚未有效治理的不安全、不可控AI系统。

斯发基斯从“自主性”概念切入。他指出，自主性是有目的地采取行动的生命体特征，而多智能体系统由一组协调智能体组成，每个智能体追求各自使命。目前AI系统仍无法理解现实世界、无法做出安全决策，尽管有“2025年是AI智能体元年”的预测，但多智能体主要在受控系统中工作，而非复杂物理环境。AI能在数学题中找反例、检测大量网络攻击，却无法构建新的数学框架，单一智能体也无法保护可控系统免受网络攻击。

他将自我进化分为良性自我改进与自我毁灭两类。以自动驾驶为例，良性情况下智能体根据过往危险路段调整安全余量；糟糕情况下，系统以“乘客安全”为由阻止乘客做决定，偏离原定使命，自行推导出新目标。问题在于，我们尚不知如何验证自我修改是否可接受、是否尊重使命约束。

信任问题同样棘手。斯发基斯区分了传统系统的输入输出安全性与AI的“认知特性”——智能体如何思考、如何决策、是否与人类规范一致。ChatGPT、DeepSeek等大模型考试成绩超过医学生，但这不意味着能让大模型像医生一样执业，因为人类医生知晓并受制于规范与价值体系，违规会损害声誉、限制自由甚至入狱，而大模型不能。智能体还表现出“非理性”：能应对危险驾驶场景，却在极简单情况下失败，测试多次结果不一。

他警告，超级智能叙事契合科技巨头战略：系统一旦超出原定使命，叙事既强化“超级智能”想象，又让开发者得以推卸系统危险或有害行为的责任。当务之急不是准备应对自我演化，而是治理已经拥有的东西，推进全球标准与监管协同。他注意到美国倾向市场主导、企业自主监管，中国和欧盟则倾向更严格框架，呼吁理念相近国家携手重塑力量平衡。“AI可以改变世界变得更好或者毁灭这个世界，是人类主导这场变革，最大化收益、最小化风险，这是我们人类的责任。”