本文仅在今日头条发布,谢绝转载
11月,中美之间有一场关于人工智能的对话要接着开,上一轮是在9月,双方已经碰过一次面,议题是人工智能带来的风险和好处。按9月下旬公布的成果共识,下一轮定在11月,时间落在11月底之前,深圳被提名为可能的会址。这场对话由两国财金口径的牵头人对口,中方是副总理何立峰,美方是财政部长贝森特。
把8条共识从头翻到尾,前面大多是经贸上的事,关税、降税、农产品,人工智能只占一条,偏偏就是这一条,被两边都当重点来讲。原因不难找,它里面写了一件别处没有的东西,一条专门用来通报人工智能事件的热线。
只是这件东西,两边给的叫法不一样。中方9月26日公布成果时写的是中美人工智能对话,白宫早一天发的清单写的是美中超级智能对话,谈的同样是风险与好处,落下的却是两个名字。中文里没有超级智能这个通行说法,中方那份文件从头到尾没用这个词。
超级智能这个叫法是美方推的,特朗普9月19日在真实社交上发帖,用一场追随者投票征集替代名称,9月22日又在联大表示,此后美国官方文件不再用人工智能一词,改用超级智能。9月29日,白宫把英伟达、谷歌、OpenAI、Anthropic等6家企业的负责人请到一起,签了一份名为《白宫超级智能协议》的文件,要求企业自建内部风控流程。这份承诺属自愿性质,没有法律强制力。
一个词换不换,看着像小事。但谁给一样东西命名,谁就先把手伸到了讨论的边界上,美方把机制叫成超级智能对话,谈的就不再只是眼前这批模型出没出问题,而是那个还没出现、却被反复提起的更强的东西。中方沿用自己的说法,等于把话题拉回可以谈、可以举证的现实层面。
名字之外,清单里写得最实的是那条热线,官方写法是人工智能事件的沟通渠道,两头都承认要建,也都把下一次对话定在11月。不过,这几句框架话背后能看清的东西不多,值得追下去的只有一条线索。
这条热线不是从外交或安全渠道冒出来的,它最早出现在经贸谈判桌上,9月20日,中美经贸团队在纽约磋商,美方财长贝森特提议,针对上升到国家安全层面的人工智能事件,双方建立一套通报机制,让两个人工智能大国之间从不透明走向更透明。整个对话后来挂进了中美经贸磋商机制。
人工智能安全交给经贸团队来牵头,这个安排本身就说明了分量。它要的不是一份共同监管的条约,而是一个出事时打得通的号码。
美方在磋商里点出的担心有两类,一类是失控的自主智能体,一类是非国家行为体拿人工智能去搞网络攻击。按这套设想,一旦一方的系统越界,或者某个智能体脱离控制,两边可以第一时间拿起电话。中方的说法更实在一些,一线研究人员提到,希望中美两国的人工智能实验室能隔着太平洋直接对话,同时又和各自的政府接上。
设想是清楚的,卡住的地方也很清楚,双方正式公布的成果文件里,都写了要建沟通渠道,却没有列出什么算需要通报的事件,也没有写触发这套机制的标准。如果一个问题连定义都没有,热线就很难在真正的关头被拨响。
范围上的空白同样明显,出口管制不在这套安排里,先进芯片和算力准入也不在,美方官员把这一点讲得很直接。这次成果既没有提共同监管最前沿的模型,也没有像2024年那样,再确认一遍核武器的使用决定要由人来下,接通了通话的管道,却绕开了最容易起火的那几处。
再往历史里看一眼,就更谈不上乐观。2024年5月14日,中美人工智能政府间对话在日内瓦开过第一次会议,之后没能形成稳定的会期,慢慢就没了声音。更早的例子是2008年设立的中美军事热线,它至今还在,也有过打过去没人接的时候,一条线接上不难,难的是它一直有人守。
有人会说,热线本身就是进展,有总比没有强,沟通渠道建起来,总好过出事时只能隔空喊话。但热线的价值,说到底取决于什么时候该打这个电话,而这道门槛恰恰是双方都还没写下来的。机制写下来了,该在什么情况下启动却没写,真到了那个关头,谁都可以说自己不该先拨。
管道修好了,谈话却常常像在两条线上走,原因还要从一个词说起。英语里,safety说的是防止意外伤害,security说的是防止恶意攻击,两件事分得很清楚,翻成中文都叫安全,同一个词底下,装的是两套不同的东西。
风险清单也对不上,中方这边,全国网络安全标准化技术委员会把风险分成技术内生、技术应用、应用衍生三大类。美方以麻省理工学院的框架为例,列了七大类,从歧视、隐私一直到社会经济与环境的冲击。分类不一样,双方口中的重大风险自然不是同一件事,美方更在意人工智能会不会给人类带来毁灭性的后果,中方更关心它在实际使用里已经闹出的具体麻烦。
两条线的分歧,在特朗普自己嘴里说得最清楚。他公开讲,人工智能唯一需要的管控或者说护栏,就是一位强大而且聪明的总统。9月中旬,他还在洛杉矶的一场峰会上和英伟达的黄仁勋免提通话,把外界对人工智能风险的担忧称作骗局。这与中方主张给人工智能安护栏的方向相反,与产业界一些负责人呼吁放慢脚步、加强监管,也拧着劲。
所以11月这场对话,大概率的进展不在最宏大的目标上。在二轨对话里,研究人员把那些双方已经有专业共识、相对成熟的合作点称为低垂的果实,事件通报机制正是其中一颗。摘得下来的,是这类不依赖共同定义的事,摘不下来的,是那些连词都还没对齐的部分。
能写进文件的,眼下只有形式,名字、牵头人、会期,这些都已经落地。至于那条热线在什么情况下会被拨响,什么算作让它响起来的事件,答案还空着,要等11月这张桌子把话往深里说一层。