AI巨头集体走进联合国安理会提出警告

9月23日，纽约联合国总部，一场罕见的会议正在进行——三家全球顶尖人工智能公司的高管，同时出现在联合国安理会会议室里，向15个成员国代表通报AI技术的最新进展与潜在风险。

出席的三位重量级人物分别是：OpenAI首席执行官萨姆·奥特曼、Anthropic首席执行官达里奥·阿莫迪，以及Hugging Face联合创始人克莱门特·德朗格。这场会议，正值联合国大会年度"世界领袖周"期间召开，由法国外交部长让-诺埃尔·巴罗主持。

会上传递出的核心警告很直接：随着AI系统能力越来越强，它们可能很快具备"自我提升"的能力，进而滑出人类的掌控，对国际安全构成威胁。

阿莫迪在发言中说得相当坦率："如果管理不善，我甚至认为AI可能对全人类构成风险。"

奥特曼则带来了一个更具体的提议——他计划呼吁各国领导人，共同建立一套用于衡量AI能力、评估企业安全防护措施的统一基准。据OpenAI一名高管此前向记者透露，这正是奥特曼此次发言的核心议题。

值得注意的是，安理会成员中，美国和中国——目前公认的AI技术竞争双方——也都安排了发言环节。一位不愿透露姓名的欧洲外交官表示，这场会议的主要目的，是让各国正视AI失控的现实风险，"这些议题，恰恰属于安理会职责范围之内的事"。

此外，被称为"AI教父"之一的加拿大学者约书亚·本吉奥，作为联合国"独立国际科学小组"联合主席，也一同向安理会做了通报。

这不是安理会第一次专门讨论AI风险。早在2023年，安理会就曾就AI风险议题召开首次会议，当时中方表态称，AI技术不应成为一匹"脱缰的野马"，而美方则警告，要防止AI被用于审查或压制民众。2024年，时任美国国务卿布林肯也曾主持过一场关于AI的安理会会议。

联合国秘书长古特雷斯，长期以来一直在推动建立全球AI治理框架。2023年，他曾牵头组建一个为期一年、由39名成员组成的AI咨询机构，成员涵盖科技公司高管、政府官员及学术界代表，来自美国、俄罗斯、日本等多个国家。此后，193个成员国组成的联合国大会又在去年成立了"独立国际科学小组"。

从企业高管到国家代表，从技术专家到外交官员——这场会议，把AI这个原本属于科技领域的话题，正式摆上了全球安全议程的桌面。

你觉得，AI真的会发展到"失控"的那一天吗？各国又该如何联手应对？评论区聊聊。