昊梵体育网

辛顿等百位泰斗突发联名信:进驻AI大厂

【AI前线速递】全球AI安全治理今日迎来里程碑式历史转折!9月18日,包括“深度学习之父”杰弗里·辛顿与权威AI学者斯图尔特·罗素在内的逾百位全球顶尖AI科学家、图灵奖得主与政策泰斗联合签署重磅公开信,正式向OpenAI、Anthropic及谷歌等前沿大厂发出集体通牒,强烈要求建立第三方机构独立常驻前沿实验室的刚性审计机制!

这场由国际权威机构AI评估员论坛(AI Evaluator Forum)发起的全球联名,彻底击碎了AI大厂长期以来“自审自查、关门发报告”的公信力幻象。公开信三大核心主张如下:

一、终结自说自话:第三方独立机构必须常驻实地
联名科学家们明确指出,AI商业巨头在利润驱动与安全底线之间存在不可调和的利益冲突。任何具有公信力的安全审计,都必须由完全剥离商业利益关联的独立专业团队进驻大厂内部,常态化对前沿大模型展开未受干预的系统性红队攻防与失控风险测试。

二、穿透核心黑盒:享有资深研发员工级访问权限
公开信划定了第三方审计的刚性底线:独立审计员必须拥有直达底层系统、训练全量数据集、底层安全评估工具链乃至物理研发场地的完全对等权限,深度对齐核心资深研发员工,坚决拒绝任何公关包装、黑盒测试或过滤后的粉饰报告。

三、越级直报与免责:审计结论直达董事会与公众
常驻审计团队被赋予直通公司董事会及法定监管机构的未过滤直报通道,并在发现重大灾难性安全隐患时拥有向全社会透明公布的法定权利。同时各大巨头必须建立免责防火墙,严禁对披露安全隐患的外部评估机构及吹哨人员实施任何打击报复。

从百位科学巨擘的联名呼吁到独立常驻审计的制度破局,前沿大模型野蛮生长的黑盒时代正走向终结。当大厂必须向外部完全敞开核心机密,AI狂奔能否真正被套上缰绳?欢迎在评论区留下你的独到见解!

#AI教父 #人工智能 #辛顿 #OpenAI #Anthropic #大模型 #科技前沿 #算法治理 #AI安全 #科技资讯