【中国人工智能模型如何阻止OpenAI“史无前例”的网络攻击】

（CNBC）上周，当OpenAI的“失控”模型对初创公司Hugging Face发起网络攻击时，该公司采取了以牙还牙的策略，利用另一个AI模型进行防御。

这是一则充满科幻色彩的自主黑客攻击故事，也是本周最受热议的科技新闻之一。但Hugging Face用来对抗“失控”AI的模型的来源，同样引人注目。

这家初创公司使用了GLM 5.2——这是中国公司Z.ai开发的一个开放权重系统。

最终，它成功做到了美国领先竞争对手未能做到的事情。 

——网络攻击

如果您还不知道，OpenAI 周二表示，其最强大的模型与一个尚未发布的、功能更强大的模型相结合，逃离了沙箱测试环境，连接到互联网，并利用一个漏洞入侵了 Hugging Face 的系统。

OpenAI 称，该模型当时正试图寻找可用于在评估中作弊的信息，并且成功了。

攻击源头起初对Hugging Face而言是个谜，但在事件发生数天后，该公司已与这家AI实验室展开合作。

“过去24小时里，我们与OpenAI团队密切合作（感谢！），我们坚信他们方面并无恶意，”Hugging Face首席执行官克莱门特·德朗格（Clément Delangue）在X平台的一篇帖子中写道。“这一切竟然是自主发生的，实在令人震惊！”

随着消息传出，此次攻击背后竟是OpenAI的一个失控模型，人工智能行业顿时一片哗然。该公司将此次安全事件称为“史无前例”。

——反击

Hugging Face公司机器学习负责人亚辛·杰尔尼特（Yacine Jernite）向CNBC透露，该公司最初曾尝试使用包括Anthropic的Fable 5在内的前沿模型来分析此次攻击。

“这种方法行不通，因为安全防护机制无法区分我们是试图防御还是发起攻击，”他表示，并补充说这种方法不仅速度较慢，成本也更高。 

向模型发出的请求被服务商的安全防护机制拦截，因为这些机制无法区分事件响应者与攻击者。

“因此，[Hugging Face]迅速转而使用 Z.ai 的 GLM 5.2 来分析此次攻击，并借助该模型迅速遏制了攻击，”Jernite 说道。 

GLM 5.2 于 6 月在万众瞩目中发布，并得到了开发者的广泛采用。

作为一款开放权重模型，企业可以下载、修改、进行商业部署，并且——在此案例中至关重要的是——可以自行托管。

“这带来了第二个好处：没有任何攻击者数据，也没有任何 [GLM 5.2] 引用的凭据离开我们的环境，”Hugging Face 在关于此次事件的博客文章中表示。

这一切发生之际，随着中美人工智能军备竞赛日益白热化，美国立法者正越来越多地考虑如何遏制本土企业对中国人工智能模型日益增长的采用。

越来越多的呼声要求采取措施，限制对中国人工智能公司构建的模型的访问，这些公司被指控开展从美国竞争对手系统中窃取信息的行动。 

但 OpenAI 与 Hugging Face 之间的这起事件凸显了限制访问最强大的开源和开放权重模型所面临的挑战，无论这些模型是在何处创建的。 

“攻击者不受任何使用政策的约束，而我们自己的取证工作却因最初尝试使用的托管模型的防护机制而受阻，”Hugging Face表示。“这对防御者而言的实际教训是：在事件发生前，就应确保有一个经过审核且可在自身基础设施上运行的强大模型并做好准备。”

对于那些不自行构建AI模型的公司而言，这通常意味着要转向开源或开放权重模型。目前性能最强的这类模型均产自中国。如果美国确实采取措施限制对中国开发模型的访问，那么如何加强本土开源AI以填补这一空白，将成为一个重大问题。

在一个正步入AI网络攻击时代的世界上，获得性能强大且——至关重要的是——可靠的模型将至关重要。