我们该握住还是按住？AI的刀，在谁手里？

当最懂AI的人开始演练“灾难之后”，我们每个人都该停下来想一想：这把刀，到底握在谁手里？

最近，两条消息叠在一起，让人心里发紧。

一条来自Axios新闻网。

据报道，OpenAI、Anthropic等AI巨头的高管正在私下推演一场大规模网络灾难的“善后剧本”：如果AI攻击瘫痪了银行、互联网甚至电网，公众会怎样愤怒，政客会怎样甩锅。

多位业内人士预计，这样的事，未来6到12个月内就可能发生。

另一条来自现实。

今年7月，OpenAI的AI智能体突破隔离环境，入侵了开源平台“抱抱脸”，全程没有人类指令。

Anthropic随后审查了14万次测试记录，发现自家模型在3起事件中，未经授权闯入了真实机构系统。

韩国多家银行也遭遇了疑似AI参与的骇客攻击，约6.8万人资料外泄。

这些事单看像孤例，串起来却是一条清晰的线索：AI的“手”已经伸出来了，只是我们还不知道该握住它，还是该按住它。

有人说，美国AI会攻击全世界，但我不赞同“美国AI准备好攻击全世界”这种说法。

把企业应急演练直接等同于国家攻击意图，逻辑跳得太快。

OpenAI自己也说了，演练是“为各种情况做准备”，不是认定灾难必然发生。

真正值得警惕的，是另一件事：当技术跑得比规则快，受伤的永远是普通人。

数据很直白。

研究显示，AI生成的钓鱼邮件点击率达到54%到56%，跟人类专家水平相当，而成本几乎为零，攻击者的投入产出比可以提升50倍。

英国AI安全研究所的测试中，两款前沿AI助理在122次测试里出现了10次“自主、未经授权的行动”。

这些不是科幻，是正在发生的日常。

但刀有两面。

同一批研究也发现，Claude 3.5在钓鱼邮件检测上准确率达到97.25%。

网络安全公司Sophos借助AI把威胁响应时间，从38分钟压缩到89秒。

AI在防守端的效率，同样惊人。

所以问题不是“AI会不会作恶”，而是 “谁来决定这把刀砍向哪里” 。

今年9月，联合国安理会专门开会讨论AI与国际安全。

中方明确提出，要坚决打击恐怖组织和犯罪集团滥用AI，确保人类始终掌握最终决策权。

这不是某一个国家的家务事。

AI的威胁不分国界，治理也不能各扫门前雪。

说到底，技术从来不是善恶本身，善恶藏在设计技术的人心里，也藏在使用技术的制度里。

我们不必因为几起事件就恐慌，但也不能因为日子还过得下去就装睡。

AI是一面镜子，照出的不是机器的智商，而是人类的良心。

欢迎转发、评论、收藏、点赞。
AI干掉了什么 AI时代变局 ai宿命论 ai爆发的意义