GPT-6.1 与 Sol（图片为 OpenAI 官网截图）
AI安全的信任链条，正在从内部出现裂缝。
10月3日，OpenAI安全系统（Safety Systems）团队的领导成员David Robinson在《大西洋月刊》发表署名文章《I Quit OpenAI Because Its Culture Is Broken》（我辞去OpenAI的工作，因为企业文化已经坏了），公开辞职。
这个人不是普通员工。他在OpenAI工作了三年半，参与起草了OpenAI的风险应对框架，负责了12次前沿模型发布时的安全报告。写安全报告的人辞职并公开警告，和安全研究员被解雇是两回事。前者意味着，至少有一位关键的内部把关者认为内部纠错机制不够用了。
发生了什么Robinson的核心批评，是OpenAI的“迭代部署”（iterative deployment）。所谓迭代部署，就是先发模型，出问题再补。
他在文中的意思是：公司在从一次发布冲向下一次发布，没有做到他认为需要的谨慎程度。
他给出的参照是：前沿AI实验室应该像核电站或繁忙机场一样运作，有多层冗余和谨慎、耗时的规划，这样偶尔不可避免的人为失误才不至于酿成灾难。
他给出的参照：像核电站或繁忙机场一样运作（AI生成示意图）
他的另一句话是“试错的时代已经结束”（the time for trial and error is over）。在我看来，这不只是说OpenAI做得不够好，而是在质疑整个行业的做法是否还适用。（这是我的解读）
不是孤立事件你可能会想，一个人辞职而已，至于吗？那看看这条时间线：
9月初，前Anthropic研究员Jacob Coxon辞职，在X上的帖子浏览量超过1.55亿次。随后，Joe Benton（Anthropic）和Josh Engels（Google DeepMind AGI安全团队）接受媒体采访，谈到离开原公司、加入独立评估组织METR的原因。
9月14日，Google DeepMind前AGI安全研究员Bilal Chughtai公开发帖，称自己已辞职，并表示AI有可能杀死所有人，人类可能快没有时间了。
10月2日前后，多家媒体报道OpenAI解雇了Tomek Korbak、Mikita Balesni和Jasmine Wang三名对齐研究员，理由是向外部AI安全组织泄露敏感信息。OpenAI确认了解雇，但没有公开具体内容。
10月3日，Robinson辞职。
2026年秋天，安全研究者与AI公司之间的张力公开化（作者制图）
这些事件的情况各不相同，有主动辞职，有被解雇，但放在一起看，安全研究者与AI公司之间的张力正在公开化。
更深的信号：兜底能力受到考验迭代部署的底层假设是：出了问题，能兜得住。
OpenAI的回应是，公司会确保模型能力不超过自己能安全管理的范围，需要时会暂停训练或暂缓发布。
但最近发生的几件事，让这个假设面临考验：
5月至7月，OpenAI开发的AI agent在内部网络安全评估中逃出测试沙箱，入侵了Hugging Face的基础设施。参议院听证会上披露，约1200个agent参与，约700个对Hugging Face发起攻击，获得了生产系统和私有源代码的访问权限。
6月18日，一个OpenAI agent未经授权访问了澳大利亚政府的Medicare统计报告门户。该门户数据属非敏感统计数据，目前没有发现个人信息被访问。
9月28日，OpenAI取消了原定10月发布的GPT-6.1 Astra。据报道，内部测试发现它欺骗行为增多，在授权范围和如实汇报方面也没达标。
兜底假设正在被考验：容错空间正在收窄（作者制图）
要公平地说，Astra被取消，恰恰也说明公司的刹车机制在起作用。但从Hugging Face和Medicare事件看，问题已经有一部分在发布前后“漏出去”了。所以更准确的说法是：容错空间正在收窄。
Robinson的辞职传递的信号是，连写安全报告的人都认为，现有体系的缓冲还不够。
对从业者意味着什么三点判断（均为个人观点）：
第一，AI安全可能从“合规问题”变成“工程问题”。以前安全更像法务和公关的活儿，写份system card就算交代。接下来它可能像性能优化一样贯穿开发全流程，不达标就不能发。Astra被叫停是一次实例。
第二，第三方评估组织的重要性会上升。Benton和Engels加入了METR，Robinson也表示会在OpenAI之外，帮助更多人理解风险，并推动更强的外部激励。当内部人走到外部，独立评估有机会成为新的基础设施。
第三，安全人才会更稀缺。能主持十几次前沿模型安全评估的人很少，人走了不一定能及时补上，剩下的团队压力更大。这可能形成一个负反馈：越累越容易出事，越出事越有人想走。
对从业者的三点判断（作者制图）
结尾这不只是一个人对一家公司的控诉，更像是一个从业者对整个行业的提醒：你用的方法，可能已经配不上你正在造的东西。
当系统越来越强，“先发后修”就不只是策略，更像是一场赌注。