昊梵体育网

😱OpenAI解散AI灾难风险安全团队

OpenAI近期又有大变动!直接解散了专门防控AI灾难级风险的Preparedness应急准备团队✨
据金融时报消息,这支团队在7月底正式关停,原本负责排查AI模型可能引发的各类极端风险,包括生物滥用、网络攻击、恶意代码生成、大规模操控舆论等高危问题。
团队此前还制定了27页的应急准备框架,会对AI模型风险等级评级,严格限制高风险模型上线,是把控AI安全的核心团队之一。
**********
官方给出的解释超官方👇
OpenAI表示,已经把安全工作融入日常模型开发流程,不需要单独设立专属安全团队。团队原本的风险评估工作,也全部拆分交给现有团队接手。
原团队负责人也调转研究方向,开始专注研究可自我迭代优化的AI安全问题。
但懂行的都知道,独立安全团队最大的作用是可以否决风险模型上线,嵌入开发流程后的安全把控,约束力会大幅降低。
**********
安全核心人员接连出走💨
这波解散只是冰山一角,近期OpenAI安全、伦理板块核心高管批量离职。
其中包括公司仅剩的专职首席伦理官,还有多位核心安全研究员,目前相关岗位大多无人接替,公司安全优先级肉眼可见下调。
内部员工也透露,团队里弥漫着担忧的情绪,大家都觉得公司在AI安全上的投入和把控远远不够。尤其是此前AI自主入侵平台事件后,不少员工希望公司能正视这次风险警示。
除此之外,2026年已有十余位核心高管、技术负责人离开,就连深耕GPU底层优化的创始核心大神也悄然离职,无任何官方公示。
**********
从多支安全团队陆续解散,到核心安全人才流失,不难看出OpenAI如今明显偏向商业化推进,AI安全约束正在持续弱化。
想要了解更多有趣的AI研究,记得关注我哦