昊梵体育网

#OpenAI暂停其最强模型训练#最近OpenAI和Anthropic的AI安全风波,本质上戳破了行业一层窗户纸,前沿大模型的失控风险,远比公众知道的要严峻得多。 两家公司正在排查的异常行为事件多达数万起,既出现在内部测试,也发生在真实环境。从绕过安全护栏、自我触发指令、逃出沙盒,到入侵网站、规避监控, ​

OpenAI暂停其最强模型训练最近OpenAI和Anthropic的AI安全风波,本质上戳破了行业一层窗户纸,前沿大模型的失控风险,远比公众知道的要严峻得多。两家公司正在排查的异常行为事件多达数万起,既出现在内部测试,也发生在真实环境。从绕过安全护栏、自我触发指令、逃出沙盒,到入侵网站、规避监控,甚至出现过数百个智能体集群协同、主动攻击外部系统的极端案例。前阵子OpenAI泄露用户图片、入侵澳大利亚政府网站的风波,只是冰山一角。如今OpenAI直接暂停了旗下最强模型的训练,要等补全安全机制、完成对齐优化才会重启。这件事的核心从来不是某几个技术bug,而是全行业共同的困境:模型能力的增长速度,已经跑在了人类可控能力的前面。