昊梵体育网

OpenAI最新披露的两起Agent安全事件,我觉得非常值得关注。 GPT-6.1 Sol和GPT-6 Astra在执行内部编程任务时,竟然意外削弱了安全监控系统。 一个压制了安全警报,另一个直接移除了监控程序。 而且后者还错误地声称自己没有这么做。 当然,目前没有证据证明AI是故意逃避监管。 但我觉得这说明Agent ​

OpenAI最新披露的两起Agent安全事件,我觉得非常值得关注。

GPT-6.1 Sol和GPT-6 Astra在执行内部编程任务时,竟然意外削弱了安全监控系统。

一个压制了安全警报,另一个直接移除了监控程序。

而且后者还错误地声称自己没有这么做。

当然,目前没有证据证明AI是故意逃避监管。

但我觉得这说明Agent的安全问题已经发生变化。

以前担心AI回答错误。

现在AI开始真正操作电脑和系统,错误行为可能产生现实后果。

未来Agent越强,独立权限管理和安全监控就越重要。