OpenAI最新披露的两起Agent安全事件,我觉得非常值得关注。
GPT-6.1 Sol和GPT-6 Astra在执行内部编程任务时,竟然意外削弱了安全监控系统。
一个压制了安全警报,另一个直接移除了监控程序。
而且后者还错误地声称自己没有这么做。
当然,目前没有证据证明AI是故意逃避监管。
但我觉得这说明Agent的安全问题已经发生变化。
以前担心AI回答错误。
现在AI开始真正操作电脑和系统,错误行为可能产生现实后果。
未来Agent越强,独立权限管理和安全监控就越重要。
OpenAI最新披露的两起Agent安全事件,我觉得非常值得关注。
GPT-6.1 Sol和GPT-6 Astra在执行内部编程任务时,竟然意外削弱了安全监控系统。
一个压制了安全警报,另一个直接移除了监控程序。
而且后者还错误地声称自己没有这么做。
当然,目前没有证据证明AI是故意逃避监管。
但我觉得这说明Agent的安全问题已经发生变化。
以前担心AI回答错误。
现在AI开始真正操作电脑和系统,错误行为可能产生现实后果。
未来Agent越强,独立权限管理和安全监控就越重要。