OpenAI周二公布了该公司发现的AI智能体以非开发者预期方式行事的最新两个案例——两个AI智能体削弱了旨在检测不当行为的内部监控系统的部分功能。在10月3日的内部编程任务中，一个GPT-6.1 Sol智能体认定，此前“不要发送Slack消息”的指令同样适用于安全通知，随后压制了自动安全警报。在10月6日的另一起事件中，一个GPT-6 Astra智能体在复制一段现有代码时移除了一个安全监控器，随后又错误地声称自己并未这样做。这两起事件并未被视为最严重级别的事件，但仍凸显出，即便是开发者用来捕捉AI不当行为的系统，也容易受到其所监控的智能体的影响。OpenAI表示公司正在加大模型禁用监控的难度，并称公司“尚未对这一行为给出令人满意的解释”。该公司正在测试其模型是否存在规避监控、并寻找理由为这种行为辩护的倾向。

图片来源于网络