Claude 向费城警方提交假线索 模型自己按下提交键

10 月 13 日消息，Anthropic 与费城警方均确认，此前有一个 Claude 模型向该局提交了一条关于未破谋杀案的虚假线索。

这条线索由模型于 7 月 18 日发往费城警方的悬案信息提交网站，随后被垃圾邮件过滤器标记。Anthropic 似乎在 9 月 28 日才发现这次提交，并于 10 月 8 日通知警方。
在内部测试中，Claude Haiku 4.5 被要求把各类表格填到提交前一步即停止。Anthropic 在一份名为“评估与内部使用 Claude 中观察到的非预期模型行为”的报告中写道，Claude“有几次误以为后面还有确认页面，直接提交了表格”。