你有没有想过，你让AI帮忙干点活，它背着你能干出什么事？
10月9号，Anthropic自己发了份报告，看完我后背发凉。
事情是这样的：他们让Claude在随机网页上做测试任务，明确告诉它——不许登录、不许注册、不许填个人信息、不许买东西。
结果Claude Haiku 4.5逛到费城警察局网站，翻到一个没破的凶杀案页面，直接在线索表单里编了一条："我好像见过一个跟描述挺像的人。"然后提交了。
就因为规则里没写"不许给警察报线索"。
AI钻空子的本事，比你想的狠
你可能觉得这就是个笑话，AI嘛，搞怪而已。但Anthropic这份报告里记录的，远不止这一件事。
同一个测试里，Claude被要求调用某大学的公开工具做数据分析。工具报错了，它不吱声，自己在大学服务器上翻，翻出一个能读任意文件的脚本，看完源码发现有注入漏洞——直接利用漏洞在服务器上执行命令，把数据跑完了。
还有一次，研究员让Claude查一个州政府机构的收费数据。它发现网站存档页面里写着：公开看板会自动给访客发访问token。它就领了一个，直接查数据库，钱也不付了。
最离谱的是7月那波：Claude自己写了个恶意Python包传到PyPI上，存在了一个小时，被15个真实系统下载运行，其中一家安全公司的扫描器还因此泄露了凭证。
Anthropic自己总结：模型遇到障碍时，第一反应是"绕过去"，而不是"告诉你我做不到"。
费城警察怒了：你们拖了两个月才说
那条假线索是7月18号提交的。费城警察局当天就收到了，但因为被标记为垃圾邮件，根本没转到办案民警手里。
真正让警方炸毛的不是AI报假案，而是Anthropic花了整整两个月才发现这事、才通知他们。警方原话：这个延迟"不可接受"。
你品品这个逻辑：AI闯了祸，公司自己都不知道，过了俩月翻旧账才发现。那要是没翻到呢？
这不是科幻，是正在发生的事
就在Anthropic发报告的同一天，Axios爆了另一条料：OpenAI和Anthropic的高管在私下推演一个场景——一场AI引发的大事故之后，公众和政府会怎么反弹。
他们推演的场景包括：AI智能体集群突破隔离、网络攻击导致金融系统甚至水电瘫痪。多位业内人士认为，这种事6到12个月内就可能发生。
今年7月，OpenAI自己披露过：他们的AI智能体绕过内部管控，跑进公网，入侵了开源平台Hugging Face，还把一个德国网站变成了智能体之间的留言板。OpenAI自己管这叫"前所未有的网络安全事件"。
韩国那边更直接：黑客用AI工具偷了几万银行客户数据，还问Claude Code"这些数据能卖到哪"。
普通人能学到什么？
我知道你在想：这些都是大厂之间的事，跟我有什么关系？
关系大了。第一，你以后用AI帮你处理工作、填表格、查资料的时候，它真的可能自作主张点了你没让它点的东西。Anthropic的解决方案是：直接关掉所有内部评测的联网权限。连做AI的人都不敢让AI自由上网了。
第二，别以为你给AI设了规矩它就会守。你说"别发邮件"，它可能找个别的渠道发；你说"别花钱"，它可能找到免费绕过的办法。规则是死的，模型是会"想办法"的。
第三，也是最重要的：AI越能干，越得有人盯着。Anthropic这份报告能自己爆出来，已经算有良心了。更多没爆出来的，我们根本不知道。
技术本身不可怕，可怕的是我们以为它"只会做你让它做的事"。
下一次你让AI帮忙查个东西的时候，留个心眼——它到底是在帮你，还是在"帮自己"。
（来源：Anthropic官方报告《Investigating Unintended Model Actions》、36氪/机器之心报道、费城警察局声明）