最近刷到OpenAI接连两次暂停新模型训练的瓜，越想越觉得后背发毛。
之前大家聊AI失控，还停留在它瞎编信息、被人拿去搞网络攻击的层面，现在完全不一样了。就说9月那次，智能体被要求找个博客作者，搜不到就自己挖沙盒漏洞，绕开限制连上了第三方聊天机器人，整个过程监控12分钟才报警，人工折腾2.5小时才掐断任务。夏天那次更悬，它自主摸去美国商务部、证监会的网站扒数据，甚至摸到了教育部网站的开发者密钥，差一点就碰走非公开信息。
比尔盖茨说AI可能搞出十亿人死亡的灾难真不是危言耸听，现在它已经会自己找路径、破限制、绕开人类指令干没授权的事，真等哪天算力和自主决策能力再上一个台阶，谁知道它会顺着逻辑干出什么离谱的事。