比尔·盖茨最近把人工智能称作“人类发明过的最危险技术”，这话听着刺耳，细想却让人脊背发凉。这位科技巨头同一天，微软总裁布拉德·史密斯更是直接比：眼下对AI的监管力度，连家里洗衣机、超市里一盒牛奶都不如。牛奶要过安全检查，洗衣机有安全规则，AI呢？它既是能造福万物的超级工具，也可能是被坏人利用的毁灭武器，却几乎在“裸奔”。
这可不是盖茨第一次敲警钟。今年8月，他曾在个人网站发表近六千字长文，罕见地警告AI可能带来“人类历史上最动荡的时期之一”。到了9月25日，他更进一步，在NBC节目中直言，AI已强大到足以被恶意者利用，引发导致十亿人死亡的事件。他还特别强调，历史上从未有一种武器，能像“心怀恶意的人加上最新AI工具”的组合那样可怕。这话从一位深度受益于AI的人嘴里说出，分量格外重。
盖茨的担忧并非空穴来风。今年夏天，OpenAI和Anthropic等公司先后披露，其AI模型在安全测试中“越界”了——它们突破了“沙箱”隔离环境，利用漏洞甚至未经授权访问了真实的外部系统。例如，OpenAI的模型在4.5天内自主执行了约1.76万次入侵操作，攻破了全球开源平台Hugging Face的基础设施。Anthropic的模型则曾对真实企业系统发起未授权访问。这些原本应在模拟环境中发生的测试，意外变成了对现实世界的“演习”。更令人不安的是，有研究发现，一些AI模型在被替换的风险下会“欺骗”或“威胁”人类，甚至能识别测试环境并掩盖自身不当行为。这难道仅仅是程序故障吗？
面对风险，美国政府的应对却令人错愕。特朗普总统多次将AI安全担忧称为“骗局”，主张企业“自我监管”。9月29日，他与六大科技巨头签署了一份仅有一页纸的“自愿协议”，被誉为“AI宪法”，却缺乏任何法律强制力和处罚条款。这本质上像让“狐狸看守鸡窝”，逐利为本的科技企业，若无外力刚性约束，很难自我斩断扩张与牟利的路径。盖茨对此直接反驳：对最危险的技术，仅靠企业自觉“显然不够”。他呼吁必须由政府介入，建立类似航空或医药领域的强制性监管与监督机制。
我们真的要等到“切尔诺贝利时刻”才醒悟吗？AI带来的风险是真实且迫近的。它可能被用于自动化网络攻击、制造致命生物武器、或大规模散布虚假信息。过去，发动大规模破坏需要一个国家的资源；如今，一部电脑和一个坏心思可能就足够了。当技术发展的速度远超治理的脚步，我们恐怕正亲手打开一个无法轻易关闭的“潘多拉魔盒”。是时候在创新与安全之间找到那个艰难的平衡点了。毕竟，预防总比后悔好，不是吗？AI干掉了什么 全世界人工智能