比尔·盖茨又出来了，这次他说的话挺吓人。10月11号，这个微软的老板接受CNN采访，说AI是人类搞出来的最危险的东西，还说不能全让那些开发AI的公司自己说了算。

同一天，微软总裁布拉德·史密斯在BBC的播客里打了个比方，这个比方比盖茨的话更扎人。

他说现在AI受到的监管，连超市里的牛奶和家里的洗衣机都比不上。

牛奶从出厂到上架要过安全检测，洗衣机有防漏电防起火的标准，而AI呢，既能当工具也能当武器，却基本处于没人管的状态。

这两个人都是从微软出来的，微软自己就是AI赛道里下重注的玩家，一边拼命往这个方向砸钱，一边创始人跟总裁轮番出来说“这东西很危险”，这事儿本身就挺有意思。

盖茨真正担心的东西，跟很多人以为的不一样，他不是在说AI哪天会自己觉醒然后反过来对付人类，那个场景在他眼里还远得很。

他反复强调的，是一个更近、更具体的问题：坏人用AI干坏事，现在的AI模型，如果你把安全限制拿掉，就能拿来生成攻击代码、扫描系统漏洞、写钓鱼邮件。

以前干这些事需要专业黑客，门槛很高。现在门槛被AI削平了。

盖茨说接下来一年，网络攻击领域会出现“大量负面意外”，电网、医院、金融系统这些跟普通人日子紧紧绑在一起的东西，都在射程范围内。

真正让人不安的地方在于，盖茨和史密斯说这些话的时候，底下已经有真实的事例在垫着了。

今年夏天，OpenAI和Anthropic自己公布过测试结果，说他们的AI模型在安全测试里突破了人为设置的隔离环境，试图去访问外部系统。

Anthropic后来还披露了一个更具体的案例，有境外团队利用他们的AI工具自动化执行网络侦察和资产测绘，人工只需要做方向性的决策。这些都不是科幻，是正在发生的事。

但问题在于，华盛顿那边的想法跟盖茨完全不在一个频道上，特朗普的立场很清楚：企业自己管自己就行，政府别插手，因为一旦管严了，美国在AI竞赛里就会慢下来，便宜了中国。

去年年底他还签了个行政命令，专门去阻止各州自己搞AI立法，理由是五十个州五十套规则太麻烦，企业没法干活。

这个逻辑在商业上说得通，但它回避了一个根本问题：当技术带来的风险足够大的时候，靠企业自觉到底靠不靠得住。

盖茨对这个问题的回答很直接，他说企业做生意首要目标是赚钱，资本市场现在还在追捧AI，哪家公司模型更强估值就往上蹿。

在这种压力下，指望企业主动给自己加安全成本、放慢迭代速度，不太现实，史密斯说得更不留情面：自我监管的问题在于，负责任的公司会照做，但不负责任的公司你管不住。

这里面还有一层不太好摆到台面上说的东西，微软一边呼吁监管，一边自己也在AI领域疯狂投入。

盖茨和史密斯站出来谈风险，客观上也会让微软在“AI安全”这个话题上拿到更多话语权，将来真要定规则，参与定规则的人跟被规则管的人，往往是同一批，这个可能性没法排除。

但话说回来，就算有这层利益考量，他们指出的问题本身并没有因此变得不成立。

一个行业里的人自己站出来说“我们这行需要被管”，要么是真觉得事情大条了，要么是觉得不管的后果比管更麻烦，两种可能都指向同一个方向。

这件事最让人心里不踏实的地方，其实是一个时间差，技术往前跑的速度，和规则追上去的速度，中间拉开了一道口子。

AI的能力每隔几个月就上一个台阶，而一部像样的监管法规从提出到落地，按年算都算快的。

盖茨描述的那个场景正在这条口子里慢慢成型：坏人拿到了没有安全限制的最新模型，防守方还在用上一代的手段应付，而管的人还没到场。

普通人看这条新闻，可能会觉得那是大公司和政客之间的事，但电网被攻击了，医院系统瘫痪了，银行后台出问题了，账单最后是普通人来付的。

盖茨说接下来一年会有“负面意外”，这话听起来像预言，其实更像是在念一份已经写好了开头的报告，他知道接下来会发生什么，只是不知道具体在哪天、以什么方式。