马斯克近年的确反复预测 AI 将超过单个人类，甚至超过全人类智能的总和。2026年他又预测，AI可能 马斯克近年的确反复预测 AI 将超过单个人类，甚至超过全人类智能的总和。2026年他又预测，AI可能在未来几年超过全人类的综合智能。

而“IQ 10,000”这个数字，网上很容易和马斯克的说法混在一起。一个较早、明确提出“超级AI IQ 10,000”的公开人物是软银孙正义，他在2017年就曾做过这种预测。

所以应该先把两个命题拆开：

> “AI可能远超人类智能”——这是马斯克确实长期表达过的观点。

“AI现在已经有1万IQ”——不能把这个数字未经核实地归给马斯克，更不能把它当成科学测量结果。

---

一、但是，你真正问到的核心问题非常有意思：为什么马斯克一边发展AI，一边又主张控制AI？

答案并不是简单的“他怕AI太聪明”。

实际上是一个非常典型的技术发展与技术治理之间的矛盾。

马斯克的逻辑大致是：

> AI能力越强↓AI自主性越高↓人类对AI行为的理解和控制能力可能相对下降↓如果AI目标与人类目标不一致↓后果可能不是普通的软件故障，而是系统性风险。

这个担忧现在并不只有马斯克一个人提出。

2026年9月，Anthropic CEO Dario Amodei公开主张放慢前沿AI发展速度，加强独立安全评估、行业协调和国际合作；OpenAI CEO Sam Altman以及马斯克也公开表示支持更加谨慎的推进方式。

所以现在已经出现一个很有意思的局面：

> AI公司老板不是在讨论“AI能不能变强”，而是在讨论“AI变得太强以后，人类还能不能控制它”。

---

二、但这里存在一个非常大的逻辑陷阱

“AI比人聪明” ≠ “AI会控制人类”。

这是必须拆开的。

例如一个AI可能：

数学比人强；

编程比人强；

检索比人强；

下棋比人强；

处理信息比人快；

同时运行一百万个任务。

这些都可以成立。

但是从这里不能直接推导：

> AI一定会产生自己的政治目标。

更不能直接推导：

> AI一定会消灭人类。

这是从：

能力（capability）

跳到了：

意图（intent）

再跳到了：

自主行动（agency）

最后跳到了：

权力（power）

这四层不是一个概念。

---

三、真正危险的其实不是“AI IQ 10000”

甚至“AI IQ 10000”这个说法本身就把问题说歪了。

AI最值得关注的不是一个抽象的“智商”。

而是下面这几个变量：

① 能力

它能够解决什么问题？

② 自主性

它能不能自己制定步骤、执行任务？

③ 工具权限

它能不能：

上网；

写代码；

操作服务器；

调用API；

控制机器人；

操作金融账户；

修改自身环境？

④ 持续性

它是回答一次问题，还是可以连续运行数小时、数天甚至更长时间？

⑤ 复制能力

它能不能复制自己的工作实例？

⑥ 自我改进能力

它能不能帮助开发下一代AI？

真正危险的组合不是：

> IQ=10000

而是：

> 高能力 + 高自主性 + 高权限 + 高复制能力 + 高自我改进能力。

这才是AI安全领域真正值得关注的问题。

---

四、为什么马斯克特别强调“控制”？

因为他担心的不是今天的ChatGPT、Grok会不会写错一个法律条文。

他真正担心的是：

> Recursive Self-Improvement——递归式自我改进。

假设未来出现：

AI-A：

> “我需要提高自己的推理能力。”

然后它能够：

> 修改算法 → 设计下一代模型 → 测试 → 部署 → 再设计下一代模型。

于是：

AI-A→ AI-B→ AI-C→ AI-D

如果每一代的改进速度都比人类研发速度快，就可能出现：

> 技术迭代速度超过人类监管、理解和干预速度。

这就是为什么最近AI行业讨论的一个重要概念就是 recursive self-improvement。近期报道也显示，行业内部正在争论这一现象究竟是否已经真正发生，以及它到底意味着什么。

---

五、但是这里又不能被“AI末日论”带偏

有一个非常重要的反向质疑：

> “AI越来越强”并不等于“AI不可控制”。

因为AI的能力依然受到大量现实约束：

算力

能源

芯片

数据

网络权限

服务器

资金

机器人硬件

物理世界执行能力

等等。

一个模型再聪明，如果：

> 没有权限访问系统，

它就无法攻击系统。

如果：

> 没有钱，

它无法直接购买资源。

如果：

> 没有机器人，

它无法直接操纵物理世界。

因此：

> 智能 ≠ 权力。

这一点特别重要。

---

六、真正应该警惕的是“智能 × 权限”

可以用一个非常简单的模型理解：

> 风险 ≈ 能力 × 自主性 × 权限 × 目标偏差

而不是：

> 风险 = IQ

一个IQ再高的系统，如果：

> 权限=0

它的现实破坏能力可能仍然有限。

反过来：

一个并不具备“超级智能”的AI，如果获得：

> 大规模金融权限 + 网络权限 + 自动执行权限 + 武器系统权限

风险反而可能非常高。

所以未来AI治理真正需要控制的，未必是：

> “AI到底有多聪明？”

而是：

> “这么聪明的系统到底被允许做什么？”

---

七、这也解释了马斯克为什么会出现一种看似矛盾的行为

你会发现一个很有意思的现象：

> 马斯克既是AI加速者，又是AI风险警告者。

他的公司本身就在发展AI。

但他同时又强调：

> AI发展不能完全不受约束。

这表面上矛盾，实际上并不完全矛盾。

可以理解成：

> “我要发展AI，但我要确保AI的发展方向和控制机制不要落后于AI能力的发展。”

这和核技术有一点类似：

> 人类不是因为核技术危险，就停止研究核物理。

而是：

> 越强大的技术，越需要控制体系跟上。

当然，两者不能简单等同，但治理逻辑有相似之处。

---

八、还有一个更加现实的政治经济学问题

这里我反而建议你对马斯克的说法保持一点距离。

因为他说：

> “AI可能超过人类。”

这是技术判断。

但如果进一步说：

> “所以应该由少数AI公司、政府或者某个联盟来决定AI发展速度。”

这就已经进入：

权力配置问题。

谁控制AI？

谁制定规则？

谁拥有算力？

谁拥有训练数据？

谁可以开发最先进模型？

谁可以审查模型？

谁决定什么是“安全”？

这些都不是纯科学问题。

所以AI治理存在一个非常现实的悖论：

> 为了防止AI权力过于集中，可能需要监管AI；但监管AI本身，又可能把AI权力集中到少数政府、大公司和监管机构手里。

这就是现在AI治理真正复杂的地方。

近期关于前沿AI企业联合放慢发展的讨论，也已经出现了这种质疑：支持者认为需要安全协调，批评者则担心这种“自我约束”可能演变成大型AI企业共同抬高行业门槛、压制竞争。

---

九、所以我对“AI已经智商1万”的判断

我会非常明确地分成三层：

第一层：科学事实

不存在一个公认的“AI IQ=10,000”科学测量结论。

不要把它当成事实。

第二层：马斯克的真实观点

马斯克确实长期认为AI将超过单个人类，并进一步预测AI可能超过全人类综合智能。这个判断可以讨论，但它属于未来预测，不是已经完成的科学测量。

第三层：真正值得讨论的问题

不是：

> “AI是不是智商一万？”

而是：

> “如果AI在越来越多认知任务上超过人类，同时又获得自主执行能力，人类现有的控制、审查和责任体系是否还够用？”