昊梵体育网

当 AI 开始自己做实验:Jeff Dean 正在押注“发现”的工业化 信源: Jeff Dean,2026 Frontier & Pioneer Symposium 现场对谈,2026 年。 过去十几年,人工智能产业几乎围绕同一个问题展开:怎样训练出一个更大的模型。 更多数据、更多参数、更多 GPU,最终换来更低的 loss、更好的 benchmark 和更 ​

当 AI 开始自己做实验:Jeff Dean 正在押注“发现”的工业化

信源: Jeff Dean,2026 Frontier & Pioneer Symposium 现场对谈,2026 年。
过去十几年,人工智能产业几乎围绕同一个问题展开:怎样训练出一个更大的模型。
更多数据、更多参数、更多 GPU,最终换来更低的 loss、更好的 benchmark 和更强的推理能力。这套逻辑塑造了今天的 AI 产业,也催生了一个规模以万亿美元计算的基础设施周期。
但 Jeff Dean 离开 Google 创办 Discovery Loop 之后,提出的其实是另一个问题:
如果模型已经足够聪明,我们能不能开始规模化“发现”本身?
这可能是理解下一阶段 AI 最重要的视角之一。
Jeff Dean 的职业轨迹几乎就是现代计算基础设施演进史。从 MapReduce、Bigtable,到 TensorFlow、TPU、Mixture of Experts,再到 Gemini,他长期解决的其实是同一种问题:当某种能力开始变得重要,怎样把它从一个实验室里的想法,变成一个可以大规模运行的系统。
MoE 是一个很典型的例子。
早期深度学习的直觉是模型越大越好,但模型越大意味着每次计算也越昂贵。MoE 改变了这个关系:系统可以拥有巨大的总容量,但面对一个具体 token 时,只调用真正需要的那部分专家。
Jeff Dean 在访谈中回忆,他们当时已经看到了接近 10 倍的训练计算效率改善。对他来说,这种数量级变化往往意味着一项技术不再只是“有趣”,而可能成为新的基础架构。
这种思维贯穿了他后来的很多工作:真正重要的创新,不只是让系统快 10%,而是改变能力增长和资源消耗之间的关系。
Gemini 又把这个逻辑推进了一步。
Jeff Dean 介绍,Gemini 最初并不是把语言、图像、视频和音频能力分别训练好,再把它们拼起来,而是从项目开始就坚持 multimodal-native:模型一开始就应该理解文本、代码、图片、视频、音频,甚至为 LiDAR 等数据留下空间。
这背后其实是一个更大的判断。
语言并不是世界本身,它只是人类描述世界的一种压缩格式。如果 AI 最终要理解现实、进入机器人、控制设备、参与实验,那么 text-only 模型天然存在信息瓶颈。
于是多模态最终很可能不是一个产品功能,而是通向 world model、agent 和 Physical AI 的基础条件。
但这场访谈中更值得注意的,是 Jeff Dean 对 coding 的评价。
他坦率地承认,Gemini 早期对 coding 的投入一度不够,后来团队发现,当 coding 能力提高以后,模型在很多非编程任务上的 reasoning 能力也随之改善。因为写程序本身就在训练一整套复杂能力:问题分解、规划、执行、检查、纠错和迭代。
代码还有一个其他领域很难复制的优势:它天然拥有 verifier。
一段代码写出来以后可以直接运行。对就是对,错就是错。于是 AI 可以非常便宜地完成“生成—执行—观察—修改—再次执行”的循环。
从这个角度看,今天看似火热的 coding agent,可能不只是一个软件工具市场。软件工程正在成为 AI 学习长期任务执行和自我修正能力的最佳训练场之一。
而这正好把问题带到了 Jeff Dean 新公司的核心——Loop。

很多人谈 Recursive Self-Improvement,也就是递归式自我改进时,脑海里浮现的是一种极富戏剧性的场景:一个 AI 突然学会修改自己,然后更聪明的 AI 再创造更聪明的 AI,最终形成所谓 intelligence explosion。
Jeff Dean 给出的版本完全不同。
它没有那么科幻,却可能现实得多。
他认为,“用机器学习改进机器学习”本身已经存在很多年。Neural Architecture Search 就是一个例子:一个模型产生新的模型架构,训练之后得到结果,再根据结果学习什么设计更有效,随后生成下一轮架构。后来 Google 的 Evolved Transformer 甚至通过类似方法找到过比普通 Transformer 更高效的结构。
Jeff Dean 真正想做的,是把这个闭环从“搜索模型架构”扩展到整个研发流程。
什么数据应该加入训练?
应该设计什么 evaluation?
下一轮应该尝试什么 architecture?
哪个实验最值得做?
实验结果意味着什么?
所有这些过去依赖研究团队人工完成的环节,都可以逐渐进入自动化 loop。
于是 RSI 的现实版本,很可能并不是“AI 突然觉醒”,而是 R&D cycle compression——研发周期被持续压缩。
一年做一百次实验,和一年做一万次实验,是完全不同的研究组织。
而如果下一轮实验本身又由上一轮结果自动决定,那么 AI 就开始拥有真正意义上的复利。

Discovery Loop 把这种思想进一步扩大到了科学和工程。
Jeff Dean 对科学研究的抽象非常简单:
先把一个大问题拆解成若干小问题,针对其中一个问题提出可能的解决方案,把方案实现出来,进行实验,然后评估结果,再把反馈交给下一轮实验。
这就是科学方法。
也是绝大多数工程研发的基本结构。
过去真正昂贵的地方,不一定是“提出一个想法”,而是整个循环速度太慢。
一个科学家一天能思考多少假设?
一个实验室一周能运行多少实验?
一组工程师一个月能验证多少设计?
人的时间、组织协调和实验执行能力,决定了研发吞吐量。
而 Jeff Dean 想做的,是把这套流程系统化。
模型负责理解不同科学领域;agent 负责分解问题;不同专业 agent 分别处理子任务;工具负责实施实验;evaluation system 判断结果;实验数据重新进入系统,然后决定下一轮实验。Discovery Loop 希望最终让一个模型同时具备多个领域的 PhD 级知识,从而组织跨学科的 multi-agent research process。
这里真正发生改变的,是 AI 的评价指标。
过去我们最关心 accuracy。
后来开始关心 reasoning。
Agent 时代开始关心 task completion。
而 AI for Science 最终可能开始关心另一个指标:
Discovery Throughput——单位时间内能够产生多少高质量发现。
Jeff Dean 对这个问题的描述非常直接:把一次原本需要一天甚至一周的实验迭代,缩短到一分钟或者一小时;同时并行运行成千上万个实验,再根据结果判断哪些实验值得继续。
从系统角度看,Discovery Rate 大致可以理解为两个变量的乘积:
实验速度 × 实验质量。
这可能是下一轮 AI Scaling Law 真正出现的地方。
过去十几年,我们不断扩大 Compute、Data 和 Model Size。
下一阶段扩大的,可能是 Experiment。

这也会带来一个容易被低估的产业变化。
如果 AI 生成 hypothesis 的速度提高 100 倍,但真实实验仍然需要几天甚至几个月,那么瓶颈不会消失,只会向下游移动。
软件最容易率先完成闭环,因为写代码、运行、测试、评价都可以发生在数字世界里,反馈成本接近于零。
但生物、材料、机器人和制造业不同。
AI 可以一分钟设计出一百个蛋白质,实验室却不可能一分钟完成一百次细胞实验;AI 可以生成一万个材料配方,真实设备仍然需要逐个完成合成、测试和测量。
于是,当模型越来越强以后,真正稀缺的可能反而变成实验能力。
自动化实验室、robotic lab、高通量 screening、科学仪器、仿真环境、数据采集、实验管理系统,以及把真实世界反馈重新输入模型的基础设施,都可能越来越重要。
这也是为什么“AI for Science”最终很可能不是一个单纯的大模型故事。
它更像一个完整系统:
Model → Agent → Tool → Experiment → Evaluation → Feedback → Learning。
真正产生复利的不是其中任何一个节点,而是最后那个能够重新回到起点的闭环。

Jeff Dean 为什么选择现在离开 Google,也可以从这个角度理解。
有人在现场提出了一个非常好的问题:AI 需要海量算力、数据和分布式系统,按照第一性原理,大公司似乎应该天然占优,那么为什么大量 frontier research 反而不断流向创业公司?
Jeff Dean 的回答是云计算。
过去如果想做世界级计算系统,首先必须拥有基础设施。
现在一个十几人的创业团队可以直接租用大型云平台提供的 ML compute,不必自己重建整个 distributed system。
这实际上改变了创新的组织经济学。
Hyperscaler 没有因此失去价值。相反,它们正在把曾经只属于自己的基础设施能力变成整个 AI 创业生态的公共生产资料。
创业公司因此可以把全部精力投入一个问题。
Jeff Dean甚至承认,Discovery Loop 做的事情“可能也可以在 Google 内部完成”,但一个十人左右、所有人只围绕 science and engineering automation 工作的小团队,可以减少大型组织中大量与核心使命无关的摩擦。
某种意义上,这也是 Jeff Dean 四十年技术生涯中一个非常自然的下一步。
MapReduce 规模化计算。
Bigtable 规模化数据。
TensorFlow 规模化机器学习。
TPU 规模化 AI compute。
MoE 规模化模型容量。
Gemini 规模化多模态智能。
而 Discovery Loop 想规模化的,是更上面那一层:
Discovery。
工业革命把生产变成可以规模化复制的过程,互联网把信息分发变成可以规模化复制的过程,云计算把算力变成可以按需调用的基础设施。
AI 模型正在把一部分智能变成可调用资源。
Jeff Dean 现在押注的是下一步:
当智能变得足够便宜以后,“发现”本身也可能被工业化。
如果这件事最终成立,那么 AI 历史真正重要的分界线,或许并不是某一天某个模型在 benchmark 上超过了另一个模型。
而是某一天开始,人类第一次拥有了一套可以昼夜不停地提出假设、执行实验、读取结果,然后自己决定下一步该做什么的系统。
到那时,AI 不再只是帮助科学家找到答案。
它开始参与制造新的知识。