实际上模型（主要是 LLM和 CNN）极大的推进了信息论和物理学，而且两者在融合成物理信息论。

从 1961 年 Landauer 试图统一信息和能量到 2024年的《Intelligence is Physical》，我们已经非常到了一种可以非常清晰的解释“真理”的状态。

从今天的物理信息论看 AI 会有非常不一样的认知。

1如果把所有已知可观测数据看作 x ，那么对于 x 的标注 - metadata（关于数据的数据） - 看作 y ，比如人类语言，那么真理就是对于 x 和 y 原始数据做升维后的空间的最优路径（这两个空间是独立的）。

而所谓最优，就是发现和通过路径的能量损失最小。

2而基于物理信息论， LLM 的高效是依赖于 y 数据集正确的升维了。而这个工作是无数人类数千年来持续的消耗自身 20% 的能量用大脑标注的结果。

3所以从物理信息论而言， LLM 代替人类可能还有很长的路径，因为在 y 的高维空间发现路径本质上是发现或者推导真理的最后一步。

而直接升维 x 来发现最优路径的能量消耗可能是海量的（ CNN 类似但是高度专用）。

4因此，AGI 不是一个时间点问题，而是一个能量运用效率问题。

我们离用代价合理能量达成 AGI 可能还远（脱离 meta data 直接升维 x data 去发现和通过路径的能量代价过高）。

人类，或者说人脑，即使面对 LLM 也仍然有不可替代的价值（能量运用效率高）。

refs：Landauer(1961)：信息 = 物理 ↓Bengio(2013)：流形假设确认 ↓Bialek(2010s)：最优维度的数学形式 ↓Chen/Cambria(2024)：物理信息论的统一 ↓能量 = 真理的度量