说一个令人不安的变化:未来AI的思考过程,人类可能逐渐看不懂了。
OpenAI下一代模型Astra被曝采用一种新的推理技术。消息出来后,多位AI安全专家公开表达担忧。
Chain of Thought,也就是思维链,能帮我们看清AI正在计划什么。
但新推理技术recurrent depth,允许模型把同一段信息反复送进内部处理。
这部分属于latent space,由大量数字构成,人类无法直接理解。
结果就是:
问题→??????→答案
AI依然完成了推理,甚至可能推理得更快、更强,但人类看不懂了。
Redwood Research首席科学家Ryan Greenblatt担心,如果这种路线继续扩展,未来模型可能全部在latent space里完成推理。
这种路线并非纯粹的猜想。
2026年6月,一篇研究looped Transformer的论文已经展示了类似方向:让模型利用latent representations完成多步推理,可以减少逐字生成思维过程带来的成本。
论文中的LOTUS在3B规模上,将思考阶段延迟降低到了显式CoT的约1/2.5到1/6.9。
相关报道显示,Anthropic和Google DeepMind也已经开始讨论类似技术。
到了那一步,人类已经不知道AI在想什么了。#AI #人类未来猜想
