昊梵体育网

为什么国产大模型的思考过程是英文? 不管是deepseek, GLM还是Kimi

为什么国产大模型的思考过程是英文?
不管是deepseek, GLM还是Kimi, 提示词是中文的情况下,模型的推理过程输出并不一定是中文,或者说大概率是英文。你是否思考过这是为什么?
你看到国产大模型出现英文思维链,这一般是训练数据、训练过程和产品展示方式共同决定的。
1. 普通中文语料并不少,但能够用于训练推理模型的高质量材料——例如数学证明、竞赛题解析、代码调试过程、科学论文、逐步验证和反思轨迹——英文占比更高。尤其是长思维链数据,目前仍明显偏向英文。针对 Qwen 2.5、Qwen 3 的跨语言研究指出,现有长链式推理数据主要集中在英文;即使模型拥有较强的多语言预训练,推理阶段的语言差距也不会自动消失。[Long Chain-of-Thought Reasoning Across Languages, arxiv]

2. 推理模型的强化学习决定了如果英文推理逻辑在训练过程中更容易获得正确奖励,模型就会逐渐把英文当成一种高概率的“工作语言”。DeepSeek-R1 的技术报告明确提到,早期 R1-Zero 会自然出现语言混杂。后续训练不得不加入“语言一致性奖励”,要求思维链与问题语言保持一致;而报告还指出,这种语言约束会带来轻微的性能下降。也就是说,单纯追求正确率时,模型未必会主动坚持中文。[DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning, arxiv]

3. 很多推理任务包含代码、变量、公式和标准技术术语,这些词与代码、公式混合时,在训练材料中形成了高度固定的搭配。模型并不是认为英语“更高级”,而是它在英文技术文本中见过更多完整、连续、可验证的推理轨迹。

但其实你看到的“推理过程”,并不等于模型真正的全部内部思维,模型底层实际进行的是神经网络中的向量、激活值和概率计算,并不是大脑里真的有一个人在说英文。界面展示的所谓“推理过程”,一般属于以下两种之一:模型额外生成的一段 thinking / 文本;产品根据内部计算整理出来的推理摘要。

DeepSeek-R1 的训练报告本身就把输出设计为“推理过程+总结”的文本格式。这种思维链是模型生成的可读文本轨迹,而不是对所有内部神经计算的逐字转录。

AI反常识howto ai 大模型