昊梵体育网

只输入一句话,Claude Code / Codex 为什么可能显示十几万甚至几十万 input token? 因为 Agent 发给模型的从来不只是输入框里的话,还包括系统指令、工具 Schema、项目规则、对话历史和工具结果。cache hit 也不是“缓存答案”,而是严格复用相同 token 前缀执行后的模型状态。 这篇文章结合 zLLM ​

只输入一句话,Claude Code / Codex 为什么可能显示十几万甚至几十万 input token?

因为 Agent 发给模型的从来不只是输入框里的话,还包括系统指令、工具 Schema、项目规则、对话历史和工具结果。cache hit 也不是“缓存答案”,而是严格复用相同 token 前缀执行后的模型状态。

这篇文章结合 zLLM 的真实实现,拆解 Chat / Responses / Anthropic 三套接口、显存 + SSD 两级前缀缓存,以及 DeepSeek DSML 的 token 级工具围栏: 网页链接/