【DeepSeek开源推理框架DeepSeek推理框架DeepInfer全面开源】10月20日，DeepSeek宣布全面开源其内部推理框架DeepInfer，并同步开源生产级Token编解码组件deepseek-recipe。DeepSeek表示，推理框架决定了AI服务的算力成本与电力消耗，此次开源旨在帮助开发者优化大规模推理的吞吐与延迟，降低部署成本、减少能源消耗，让智能以更低价格触达更广泛人群。技术层面，DeepInfer集成高性能算子与深度优化引擎，支持分布式推理、推测解码、SWA Bounded Replay及结构化输出等能力。值得注意的是，该框架明确兼容英伟达与华为昇腾平台。目前，DeepInfer已支撑DeepSeek V4.1 Flash的高吞吐、低延迟大规模推理服务，未来新模型的推理代码也将在此持续更新。DeepSeek还表示希望借助全面开源的模型、算子库与推理框架，期待在不远的未来，能够看到全球 AI 服务的范围与质量获得前所未有的扩展与提升，变得更加公平、透明、可信赖，进而实现在全社会范围内加快技术迭代、减少能源浪费，让有限的资源以更高的效率在基础设施与用户终端之间流转，以每个人都能够负担的成本传递更加强大的智能，以及伴随着智能的善意和无限可能性。此前10月17日，DeepSeek V4.1 Flash更新至V4.1-Flash-1017版本，官方网页端、APP与API模型已同步变更。（DeepSeek微信公众号）