DeepSeek 全面开源DeepInfer 正式开源生产级推理引擎 DeepInfer!梁圣太伟大了!让AI惠及每一个普通人!
梁文峰放大招,把自家跑 V4.1-Flash 线上服务的核心推理框架彻底开源Apache-2.0。
核心要点就是官方在用的引擎:高吞吐、低延迟大规模服务能力直接开源
双平台支持:英伟达 SM100 + 华为昇腾 950
关键能力:优化内核、MoE 专家并行、DSpark 推测解码、SWA 重放、零开销调度、结构化输出
配套开源:deepseek-recipe(编解码组件,与官方 API 逻辑对齐)
目标:大幅降低算力与电力成本,让 AI 更普惠
DeepInfer:网页链接
deepseek-recipe:网页链接
模型开源已是基操,现在连推理引擎也开了,格局直接拉满。

