阿里玄铁C950芯片成功原生运行270亿参数大模型
IT时代网8月19日消息,阿里巴巴达摩院于 2026 年 3 月发布的 RISC-V 旗舰 CPU 玄铁 C950,近日成功原生运行通义千问 3.8-27B 大模型。这是 RISC-V 架构芯片首次在不依赖 GPU、无需模拟层的情况下,直接运行 270 亿参数级别的 AI 模型。
玄铁 C950 采用台积电 5nm 工艺制造,是一颗 64 位服务器级 RISC-V 处理器,集成 64 个计算核心,每 8 核一组通过高速 AMBA CHI 总线互联,主频最高 3.2GHz。芯片内部直接集成矩阵加速引擎与向量加速引擎,专为 AI 推理负载优化。
该芯片采用 8 指令译码宽度与 16 级流水线设计,访存带宽较上一代玄铁 C920 提升 4 倍以上;单核通用性能在 SPECint2006 基准测试中突破 70 分,刷新全球 RISC-V CPU 性能纪录。在玄铁 C950 上运行通义千问 3.8-27B 模型时,解码速度达到 30 token/s,首 Token 延迟控制在 1.9 秒以内。
作为对比,在传统 GPU 方案上运行 270 亿参数模型通常需要 16GB 至 24GB 显存,而玄铁 C950 仅依靠 CPU 加片上加速引擎即可完成推理,无需外接独立显卡。RISC-V 的开源特性也让阿里巴巴无需支付高昂的授权费用。从芯片设计到模型推理的全链条自主可控,意味着未来模型算子可根据硬件特性重新设计,后续芯片也能依据生产数据定制指令集。
注:本文中包含AI辅助创作的内容。
