昊梵体育网

🚀PrismML 正式宣布开源 Bonsai 27B —— 全球首个能在手机上

🚀PrismML 正式宣布开源 Bonsai 27B —— 全球首个能在手机上完整运行的 27B 级别多模态大模型。

基础模型:基于阿里巴巴开源的 Qwen3.6-27B。

压缩成果(这是最大看点):——Ternary 版本(三值量化):5.9 GB(有效 1.71 bit/权重),适合笔记本/高性能设备。——1-bit 版本:3.9 GB(有效 1.125 bit/权重),小到能在 iPhone 等手机上运行。

能力:-支持多模态(图片理解)。-多步推理、结构化工具调用。-长上下文(最长 262,000 Token)。-Agentic 循环(自主智能体工作流)。

以前 27B 模型在 16-bit 精度下约 54GB,即使 4-bit 量化也约 18GB,远超手机/大部分笔记本的实用范围。Bonsai 27B 彻底打破了这个限制。

PrismML 用极致压缩技术,把原本只能在数据中心跑的 27B 强模型,“塞”进了手机,标志着本地 AI 进入了一个新阶段。