昨晚刷手机,又被小米玄戒刷屏了。我第一反应不是"又发芯片",而是愣了一下:咱自己攒的芯片,已经能在一台小盒子里本地跑1200亿参数的大模型了?
前阵子的玄戒芯片沟通会上,小米一口气掏出三颗自研芯:O3管手机、O100专攻AI加速(带宽做到旗舰手机的16倍)、D100盯智驾。然后他们把这三颗全塞进一台叫AI Cube的工程版迷你主机——航天铝外壳,三万多个散热孔,150瓦功耗,不联网,120B大模型直接本地跑。还有台O100原型机,风冷一开,端侧推理能到每秒295个token。
雷军说,这事儿他们死磕了五年多,砸进去210多亿,近3000人的团队。
我不在乎它什么时候量产。让我感慨的是:几年前聊"中国芯",大家还带着将信将疑;现在连本地跑大模型这种重活,都有人真刀真枪做出来了。普通人不一定懂参数,但能感觉到:这块最硬的骨头,有人在啃,而且啃出声了。
