一份企业智能体需求文件里,几乎没讨论模型谁更聪明,反复出现的词是:断网缓存、分级权限、操作留痕、恢复续传。
公网调一次大模型,输入成本不过几块钱。把同样模型搬进内网,一台英伟达H20一体机卖到150万,国产卡得两台才跑得动,预算直奔400万。
钱被谁赚了?不是卖Token的,是造机器、搬机器、调机器的人。
企业买的不是聪明,是那层"壳"——权限管到检索每一步,验收标准单独占一章,答错了查得到、有人认。模型能背出薪资表是能力满分,权限没设好就是事故。
满血版和蒸馏版实际交付大约五五开:一半咬牙上671B,另一半选三四十万的32B、70B。对外都叫"私有化部署",能力和价格根本不在同一层级。还有中间商低价抢单,RAG糙到把术语切开,检索全是碎片。
MIT NANDA估计,仅约5%的定制化企业生成式AI工具实现持续回报。中标金额涨了,和产生业务价值是两件事。
真正的生意在进门之后:数据治理、权限迭代、模型更新,年年要续费。每家企业养一个AI机房,可能才是常态。
如果你公司要上大模型,你会选满血版保能力,还是蒸馏版控成本?
