昊梵体育网

绝大部分 AI 产品的真正壁垒,是后训练。

真心推荐所有的 AI 创业者,都看看 Fireworks CEO 的对谈播客。

Fireworks 这家公司,我觉得大概率会成为 OpenAI 之后,硅谷最炙手可热的创业公司之一。

周末两天,我一边 Vibe Coding,一边看他们 CEO Lin Qiao 的观点,收获非常大。尤其是她对 AI 应用怎么建立壁垒,以及为什么过了 PMF 以后要开始做后训练的思考,值得仔细咀嚼。

下面是我不成体系的手工笔记。

1、AI 应用一旦过了 PMF,都应该认真考虑下是否要做自己的专用模型。这绝对不是什么异想天开的事情。

因为 Anthropic、OpenAI 的模型实在是太贵了,调用量越大,反而可能亏的越多。

之前传统 SaaS 产品找到 PMF 以后,新增一个用户的边际成本很低。然后随着用户越来越多,研发这些固定成本被摊薄,毛利通常会越来越好。

但 AI 产品不一样。它不会出现边际成本递减的情况。每一个用户都会实实在在的消耗 Token,而这些 Token 真的都是钱啊。

大家记得吧,去年 Cursor 就是那样,虽然收入一直在增长,但与此同时模型成本也在一起增长。

最后产品是你做的,用户是你找的,但赚到的钱又通过 API 费用交给了模型公司。

2、基于开源模型后训练的专用模型,可以大幅降低 AI 产品真正的任务成本。

因为一个针对具体任务做过后训练的模型,效果可以做到和最强的通用模型差不多,甚至更好,但推理成本可以下降 5 到 10 倍。

最近硅谷法律 AI 独角兽 Harvey 就做了一个很好的 Case。他们和 Fireworks 基于 Kimi K3 后训练出了 Tenet 这个专有模型,在法律类任务上,它的表现要比前沿模型好很多,而且运行成本不到前沿模型的四分之一。

很有意思的一点是,他们直接把效率放进了 Reward。完成同样任务的情况下,训练会更偏好 Token 消耗更少、工具调用更有效的轨迹。

所以后训练优化的已经不只是模型能力,还可以直接优化每完成一个任务的成本。这直接决定一个 AI 产品能否产生规模化的利润。