有个AI创业团队,发了个帖子:用一堆开源的便宜模型,拼出顶级旗舰模型的效果,成本只要三分之一。
帖子直接炸了,484个赞,评论区吵成一团。
有人说这是"换个壳的路由器",有人阴阳怪气说又在重新发明集成学习。
创始人一点不慌,逐条回应:不用信用卡、每个账号白送10美元额度、评测数据全部公开、907道评测题的逐题答案都挂在网上。
这个产品叫Echo,干的活一句话说清:不造模型,只当模型的调度员。
用户看到的只是一个普通聊天框,外加一个OpenAI兼容的API,用法跟调Claude、GPT一模一样,背后是哪个模型你根本不用管。
池子里都是谁?GLM-5.2、Kimi K2.7这些开源权重模型,便宜、没使用限制、还能自托管。
那钱到底怎么省的?这是全文重点,拆开讲。
第一层,单价差。
开源模型自己搭服务器跑,单价通常比闭源旗舰便宜一个数量级,十分之一左右(各家报价不同,此处为量级推测)。
同一道题,让GLM跑一遍,成本可能只是让Fable跑一遍的零头。
第二层,按需分配,这才是Echo的核心。
旗舰模型API有个"缺点":不管你问的是翻译一句话还是设计一个分布式系统,它都按旗舰价收钱。
Echo的逻辑是:简单请求,只让池子里便宜的小模型跑;只有难题,才动用多个模型协作。
就像五星酒店的大厨不是每道菜都亲自炒,炒青菜让食堂师傅上,办宴席才请大厨出马。
第三层,组合杠杆。
多个模型一起上比单个模型强,这是机器学习里几十年的老知识,随机森林早就证明了。
难点在于:跑N个模型就要付N份钱,所以Echo要学的就是"什么时候该组合、怎么组合最划算"。
一个模型够的就一个上,难题就让两个分工,一个出初稿、一个当评审挑错。
(具体用什么信号判断该不该组合,创始人没公开,推测是一个轻量分类器预判任务难度,再结合各模型历史表现做调度。)
正面回答那个关键问题:多模型并发,是不是要付多份钱?
是,Echo官网明说了:内部每一次模型尝试、每一道安全护栏,都按各家模型自己的价目表实打实计费。
跑两个模型就是两份钱,不存在"并发只付一份"的白嫖魔法。
那它凭什么便宜?因为省钱不来自少付钱,而来自"同样的钱买到更多质量"。
旗舰API是一刀切高价,难题简单题一个价;Echo是分级定价,简单题只付小模型的钱,难题才付组合的钱。
平均下来,总账单只有全部用旗舰的三分之一。
打个比方:Fable像请米其林主厨承包你的一日三餐,Echo是主厨只在晚宴出手,平时让食堂师傅干活。
商业模式也不难猜(推测):做一个OpenAI兼容的API,按token向开发者收费,价格定在"比Fable便宜、比开源模型贵"的中间位置。
上游从开源模型厂商批发算力,下游按"旗舰级体验"零售,赚中间差价。
这个赛道已经挤满了人:OpenRouter有Fusion路由,Sakana AI把多模型组合写成了论文,还有Magnitude.dev、TrustedRouter,连OpenAI自己都在内部做路由。
当然,质疑也得说:同一段对话在多个模型之间轮转,提示词缓存就失效了,每换一个模型就要重新算一遍,账单可能反而变贵。
还有人算过账,200美元月订阅实际能用掉约2500美元的API额度,对这类重度用户来说,API便宜三分之一毫无意义。
我的看法:Echo给普通人最大的启发,不是"我也去搞个路由器",而是一个朴素的生意逻辑——当上游供给变得又便宜又丰富,帮用户省钱的中间层就有差价可赚。
不需要造模型,不需要大厂级团队,一个懂调度的聪明小团队就能下场。
至于它能不能从免费内测走到月入十万,取决于那个核心问题的答案:路由器到底能不能稳定地判断"这道题该花多少钱"。
这件事,比训练一个大模型,难多了。
AI创业攻略 AI大模型创业


