昊梵体育网

聊聊最近很火的Jev

最近 X 上很多人在聊 Jev。

Jev 是 TypeSafe AI 推出的一个模型,专门给软件做判断。把信息交给它,提前规定好答案范围,它就返回结果,以及相应的概率。官方把这类模型叫作 System One Model。

比如客户发来一句:“包裹三天没到,我要退款。”

你可以让 Jev 判断这件事该交给哪个部门,或者客户是不是明确提出了退款。它不会帮你写一封安抚邮件,这部分可以继续交给 LLM。

那为什么需要单独做一个 Jev?大模型本来就能判断啊。

但一个软件每天要处理几十万次类似的小判断,每次花多少钱,要等多久,就会直接影响这个功能能不能做。

Jev 把能力集中在这种范围明确的问题上,目标就是把每次判断的成本和等待时间降下来。官方给出的响应时间是 70–500 毫秒,每百万输入 token 收费 0.042 美元,输出免费。

所以Jev和LLM 很适合搭着用。

还是拿客服来说,Jev 先判断客户的诉求,程序按照业务规则分配工单,需要回复时再让LLM 起草。遇到复杂情况,也可以交给更擅长推理的模型继续处理。

放到日常产品里,也有挺具体的用法。比如我想筛掉信息流里没营养的内容,可以自己描述“什么值得看”,让 Jev 逐条判断。AI 助手准备执行任务时,也可以让它从现有工具里选出下一步要用的那个。

#ai #人工智能 #AI进化生活howto #howto用好AI #科技的力量 #AI反常识howto #gpt #codex #howto用AI抢救一切