AI 算力观察 · 模型评测 | Jev 实战指南
9 月 15 日 TypeSafe AI 发了 Jev,72 小时后开源替代 Laya 就冒出来了。GitHub 星标三天破六千,圈里都在喊“开源秒闭源”。
不过对做 Agent 的人来说,这事儿是把决策任务从对话模型里剥离出来。以前让大模型做分类,贵、慢还容易输出格式崩盘。
实测数据挺扎眼:拿 GPT-4o 做客服工单路由,延迟 850 毫秒,一百万 token 成本 2.5 美元;换成 Jev,延迟压到 240 毫秒,成本只要 4 分钱。准确率反而从 0.83 提到了 0.91。
用法也简单,直接把业务数据塞进 state 字段,再给一组互斥选项就行。要是分类超过 20 种,还是老老实实用闭源 Jev,开源版准确率会明显下滑。
真正值钱的不是多了一个新模型,而是Agent 系统终于有了专门干脏活累活的基础设施。
原文AI 算力观察 · 模型评测 | Jev 实战指南——从 0 到 1把决策型 AI 嵌进你的 Agent 系统