AI 算力观察 · 模型评测 | Jev 实战指南

9 月 15 日 TypeSafe AI 发了 Jev，72 小时后开源替代 Laya 就冒出来了。GitHub 星标三天破六千，圈里都在喊“开源秒闭源”。

不过对做 Agent 的人来说，这事儿是把决策任务从对话模型里剥离出来。以前让大模型做分类，贵、慢还容易输出格式崩盘。

实测数据挺扎眼：拿 GPT-4o 做客服工单路由，延迟 850 毫秒，一百万 token 成本 2.5 美元；换成 Jev，延迟压到 240 毫秒，成本只要 4 分钱。准确率反而从 0.83 提到了 0.91。

用法也简单，直接把业务数据塞进 state 字段，再给一组互斥选项就行。要是分类超过 20 种，还是老老实实用闭源 Jev，开源版准确率会明显下滑。

真正值钱的不是多了一个新模型，而是Agent 系统终于有了专门干脏活累活的基础设施。