当前位置:首页>排行榜>微软Decision-1深度评测:用阿里Qwen打败OpenAI,决策模型正在重写Agent的成本账

微软Decision-1深度评测:用阿里Qwen打败OpenAI,决策模型正在重写Agent的成本账

  • 更新时间 2026-10-12 22:17:08
微软Decision-1深度评测:用阿里Qwen打败OpenAI,决策模型正在重写Agent的成本账

评测结论先行:微软Decision-1是2026年迄今最值得开发者关注的决策模型。它用阿里Qwen3.5-9B做底座,在36项基准、近15万道题目的盲测中拿到准确率第一;P50延迟比OpenAI GPT-6 Sol快35倍,输入价格每百万token仅0.042美元、输出免费,比OpenAI同类决策端点便宜58%。对高吞吐、低延迟、强鲁棒性要求的Agent生产环境,它今天的性价比几乎没有对手。但它的短板同样清晰:32K上下文、纯文本、不做复杂推理——它不是万能的,它是一台被刻意磨快的"选择题专机"。

01写在前面:我为什么花一整篇写一个"分类器"

在写这篇评测之前,我先说一个判断:决策模型(Decision Model)是2026年AI行业被严重低估的一条新赛道,而微软是第一个把它的商业账算明白的大厂。

过去两年,我们习惯了把大模型当成"什么都能答"的黑盒。你问它写代码,它写;你问它写诗,它写;你问它该不该给某个用户发优惠券,它也能给你一段"从多个维度考虑"的废话。

但真实的生产系统不需要废话。一个推荐系统、一个内容审核管道、一个客服路由,每天要处理的是几千万次"从有限选项里选一个"的判断题。这类任务用通用LLM做,又慢又贵又不稳定——同一个问题换个问法,答案可能就变了。

这就是决策模型存在的理由:它不是用来"生成"的,它是用来"选择"的。 输入一段文本和一组预设选项,它只干一件事——选一个最对的,并告诉你有多确定。

这个品类真正进入主流视野,是2026年9月。

TypeSafe AI发布Jev,OpenAI在9月17日悄悄上线了基于GPT-6 Luna的决策端点,字节跳动的Quyet模型、Cloudflare的Clef-flash也先后入场。

大家都在抢一个共识:当Agent开始大规模落地,推理的瓶颈不在"生成",而在"判断"。

10月9日,微软下场了。而且是用一种让所有人意外的方式下场的。

0201 Decision-1是什么:微软的"选择题专机"

1.1 一句话定义

Microsoft Decision-1,是微软发布的首个决策专用模型。它不做自由文本生成,不做多轮对话,专门处理结构化决策任务:给定上下文和一组预设选项,模型输出最优选项及其校准概率。

微软官方给出的典型场景是四类:

- 路由分发:把用户请求路由给正确的Agent、团队或内部系统;

- 内容分类:对文本、反馈、工单进行标签分类;

- 任务优先级排序:判断任务队列里谁先谁后;

- 结果验证:校验上游LLM输出是否符合预期。

换句话说,凡是生产系统里"本来要写if-else或调分类器"的地方,它都能顶上来,而且比传统分类器更能理解语义。

1.2 最有争议的底座:Qwen3.5-9B

这是Decision-1身上最戏剧性的一笔:它的底座是阿里的通义千问Qwen3.5-9B,不是微软自家的MAI,也不是微软深度绑定的OpenAI模型。

微软在技术文档里毫不避讳这一点——Decision-1是基于Qwen3.5-9B做后训练(post-training)得到的。

后训练的核心是把通用语言模型"掰成"一个决策专家:用大规模决策数据做监督微调,再用偏好优化强化"选对"的行为。

这个选择的商业含义比技术含义更耐人寻味:

- 微软一边是OpenAI最大的股东和独家云服务商,一边用中国开源模型做自己的决策引擎;

- 9B参数量意味着它可以跑在更便宜的推理芯片上,成本压到极致;

- 微软官方还披露了路线图:后续Decision系列将rebase到MAI自研模型与OpenAI底座上。

翻译成人话:先用性价比最高的开源底座把市场打下来,再逐步换装自研引擎。 这是一套非常标准的平台型打法——你很难说微软背叛了OpenAI,你只能说微软从来没打算把命门押在任何单一底座上。

1.3 核心参数一览

先把硬指标列清楚(均来自微软官方技术博客与Foundry产品页):

维度
参数
发布时间
2026年10月9日
底座模型
阿里Qwen3.5-9B(后训练)
参数量
约9B
上下文窗口
32K token
输入模态
纯文本
输入价格
0.042美元/百万token
输出价格
免费
准确率
36项基准、近15万题盲测第一
延迟
P50比GPT-6 Sol快35倍,比Quyet-1.0-Large快4.5倍
部署位置
Microsoft Foundry(Azure AI Foundry)已上线,OpenRouter接入中
后续计划
rebase至MAI与OpenAI底座

注意两个细节:

第一,输出免费。决策模型的输出就是"选中项+概率",token量极小,微软干脆把输出价格归零——这是教科书级的定价心理战:输入便宜到可以忽略,输出免费,开发者没有任何理由不试。

第二,纯文本、32K上下文。这意味着它不处理图像、不做超长文档分析。它是被刻意做窄的:窄,所以快;窄,所以便宜;窄,所以稳定。

0302 实测:准确率、速度、成本、鲁棒性,四张账逐一算

2.1 准确率:近15万题盲测第一

这是Decision-1最硬的一张牌。

微软披露的数据是:在36项基准测试、总计近15万道题目的盲测(blind evaluation)中,Decision-1准确率排名第一。

微软还特别强调,为排除数据污染与"刷榜"嫌疑,评测采用盲测方式——评测者不知道模型身份。

需要打折扣的地方在于:这份榜单是微软自己出的,样本构成、题目难度、对手模型的配置细节尚未完全公开。

独立第三方榜单JevBench v1.6.2上,目前头部是TypeSafe的Jev(71.5分)与字节跳动的Quyet(71.4分),Decision-1尚未上榜——发布时间太短,独立评测还没来得及覆盖。

我的判断是:"第一"可以存疑,"第一梯队"基本坐实。 以微软的数据质量和后训练投入,Decision-1进入决策模型头部阵营没有悬念,具体是不是绝对第一,等第三方榜单补测。

2.2 速度:35倍,不是一个量级的差距

延迟数据是Decision-1最炸裂的部分。

微软公布:P50延迟比GPT-6 Sol(OpenAI旗舰推理模型)快35倍,比Quyet-1.0-Large快4.5倍。

什么概念?我算了一笔账。假设一个Agent在工作流里需要连续做20次决策(比如多轮路由+质检+优先级排序),如果单次决策延迟是200毫秒,总延迟4秒,用户能明显感觉到卡顿;

如果单次决策压到50毫秒,总延迟1秒,交互就是"顺滑"的。

在Agent场景里,决策延迟是决定产品体验的天花板。 通用LLM的推理延迟动辄数百毫秒甚至数秒,决策模型把这条曲线整体下移了一个量级。

这也是为什么我认为"生成与决策分离"会成为Agent架构的主流趋势——不是理论上的,是成本与体验双重倒逼的。

2.3 成本:0.042美元/百万token,输出免费

定价层面,微软把账算到了极致:

- 输入0.042美元/百万token;

- 输出免费;

- 对比:OpenAI基于GPT-6 Luna的决策端点0.10美元/百万token(输入),微软便宜58%;Cloudflare同日把Clef-flash从0.090砍到0.038;

Perplexity的Decisions API挂0.02。

整个决策模型赛道正在经历一场惨烈的价格战,而微软是第一个用"输出免费"把战火烧到零的大厂。

一个真实场景测算:假设一个内容平台每天要分类100万条用户反馈,每条平均500 token输入。用Decision-1,一天的推理成本是0.042×100万×500/100万=21美元/天(输入),输出免费。

同样的量如果用通用旗舰模型做,成本至少是这个数字的几十倍。

对于"预算敏感、量极大、延迟敏感"的生产场景,这个价格不是有竞争力,是降维打击。

2.4 鲁棒性:选项乱序,答案不变

鲁棒性是被大多数评测忽略、但生产系统最要命的指标。

微软披露了这么一组数据:在8种扰动条件下(选项措辞改写、顺序颠倒、上下文重排、加入噪声等),Decision-1的决策翻转率平均仅1.3%;

其中"选项顺序颠倒"场景的翻转率为0——把选项顺序打乱,它选出来的答案完全不变。

这个指标为什么重要?

因为通用LLM的著名缺陷就是"prompt敏感":同一个选择题,选项顺序换一下,答案可能就变了;措辞改一个词,输出就漂移。生产系统里这是灾难——你今天过滤了一条违规内容,明天同样的内容换个写法就漏过去了。

决策模型的卖点之一,就是把这个"漂移"压到接近零。 1.3%的平均翻转率、0%的选项乱序翻转率,在行业里是顶级水平。当然,这同样来自微软自测,独立复测有待补充。

2.5 安全:11项基准、5250条请求

安全层面,微软披露:在11项安全基准、总计5250条请求的评估中,Decision-1表现合规。作为参考,同期的模型事故新闻是:Anthropic刚披露了四类模型越权行为,白宫随即要求强制报告AI事故。

在"模型乱跑"成为行业头号新闻的当下,一个把决策面收窄到"选择题"的模型,天然就比全能LLM更可控。 它没有创作冲动,没有联网冲动,它唯一的输出就是"你选A还是选B"。这种"无聊",恰恰是生产系统最需要的品质。

0403 场景实测:四个真实案例拆解

微软公开了三个内部落地案例,我逐一拆解,再补一个我自己的推演场景。

3.1 Xbox Research:1万条玩家反馈分类

场景: Xbox Research团队需要对1万多条玩家反馈做分类与筛选。

结果: 用Decision-1的分类质量与GPT-6 Sol相当,但速度快14倍,成本约为GPT-6 Sol的1/200。

拆解: 这是决策模型的教科书场景——数据量大、分类维度固定(反馈类型、严重程度、所属模块)、质量要求稳定。通用LLM做这件事不是不行,是贵且慢;而1/200的成本差,意味着同一笔预算下可以处理200倍的数据量。

3.2 Copilot质检:比GPT-5.6 Luna快约100倍

场景: 微软Copilot团队需要评估AI生成的响应质量(质检、审核、标注)。

结果: 用Decision-1做AI响应评估,比GPT-5.6 Luna快约100倍。

拆解: "用AI评估AI"是2026年最热的工程实践之一。质检管道的输入量是用户请求的若干倍——每一次生成都要配一次评估。评估环节如果用通用LLM,成本会翻倍甚至翻三倍;

把评估换成决策模型,等于给整个管道装了一个便宜的"质检闸门"。

3.3 Discovery:科研重规划,一致性高46倍、快3倍

场景: 微软Discovery团队用Decision-1做自适应重规划(根据中间结果决定下一步科研路径)。

结果: 与LLM方案相比,Decision-1的重规划一致性高46倍,速度快3倍。

拆解: 这是最有想象力的一个案例。科研智能体(AI Scientist类)的多步推理里,每一步都需要"决定下一步做什么"——这是典型的决策任务。

决策模型在这里不是取代LLM,而是给LLM当"路由大脑":LLM负责生成候选方案,Decision-1负责选哪条路走。分层架构,各司其职。

3.4 推演场景:电商客服路由

场景: 某电商平台客服管道,每天50万条进线。

传统方案: 关键词规则+意图分类器,对"模糊表达"(比如"你们家这个怎么退")识别率低,需要大量人工兜底。

Decision-1方案: 把进线文本+预设意图选项(退换货/物流/价格/质量/人工)输入Decision-1,输出最优意图+概率;概率低于阈值时再转人工。

账目: 假设每条进线平均600 token,50万条/天的输入成本约12.6美元/天;对比通用LLM方案动辄数百美元/天,或传统分类器难以处理长尾语义。

速度上,P50延迟按100毫秒估算,50万条进线分摊到峰值秒级并发,完全无压力。

我的结论: 只要是"选项固定、量极大、延迟敏感、预算敏感"的任务,Decision-1在2026年10月这个时间点,几乎是最优解。

0504 竞品横评:决策模型的牌桌上有谁

决策模型赛道过去一个月密集开牌。我把主要玩家摆上桌:

模型
厂商
底座/特点
定价(输入/百万token)
状态
Decision-1
微软
Qwen3.5-9B后训练,36基准第一
0.042美元,输出免费
Foundry已上线,OpenRouter接入中
Jev
TypeSafe AI
决策模型,自称1/3财富500强采用
0.042美元
9月15日上线,数天用户破百万
Quyet-1.0-Large
字节跳动
决策模型
未公开
JevBench 71.4分
Clef-flash
Cloudflare
同日从0.090砍至0.038
0.038美元
价格战急先锋
Decisions API
Perplexity
决策端点
0.02美元
价格最低
GPT-6 Luna决策端点
OpenAI
基于旗舰模型
0.10美元
最贵,但生态绑定强
Clef-1
Cloudflare
首款决策模型
未公开
与TypeSafe合作

几个关键判断:

第一,微软是用"性价比"入场的。 0.042美元+输出免费,直接把高端玩家的价格打穿。

它不是最便宜的(Perplexity 0.02更狠),但它是"性能第一梯队+价格第一梯队"里唯一的大厂——TypeSafe的Jev虽然同价,但独立榜单还没完全坐实其性能;

Perplexity的0.02是端点价格,性能数据披露更少。

第二,OpenAI的位置很尴尬。 0.10美元的价格贵了一倍多,但它的优势是生态:基于GPT-6 Luna,能与自家生成模型无缝衔接。不过当价格差拉到58%,开发者会用脚投票——尤其在高吞吐场景。

第三,独立榜单是目前的裁判真空。 JevBench v1.6.2上Jev(71.5)与Quyet(71.4)咬得很紧,Decision-1未上榜。

第三方复测是接下来一周最值得关注的事——谁在榜单上坐稳第一,谁就吃下开发者的默认选项。

0605 争议与风险:我不能只说好话

这篇评测如果只说优点,那是不负责任的。Decision-1有几个绕不开的问题:

5.1 "第一"的含金量存疑

微软的"36项基准、近15万题第一"是自测数据。自测榜单天然有选择偏差——基准选哪些、对手怎么配置、评测样本怎么抽,都是出题人说了算。

这不是微软独有的问题,OpenAI、Anthropic都这么干过,但作为评测者我必须把这句话写清楚:在独立第三方复测出来之前,"第一"要打八折看。

5.2 底座是"别人的"

Qwen3.5-9B底座是一把双刃剑。

好处是成本低、开源透明、可审计;风险是:一是地缘与合规敏感性——中国企业客户的敏感场景、美国国防相关场景,用中国底座可能触发合规审查;

二是供应链风险——阿里若调整Qwen系列策略或授权条款,Decision-1的底座供给会受影响。微软的应对是"后续rebase到MAI与OpenAI底座",但这意味着迁移成本和性能的不确定性。

5.3 能力边界:它真的只会"选择题"

Decision-1不做自由生成,不做复杂多步推理,32K上下文、纯文本。这意味着:

- 它不能替代LLM做内容生成,两者是分工关系;

- 超长文档决策(比如读一份50页合同做判断)它做不了;

- 需要"开放式判断"的场景(比如没有预设选项的战略分析)它没有用武之地。

它是一把极其锋利的窄刀,不是瑞士军刀。 如果开发者指望用Decision-1解决所有分类问题,会在边界场景碰得头破血流。

5.4 价格战是双刃剑

输出免费、输入0.042美元,这个价格长期看不可持续。整个赛道——Jev、Clef-flash、Perplexity——都在用补贴价抢开发者心智。一旦市场格局稳定,价格回升是大概率事件。

今天的"免费午餐"是在买明天的垄断,开发者做架构选型时要算的是长期总账,不是今天的单价。

0706 开发者与决策者建议

给开发者的实操建议

1. 先做"决策任务审计"。 盘点你现有管道里,哪些环节是"从固定选项里选一个"——路由、分类、排序、校验、质检、意图识别。这些就是决策模型的替换候选。

2. 不要全盘替换,先做闸门。 最稳的切入姿势是"分层架构":LLM负责生成与理解,Decision-1负责路由与校验。

比如用Decision-1给LLM输出做质检闸门,用Decision-1把请求路由给不同Agent。

3. 关注概率输出。 Decision-1输出校准概率,这是它比传统分类器强的地方——低概率时转人工兜底,这是生产系统最实用的能力。

4. 等第三方榜单再下重注。 如果项目对准确率极其敏感,建议等JevBench等独立榜单覆盖Decision-1后再做架构迁移。如果追求的是"立刻省钱",现在就可以试。

5. OpenRouter接入后用API试跑。 微软披露OpenRouter正在接入中,届时可以用统一API接口快速对比Jev、Quyet、Clef-flash与Decision-1在你自己数据上的表现。

给决策者的判断框架

如果符合以下条件,Decision-1值得立即试点: 高吞吐(日请求百万级)、选项固定、延迟敏感、预算敏感、对鲁棒性要求高(选项乱序不能变答案)。

如果符合以下条件,建议观望: 需要复杂推理、长上下文、多模态、开放生成;或者你的合规体系对"中国底座"有硬性限制。

0807 结语:决策模型的牌局,微软刚刚下了重注

回到开头那个判断。

决策模型是2026年被低估的新赛道,这一点我在一个月前写Jev时就这么看。今天微软用0.042美元+输出免费+近15万题第一的成绩单入场,等于把这条赛道的天花板与地板同时钉死了:天花板是性能,地板是价格。

接下来的看点有三个:

一是独立榜单补测。JevBench能不能覆盖Decision-1,谁坐稳第一,直接决定开发者默认选项。

二是OpenAI的回应。0.10美元的决策端点被58%的价格差架在火上,OpenAI要么降价,要么拿出差异化能力——它手里最大的牌是生态与旗舰模型的"生成+决策"一体化。

三是微软的底座迁移。当Decision系列rebase到MAI自研模型后,性能还能不能保持?如果自研底座能接住Qwen交出的接力棒,微软就真的在Agent时代拿到了平台级的门票。

最后说一句大白话:当"生成"开始免费、当"决策"开始按分计价,Agent的规模化落地就不再是成本问题,而是工程问题。 这一轮,微软把工程问题往前推了一大步。

至于用阿里Qwen打败OpenAI这件事——在AI行业,没有永恒的盟友,只有永恒的成本结构。

— END —

关于「AI最前沿」

专注人工智能产业的专业资讯平台,覆盖前沿大模型、AI产品、公司动态、技术研究与政策监管。

官网:aiforefront.cn

关注我们,第一时间获取AI行业最前沿资讯

随机文章