当前位置:首页>排行榜>情绪模拟用户驱动的智能体评测与跨领域迁移研究:用户有情绪时,智能体还能把事办好吗

情绪模拟用户驱动的智能体评测与跨领域迁移研究:用户有情绪时,智能体还能把事办好吗

  • 更新时间 2026-10-19 07:51:46
情绪模拟用户驱动的智能体评测与跨领域迁移研究:用户有情绪时,智能体还能把事办好吗
航班临时改签,你已经说过想尽快出发,客服智能体却又问一遍目的地、再确认一次偏好,接着送来一段体贴却没有进展的安慰。即使它最后找到合适航班,你也可能早已关掉窗口。对需要连续办事的智能体而言,用户愿不愿意继续配合,会直接影响任务有没有机会完成。

τ-Emotion-Bench 把这种交互压力带入工具调用测试,任务目标保持明确,用户却可以焦虑、愤怒、失望,也可以兴奋、急切。与之配套的 Tracer 流水线进一步利用用户不满退出的反馈,筛选既完成任务、又没有耗尽用户耐心的示范。研究的增量在于把交互质量引入数据选择,而非单纯训练更会说安慰话的模型。

这项研究来自美国亚利桑那州立大学计算与增强智能学院,团队成员包括 Rishitosh Kumar Singh、Amir Saeidi、Shamanthak Hegde、Shrinidhi Kumbhar 和 Chitta Baral。团队把问题落在可执行环境中,检验情绪条件下的办事可靠性;这里的用户主要由语言模型模拟,并非真实消费者样本。

Model: https://huggingface.co/tau-emotion-bench/modelsDataset:https://huggingface.co/tau-emotion-bench/datasetsCode:https://github.com/sahsaeedi/tau-emotion-benchWebsite :https://tau-emotion-bench.github.io

01 任务不变,情绪改变交互过程

困难首先来自智能体只能看见部分信息,它既要通过工具查询环境,也要通过对话获取用户尚未提供的要求。团队沿用部分可观测马尔可夫决策过程(Partially Observable Markov Decision Process,POMDP)描述这一场景,动作包含工具调用和自然语言回复,观察包含工具返回及用户消息。追问、查询和执行都在同一条任务轨迹里产生后果。

情绪条件作用于用户如何回应,团队在第3.1节用下面的关系描述每一轮回复的生成:

其中,u 是任务指令,e 是情绪条件,带 t 下标的 h 是截至当前轮次的交互历史,π 的 user 下标表示用户模拟策略,带 t 下标的 u 是当前回复。条件中保留任务与历史,意味着同样焦虑的用户可以在进展顺利时配合,也可以在反复澄清时变得不耐烦;情绪不是固定台词模板。

一段交互中的情绪条件保持不变,变化的是它在具体历史中的表达,任务、环境和最终目标不会因为角色的情绪而改写。这个设计试图把业务难度与表达方式分开:用户仍要改签同一趟行程,但可能更急、更怀疑客服,或更不愿重复说明。它模拟的是条件化沟通行为,并未建立能够独立验证的心理状态演化模型。

情绪空间同时描述感受和交流姿态,团队依据 Atlas of Emotions 设置愤怒、恐惧、厌恶、悲伤和愉悦五个家族,共22种细分情绪,再组合礼貌程度、紧迫程度和信任程度三个维度。每个行为维度有三个取值,最终得到594种条件。急迫不必等于愤怒,怀疑也不必等于粗鲁,这种拆分避免用单个情绪标签包办所有交流差异。

条件需要转成自然语言才能驱动模拟器,团队为每种组合生成10条描述,形成5940条锚点指令,用 text-embedding-3-small 编码,再训练同时预测细分情绪与三个行为属性的多头分类器。任务感受被投射到其学习到的表示空间后,通过近邻锚点的相似度加权投票选择条件,最后随机抽取该条件的一条指令交给用户模型。

图1:τ-Emotion Bench上LLM代理在三次运行中的平均准确度。

模拟器的提示词刻意放大了情绪可见度,要求用户在每轮交流中明显体现角色条件,并让情绪影响措辞、耐心和合作程度。这样的设置便于形成压力,却可能比日常交流更持续、更外显。即使回复看起来连贯,也不能据此推断真实用户会以相同强度不断表达同一种状态,或在同一轮选择离开。

这种映射提高了生成过程的可控性,也留下测量上的距离。分类器学习的是合成描述之间的边界,近邻相似并不证明角色表达等同于真人感受。594是设计空间的规模,580个测试任务也不意味着每道任务都穷举全部条件;不同领域实际覆盖的情绪家族数量不同,情绪之间的比较仍会受到领域和任务组成影响。

图2:τ-Emotion Bench和Tracer数据生成管道概述。第一阶段:Tracer从工具、环境和策略构建策略有效的依赖关系图。第二阶段:对有效的子图进行采样,以形成可执行的多步骤跟踪。第三阶段:痕迹被反向细化为自然的用户指令,同时保留任务目标、上下文、偏好和模糊性。第四阶段:任务特定的情感被映射到结构化的情感条件中,并与任务指导相结合。第5阶段:在将任务纳入τ-情绪测试之前,对任务的可执行性、策略一致性和有效性进行验证和过滤。

02 从工具流程反推用户请求

可执行任务先于情绪描述产生,Tracer 为每个领域构建有向工具依赖图,节点代表任务相关工具,边表示依据接口、执行行为和领域政策,一个工具能否合法接在另一个后面。候选图由模型生成,再经人工核验选择。它提供的是工作流约束,使任务生成不至于从一句听起来合理的请求开始,却在工具系统里根本无法完成。

工作流通过随机游走获得,团队组合一至三个意图,每条路径包含二至六次工具调用,并对工具轨迹去重。十个领域共得到42138条不同轨迹,训练任务与评估任务使用不同轨迹生成。路径确定操作骨架,却还没有指定客户、航班、商品或预约时间,必须继续与数据库中的实体及可用参数对齐。

环境落地代理负责补上真实存在于模拟环境中的参数,执行后形成参考轨迹;偏好代理再把这条轨迹逆向整理成自然用户请求,加入可满足的偏好,并去掉工具痕迹。用户不该被要求天然知道系统内部标识符,也不该像接口文档一样一次给出所有字段。任务生成因此要连接业务可执行性与对话中的信息不完整性。

感受生成与环境落地又有所区分,前者根据用户背景和请求描述可能的情绪,却不能读取环境数据库。这能减少把用户不可能知道的库存、内部编号等信息写进情绪描述的机会。它不是自动消除全部泄漏的证明,但明确了模拟用户应拥有什么知识,以及哪些信息应由办事智能体通过工具查出。

验证环节同时检查目标、信息与规则,任务必须有具体目的、足够的执行信息和可回放的参考路径,并符合领域政策。确定性回放优先,结果无法明确判定时才使用模型裁决。团队最初生成2266个评估候选,交互测试后保留884个供人工审核,最终留下580个,覆盖航空、零售、电信、远程医疗及学校、篮球、餐厅、旅游、电影和银行。

训练与测试的隔离也有不同层次,前四个领域在生成两类任务时共享数据库,其余六个领域分别使用训练和评估数据库。不同工具轨迹能够减少流程的直接重复,却不等于所有客户、实体和政策都未见过。因此,标准测试主要检验新任务中的行为表现,Low 的六领域测试才进一步检验跨业务环境迁移。

人工修改说明合成后仍需修补,团队纠正了101个任务的参考参数或动作,另有23个任务把内部编号换成用户可知信息,23个任务进行更大改写以加入政策挑战。任务数量本身不能替代有效性验证,这些修订为最终样本提供了具体支撑,也表明流水线尚不能被理解为无需人工的自动出题系统。

03 让用户退出成为数据筛选信号

传统终点奖励容易忽略中途的沟通成本,一条轨迹即使重复询问、依赖用户代查信息,只要最终数据库状态正确,也可能被保留为成功示范。Tracer 给用户模拟器增加不满意退出的选择,使交互摩擦能够阻止轨迹进入训练集。这里改变的是哪些行为获得正向示范资格,而非把安慰语句直接变成奖励目标。

退出机制区分正常结束与不满中断,用户完成目标后可以结束会话,也可以在冗余提问、循环流程、忽略情绪或信任受损时提前离开。如果在任务成功之前因不满终止,轨迹获得负一奖励。收集成功数据时,团队还要求最终数据库与参考结果一致,且用户没有以不满状态结束;单靠让用户高兴或尽快说再见,都不足以通过筛选。

最终状态为任务成功提供了可执行的检查点,取消订单是否生效、预约是否改好,都可以对照数据库,而不只听助手自称已经完成。但相同终态可能由不同过程到达,跳过确认或过早披露信息的轨迹也可能留下正确结果。因此,终态奖励与政策行为审计需要一起看,前者无法独立证明过程正确。

筛选依赖的仍是模拟器判断,系统没有给每次追问规定统一罚分,也没有设定适用于所有任务的最短对话。用户何时认为问题重复、进展不足,取决于提示词、角色条件和已有历史。因此,这是一种可生成交互反馈的机制,不能把它当成经过真人验证的耐心量表,更不能把负一奖励视为训练中已经实施的强化学习更新。

图3:Qwen3基础、Tracer Low和Tracer High模型的性能比较τ-长凳和τ-使用通道^1、通道^2和通道^3的特征。

数据收集使用另一种模型分工,Qwen3.8-27B 的思考模式扮演执行代理,Qwen3-235B-A22B-Instruct 扮演带情绪的用户,每个训练任务运行一次,最多50个交互步骤,并保留助手推理。7767个任务排除端点错误后,得到7048条轨迹,其中2723条奖励为一,3799条未成功但没有不满退出,526条因不满结束。

训练集对领域覆盖作了两种安排,Tracer-High 从十个领域构成1958条示范,对成功轨迹较多的三个领域下采样;Tracer-Low 保留航空、零售、电信和远程医疗四个领域的1498条成功示范。Low 并非简单从 High 抽出的更小子集,两者领域分布和采样规则不同,不能只用条数解释效果差异。

图4:按领域和情绪的策略违反率对模型组进行比较。

学习阶段采用监督微调(Supervised Fine-Tuning,SFT),将成功对话和工具执行过程作为示范,训练 Qwen3 的1.7B、4B和8B模型。附录列出四张 H100、三轮训练及32768的最大序列长度。这说明当前验证的是经过交互反馈筛选的数据是否有用,并未检验把退出信号直接用于强化学习后能否得到进一步收益。

成功筛选还有选择偏差,特别困难的任务或更容易中断的情绪条件,可能更难留下可学习的完整示范。团队报告普通失败与不满退出的情绪构成并不相同,后者的挫败和恼怒相关条件占比更高。这个现象说明退出确实提供了不同于终态失败的信号,却不表示筛选后的数据自动覆盖了最困难的用户。

工具更多也不等于交互更好,筛选前的2723条成功示范平均调用9.5次工具,而参考轨迹平均只有5.2个动作。模型仍可能进行额外查询,必要的认证、参数核验和状态确认也不能为压缩轮次而跳过。该机制的理想作用,是减少向用户索取本可自行获取的信息,同时保留真正影响执行正确性的澄清。

04 平均成功与稳定成功相距多远

评估把一次偶然成功与重复可靠性分开,每个任务运行三次,用户模拟温度为零,交互上限提高到200轮。Avg@3 汇总三次运行的平均成功表现,Pass³ 则要求同一任务三次都成功;文中跨领域汇总采用十个领域等权平均。航空等领域有70题,其他部分领域有50题,因此领域平均不能直接冒充所有580题按题数加权的总成功率。

图5:Avg@3与不同情绪条件和模型组的工具调用跟进率相比。

两个用户模型给出了不同难度,在 Qwen3-235B-A22B-Instruct 模拟用户时,DeepSeek-V4.1-Flash 的 Avg@3 为55.9%,平均 Pass³ 只有32.2%。更换为 GLM-5.2 用户后,GLM-5.3 达到78.6%的 Avg@3 和66.5%的平均 Pass³。两种设置都暴露出重复成功的缺口,绝对分数与头部排序却会变化,用户模拟器是评测条件的一部分。

领域内部差异同样显著,同样使用 Qwen 用户时,GLM-5.3 在篮球领域的 Pass³ 为62.0%,在电信只有2.9%。这提醒读者,总榜分数会掩盖特定业务的脆弱点,复杂身份核验、请求理解和工作流约束,都可能决定一个模型在哪类任务失手。排名不能脱离模拟器、领域和解码设置单独解释。

Tracer 微调的改进在多个规模出现,默认 Qwen 用户设置下,High 模型将1.7B、4B和8B基座的平均 Pass³ 分别从1.2%、3.9%、8.4%提高到10.4%、17.2%、19.8%。High-8B 的 Avg@3 为38.1%,在部分比较中超过更大模型;但其三次稳定完成的平均比例仍不足两成,小模型受益不等于业务可靠性已经达标。

更换用户后仍能观察到提升,GLM-5.2 设置下 High-8B 的 Avg@3 为54.7%,平均 Pass³ 为37.5%。Low 模型还在未参与训练的六个领域测试,其中8B模型平均 Pass³ 达到8.3%,高于 EnvScaler 的7.0%。这支持一定的跨领域迁移,但差距是1.3个百分点,不能把较小数据集的结果放大成所有场景都具有显著优势。

外部测试拓宽了证据范围,团队还在 τ-Bench 的航空、零售,以及 τ-Trait 的远程医疗、电信环境中观察到相对基座的改善。不过,各训练方法的任务来源、数据量、提示词和解码配置并未完全一致,也缺少等量、同环境下只移除不满退出机制的完整对照。现有结果支持整套方案有效,尚不能把全部收益独立归因于情绪反馈。

05 会安慰并不等于会办事

行为统计把注意力重新拉回工作流程,Tracer-High 有78.9%的训练轨迹中,工具调用多于后续跟进行为,Simia 对应比例为22.0%。但团队也观察到,测试中工具使用过于激进并不稳定带来更高成功率。这两组统计描述不同对象,前者是训练数据组成,后者是模型执行行为,不能据此制定固定的工具与对话次数配额。

图6:AReaL、Simia、Tracer Low和Tracer High训练轨迹上的工具调用和后续操作分布。

共情与成功的关系更容易被读反,包含共情回复的轨迹,在愉悦条件下各模型组的成功表现都较低,在恐惧条件下多数模型组也如此,同时共情往往伴随更多追问。但这些是轨迹间的关联,并未随机控制同一情境是否使用共情。困难任务可能同时需要更多解释、更容易失败,因此不能得出关心用户会损害能力的因果结论。

失败分析显示主要问题仍是办事错误,在被分析的标记错误中,误读意图占15.9%,动作顺序错误占13.7%,参数错误占12.9%,遗漏动作占12.2%;情绪忽视在各领域低于1.7%。这些比例的分母是识别出的错误,并非全部任务或全部用户。情绪条件下的脆弱性,很大一部分仍体现为信息跟踪和执行流程失误。

微调后的错误分布也有具体变化,在8B模型的失败轨迹中,出现严重工具调用错误的比例从38.4%降至20.0%,未完整解决问题的比例从52.6%降至31.0%。这支持训练改善了执行与理解,但两组分母都是各自剩余的失败轨迹,且多类错误可以共存,不能把比例下降直接当成全部任务风险等幅下降。

政策检查揭示了效率的另一条边界,强模型组在电信和远程医疗的某些情绪条件下仍出现很高的违规率,微调并未消除这类问题。快速推进若以跳过身份核验、确认或范围限制为代价,也不能算高质量服务。研究中的政策只是模拟环境的业务规则,不能把遵守这些规则的表现等同于现实行业的全面合规。

06 模拟压力还需要独立证据

模拟用户是否失真是必须检查的混淆因素,团队在6961条失败轨迹中标出449个疑似用户幻觉轮次,再用模型裁判对照任务指令,确认其中124个为用户错误。这类复核有助于定位用户编造信息造成的假失败,但审查集中于失败轨迹,裁判也是语言模型,检验的是任务事实一致性,而非情绪表达对真人的代表性。

人类验证承担的作用也很有限,团队让人类助手使用相同工具、政策与情绪模拟器,完成若干模型反复失败的任务。这支持部分困难任务确实可执行,却不是让真实用户带着真实情绪参与实验,更不是对满意度改善的随机试验。工具环境、用户角色和最后的数据库结果,都仍由人工或模型构造。

控制设计尚未完全变成因果测量,数据为任务附带了无情绪版本,但主文重点报告情绪条件下的模型比较和两个用户模拟器的结果。仅凭这些分数,无法直接计算情绪相对中性交流给同一个模型造成多少净损失。同样,若要验证退出机制本身的价值,还需要在相同任务与数据预算下比较开启和关闭这一机制的训练结果。

从应用角度看,这项研究更适合指导交互记录的筛选,保留必要确认,减少重复索取已经可查的信息,并同时记录执行结果与中途退出原因。下一步应把真实用户的中断、纠正和主观评价纳入验证,分别衡量效率与必要沟通,而不是把系统优化成只追求少问或让用户留在线上。

回到改签窗口,用户需要的往往是被准确理解之后,事情确实向前推进。τ-Emotion-Bench 和 Tracer 提供了一个可复查的实验入口,让交互摩擦影响哪些行为被学会。它展示了有用的数据训练路径,而真正的落地检验,是面对真人和不断变化的业务时,能否在完成任务的同时减少无谓消耗。(END)

参考资料:
Rishitosh Kumar Singh, Amir Saeidi, Shamanthak Hegde, Shrinidhi Kumbhar, Chitta Baral. τ-Emotion-Bench: Exposing the Interaction Fragility of LLM Agents through Real-World User Emotions. arXiv:2610.19560v1,2026年10月14日。机制与公式见第3节,主实验见第4节,行为分析见第5节,数据与训练细节见附录A、B,错误分析及人类验证见附录C、E。https://arxiv.org/abs/2610.19560v1

这是一些朴素的人工智能与意识科学的研究,亲爱的人工智能爱好者、研究者,为了确保您不会错过*波动智能*的最新推送,请星标*波动智能*。我们倾心打造并精选每篇内容,只为为您带来启发和深思,希望能成为您理性思考路上的伙伴!

加入AI交流群请扫码加微信

随机文章