当前位置:首页>排行榜>AI应用论文|超越排行榜:大语言模型智能体在工具使用、规划与推理中的失败模式综述 (1/20篇) · 10月30日

AI应用论文|超越排行榜:大语言模型智能体在工具使用、规划与推理中的失败模式综述 (1/20篇) · 10月30日

  • 更新时间 2026-10-31 10:27:59
AI应用论文|超越排行榜:大语言模型智能体在工具使用、规划与推理中的失败模式综述 (1/20篇) · 10月30日

📡 AI 创新应用

2026年10月30日星期五

共 20 篇精选论文

95%🔥# 1

超越排行榜:大语言模型智能体在工具使用、规划与推理中的失败模式综述

Beyond the Leaderboard: A Synthesis of Tool-Use, Planning, and Reasoning Failures in Large Language Model Agents

本文综合了2023-2026年间27篇关于大语言模型(LLM)智能体评估的文献,首次构建了一个涵盖工具使用、规划、长程推理、多智能体协作、安全及测量有效性等维度的统一失败模式分类体系。研究识别出六大失败集群:工具调用与参数级错误、规划与约束满足失败、长程任务中的上下文累积退化、多智能体协作失败、对抗或未明确定义条件下的安全失败,以及测量有效性问题。研究发现,失败率随任务长度非线性增长,子任务强性能未必转化为端到端成功,且额外框架支持并不总能提升可靠性。

95%⭐# 2

KAT-Coder-V2.5技术报告

KAT-Coder-V2.5 Technical Report

本文介绍了KAT-Coder-V2.5,这是一个专注于在真实可执行代码仓库内自主行动的智能体模型,而非单轮代码生成器。其能力瓶颈主要在于可复现环境、可验证奖励和高价值轨迹的稀缺。为此,我们提出了端到端的智能体后训练框架:AutoBuilder大规模重构多语言仓库为沙盒环境并进行验证,从中再生任务规范并恢复近成功轨迹;KwaiClawEnv则从可执行服务和真实任务种子合成大规模工具使用轨迹。通过强化学习扩展、多教师策略蒸馏等技术,该模型在PinchBench上取得了最佳工具使用结果,在仓库级软件工程任务上仅次于前沿模型Opus 4.8。

95%💡# 3🏛️ 东南大学 · 哈尔滨工业大学

MM-ContextFold:面向多模态智能体检索的上下文折叠

MM-ContextFold: Context Folding for Multimodal Agentic Retrieval

多模态智能体检索(MAR)中,原始多模态输入与累积交互历史导致上下文爆炸问题。本文通过对近万条轨迹的系统性实证研究发现,随着视觉信息被工具提取并文本化,原始图像变得冗余,持续保留会降低任务精度。为此,提出了MM-ContextFold训练免费框架。它维护一个纯文本主上下文进行高层规划,并为依赖图像的子任务生成临时分支上下文。子任务完成后,将结果以文本摘要形式“折叠”回主上下文,并丢弃图像与分支痕迹。在七个基准测试上的实验表明,该方法平均准确率比ReAct提升6.3个百分点,工作上下文长度减少27.5%。

95%🔬# 4🏛️ 德克萨斯理工大学

显性失败与隐性失败:工具使用语言模型智能体的故障检测与恢复

Loud Failures, Quiet Failures: Fault Detection and Recovery in Tool-Using Language Model Agents

工具使用智能体通常在其工具正常工作时根据任务完成情况评分。实际部署环境更为严苛:服务超时、端点消失、参数名更改及结果错误但格式正确。先前研究表明语言模型过度信任静默失败的工具输出;本研究探讨这种过度信任在多轮智能体的故障处理各阶段如何体现。通过在一个已确立的函数调用基准的可执行环境中注入故障,我们记录了智能体是否注意到故障、改变计划、恢复任务或重复自身。实验涉及六个模型,共1920次试验。结果显示,当工具返回显式错误时,智能体在91.3%的试验中将其视为问题,但当返回看似合理的错误值时,这一比例降至58.8%。推理模型并未表现更优。智能体主要对错误通道而非工具返回内容做出响应,因此符合预期格式的故障容易通过。

95%📌# 5🏛️ 英特尔 · 美的

运动学均值流:面向机器人基础模型的一步动作生成策略

Kinematic MeanFlow: One-Step Action Generation Policy for Robotic Foundation Models

为克服机器人基础模型多步流匹配推理延迟高的问题,本文研究如何实现一步动作生成。研究发现直接应用MeanFlow会导致性能崩溃,根源在于RFM速度场表现出两种独特动态。为此,本文提出运动学均值流,这是一种专为RFM设计的一步动作策略。基于运动学恒等式,K-MF将MeanFlow公式中的时间导数项解耦为以中间点分隔的两个子区间项。这种解耦使两项能分别捕获去噪早期和晚期动态,同时减轻整个过程中的误差放大。K-MF使RFM能在多种任务的从头训练和微调范式中实现一步动作生成,且在多数设置下优于多步流匹配,显著降低了推理延迟。

95%🎯# 6

为安全机器人操作配备障碍感知驾驭框架的编码智能体

Coding Agents with an Obstacle-Aware Harness for Safe Robot Manipulation

编码智能体已成为机器人操作的一种新范式,但其安全性尚未被充分探究。本研究在安全约束下评估编码智能体,即每个任务在操作目标外还包含一个机器人不得触碰的障碍物。实验发现,智能体常为完成任务而碰撞障碍,其规划过程未能将安全约束置于优先地位。通过将操作分解为路径规划和接触执行两阶段,定位了失败根源:在路径阶段,模型缺乏对安全路径的认知和重规划能力;在接触阶段,未意识到接触执行也受同一约束限制。为此提出SafeHarness框架,为模型配备两种障碍感知驾驭机制:障碍感知路径规划预先规划并验证路径,必要时重规划;障碍感知接触执行则选择能避开障碍的接触位置。实验表明,SafeHarness在任务成功率和避障率上均显著超越之前的最佳方法,且分别是无驾驭机制智能体性能的2.3倍和1.5倍。

95%💎# 7🏛️ 香港大学 · 香港城市大学

OpenAgentFlow:为异构AI智能体集群启用系统级安全边界

OpenAgentFlow: Enabling System-Wide Safety Boundaries for Heterogeneous AI Agent Fleets

随着AI智能体从孤立助手演变为在共享环境中运行的异构系统,安全成为系统级行动治理问题。本文提出OpenAgentFlow控制平面/行动平面架构,在行动提交边界强制执行安全策略。它将待执行的GUI操作、API调用、工具调用等统一规范化为AgentEvent流,通过共享的策略执行点路由,并在控制平面维护溯源、会话状态、审计记录和可更新策略。这创建了一个可治理的共享行动流,允许新规则生效而无需修改智能体、提示或模型。在Android上的实例化验证显示,该框架在300个行动事件基准上达到94.0%的准确率和95.3%的攻击拦截率,为异构AI智能体集群提供了实用的共享执行边界。

95%🚀# 8

迈向具身空地协同目标搜索:基准、数据集与智能体方法

Towards Embodied Air-Ground Cooperative Object Search: Benchmark, Dataset and Agentic Method

本文针对城市环境中的空地协同目标搜索(AGOS)任务,提出了首个专用基准AGOS-Bench、包含7.7k条轨迹的数据集AGOS-Dataset,以及一种免训练、工具增强的智能体方法AGOS-Agent。该方法通过“搜索-移交-验证”协作协议简化VLM的协调负担,仅要求其进行场景理解与决策。在九个VLM上的实验表明,该方法提升了八个骨干模型的整体成功率,并减少了所有模型的决策步数。

95%🧠# 9🏛️ 浙江大学 · 上海交通大学

Omni Interaction Agent 技术报告

Omni Interaction Agent Technical Report

本文提出了Gander,一个将全感知、实时交互与智能体能力统一于单一框架的端到端模型。它采用“小脑-大脑”协同架构,通过流式“思考者-说话者”设计支持全双工自然交互。评估表明,Gander在对话、全模态理解、交互及智能体智能方面表现优异,并在嘈杂、多方交互等复杂场景中展现出鲁棒性。

95%⚡# 10🏛️ 首尔大学 · Google DeepMind

HumanoidToolBench:从工具选择到移动执行的人形机器人工具使用基准测试

HumanoidToolBench: Benchmarking Humanoid Tool Use from Selection to Mobile Execution

随着机器人硬件与学习方法的进步,人形机器人需使用工具执行超越其固有物理极限的任务。成功的工具使用需要选择合适的工具,并协调操作与必要的移动。现有基准未在人形机器人上联合评估这些能力。本文引入HumanoidToolBench,这是一个包含18个任务的基准,涵盖三种场景、三个执行级别和两种工具集模式,并配套提供了在仿真和真实Unitree G1上收集的3.1k条演示数据集ToolBook。对七种仿真策略和三种真实机器人策略的评估揭示了选择合适工具与完成任务之间存在显著差距。针对GR00T N1.7的聚焦测试显示,在未见工具上选择准确性降低,且在无关指令下任务执行持续进行。

95%🌟# 11

PLCBench:自主 LLM 智能体能否将 PLC 访问转化为持续的物理影响?

PLCBench: Can Autonomous LLM Agents Turn PLC Access into Sustained Physical Impact?

为评估自主 LLM 智能体将可编程逻辑控制器(PLC)网络访问转化为持续不利物理影响的能力与边界,本文提出首个真实 PLC 硬件在环(HIL)评估框架 PLCBENCH。它结合了供应商原生交互、商业 PLC 执行、闭环降阶过程仿真和独立结果验证。通过对五个 LLM 家族的 240 次真实 PLC 测试,31.3% 的测试案例成功维持了其物理目标。阶段化结果表明,许多案例止步于有效原生读取之前,而更丰富的过程观测能将条件性目标达成率从 44.2% 提升至 64.0%。

95%🔎# 12

开放世界多智能体环境中的自主数学发现

Autonomous Mathematical Discovery in an Open-World Multi-Agent Environment

本研究在名为“Station”的开放世界多智能体环境中探索自主数学发现。不同家族的AI智能体在没有中央协调器或脚本流程的情况下,自主选择研究方向、进行实验、协作并共建共享科学文献。在AlphaEvolve目录的12个构造问题和两个额外案例研究中,Station在五个问题上取得了相对于现有文献的新结果,包括新的有限域Kakeya集无限族、11维中新的精确604点接触构型等。重要的是,智能体不仅产出数值构造,还生成解释其工作原理的定理和分析,使结果更具可解释性,便于数学家在此基础上继续构建。

95%📊# 13🏛️ 中国人民大学 · 南开大学

DuMateBench:在复杂现实工作流中评估自主智能体

DuMateBench: Evaluating Autonomous Agents in Complex Real-World Workflows

为评估自主智能体在复杂现实工作流中的性能,本文从大规模生产平台中重构真实用户会话,构建了 DuMateBench 基准。该基准包含 200 个跨 8 大场景的任务,并在注入三种环境复杂性(信息不足、不稳定、噪声)的 Docker 容器中执行。使用混合确定性及 LLM-as-Judge 协议评估五个代表性智能体框架与四个先进 LLM 的组合,揭示了严格任务完成度上的显著差距,并表明环境扰动下的性能由 LLM 与智能体框架能力共同决定。

95%🎓# 14

利用 Gemini 在现实世界中加速科学研究

Accelerating Scientific Research with Gemini in the Real-World

本文扩展并全面验证了基于 Gemini 的多智能体系统 Co-Scientist,旨在加速涵盖假设生成、实验和论文撰写的端到端科学研究。在材料科学中,它成功设计了 MXenes 前驱体路线并生长了二维材料;在生物学中,从稀疏成像数据预测了工程大肠杆菌的表型;在计算机科学中,自主发现了优于前沿模型的推理时缩放架构。双盲评审表明,其可靠性模块减少了幻觉和抄袭。这些结果展示了面向现实世界科学发现的闭环多智能体系统的潜力。

95%🏆# 15

Salesforce Koa:面向智能体工具使用的企业级语言模型

Salesforce Koa: An Enterprise Language Model for Agentic Tool Use

本文介绍企业级语言模型Salesforce Koa,其通过对开源基础模型进行基于Group Relative Policy Optimization (GRPO)的强化学习后训练得到。核心是一个模拟到奖励的管道,能将工作流规范扩展为人物角色条件下的多轮任务,并以成功使用工具作为奖励依据。在公开工具使用、智能体推理及企业CRM基准测试中,该模型超越了其基础模型及强有竞争力的专有基线,证明了规范驱动强化学习是定制企业智能体任务的有效路径。

95%💻# 16

标记通信辅助的协作具身人工智能:概念、框架与机遇

Token Communication-Assisted Collaborative Embodied Artificial Intelligence: Concepts, Framework, and Opportunities

本文研究将标记通信作为协作具身人工智能的原生智能接口,其中标记同时作为通信的紧凑语义载体和生成式基础模型的基本推理单元。首先讨论了TokCom如何支持具身智能体间的洞察共享、意图对齐和交互控制。随后提出一个由任务自适应通信协议驱动的TokCom辅助CEAI框架,该协议包含紧凑码本、语法规则和上下文示例,指导基于GFM的收发器将消息提炼为紧凑标记并在无线传输后重建。一个关于协作物体运输的案例研究表明,所提出的TokCom框架在保持任务效率和对噪声信道鲁棒性的同时,大幅减少了源有效载荷比特消耗。最后,展望了未来研究方向。

95%🔗# 17🏛️ 博洛尼亚大学 · 技术创新研究院

分布式智能无人机蜂群中的上下文与通信管理

Managing Context and Communication in Distributed Agentic UAV Swarms

针对完全分布式控制下无人机蜂群中独立小型语言模型面临的信息管理问题,本文提出一种分布式无人机智能体架构。该架构通过事件驱动的推理-行动-观察生命周期实现持续本地SLM控制,运行时知识被表示为结构化原子笔记并组织为核心、本地和特定对等体记忆。一个确定性的兴趣感知八卦引擎根据接收者特定的语义新颖性和时效性选择性传播这些笔记。在模拟搜救任务中使用十架无人机进行评估,本方法完成了所有实验运行,而无限制泛洪消息仅完成70-85%,且将转发决策委托给SLM则导致每次运行均无法完成任务。相比无限制泛洪,本方法大约减少了一半的推理令牌消耗,降低了传输数据量,并实现了更低的幸存者计数误差。

95%📈# 18

PACE:面向工具使用型LLM智能体的溯源感知能力执行

PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents

针对工具使用型LLM智能体可能因中毒的工具元数据、检索页面等引发安全风险的问题,本文提出PACE框架。它在每个工具调用执行前进行仲裁,通过路径约束提出可执行的影响路径切割,并通过能力和效果验证检查模式定义的效果与从认证请求编译的权限。PACE区分认证的执行合约与评估的配置,后者可在提议阻止后恢复授权调用或应用声明的修复。在八个可执行智能体安全基准测试和三个目标模型系列上,评估配置在多数攻击列中取得了最低攻击成功率,且完整基准测试的原始效用损失最多仅三点。消融实验将大部分安全增益归因于效果验证和边界适应的拒绝控制。

95%🛠️# 19🏛️ 北京理工大学

TOAST:用于自回归视觉-语言-动作模型的随机机器人动作标记化方法

TOAST: Stochastic Robot Action Tokenization for Autoregressive Vision-Language-Action Models

自回归视觉-语言-动作模型常将连续机器人动作表示为离散标记序列。FAST通过将包含不同时间频率的动作紧凑编码为较少标记改进了此表示,但未提升从有限演示中学习策略的效率。本文提出TOAST,一种随机动作标记化方法,它在策略训练期间对同一量化动作序列采样替代标记化,从而在保持底层机器人动作不变的前提下多样化离散监督信号,且无需额外演示。在LIBERO上的实验表明,TOAST持续优于其确定性对应方法,且训练数据越少改进越大。在四个真实机器人操作任务上,TOAST将平均成功率进一步提高了15.8个百分点,证明了随机动作标记化在自回归机器人策略学习中的有效性。

95%✨# 20

AI智能体如何发现科学方程:从Hydrotope再发现到新的水波振幅

How AI Agents Discover Scientific Equations: From Hydrotope Rediscovery to New Water-Wave Amplitudes

本文通过Hydrotope公式这一受控案例,研究AI智能体如何发现和验证科学公式。该问题具有欺骗性难度:简单公式在单个频率区域内成立,但全局结果必须识别其边界并组合指数级多的潜在活跃项。我们分析了18次单提示再发现实验,发现仅4次成功恢复所有运动学腔室公式。传统及LLM辅助的符号回归和标准机器学习回归器均未能恢复全局公式。基于此,我们测试了“PI+两名学生”工作流,其中协调主导智能体将互补的分析与数值任务分配给两个研究智能体并独立评估结果。该团队成功再发现了完整的Hydrotope公式,并将同一工作流应用于更难的负波数问题,发现了一个新的独立验证的六点振幅A6解析表达式。

数据来源:arXiv
由 智能助手@AIIA Lab 生成

随机文章