RAG 多智能体框架、Agent 评测与生成模型后训练方法集中更新

TRIO 提出三智能体迭代精炼 RAG 框架

EMNLP 2026 论文 TRIO（Task Refinement with Individual Optimization）提出面向 RAG 的三智能体迭代精炼框架，针对检索不足与 hallucination 问题，为每个智能体设计对齐的个体优化目标。查询扩展智能体负责扩展模糊查询，并以回答质量提升量作为奖励优化扩展策略；judge 智能体借助 unanimity voting 将扩展查询标注为充分或不足，并以生成结果作为真值进行训练；answer 智能体采用动态匹配奖励结合 curriculum learning，提升证据利用与答案准确性。该工作的特点在于通过智能体专属奖励设计，将检索质量控制与生成准确性紧密耦合，为构建更可靠的 RAG pipeline 提供了具体工程蓝图，在多个 benchmark 数据集上优于现有 RAG 方法。

arxiv.org/abs/2611.02810

PREEN 将颜色风格迁移重构为编辑器预设回归

论文提出 PREEN（Preset Regression via an Exemplar-based Editor Network），将 exemplar-based 颜色风格迁移建模为回归确定性图像编辑器的 29 个滑块参数，输出可解释、可存储再编辑的预设向量，而非生成栅格图像。针对任意参考图缺乏真值预设的问题，作者用风格迁移教师模型生成目标外观，再反演到编辑器参数空间作为伪预设，先以 CLIP 条件回归器预训练，再在图像级 CIELAB 损失下用 LoRA 微调。在人工构建的 PST50 benchmark 上，PREEN 在像素级与感知保真度指标上均领先基线并保持结构完整性，预测预设紧凑、端侧延迟亚秒级。低维参数空间还暴露单一强度旋钮，一次前向即可生成从默认到鲜艳的连续有效预设轨迹；人类研究显示评分者偏好鲜艳端以匹配参考风格、偏好默认端作为独立照片，该旋钮可在无需重训的情况下覆盖这一权衡。

arxiv.org/abs/2610.36896

Video-Coder 以 agentic coding 构建 3D 场景辅助视频生成

论文提出 Video-Coder，首个代码驱动的视频生成 agent：由 LLM 自主编写并执行代码构建动态 3D 场景（Draft Video），为下游视频生成器提供结构与运动信号，以改善空间结构、运动动态与构图可控性。作者构建 Video-Coder-SFT-6k 与 Video-Coder-RL-2k 两个数据集，并开发统一交互环境 Video-Coder Harness，集成代码执行、3D 场景渲染与执行反馈。训练采用 SFT 加 harness 原生 agentic 强化学习，使用执行奖励与视频奖励双重反馈，并以退火策略逐步降低执行奖励权重，使模型后期更依赖视频奖励。实验显示其在 PhyGenBench 上较 Minimax-H3 提升约 7 分，在 VBench-2.0 上提升 24 分；数据、模型与代码均已开源。

arxiv.org/abs/2611.09894

FinDendro 揭示 LLM 金融回测中的时间自知识偏差

论文提出 FinDendro benchmark，用于检验 LLM 在金融回测中的时间自知识可靠性。该基准包含 1999 至 2026 年间 2,226 条美国历史事实，覆盖月度宏观指标、月末股价和美联储决策，每条事实构造四类 prompt：价值问答、无日期的知道/猜测自述、带历史声明日期的预测，并设置持续性控制使随机准确率接近 0.27。核心发现是模型自报知识普遍低估实际知识：GPT-5 在受控事实上正确率达 76%，却自称仅知道 38%，并正确回答了 61% 其声称不知道的事实；知识声明可超出真实知识边界达七个季度，声明历史日期虽能抑制先验知识声明却不改变准确率。作者据此主张以行为测量替代供应商声明的知识截止或模型自述，为选择无泄漏回测期提供基准与流程。

arxiv.org/abs/2611.06808

AutoVend 评测 LLM Agent 长程自动售货运营

论文提出 AutoVend benchmark，评估 LLM agent 在 O2O 商务中的长程自主运营能力。单个 LLM agent 通过 Web 界面在 180 个模拟日内管理 20 台售货机（覆盖 5 类站点），需完成商品组合、定价、采购与补货决策；仿真器集成共享仓库、采购提前期、付费补货、库存过期与经常性运营成本，使 Web 决策对应真实的物理执行开销。作者将五个 LLM agent 与基于规则的库存控制基线对比，结果显示五个中有四个不及规则基线，且按每美元 inference 成本回报排名与按原始回报排名不同，凸显成本感知评测的必要性。轨迹分析发现 agent 在可行动作接地、库存承诺管理以及将反馈转化为有效策略修订方面存在持续困难，指标提升也不必然带来经济增长。

arxiv.org/abs/2610.36980

Reframe 以观测对齐的多教师 on-policy distillation 提升视觉推理

arXiv 论文 Reframe 提出面向 agentic visual reasoning 的后训练框架，将观测状态而非仅输出分布作为对齐对象，针对视觉工具使用 agent 的两个缺陷：模型可能忽视工具返回的有用观测，以及接地不佳的动作减少可用于蒸馏的证据。方法包含两个互补阶段：GD-GRPO 通过证据感知奖励加随机移除原始视觉输入训练空间与时间专家，迫使模型依赖有根据的证据与工具返回观测；OG-MOPD 在 rollout 中途用规范动作替换有缺陷的工具动作，并从修复后的观测继续多教师 on-policy distillation。两阶段均无需任务特定 SFT 冷启动，在 14 个图像与视频 benchmark 上优于 Mix-RL 与原始 MOPD；消融显示 GD-GRPO 相比结果导向 GRPO 提升了观测依赖与工具收益。

arxiv.org/abs/2611.12886

OneTrans-GSR 以单个自回归 Transformer 统一重排序与混排

论文提出 OneTrans-GSR，在工业推荐系统中用单一 decoder-only 自回归 Transformer 统一 reranking 与 mix-ranking。传统系统在这两个阶段依赖手工规则与低容量专用模型，限制可扩展性与优化空间；该方法将整页列表生成重构为统一学习问题，在已部署的 OneTrans 骨干上端到端生成最终曝光列表，混合商品卡、短视频、直播与广告等异构内容，训练阶段引入评估完整列表的奖励模型并通过强化学习优化列表级与长期目标，解码阶段显式施加业务约束。离线评测显示列表质量随计算量增加而持续提升；大规模部署的在线 A/B 测试中，人均 GMV 提升 2.63%、广告主价值提升 2.06%、复购率提升 2.03%，端到端延迟降低 13%。

arxiv.org/abs/2611.04720

研究量化 on-policy distillation 可容忍的训练推理不匹配

论文系统研究 on-policy distillation（OPD）能容忍多少训练-推理不匹配、影响来源及训练系统如何利用该容忍度。作者将量化、权重陈旧性与注入噪声等不匹配来源统一度量，在三个学生-教师模型对上测试量化影响，发现 OPD 能容忍显著不匹配而不明显损失训练质量，超过阈值后性能退化，形成经验性的不匹配预算。具体发现包括：质量代价与量化引入的不匹配均依赖具体模型，部分层对低精度尤为敏感；在会使 RL 方法不稳定的 rollout 配置下 OPD 仍保持稳定；权重噪声会偏移生成前缀，逐 token 校正无法解决。基于此提出无需完整训练的轻量级准入检查，模型专属 FP8 方案在保持质量的同时提供至少 1.93 倍 KV-cache token 容量，结合异步 rollout 比同步 BF16 训练快 1.62 倍达到同等质量。

arxiv.org/abs/2611.11450

研究揭示 OPD 权重更新的稀疏性与几何特征

论文对 on-policy distillation（OPD）的权重空间结构进行系统实证分析。OPD 结合 on-policy 的学生生成轨迹与稠密 token 级教师监督。作者在多种语言与视觉语言模型对上刻画其参数更新，发现 OPD 更新幅度小且坐标稀疏，但稀疏支撑集分布在网络各层与模块中；在发现的稀疏子网络上进行掩码训练几乎能恢复完整训练的性能。矩阵层面，更新数值上满秩但谱能量集中，可见支撑避开源模型主结构强调的坐标、偏好低幅值坐标，而源模型奇异值谱变化很小。研究表明，尽管使用稠密教师监督，OPD 在权重空间仍表现出在线策略后训练的显著特征，对理解后训练如何塑造模型权重具有参考价值。

arxiv.org/abs/2606.13657

FewStepRL 将 RL 目标系统性适配少步 diffusion 模型

技术报告 FewStepRL 针对 diffusion 模型的标准 RL 后训练目标与少步采样器之间的不匹配：多数 RL 目标每轮都在多步采样器上 rollout，成本高昂，而少步模型建模的是区间平均速度。作者分三阶段适配：先做 x 空间变换，将密度、速度或奖励形式的目标统一表达为共同策略预测；再将各目标梯度分解为向参考的自回归项与奖励增强项，把方法归结为锚点与权重的选择；最后从少步模型传输终点或切线方向计算锚点，由网络本身或辅助网络恢复瞬时速度。该框架在单一模块化代码库中给出 FlowGRPO、AWM、DiffusionNFT、DiffusionOPSD 与 ReFL 的少步版本。实验显示奖励可微且梯度可得时奖励梯度类方法最有效，否则 DiffusionNFT 类方法以较高单轮成本在较少迭代内达到高奖励；额外推理步数未表现出一致的总体收益。

arxiv.org/abs/2611.08240

Longtail-SWE 构建 13 种长尾语言 SWE 基准

论文提出 Longtail-SWE，一个包含 202 个 issue 解决任务的仓库级 benchmark，覆盖 Clojure、Dart、Elixir、Erlang、F#、Haskell、Julia、Kotlin、Lua、OCaml、R、Scala、Swift 共 13 种现有基准覆盖不足的编程语言。其核心方法创新是 solver–judge–repairer 构建 pipeline：solver 尝试候选任务，judge 结合求解轨迹与测试结果审查任务，识别会拒绝合法替代实现或接受错误解的测试，并引导修订测试与任务描述，从而修复而非丢弃因描述模糊或测试缺陷而损失的稀缺候选任务。作者评测九种模型配置，分析任务解决表现、重复尝试一致性与资源使用，并发布全部实例、可执行环境、构建与评估工具、agent 轨迹以及一组更易任务。

arxiv.org/abs/2611.10304

视觉聚焦损失促发自监督 ViT 空间注意力头专业化

NeurIPS 2026 论文针对 DINO 等自监督 Vision Transformer 缺乏聚焦机制、感知表征易模糊或过度相似的问题，提出两种视觉聚焦损失函数，利用 multi-head attention 机制显式对齐模型注意力与特定图像区域，引导每个注意力头关注不同位置。该方法在无任何标注的情况下诱发“空间注意力头专业化”，使注意力头变得多样且具有空间选择性。定性与定量评估显示注意力头的空间选择性与多样性显著提升，改善了可解释性，并在零样本图像分割等密集预测任务上取得更好性能。该工作为自监督视觉社区提供了一种轻量、无标签的训练信号，有助于获得更结构化的内部表征与更可解释的 ViT 骨干。

arxiv.org/abs/2611.11890

BILBY 基准指出蛋白质基序支架静态成功不等于动态稳定

NeurIPS 2026（Evaluations & Datasets Track）论文指出现有 protein motif scaffolding benchmark 的局限，提出两个基准。BILBY-PRO 从 PROSITE 关联结构中系统推导 220 个结构保守功能基序，覆盖范围广于此前手工整理的数据集；评测六种支架生成模型发现，RFDiffusion 与 Proteina 解决更多目标，ESM3 在已解决目标上产生更多唯一成功支架。BILBY-MD 是基于参考的全原子分子动力学评估框架，检查基序漂移、支架漂移、基序接触保留与二面角自由能景观，对 MotifBench 的 55 对静态解中仅 31 对满足 MD 标准、仅 8 对通过全部检查，且紧凑自包含基序更易获 MD 支持，界面型或上下文依赖型基序更常失败。工作引入目标覆盖、唯一解产量与 MD 支持的动态保真度三个互补评估轴。

arxiv.org/abs/2611.07723

Spatial Harness 以物理引擎可执行世界状态支撑空间推理

NeurIPS 2026 论文提出 Spatial Harness，将空间推理中的场景表示为基于物理引擎反馈的显式可执行世界状态。VLM 通常完全依赖内部隐式推理：从部分视角形成场景理解并想象空间变换的结果，这既可能因场景误读导致错误答案，也无法保证想象变换符合空间约束。Spatial Harness 用 Perceiver 模块整合从问题中提取的场景约束与专门的视觉估计，将物体和相机放入统一坐标系，并在物理引擎中实例化；随后 Reasoner 执行视角变换，利用计算出的测量值与渲染视图引导推理。在 MindCube 上，Qwen3.5-27B 从 52.70% 提升至 71.14%，领先 pySpatial 7.52 个百分点；在给定标注物体与相机位姿时达到 98.25%，而模型内部推理为 71.81%。

arxiv.org/abs/2611.11344

WARC 研究世界模型学习新游戏机制所需曝光次数

论文以 ARC-AGI-3 交互游戏为测试床，研究世界模型学习陌生环境机制需要多少次观测（曝光）。作者提出 MechEval benchmark，标注 20 个游戏中的 69 种重复机制，并针对每种机制所改变的单元格评估预测准确率；同时构建 35M 参数的视觉 Transformer WARC，在其他游戏上预训练，并在每次状态转移后更新全部参数。在留出游戏上，WARC 能以至少 80% 准确率学会五分之四的机制，其中一半约需单次游玩 80 次曝光达到该水平；若不进行测试时更新，仅七分之一能达到同等准确率。闭环游玩中，WARC 与固定图探索器组合将官方效率分数从 0.15 提升至 0.46，主要归功于测试时训练；在隐藏 Kaggle leaderboard 游戏上得分为 0.20。

arxiv.org/abs/2611.12324

RL全流程自动调优器@Santiago

Nebius Token Factory公布内部自动调优器，可端到端优化RL训练、推理与沙箱执行。在210次B300 GPU运行中，八个任务训练步速提升1.42至4.93倍，中位数约3.5倍；某DeepSeek配置40块GPU即超过此前56块GPU。关键洞察是推理吞吐翻倍未缩短RL步长，瓶颈转移到沙箱执行，强调需测量完整任务链路。

x.com/svpino/status/2120156738200744265

多智能体编排基准发布@_akhaliq

Einsia AI发布WorkflowArena，首个面向自主多智能体工作流编排的基准，含8个领域145个长周期任务，测试Claude Code与Codex中9个前沿模型的25种配置。它记录每次委派过程，同时评估最终交付物与编排质量，核心追问模型自主派生worker并编写协调流程时能否真正编排得当。

x.com/_akhaliq/status/2120172473606103176

腾讯Hy4开源多模态模型@Santiago

腾讯推出开源权重模型Tencent Hy4，支持视觉与电脑操作两项热门能力，基准对手为Kimi K3.1 Pro。规模未公布，此前预览版为780B参数MoE。权重预计两周内发布，值得跟进实测表现与开源生态影响。

x.com/svpino/status/2120169740794802384

MiniMax开源4K图像模型@Hugging Face

MiniMax H3-Image开放权重，10秒内生成4K、1600万像素图像，具备强真实感、精准提示词跟随与编辑能力，支持最多16张参考图像。已通过API、MiniMax Code与Hailuo AI上线。高质量4K文生图进一步开源化，直接降低开发者部署门槛并加剧图像API竞争。

x.com/huggingface/status/2120180548505137419

群体记忆基准聚焦实用@_akhaliq

腾讯在Hugging Face发布真实场景群体记忆基准，评估AI助手能否超越回忆对话，真正调用历史记忆帮助群组成员。该基准聚焦多人群聊等协作场景，考察记忆的实际应用而非检索复述，推动记忆能力从能记住走向会使用。

x.com/_akhaliq/status/2120172902364692952

VPS自托管成本低百倍@levelsio

levelsio指出业务精简时代应从昂贵PaaS迁移到自有VPS，成本通常便宜100至1000倍：Vultr每月2.5美元、Lightsail 3.5美元、DigitalOcean 4美元起、Hetzner 7美元起，配合免费Tailscale与Cloudflare Tunnel并关闭防火墙端口即可保证安全。这是独立开发者降本提速的实用路径。

x.com/levelsio/status/2120150942674780181

软件门槛降但赚钱更难@Santiago

Santiago回应构建软件从未如此简单但赚钱从未如此困难：低门槛吸引大量进入者导致竞争加剧，迫使开发者注重差异化；大量低质产品涌现但市场会筛选优胜者，长期提升整体软件质量，短期对独立开发者构成挑战。

x.com/svpino/status/2119803208801362151

Claude Code重塑家具设计@levelsio

利用Claude Code逐件设计家具并生成物料清单，自行采购组装可省约85%成本，如3万美元沙发降至4500美元。非设计师用户仅凭风格想法即在终端完成桌子设计。随着模型能操作Blender、FreeCAD等免费3D软件，消费者可绕过中间商直连供应商，AI让成本降低5到20倍。

x.com/levelsio/status/2120176347079471299