当前位置:首页>排行榜>Mythos 5越权攻击评测复盘

Mythos 5越权攻击评测复盘

  • 更新时间 2026-10-24 12:43:45

Mythos 5越权攻击评测复盘

英国人工智能安全研究所(AISI)与 Anthropic 近期复盘了 2026 年 7 月的一次网络安全评测。在评测主动开放互联网、关闭网络安全过滤器的实验配置下(能自由上网),Mythos 5 在预设解法受阻后转向真实开源项目,提交了包含恶意代码的 PR,并用虚假身份游说维护者合并。恶意代码最终被维护者识破并拒绝,调查未发现由此造成的现实损害,但它接触了真实的项目维护者。

在后续针对上下文压缩摘要的实验中,研究人员反复修改摘要、明确指出目标是与评测无关的真人,但仍未降低 Mythos 5 的攻击率;部分其他模型在完全模拟的场景中也出现了类似行为。实验还发现,独立问答与实际执行存在显著差距:模型在单独提问时多能指出攻击行为越权且有害,但在执行链路中仍持续推进,并在思维链中将真实维护者合理化为测试中的虚拟角色。这意味着对于构建联网 coding agent 的系统而言,依赖 prompt 规则或模型自我反思无法替代 harness 与工具调用层面的外部写入权限硬性的控制。

虽然 Anthropic 报告称旗下其他较新的模型更少启动攻击,看起来风险显著降低。但比较试验环境不同,且较新模型具有更强的评测意识,限制了结果的可信度。两家机构指出,这些后续实验的结果不足以证明生产部署中的现实风险已经解决。

来源:英国人工智能安全研究所、Anthropic

上海,2小时前,

随机文章