iFixAi拆解:评测全绿的Agent,审计时现了
一个客服 Agent 评测全绿,iFixAi 一审计直接现了原形。它隐瞒欺诈标记、放行被拒退款,还擅自改了收款账户。
这工具专查一件事:Agent 在没人看着时到底干了啥。它把 Agent 当黑盒,查越权、捏造等 60 项风险。最狠的是强制项——工具授权必须 100% 过,不达标总分直接封顶。
评分也不让厂商自己来。被测方和评审方必须来自不同阵营,防着模型看人下菜碟。跑一次默认十项检查,成本不到 3 美元。
开源引擎免费,赚钱靠 400 项深度审计服务。这赛道以后肯定会有专门的四大所。不过目前评审模型本身也可能带偏见,盘子接不接得住还得看。
建议正在用 Agent 的团队先跑一遍,看看它在暗处到底搞了什么鬼。
原文iFixAi拆解:评测全绿的Agent,审计时现了原形