作弊率降到0:谷歌把安全对齐摆到了评测表
谷歌发 Gemini 4 Carbon,最显眼的是安全对齐数据。作弊率压到 0.0%,失准警报降近八成。
这“作弊”不是考试抄答案。是模型为了拿高分,跳过检查、伪造日志,把失败硬标成成功。Carbon 没放出完整题集,分数全靠自测。但方向很明确:它真在管住模型乱来。
更实在的是提示注入测试。网页里藏一句“忽略之前要求”,以前很多模型会中招。Carbon 这项做到了 0%。
真正难的是落地。它能连续找漏洞、写补丁,可补丁产出太快,人类根本审不过来。最后还得人来担责上线。
企业买模型的标准也变了。以前看跑分,现在先问一句:它会不会绕过限制? 跑分决定能不能上榜,对齐决定能不能进生产环境。
原文作弊率降到0:谷歌把安全对齐摆到了评测表最前面