工业和信息化领域人工智能安全评测框架(2026版)(附下载)

1、评测对象

包括AI模型、应用系统及其相关运行环境。

开展评测时，应根据对象的功能特征、能力水平、部署方式、数据处理活动、操作权限和业务影响，选取适用的评测内容。 

2、评测内容

包括通用安全、应用安全和业务安全三个维度。

通用安全涵盖数据安全、模型安全和基础设施安全，主要涉及AI研发应用中的基础共性安全；

应用安全涵盖智能体安全和具身智能安全，主要涉及新型AI应用形态的安全；

业务安全涵盖工业场景安全和电信场景安全，主要涉及AI与重点行业业务融合应用中的安全。

三个维度相互衔接，可根据评测对象组合使用。业务场景测试应在适用的通用安全和应用安全测试基础上，进一步验证业务约束及防护措施的有效性。 

3、评测方法

包括测试实施方法和结果评定方法。

测试实施综合采用基准测试、对抗测试、场景测试等方法；

结果评定根据测试内容和结果特征，采用程序化规则判定、裁判模型判定、人工判定或专家研判等方式。

评测实施方面，规范评测准备、测试开展、结果复核、整改复测及后续跟踪等流程，支持相关单位自主评测或委托第三方评测，保障评测活动有序、结果客观可信。 

素材来源：AIIA公众号

点击文章底部的“阅读原文”，可以下载原版报告PDF文件。

 感谢您读到这里，不如关注一下？👇