路径: 主页 > GB/T > 第225页 > GB/T 46347-2025 | 标准编号 | GB/T 46347-2025 (GB/T46347-2025) | | 中文名称 | 人工智能 风险管理能力评估 | | 英文名称 | Artificial intelligence - Risk management capability assessment | | 行业 | 国家标准 (推荐) | | 中标分类 | L70 | | 国际标准分类 | 35.240 | | 字数估计 | 34,328 | | 发布日期 | 2025-10-05 | | 实施日期 | 2025-10-05 | | 发布机构 | 国家市场监督管理总局、国家标准化管理委员会 | GB/T 46347-2025: 人工智能 风险管理能力评估
ICS 35.240
CCSL70
中华人民共和国国家标准
人工智能 风险管理能力评估
2025-10-05发布
2025-10-05实施
国 家 市 场 监 督 管 理 总 局
国 家 标 准 化 管 理 委 员 会 发 布
目次
前言 Ⅲ
引言 Ⅳ
1 范围 1
2 规范性引用文件 1
3 术语和定义 1
4 人工智能风险管理能力框架与分级 2
4.1 人工智能风险管理能力框架 2
4.2 人工智能风险管理过程 3
4.3 人工智能风险管理能力等级 4
4.4 人工智能风险管理能力等级划分 5
4.5 人工智能风险管理能力项 6
5 人工智能风险管理能力评估 8
5.1 人工智能风险管理策划能力评估 8
5.2 人工智能风险沟通能力评估 12
5.3 人工智能风险评估能力评估 13
5.4 人工智能风险处理能力评估 17
5.5 人工智能风险监控能力评估 18
5.6 人工智能风险回顾能力评估 20
附录A(资料性) 推荐权重设置 22
附录B(资料性) 风险源 23
附录C(资料性) 风险管理方法、工具与技术 25
参考文献 27
前言
本文件按照GB/T 1.1-2020《标准化工作导则 第1部分:标准化文件的结构和起草规则》的规定
起草。
请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。
本文件由全国信息技术标准化技术委员会(SAC/TC28)提出并归口。
本文件起草单位:中国电子技术标准化研究院、中国科学院软件研究所、中科南京软件技术研究院、
上海商汤智能科技有限公司、中建科技集团有限公司、北京谋远咨询有限公司、上海市人工智能行业协
会、杭州半个宇宙科技有限公司、北京大学武汉人工智能研究院、海信集团控股股份有限公司、西门子
(中国)有限公司、中电信数智科技有限公司、同方知网数字出版技术股份有限公司、上海计算机软件技
术开发中心、北京瑞莱智慧科技有限公司、上海人工智能研究院、北京航空航天大学、科大讯飞股份有限
公司、浙江大华技术股份有限公司、北京邮电大学、中国民航信息网络股份有限公司、中国航空工业集团
沈阳飞机设计研究所、浪潮云信息技术股份公司、重庆国科础智信息技术有限公司、浪潮软件科技有限
公司、上海燧原科技股份有限公司、中国船舶集团有限公司综合技术经济研究院、电子科技大学、北京航
天自动控制研究所、中国兵器工业信息中心、郑州阿帕斯数云信息科技有限公司。
本文件主要起草人:范科峰、刘张宇、叶珩、董建、孟令中、徐洋、马骋昊、吴庚、曾涛、方亮、饶雪、
赵春昊、马珊珊、吴年京、辜凌云、方静、吴琪、薛云志、高卉、高峰、陈敏刚、陈文捷、刘畅、胡嵩智、赵玉霞、
陈曦、宋海涛、刘祥龙、刘艾杉、董乾、杨光、刘俊华、程淼、何召锋、翁家良、梅莹、郑佳佳、朱晓芳、陈利明、
郝立强、游洪峰、王士宁、杨彤晖、温晓玲、吴立金、李照川、王金超、姜梦岑、蒋燕、吴惠甲、李劲松、
于明亮、谢旻希、樊则森、傅文林、邓赛、陈贺、于红云、江维、李想、张天缘、王栓奇、张旭。
引 言
“人工智能风险管理”是一个广泛的概念,它涵盖了与人工智能相关的所有风险的管理,包括但不限
于技术风险(如算法偏差、数据泄露等)、伦理风险(如算法歧视、意识形态侵蚀等)、应用风险(如系统被
黑客攻击、算法被用于欺骗等)和法律风险(如算法合规、知识侵权等)。
本文件主要关注组织在应用人工智能系统时的风险管理能力,这些风险可能涉及系统的稳定性、安
全性、性能以及与其他系统的兼容性等方面。人工智能系统的风险管理是为了确保系统能按预期运
行,并避免由于系统故障或漏洞而导致的潜在问题。
本文件确定的风险管理过程,主要是在GB/T 24353-2022图1展示的风险管理过程的基础上,充
分吸收ISO/IEC 23894对人工智能风险管理过程的描述,考虑《人工智能安全治理框架》提及的风险
点,对组织风险管理时应当进行的活动,以及应具备的能力做了进一步细化。
人工智能 风险管理能力评估
1 范围
本文件规定了组织的人工智能风险管理能力的级别与要求,描述了组织的人工智能风险管理能力
的评估方法。
本文件适用于指导评估人员对组织的人工智能风险管理能力进行评估。
2 规范性引用文件
本文件没有规范性引用文件。
3 术语和定义
下列术语和定义适用于本文件。
3.1
人工智能系统的机制和应用的研究与开发。
[来源:GB/T 41867-2022,3.1.2]
3.2
针对人类定义的给定目标,产生诸如内容、预测、推荐或决策等输出的一类工程系统。
注1:该工程系统使用人工智能相关的多种技术和方法,开发表征数据、知识、过程等的模型,用于执行任务。
注2:人工智能系统具备不同的自动化级别。
[来源:GB/T 41867-2022,3.1.8]
3.3
风险 risk
不确定性对目标的影响。
[来源:GB/T 23694-2024,3.1.1......
|