路径: 主页 > GB/T > 第748页 > GB/T 47507-2026 | 标准编号 | GB/T 47507-2026 (GB/T47507-2026) | | 中文名称 | 人工智能 可信赖 通则 | | 英文名称 | Artificial intelligence - Trustworthiness - General rules | | 行业 | 国家标准 (推荐) | | 中标分类 | L70 | | 国际标准分类 | 35.240 | | 字数估计 | 22,212 | | 发布日期 | 2026-04-30 | | 实施日期 | 2026-08-01 | | 发布机构 | 国家市场监督管理总局、国家标准化管理委员会 | GB/T 47507-2026: 人工智能 可信赖 通则
GB/T 47507-2026 英文版: Artificial intelligence - Trustworthiness - General rules
中 华 人 民 共 和 国 国 家 标 准
ICS 35.240CCS L 70
人工智能 可信赖 通则
2026⁃04⁃30 发布
2026⁃08⁃01 实施
国 家 市 场 监 督 管 理 总 局
国 家 标 准 化 管 理 委 员 会 发 布
1 范围
本文件确立了人工智能系统的可信赖核心要素，规定了相应的通用要求。
本文件适用于人工智能系统、含人工智能的计算机系统相关的设计、开发、应用、测试和监测。
2 规范性引用文件
本文件没有规范性引用文件。
4 可信赖核心要素
人工智能可信赖的核心要素包括可控性、安全性、鲁棒性、可靠性、准确性、韧性、可复现性、可泛化
性、实时性、可备份性、数据合规性、隐私保护、保密性、透明性、可追溯性、可解释性、公平性、伦理符合
性、易用性、可问责性等 20 个要素。可信赖应用场景见附录 A。
注： 根据人工智能系统的应用场景和产品类型不同，在进行可信赖评估时，其可信赖关键技术要素可能包含一个或
多个，不需要包含全部的关键技术要素。
5 可信赖主要要求
5.1 可控性
可控性是指在人工智能系统的运行过程中，能确保人类或其他外部智能体能有效地监控、干预、调
整或停止系统的行为，以保证其按照预定目标、安全、伦理和法律要求执行任务的性质。可控性符合以
下要求：
a） 应设计并实现可控性相关控制点（接口），接口应具备清晰定义的功能，并支持验证机制和良
好的可扩展性；
b） 应有系统状态定义，状态的判别以应用要求的稳定驻留维度（如时域）和范围确定；
c） 应具有控制点管理、组织机制，形成控制面，并将控制面映射到特定控制操作；
d） 在操作前，应具备控制面可达检测机制，至少检查时间和空间方面的可达状态；
e） 应支持外部控制切入和切出，包含切入和切出的代价估计以及切入和切出失败的补偿控制方
案，并提供控制点移交机制；
f） 应具备缺省控制策略，能在控制失败或无法形成控制策略时使用；
g） 应用于政府部门、关键信息基础设施以及直接影响公共安全和公民生命健康安全的领域等重
点领域时，应具备高效精准的应急管控措施；
h） 对有限状态可表示的系统，宜识别并处理系统所有可能的状态集合；
i） 对无限状态可表示的系统，宜识别并处理对系统业务生命周期有意义的状态集合。
5.2 安全性
安全性强调了人工智能系统在安全相关功能中的应用，特别是在面对潜在故障、异常情况或不确
定性时，系统仍能维持安全运行的能力，其核心在于通过系统设计、开发和验证流程，降低人工智能系
统因故障或错误导致的风险。安全性符合以下要求：
a） 应具备风险识别与事件预测能力、事件预防机制、事件检测与诊断功能以及事件应急处理
措施；
b） 应对人工智能算法依赖的外部框架进行安全审计，如主机安全、行为监控、流量分析等；
注： 外部框架是指支撑AI算法运行和开发的工具、库、平台或者技术标准。
c） 应进行数据、模型、框架等方面的安全测试；
d） 应建立明确的软硬件产品漏洞和缺陷跟踪机制，包括定期扫描、分级评估、修复优先级设定等
流程，并及时采取修补加固措施；
e） 人工智能系统的用户权限管理应实施细粒度的访问控制；
f） 应通过开发技术方案以降低更广泛的社会技术风险，防范潜在的系统性危害；
g） 应建立有效的监控机制，包括检测和识别恶意使用，实时监控模型预测能力，并持续监测模型
在意料之外的表现和能力；
h） 宜根据用户实际应用场景设置服务提供边界，裁减人工智能系统可能被滥用的功能；
i） 宜建立风险等级测试评估体系，根据功能、性能、应用场景等，对人工智能系统分类分级；
j） 宜根据系统可能面临的安全风险建立风险管理计划，并保持动态更新，以应对潜在的安全
威胁；
k） 宜进行人工智能系统用途管理，明确特定人群及场景下人工智能技术的应用要求；
l） 宜考虑对周边环境的影响，降低事件发生时造成的附带财产、人员损失。
5.3 鲁棒性
鲁棒性指的是人工智能系统能在面对恶意构造的输入（如对抗样本）时，保持稳定的性能和准确输
出的性质。人工智能系统的鲁棒性包括以下内容：
a） 系统输入受到一个具象的扰动时的鲁棒性，如对抗环境下的鲁棒性；
b） 系统输入发生难以具体刻画的变化时的鲁棒性，自然条件下的鲁棒性如雨雪雾霾、聚焦模糊、
异物遮挡等现实因素都会对系统的输入图片样本造成变化。
注 1： 具象的扰动是指这种扰动的具体特征（如扰动形式、扰动幅度等）在一定假设条件的约束下能被清晰地刻画。
鲁棒性符合以下要求：
a） 应采用对抗性训练、可信性防御、数据处理等技术，增强人工智能算法的鲁棒性，并提高模型
对对抗性攻击的防御能力；
b） 应分析相应任务下的对抗样本对人工智能系统运行的影响；
c） 应能抵御对抗攻击、异常或“黑天鹅事件”的影响；
注 2： “黑天鹅事件”指的是在正常预期之外、发生概率极低，但一旦发生就会产生巨大影响的意外事件。
d） 应抵抗非法系统输入，不因非法系统输入进入异常或无法持续服务的状态。
5.4 可靠性
可靠性是指人工智能系统在规定条件下和预定时间内，能稳定、持续、准确地执行任务，产生预期
结果，并在不同环境和条件下保持一致的性能表现的性质。可靠性符合以下要求：
a） 应使用符合应用场景要求的机器学习框架、算法库、数据库和工具链等；
b） 应具备符合应用场景要求的系统环境；
c） 应具备对非法系统输入的反馈机制；
d） 应对系统可靠性进行标准化测试，覆盖包括负载测试、边界条件测试、故障注入测试等场景；
e） 应分析环境干扰数据对人工智能系统运行的影响；
注 1： 环境干扰数据是指由于环境因素（如雨雪雾霾、聚焦模糊、异物遮挡、环境噪声等）对人工智能系统的输入数据
造成的影响，导致数据的不准确性和失真。
f） 应具备用户交互影响的抵抗能力；
注 2： 用户交互影响包括：通过多次交互改变系统数据分布，导致系统输出不符合信息安全要求的结果；用户输入带
有倾向性或误导性的信息，影响系统输出错误或不准确的回答。
g） 应分析数据集分布发生偏移对人工智能系统运行的影响；
h） 应分析异常值数据对人工智能系统运行的影响；
i） 宜设置系统运行过程中的健康监测指标（如预测偏差率、任务成功率、处理时延），用于提前发
现可靠性下降趋势并预警。
5.5 准确性
准确性是指人工智能系统在执行特定任务时，其输出结果能与预期结果保持接近或一致的性质。
准确性的评估指标包括但不限于单点性能（如准确率、精确率、召回率）、整体性能（如接受者操作特性
曲线及曲线下面积）。准确性符合以下要求：
a） 功能正确性：人工智能系统在实际应用中，应能按照预期和设定的目标，正确地执行各种任务
和功能；
b） 功能适当性：人工智能系统在设计、开发和实施过程中，其功能应准确、恰当地满足用户需求，
并且在特定应用场景下表现出良好的适应性和稳定性；
c） 结果准确率：人工智能系统在处理输入数据后，所产生的输出结果与真实情况或预期结果一
致的比例应符合业务或场景需求的准确率要求；
d） 应根据不同任务场景（如分类、预测、生成）定义准确性阈值，并采用适当的评估指标验证；
e） 对于生成式模型，应分析生成内容是否含有不准确、不完整或误导性的信息。
5.6 韧性
韧性指人工智能系统在事故、故障或外部攻击后在符合期望的时间段内，恢复可操作条件的性质。
满足韧性要求的人工智能系统具有适应性响应能力、协同保护能力、动态定位能力和多样性能力等。
韧性符合以下要求：
a） 人工智能系统功能失能或部分失能时，应具备快速恢复并保持在承诺的服务级别协议内保持
服务质量的能力；
b） 人工智能系统应具备故障自检能力，并在检测到故障后，能自动或在人工辅助下迅速恢复功
能，以确保系统韧性和持续的服务质量；
c） 适应性响应能力：人工智能系统在面对环境变化和不确定性时，应能有效调整自身行为并保
持性能；
d） 协同保护能力：人工智能系统在面对外部干扰或攻击时，应能与其他系统或组件协同工作，共
同抵御威胁，保持整体的稳定性和安全性；
e） 动态定位能力：人工智能系统应能根据实时数据和环境变化进行自我定位和调整；
f） 多样性能力：人工智能系统在不同故障、场景和需求下宜提供多种冗余机制、策略路径或模型
替代方案，以维持关键功能或实现目标功能的多样化响应和服务保障能力。
5.7 可复现性
可复现性指人工智能系统在可接受的复现性条件下，在不同运行环境中能产生一致或在可接受误
差范围内的结果。复现性条件一般指使用相同的数据、算法模型、参数配置、操作顺序等，不同运行环
境指不被业务逻辑依赖的不同计算设备或软件。可复现性符合以下要求：
a） 应具备系统运行结果的验证机制，确定系统在特定条件不变时，可复现运行结果；
b） 用户交互不应改变人工智能系统全生命周期中的可复现性；
注： 不考虑在极端特殊环境或条件下的可复现性。
c） 应分析软硬件平台依赖对人工智能系统运行的影响，包括深度学习框架的适用性、操作系统
差异性、硬件架构的可迁移性等。
5.8 可泛化性
可泛化性指训练后的人工智能系统应用与训练数据分布相似的新数据时，能做出准确预测的性
质。可泛化性符合以下要求：
a） 应使用正则化、交叉验证等技术，提升系统可泛化性；
b） 接受未知数据输入时，不应出现欠拟合或过拟合情况；
c） 接受与训练数据特征和分布相似的数据输入时，应保持其关键性能指标（如准确率、精确率、
召回率）不低于指定阈值；
d） 在接受分布外（OOD）或弱相关数据输入时，应采取适当的降级或拒绝策略；
e） 当训练数据分布发生显著变化时，宜及时重训练人工智能系统。
5.9 实时性
实时性指人工智能系统在给定时间段内处理、分析和响应外来请求的性质。人工智能系统的实时
性要求应根据应用场景而确定，在某些场景（如医疗影像分析、自动或辅助驾驶、工业生产线控制等）
中，对实时性的要求高。实时性符合以下要求：
a） 应在任务需求的时延要求内处理相关任务；
b） 应满足任务切换时间的要求；
注 1： 任务切换时间是指操作系统在进行任务调度时，从一个任务（进程或线程）切换到另一个任务所需的时间。
c） 应满足任务完成时延抖动的要求。
注 2： 时延抖动是指人工智能系统在执行任务时，不同任务实例或任务中不同阶段的完成时间与预期完成时间之间
的差异。
5.10 可备份性
备份指人工智能系统为防止出现操作失误或系统故障导致数据丢失，将全部或部分数据集合从应
用主机复制到其他的存储媒体或系统的过程。备份系统可使用功能相同、算法/模型不同的人工智能
系统，也可使用功能类似的非人工智能系统。可备份性符合以下要求：
a） 应实现与主系统相同的业务逻辑，满足业务要求；
b） 应实现功能间逻辑隔离，当部分系统或部分功能异常时，可通过降级或者隔离方式，保障其他
业务功能正常运行；
c） 无备份系统时，应有相应的流程保障系统失能时有专业技术人员参与控制；
d） 应制定备份系统的备份策略规范，包括备份周期、备份方式（全量/增量备份）、备份副本数
量等；
e） 宜采用与主系统不同的技术路线（如对基于深度学习的子系统的备份，宜由非人工智能技术
实现业务逻辑），无不同技术路线备份时，宜采用多模型互备。
5.11 数据合规性
数据合规性指人工智能系统在收集、处理、存储、使用和输出数据的整个生命周期中，能遵循相关
法律法规、伦理标准和行业最佳实践的性质。数据合规符合以下要求：
a） 应具备控制流数据、信息流数据及应用数据传输过程中的安全性、完整性保证功能；
b） 应进行数据安全管理，保证数据符合数据安全和个人信息保护相关标准规范；宜采用微调、机
器遗忘等技术手段，在模型训练后删除或修正不合规数据；
c） 应进行知识产权检测，在训练数据选择、结果输出等环节防止侵犯知识产权；
d） 应通过经过验证和符合规范的渠道获取数据集；
e） 在收集和处理个人数据时，应限定于所声明的特定、合法目的，并在这些目的实现后不再进一
步处理数据；
f） 应制定标注规则，包括标注目标、数据格式、标注方法、质量指标等内容；
g） 宜建立全面的数据安全框架，包括但不限于数据加密、访问控制、数据脱敏和数据审计等技术
措施，以保护敏感信息和重要数据。
5.12 隐私保护性
隐私保护指人工智能系统涉及的个人等实体不愿意被外人知晓的信息得到应有的保护。隐私保
护包括对个人信息和个人隐私的保护、对商业秘密的保护等。隐私保护符合以下要求：
a） 应仅收集实现功能所必需的最少数据，避免过度收集用户信息；
b） 应明确数据和模型的隐私保护在生命周期管理内的工作和要求，形成隐私保护方案；
c） 应明确指明隐私保护对象或主体、隐私泄漏的风险点；
d） 应对所采用的隐私保护方法进行充分评估，明确隐私保护方法的适用场景、条件和局限性；
e） 在用户提供训练数据的场景下，应防止恶意查询行为；
f） 在用户与系统交互的场景下，人工智能系统应防止攻击者通过反复查询训练好的模型获得受
版权保护信息；
g） 应采用技术手段保护数据和模型中的隐私，如多方安全计算、可信计算、差分隐私、同态加密、
联邦学习等隐私计算及机密计算等，并建立监控和审计机制；
h） 宜考虑所采用的隐私保护方法在隐私保护数据的可用性和机密性上的平衡；
注： 数据的可用性是指数据能被用户或系统及时、准确地获取、访问和使用的能力。数据的机密性是指保护数据不
被未授权访问和泄露的能力。
i） 宜基于可信环境对敏感原始数据进行本地化处理，降低数据传输过程中的隐私泄露风险。
5.13 保密性
保密性是指人工智能系统的开发、部署、运营及相关监管活动中，任何自然人或法人应根据法律规
定，确保在执行任务和活动时获得的信息和数据的保密性，防止未经授权的访问、披露、使用或传播，其
核心目的是在实施监管过程中保护涉及知识产权、商业机密、国家安全等敏感信息。保密性符合以下
要求：
a） 应严格限定集体数据的获取、使用范围；
b） 应采用最小权限原则；
c） 应在规定时限内，删除不再用于其获取目的的集体数据；
d） 应建立人工智能系统输出内容的审查与控制机制。
5.14 透明性
透明性指人工智能系统向利益相关方明确系统适当信息的性质。对于可信赖人工智能，若模型内
部的参数、整体结构是可观测或可访问的，则能对其行为逻辑和决策依据进行研究与分析，即人工智能
系统透明性可理解为模型的“白盒”程度。透明性依赖于可解释性，即对人工智能系统及其组件行为的
有用或合理的解释。透明性符合以下要求：
a） 应建立风险监测机制，如提供其所做决策的依据标准，告知用户其输出结果所可能涉及的风
险以及局限性；
b） 应告知用户其交互对象、获得的服务来源等为人工智能系统；
c） 应披露模型能力评测结果和安全保障措施；
d） 人工智能系统宜考虑采用相关机制提高自身行为的可预测性；
e） 宜对人工智能技术和产品的原理、能力、适用场景、安全风险应分层次、分对象适当公开，以适
应各类利益相关方的需求，对输出内容进行明晰标识。
5.15 可追溯性
可追溯性指人工智能系统能追溯特定实体的历史、应用及位置的性质。可追溯性是人工智能系统
可问责的前提，也是各行业实现人工智能算法审计和应用治理的基础，为人工智能系统功能安全设计
和增强提供依据。可追溯性符合以下要求：
a） 应提供日志记录、状态监测等工具；
b） 应记录人工智能系统的开发过程，如系统设计及更改、程序开发、数据使用、模型训练、用户需
求符合程度测试、模型迁移等情况；
c） 应记录人工智能系统的运行情况，如操作步骤、输入和结果，以便从输入追溯到相关处理过程
和结果，也能从结果回溯到输入或操作；
d） 在人工智能系统中，应实施模型版本控制，详细记录每个模型版本的训练、测试和部署历史；
e） 应实现人工智能系统运行日志的持久化存储；
f） 面向公众服务的人工智能系统，宜通过数字证书等技术对其进行标识管理；
g） 当涉及个人隐私信息时，人工智能系统的记录和日志信息应在严格的隐私保护政策下进行存
储和审计，必要时应由合法授权的部门或人员进行访问。
5.16 可解释性
可解释性指人工智能系统以人能理解的方式，表达影响其（执行）结果的重要因素的性质。可解释
性有助于人们理解复杂模型内部工作机理以及模型如何做出特定决策等重要问题。可解释性符合以
下要求：
a） 应针对不同利益相关方提供便于理解的不同程度的解释，如对用户提供系统意图、决策结果
等说明，向产品提供方提供算法模型、运行环境等说明；
b） 应提供事前解释（内在、设计时的解释），如对训练数据进行统计学分析，对训练数据集的规模
分析，对原始训练数据集中的多种典型场景的演绎和归纳分析等；
c） 应能对数据质量进行评估，如能提供明确的标记基准、定义数据标记手法等；
d） 应提供建模过程中可解释，如对人工智能系统的建模决策、建模依据、优化调整行为等进行解
释，在模型优化时提供超级参数的定义和设定条件的定义等；
e） 应提供事后解释，在投入使用后，向利益相关方解释特定输入与输出的逻辑关系，此逻辑关系
应能被利益相关方理解；
f） 宜为人工智能系统内部构造、推理逻辑、技术接口、输出结果提供明确说明，正确反映人工智
能系统产生结果的过程；
g） 宜增加用户反馈机制，支持用户对提供的解释提出问题或给予反馈。
5.17 公平性
公平性指人工智能系统尊重既定事实、社会规范和信仰，保证利益相关方不受偏袒或不公正歧视
影响的对待、行为或结果的性质。公平性通常与文化、地域和政治观点等因素有关。公平性符合以下
要求：
a） 应根据实际应用场景，提供相适应算法偏见检测方案；
b） 应对人工智能系统中所采用的智能算法训练所用数据集的规模、均衡性进行探索性分析和预
处理，以消除或减轻偏见；
c） 应降低其应用领域内可能的文化、人员、社会环境中的固有成见及歧视发生的可能性；
d） 应对所有目标群体提供质量相近的服务；
e） 在检测偏见的测试数据集上，人工智能系统的预测准确率变化不应超过最大变化阈值范围；
f） 在算法设计、模型训练和优化、提供服务等过程中，应采取训练数据筛选、输出校验等方式，防
止产生民族、信仰、国别、地域、性别、年龄、职业、健康等方面歧视；
g） 宜识别可能涉及的偏见相关特征，包含但不限于性别、人种、民族、特殊群体（如残障人士）等，
在验证或测试过程中识别结果与特征的关联性；
h） 宜识别可能导致偏见的原因，包括但不限于样本分布、错误排除、不一致测量或采样、不一致
标记；
注： 样本分布的示例包括是否在存在显著特征的数据集上训练，错误排除的示例包括未将非显著特征纳入训练数
据，不一致测量或采样的示例包括仅在室内光照情况下采样残疾状态的保护动物的视觉样本，不一致标记的示
例包括采用单人标注，单算法标注且未实施交叉检验。
i） 宜提供偏见结果复议机制，至少提供问题反馈渠道。
5.18 伦理符合性
伦理符合性指人工智能系统全生命周期符合伦理准则。伦理符合性符合以下要求：
a） 应开展人工智能伦理符合性评估，涉及法律法规遵从、公平无歧视、人类可控、专业职责、人类
价值观、国际通行行为准则、环境可持续发展、劳动者知会及协同等，并明确相应的伦理底线
和风险红线；
b） 应以促进人类福祉为目标，降低因算法设计者出于自身的利益，对用户进行不良诱导、过度依
赖算法本身、盲目扩大算法的应用范围而导致的算法滥用风险；
c） 应提供算法伦理反馈渠道，发现并改善潜在的算法偏见、算法霸凌、推荐算法的信息茧房等
问题；
d） 人工智能系统采用的数据集应符合其采集目的......
|