Skip to main content

EU AI Act 附件三:高风险 AI 系统详解

EU AI Act 附件三列出了若干特定的 AI 用例,这些用例因可能影响健康、安全和基本权利,可能被归类为高风险 AI 系统。

不过,被列入附件三并不意味着在这些领域使用的每个 AI 系统都自动适用完整的高风险制度。第 6 条必须与附件三及适用的例外一并评估。

本指南介绍附件三的分类方式、八类高风险用例、第 6 条第 3 款的例外、提供者与部署者的主要义务,以及当前的实施时间表。

重要提示: AI 系统的分类取决于其预期用途、功能、部署场景及其他事实。本指南仅提供一般性信息,不应被视为具有约束力的法律分类意见。

§AI Act 高风险分类一览

EU AI Act 根据 AI 系统带来的风险设定不同的监管要求。

主要类别如下:

  • 被禁止的 AI 实践 — 第 5 条禁止的实践。
  • 高风险 AI 系统 — 根据第 6 条归类的系统,包括附件一和附件三涵盖的系统。
  • 受透明度规范的特定 AI 系统 — 须遵守特定透明度义务(包括第 50 条)的系统。
  • 其他 AI 系统 — 不属于被禁止类别或受专门规范类别的系统,但其他欧盟法律和自愿性治理措施仍可能适用。

就附件三而言,出发点是第 6 条第 2 款。落入附件三用例的 AI 系统一般属于高风险,但须适用第 6 条第 3 款的克减及 AI Act 的其他适用条款。

§第 6 条如何判定 AI 系统是否属于高风险

第 6 条规定了归类为高风险的两条主要路径。

路径 1:第 6 条第 1 款 — 与受监管产品相关的 AI 系统

AI 系统在以下情形下可能属于高风险:

  • 该系统拟用作产品的安全组件,或其本身就是产品;
  • 该产品受附件一所列欧盟协调立法管辖;并且
  • 相关产品须依该立法接受第三方合格评定。

这条路径涵盖部分受监管的产品领域,包括医疗器械、机械、玩具、电梯、无线电设备以及相关欧盟立法涵盖的其他产品。

路径 2:第 6 条第 2 款 — 附件三用例

AI 系统落入附件三所列用例之一时,也可能属于高风险。

对于用于就业、教育、信贷、基本服务、生物识别、执法、移民和司法等领域的众多企业 AI 系统而言,这是最相关的路径。

重要提示: 分类应以确切的预期用途和用例为依据,而不是仅看组织所处的行业。

§附件三:八个高风险类别

附件三列出了高风险 AI 应用的八大领域。

§1 生物识别

相关系统包括特定的:

  • 远程生物识别系统
  • 基于敏感或受保护特征的生物特征分类系统
  • 情绪识别系统

确切范围须结合 AI Act 的禁止性实践规定以及适用的欧盟法或成员国法加以考量。

例如,仅用于确认某人确系其所声称身份的生物特征验证,在附件三下与远程生物识别区别对待。

§2 关键基础设施

包括拟在以下领域的管理和运营中用作安全组件的特定 AI 系统:

  • 关键数字基础设施
  • 道路交通
  • 供水
  • 供气
  • 供热
  • 供电

需对照附件三的措辞,评估系统的实际功能和预期用途。

§3 教育与职业培训

例如用于以下目的的 AI 系统:

  • 决定教育机构的入学或录取
  • 评估学习成果
  • 评估个人适合的教育水平
  • 监测考试中的违规行为
  • 影响或引导学习过程

因此,教育类 AI 工具不会仅因为被中小学或高校使用就自动成为高风险。必须对照附件三的相关用例评估其预期用途。

§4 就业、劳动者管理与自雇机会

这一类别对人力资源技术尤为重要。

它涵盖用于以下活动的特定 AI 系统:

  • 招聘与甄选
  • 分析和筛选求职申请
  • 评估候选人
  • 作出影响雇佣关系的决定
  • 根据个人特征或行为分配任务
  • 监测和评估绩效

因此,用于就业相关决策的 AI 应在部署前审慎评估。

§5 获得基本的私营和公共服务

附件三涵盖用于以下领域的特定 AI 系统:

  • 基本公共援助和服务的资格认定
  • 信用状况评估与信用评分
  • 特定人寿和健康保险的风险评估与定价
  • 紧急服务调度与分诊

并非每个金融服务或公共部门的 AI 系统都自动属于高风险。具体用例必须符合附件三的相关描述。

§6 执法

相关用例包括用于以下目的的特定 AI 系统:

  • 测谎仪及类似工具
  • 评估证据的可靠性
  • 评估或预测犯罪风险
  • 为特定执法目的对个人进行画像

这一类别还须结合第 5 条以及适用于特定执法 AI 实践的专门限制来理解。

§7 移民、庇护与边境管控

附件三包括用于以下目的的特定系统:

  • 测谎仪及类似工具
  • 评估庇护、签证或居留许可申请
  • 在特定场景下检测、识别或辨认个人
  • 移民和边境管理流程中的风险评估

用于核验旅行证件的特定系统在附件三下另作处理。

§8 司法与民主程序

这一类别包括用于协助司法机关开展以下活动的特定 AI 系统:

  • 研究和解释事实或法律
  • 将法律适用于具体事实

它还涵盖旨在影响选举或公民投票结果的特定 AI 系统。

其范围应对照附件三的确切措辞以及 AI Act 的禁止性实践条款加以评估。

§附件三中的每个 AI 系统都自动属于高风险吗?

不是。

第 6 条第 3 款为部分附件三系统规定了克减:如系统不会对自然人的健康、安全或基本权利造成重大损害风险(包括因其不会对决策结果产生实质性影响),即可适用。

AI 系统拟用于以下目的时,可适用该克减:

  • 执行范围狭窄的程序性任务;
  • 改进先前已完成的人类活动的结果;
  • 检测决策模式或偏差,而不替代或影响已完成的人工评估,且须经适当的人工审查;或
  • 为与附件三用例相关的评估执行准备性任务。

但是,如 AI 系统对自然人进行画像,则不适用该克减。

援引第 6 条第 3 款的提供者,须在系统投放市场或投入使用之前将其评估记录在案,并遵守适用的登记要求。

§实务示例

示例 1:招聘筛选

某 AI 系统为一家公司分析求职申请并对候选人排序。

可能的分类: 属于附件三就业类别下的高风险系统,具体取决于确切的预期用途和功能。

示例 2:行政日程安排工具

某人力资源系统自动安排面试,但不评估候选人,也不影响招聘决定。

可能的分类: 视其功能和预期用途而定,该系统可能不属于附件三的相关用例。

示例 3:信用评估

某 AI 系统评估个人的信用状况,以决定其能否获得信贷。

可能的分类: 可能属于附件三下的高风险系统,具体取决于确切用例和适用的例外。

示例 4:教务管理

某 AI 系统执行范围狭窄的行政任务,例如整理内容已确定的学生档案,不影响录取、评估或学习成果。

可能的分类: 视实际功能而定,可能不属于相关的高风险用例。

以上示例仅供说明。最终分类应以具体系统、预期用途、部署环境和适用的 AI Act 条款为依据。

§高风险 AI 提供者需要做好哪些准备

如 AI 系统被归类为高风险且相关条款适用,提供者可能需要满足以下要求:

风险管理

建立并维护覆盖 AI 系统全生命周期的持续风险管理体系。

数据与数据治理

对相关的训练、验证和测试数据集采取适当的数据治理和数据管理做法。

技术文档

编制并维护 AI Act 要求的技术文档。

记录留存

保留适当的自动生成日志和记录。

透明度与使用说明

向部署者提供正确使用系统所需的信息和说明。

人工监督

系统的设计应确保能够实施有效的人工监督。

准确性、稳健性与网络安全

达到适当水平的准确性、稳健性和网络安全。

质量管理

建立所需的质量管理流程。

合格评定

完成适用的合格评定程序。

具体的合格评定路径取决于分类和适用的立法。因此,认为每个附件三系统都需要相同形式的第三方评定,是不正确的。

§部署者责任

高风险 AI 合规并不限于提供者。

部署者可能在以下方面负有义务:

  • 遵循提供者的使用说明
  • 指派具备相应能力的人员实施人工监督
  • 监测 AI 系统的运行
  • 保留相关记录
  • 报告特定的严重事件
  • 在第 27 条要求时开展基本权利影响评估
  • 向受影响的个人提供适用的信息

具体义务取决于部署者的角色、行业、用例,以及适用于该部署的 AI Act 具体条款。

§基本权利影响评估

高风险 AI 系统的部分部署者须根据第 27 条开展基本权利影响评估(FRIA)。

这一要求尤其适用于:

  • 公共机构
  • 提供公共服务的私营运营者
  • 部署用于信用状况评估或信用评分的高风险系统的部分部署者

适用时,FRIA 应考虑以下事项:

  • AI 系统的预期用途
  • 受影响个人的类别
  • 对基本权利的潜在风险
  • 针对已识别风险的缓解措施
  • 人工监督与治理安排

FRIA 有别于 GDPR 下的数据保护影响评估(DPIA),但在涉及个人数据时,两项评估可能需要协调开展。

§AI Act 与 GDPR:两者如何衔接

AI Act 并不取代 GDPR。

AI 系统处理个人数据时,组织可能需要同时遵守这两个框架。

例如:

GDPR 可能涉及:

  • 合法性基础
  • 透明度
  • 数据主体权利
  • 数据最小化
  • 自动化决策
  • 数据保护影响评估
  • 安全与国际传输

AI Act 可能涉及:

  • AI 系统分类
  • 风险管理
  • 技术文档
  • 人工监督
  • 准确性与稳健性
  • 针对 AI 的网络安全
  • 合格评定
  • 上市后监测

因此,两套合规方案应协调推进,而不应视为可以互相替代。

§AI Act 当前实施时间表

在 2026 年 Digital Omnibus 修订之后,实施时间表已发生变化。

关键日期

2025 年 2 月 2 日

被禁止的 AI 实践和 AI 素养条款开始适用,具体以现行有效的条款和修订为准。

2025 年 8 月 2 日

有关治理和通用 AI 模型的规则依相关条款开始适用。

2026 年 8 月 2 日

AI Act 的一般适用日期,其他条款自此生效,具体以专门的过渡规则为准。

2027 年 12 月 2 日

第三章第 1–3 节的高风险要求适用于根据第 6 条第 2 款和附件三归类为高风险的 AI 系统。

2028 年 8 月 2 日

相应的高风险要求适用于根据第 6 条第 1 款和附件一归类的 AI 系统。

这些日期十分重要,因为附件三高风险义务原定的 2026 年 8 月 2 日已被 Regulation (EU) 2026/1744 修改。

尽管如此,组织仍应在法定适用日期之前及早着手准备,尤其是在需要建立技术文档、风险管理、数据治理、网络安全和治理流程的情况下。

§AI Act 处罚

AI Act 根据违法行为的类型规定了不同的行政罚款上限。

例如,第 99 条规定:

  • 对特定被禁止的 AI 实践,最高可处 3,500 万欧元或全球年营业额的 7%;
  • 对其他特定违法行为,最高可处 1,500 万欧元或全球年营业额的 3%;
  • 向公告机构或成员国主管机关提供不正确、不完整或误导性信息的,最高可处 750 万欧元或全球年营业额的 1%。

对企业而言,适用的上限一般为规定的固定金额与全球年营业额相应比例中的较高者,具体以 AI Act 的详细规则为准。

以上均为法定上限,而非自动适用的处罚。实际执法结果取决于违法行为的性质和情节以及适用的条款。

§附件三分类的常见错误

错误 1:把行业当作分类依据

身为银行、高校、医院或科技公司,并不会使每个 AI 系统都自动成为高风险。

关键在于具体的 AI 用例。

错误 2:认为每个附件三系统都自动属于高风险

第 6 条第 3 款为符合条件的系统规定了克减。

错误 3:忽视预期用途

分类在很大程度上取决于 AI 系统拟用于做什么,以及它实际上如何设计和部署。

错误 4:认为有人工参与就自然足够

流程中某处有人参与,并不一定能使系统脱离高风险分类。必须认真评估第 6 条第 3 款的各项条件。

错误 5:混淆提供者与部署者的责任

AI Act 为提供者、部署者、进口商、分销商及其他主体分别设定了不同的义务。

错误 6:对附件三仍沿用 2026 年 8 月 2 日的旧期限

根据现行修订后的框架,第 6 条第 2 款/附件三高风险系统的适用日期为 2027 年 12 月 2 日。

§常见问题

人力资源领域使用的每个 AI 系统都属于高风险吗?

不是。附件三列出的是特定的就业相关 AI 用例。必须评估实际的预期用途和功能。

每个聊天机器人都属于有限风险 AI 吗?

不一定。通用聊天机器人可能适用透明度要求而非高风险分类,但用于附件三特定决策用例的 AI 系统可能有不同的分类。

医院使用的 AI 系统是否自动属于高风险?

不是。医疗健康行业本身并不自动决定附件三分类。不过,属于受监管医疗产品组成部分的 AI 系统,可能落入第 6 条第 1 款/附件一路径,需要另行评估。

附件三系统可以被归类为非高风险吗?

有可能。第 6 条第 3 款规定,满足所需条件时可适用克减。提供者须将评估记录在案,同时还须考虑画像的排除情形。

附件三高风险义务何时适用?

根据现行修订后的条例,第三章第 1–3 节的要求自 2027 年 12 月 2 日起适用于第 6 条第 2 款/附件三高风险 AI 系统。

AI Act 的高风险义务与 GDPR 义务相同吗?

不相同。两者针对的是不同的监管要求,但在 AI 系统处理个人数据时,两个框架可能出现重叠。

欧盟委员会的分类指南具有法律约束力吗?

欧盟委员会的分类指南旨在促进一致的解释和执法,但指南本身不能替代 AI Act 的法律文本。欧盟委员会已发布分类指南和实务示例,帮助提供者和部署者评估是否属于高风险。

评估您的 AI Act 分类

判断 AI 系统是否落入附件三,是构建 AI 治理体系的重要第一步。

RegulatoryBridge 可帮助组织评估 AI 系统分类、梳理适用的 AI Act 要求、识别治理差距并制定实施方案。

使用我们的 AI Act 风险分类工具评估您的 AI 系统,或与我们的 AI 治理团队探讨您的需求。