§1 生物识别
相关系统包括特定的:
- 远程生物识别系统
- 基于敏感或受保护特征的生物特征分类系统
- 情绪识别系统
确切范围须结合 AI Act 的禁止性实践规定以及适用的欧盟法或成员国法加以考量。
例如,仅用于确认某人确系其所声称身份的生物特征验证,在附件三下与远程生物识别区别对待。
不过,被列入附件三并不意味着在这些领域使用的每个 AI 系统都自动适用完整的高风险制度。第 6 条必须与附件三及适用的例外一并评估。
本指南介绍附件三的分类方式、八类高风险用例、第 6 条第 3 款的例外、提供者与部署者的主要义务,以及当前的实施时间表。
重要提示: AI 系统的分类取决于其预期用途、功能、部署场景及其他事实。本指南仅提供一般性信息,不应被视为具有约束力的法律分类意见。
EU AI Act 根据 AI 系统带来的风险设定不同的监管要求。
主要类别如下:
就附件三而言,出发点是第 6 条第 2 款。落入附件三用例的 AI 系统一般属于高风险,但须适用第 6 条第 3 款的克减及 AI Act 的其他适用条款。
第 6 条规定了归类为高风险的两条主要路径。
AI 系统在以下情形下可能属于高风险:
这条路径涵盖部分受监管的产品领域,包括医疗器械、机械、玩具、电梯、无线电设备以及相关欧盟立法涵盖的其他产品。
AI 系统落入附件三所列用例之一时,也可能属于高风险。
对于用于就业、教育、信贷、基本服务、生物识别、执法、移民和司法等领域的众多企业 AI 系统而言,这是最相关的路径。
重要提示: 分类应以确切的预期用途和用例为依据,而不是仅看组织所处的行业。
附件三列出了高风险 AI 应用的八大领域。
相关系统包括特定的:
确切范围须结合 AI Act 的禁止性实践规定以及适用的欧盟法或成员国法加以考量。
例如,仅用于确认某人确系其所声称身份的生物特征验证,在附件三下与远程生物识别区别对待。
包括拟在以下领域的管理和运营中用作安全组件的特定 AI 系统:
需对照附件三的措辞,评估系统的实际功能和预期用途。
例如用于以下目的的 AI 系统:
因此,教育类 AI 工具不会仅因为被中小学或高校使用就自动成为高风险。必须对照附件三的相关用例评估其预期用途。
这一类别对人力资源技术尤为重要。
它涵盖用于以下活动的特定 AI 系统:
因此,用于就业相关决策的 AI 应在部署前审慎评估。
附件三涵盖用于以下领域的特定 AI 系统:
并非每个金融服务或公共部门的 AI 系统都自动属于高风险。具体用例必须符合附件三的相关描述。
相关用例包括用于以下目的的特定 AI 系统:
这一类别还须结合第 5 条以及适用于特定执法 AI 实践的专门限制来理解。
附件三包括用于以下目的的特定系统:
用于核验旅行证件的特定系统在附件三下另作处理。
这一类别包括用于协助司法机关开展以下活动的特定 AI 系统:
它还涵盖旨在影响选举或公民投票结果的特定 AI 系统。
其范围应对照附件三的确切措辞以及 AI Act 的禁止性实践条款加以评估。
不是。
第 6 条第 3 款为部分附件三系统规定了克减:如系统不会对自然人的健康、安全或基本权利造成重大损害风险(包括因其不会对决策结果产生实质性影响),即可适用。
AI 系统拟用于以下目的时,可适用该克减:
但是,如 AI 系统对自然人进行画像,则不适用该克减。
援引第 6 条第 3 款的提供者,须在系统投放市场或投入使用之前将其评估记录在案,并遵守适用的登记要求。
某 AI 系统为一家公司分析求职申请并对候选人排序。
可能的分类: 属于附件三就业类别下的高风险系统,具体取决于确切的预期用途和功能。
某人力资源系统自动安排面试,但不评估候选人,也不影响招聘决定。
可能的分类: 视其功能和预期用途而定,该系统可能不属于附件三的相关用例。
某 AI 系统评估个人的信用状况,以决定其能否获得信贷。
可能的分类: 可能属于附件三下的高风险系统,具体取决于确切用例和适用的例外。
某 AI 系统执行范围狭窄的行政任务,例如整理内容已确定的学生档案,不影响录取、评估或学习成果。
可能的分类: 视实际功能而定,可能不属于相关的高风险用例。
以上示例仅供说明。最终分类应以具体系统、预期用途、部署环境和适用的 AI Act 条款为依据。
如 AI 系统被归类为高风险且相关条款适用,提供者可能需要满足以下要求:
建立并维护覆盖 AI 系统全生命周期的持续风险管理体系。
对相关的训练、验证和测试数据集采取适当的数据治理和数据管理做法。
编制并维护 AI Act 要求的技术文档。
保留适当的自动生成日志和记录。
向部署者提供正确使用系统所需的信息和说明。
系统的设计应确保能够实施有效的人工监督。
达到适当水平的准确性、稳健性和网络安全。
建立所需的质量管理流程。
完成适用的合格评定程序。
具体的合格评定路径取决于分类和适用的立法。因此,认为每个附件三系统都需要相同形式的第三方评定,是不正确的。
高风险 AI 合规并不限于提供者。
部署者可能在以下方面负有义务:
具体义务取决于部署者的角色、行业、用例,以及适用于该部署的 AI Act 具体条款。
高风险 AI 系统的部分部署者须根据第 27 条开展基本权利影响评估(FRIA)。
这一要求尤其适用于:
适用时,FRIA 应考虑以下事项:
FRIA 有别于 GDPR 下的数据保护影响评估(DPIA),但在涉及个人数据时,两项评估可能需要协调开展。
AI Act 并不取代 GDPR。
AI 系统处理个人数据时,组织可能需要同时遵守这两个框架。
例如:
因此,两套合规方案应协调推进,而不应视为可以互相替代。
在 2026 年 Digital Omnibus 修订之后,实施时间表已发生变化。
被禁止的 AI 实践和 AI 素养条款开始适用,具体以现行有效的条款和修订为准。
有关治理和通用 AI 模型的规则依相关条款开始适用。
AI Act 的一般适用日期,其他条款自此生效,具体以专门的过渡规则为准。
第三章第 1–3 节的高风险要求适用于根据第 6 条第 2 款和附件三归类为高风险的 AI 系统。
相应的高风险要求适用于根据第 6 条第 1 款和附件一归类的 AI 系统。
这些日期十分重要,因为附件三高风险义务原定的 2026 年 8 月 2 日已被 Regulation (EU) 2026/1744 修改。
尽管如此,组织仍应在法定适用日期之前及早着手准备,尤其是在需要建立技术文档、风险管理、数据治理、网络安全和治理流程的情况下。
AI Act 根据违法行为的类型规定了不同的行政罚款上限。
例如,第 99 条规定:
对企业而言,适用的上限一般为规定的固定金额与全球年营业额相应比例中的较高者,具体以 AI Act 的详细规则为准。
以上均为法定上限,而非自动适用的处罚。实际执法结果取决于违法行为的性质和情节以及适用的条款。
身为银行、高校、医院或科技公司,并不会使每个 AI 系统都自动成为高风险。
关键在于具体的 AI 用例。
第 6 条第 3 款为符合条件的系统规定了克减。
分类在很大程度上取决于 AI 系统拟用于做什么,以及它实际上如何设计和部署。
流程中某处有人参与,并不一定能使系统脱离高风险分类。必须认真评估第 6 条第 3 款的各项条件。
AI Act 为提供者、部署者、进口商、分销商及其他主体分别设定了不同的义务。
根据现行修订后的框架,第 6 条第 2 款/附件三高风险系统的适用日期为 2027 年 12 月 2 日。
不是。附件三列出的是特定的就业相关 AI 用例。必须评估实际的预期用途和功能。
不一定。通用聊天机器人可能适用透明度要求而非高风险分类,但用于附件三特定决策用例的 AI 系统可能有不同的分类。
不是。医疗健康行业本身并不自动决定附件三分类。不过,属于受监管医疗产品组成部分的 AI 系统,可能落入第 6 条第 1 款/附件一路径,需要另行评估。
有可能。第 6 条第 3 款规定,满足所需条件时可适用克减。提供者须将评估记录在案,同时还须考虑画像的排除情形。
根据现行修订后的条例,第三章第 1–3 节的要求自 2027 年 12 月 2 日起适用于第 6 条第 2 款/附件三高风险 AI 系统。
不相同。两者针对的是不同的监管要求,但在 AI 系统处理个人数据时,两个框架可能出现重叠。
欧盟委员会的分类指南旨在促进一致的解释和执法,但指南本身不能替代 AI Act 的法律文本。欧盟委员会已发布分类指南和实务示例,帮助提供者和部署者评估是否属于高风险。
判断 AI 系统是否落入附件三,是构建 AI 治理体系的重要第一步。
RegulatoryBridge 可帮助组织评估 AI 系统分类、梳理适用的 AI Act 要求、识别治理差距并制定实施方案。
使用我们的 AI Act 风险分类工具评估您的 AI 系统,或与我们的 AI 治理团队探讨您的需求。