§1 生体認証
対象となるシステムには、次のうち一定のものが含まれます。
- 遠隔生体識別システム
- センシティブな特性または保護される特性に基づく生体分類システム
- 感情認識システム
正確な適用範囲は、AI Actで禁止される行為、および適用されるEU法または国内法と併せて検討しなければなりません。
たとえば、本人が申告どおりの人物であることを確認する目的のみで行われる生体照合は、附属書IIIにおいて遠隔生体識別とは異なる扱いを受けます。
ただし、附属書IIIに掲げられているからといって、これらの分野で利用されるすべてのAIシステムに、ハイリスクに関する規制が自動的に全面適用されるわけではありません。第6条を、附属書IIIおよび適用される例外と併せて評価する必要があります。
本ガイドでは、附属書IIIによる分類の仕組み、ハイリスクのユースケースの8つのカテゴリー、第6条第3項の例外、提供者および導入者(デプロイヤー)の主な義務、ならびに現在の導入スケジュールを解説します。
重要: AIシステムの分類は、その意図された目的、機能、導入の状況その他の事実によって決まります。本ガイドは一般的な情報を提供するものであり、拘束力のある法的な分類として扱うべきものではありません。
EU AI Actは、AIシステムがもたらすリスクに応じて、異なる規制要件を定めています。
主な区分は次のとおりです。
附属書IIIについては、第6条第2項が出発点となります。附属書IIIのユースケースに該当するAIシステムは、第6条第3項の適用除外およびAI Actのその他の適用規定に従うことを条件に、原則としてハイリスクとなります。
第6条は、ハイリスクに分類される主な経路を2つ定めています。
AIシステムは、次の場合にハイリスクとなることがあります。
この経路は、医療機器、機械、玩具、昇降機、無線機器その他関連するEU法令の対象となる製品など、一定の規制対象製品分野を対象としています。
AIシステムは、附属書IIIに掲げるユースケースのいずれかに該当する場合にも、ハイリスクとなることがあります。
これは、雇用、教育、信用、不可欠なサービス、生体認証、法執行、移民および司法といった分野で利用される多くの企業向けAIシステムに最も関係の深い経路です。
重要: 分類は、組織が属する業種だけで判断するのではなく、具体的な意図された目的およびユースケースに基づいて行う必要があります。
附属書IIIは、ハイリスクとなるAIの利用について、8つの大きな分野を定めています。
対象となるシステムには、次のうち一定のものが含まれます。
正確な適用範囲は、AI Actで禁止される行為、および適用されるEU法または国内法と併せて検討しなければなりません。
たとえば、本人が申告どおりの人物であることを確認する目的のみで行われる生体照合は、附属書IIIにおいて遠隔生体識別とは異なる扱いを受けます。
これには、次の管理および運用において安全コンポーネントとして使用されることが意図された一定のAIシステムが含まれます。
システムの実際の機能および意図された用途を、附属書IIIの文言に照らして評価する必要があります。
例として、次の目的で使用されるAIシステムが挙げられます。
したがって、教育用のAIツールは、学校や大学で利用されているというだけで自動的にハイリスクとなるわけではありません。その意図された目的を、附属書IIIの該当するユースケースに照らして評価しなければなりません。
このカテゴリーは、HRテクノロジーにとって特に重要です。
次のような活動に使用される、所定のAIシステムが対象となります。
したがって、雇用に関する意思決定に用いるAIは、導入前に慎重に評価する必要があります。
附属書IIIは、次のものを含む分野で使用される所定のAIシステムを対象としています。
金融サービスや公共部門のAIシステムのすべてが、自動的にハイリスクとなるわけではありません。具体的なユースケースが、附属書IIIの該当する記載に当てはまる必要があります。
対象となるユースケースには、次の目的で使用される一定のAIシステムが含まれます。
このカテゴリーも、第5条、および法執行における一定のAIの利用行為に適用される個別の制限と併せて解釈しなければなりません。
附属書IIIには、次の目的で使用される所定のシステムが含まれます。
渡航文書の確認に使用される一定のシステムは、附属書IIIにおいて異なる扱いを受けます。
このカテゴリーには、次のような活動について司法当局を支援するために使用される所定のAIシステムが含まれます。
また、選挙または国民投票の結果に影響を与えることを意図した一定のAIシステムも対象となります。
適用範囲は、附属書IIIの正確な文言およびAI Actの禁止行為に関する規定に照らして評価する必要があります。
いいえ。
第6条第3項は、附属書IIIの一定のシステムについて適用除外を定めています。これは、意思決定の結果に実質的な影響を与えない場合を含め、当該システムが自然人の健康、安全または基本的権利に重大な危害のリスクをもたらさない場合に適用されます。
この適用除外は、AIシステムが次のいずれかを意図している場合に適用されることがあります。
ただし、AIシステムが自然人のプロファイリングを行う場合、この適用除外は適用されません。
第6条第3項に依拠する提供者は、システムを上市する前、またはサービスに供する前に自らの評価を文書化し、適用される登録要件を遵守しなければなりません。
AIシステムが応募書類を分析し、企業のために候補者を順位付けします。
想定される分類: 具体的な意図された目的および機能によっては、附属書IIIの雇用のカテゴリーに基づきハイリスクとなります。
HRシステムが面接の日程を自動的に調整しますが、候補者の評価や採用の決定への影響は伴いません。
想定される分類: 機能および意図された目的によっては、附属書IIIの該当するユースケースの対象外となる可能性があります。
AIシステムが、信用供与の可否を判断するために個人の信用力を評価します。
想定される分類: 具体的なユースケースおよび適用される例外によっては、附属書IIIに基づきハイリスクとなる可能性があります。
AIシステムが、入学、評価または学習成果に影響を与えることなく、すでに確定した学生記録の整理といった限定的な事務タスクを実行します。
想定される分類: 実際の機能によっては、該当するハイリスクのユースケースの対象外となる可能性があります。
これらの例は説明のためのものにすぎません。最終的な分類は、個別のシステム、意図された目的、導入環境、および適用されるAI Actの規定に基づいて行う必要があります。
AIシステムがハイリスクに分類され、関連規定が適用される場合、提供者は次のような要件への対応が必要となることがあります。
AIシステムのライフサイクル全体を対象とする、継続的なリスク管理システムを構築し、維持します。
関連する学習用、検証用およびテスト用のデータセットに、適切なデータガバナンスおよびデータ管理の実務を適用します。
AI Actが求める技術文書を作成し、維持します。
自動的に生成される適切なログおよび記録を保持します。
システムを適切に使用するために必要な情報および使用説明を導入者に提供します。
人間による実効的な監督が行えるようにシステムを設計します。
適切な水準の正確性、堅牢性およびサイバーセキュリティを確保します。
必要な品質管理プロセスを構築します。
適用される適合性評価手続を完了します。
具体的な適合性評価の経路は、分類および適用される法令によって異なります。したがって、附属書IIIのすべてのシステムに同じ形式の第三者評価が必要であると考えるのは誤りです。
ハイリスクAIへの対応は、提供者だけの問題ではありません。
導入者には、次の事項に関する義務が課される場合があります。
これらの義務は、導入者の役割、業種、ユースケース、およびその導入に適用されるAI Actの個別の規定によって異なります。
ハイリスクAIシステムの一定の導入者は、第27条に基づき基本的権利影響評価(FRIA)を実施しなければなりません。
この要件は、特に次の主体に関係します。
該当する場合、FRIAでは次のような事項を検討します。
FRIAは、GDPRのデータ保護影響評価(DPIA)とは別のものですが、個人データが関わる場合には、両者の評価を連携させる必要が生じることがあります。
AI ActはGDPRに代わるものではありません。
AIシステムが個人データを処理する場合、組織は双方の枠組みを遵守する必要が生じることがあります。
例:
したがって、2つのコンプライアンスプログラムは、相互に置き換え可能なものとして扱うのではなく、連携させる必要があります。
導入スケジュールは、2026年のデジタル・オムニバスによる改正を受けて変更されています。
禁止されるAIの利用行為およびAIリテラシーに関する規定の適用が開始されました(施行中の個別の規定および改正に従います)。
ガバナンスおよび汎用AIモデルに関する規則の適用が、関連規定に基づき開始されました。
AI Actの一般的な適用開始日であり、個別の経過規定に従い、その他の規定も適用されます。
第3章第1節~第3節のハイリスク要件が、第6条第2項および附属書IIIに基づきハイリスクに分類されるAIシステムに適用されます。
対応するハイリスク要件が、第6条第1項および附属書Iに基づいて分類されるAIシステムに適用されます。
これらの日程が重要なのは、附属書IIIのハイリスク義務について従来定められていた2026年8月2日という期日が、Regulation (EU) 2026/1744により変更されたためです。
もっとも、特に技術文書、リスク管理、データガバナンス、サイバーセキュリティおよびガバナンスプロセスを整備する必要がある場合には、法的な適用開始日よりも十分前から準備を始めるべきです。
AI Actは、違反の種類に応じて、異なる行政上の制裁金の上限を定めています。
たとえば、第99条は次のとおり定めています。
事業者の場合、適用される上限は、AI Actの詳細な規定に従い、原則として、所定の固定金額と全世界年間売上高に対する所定の割合のいずれか高い方となります。
これらは法定の上限であり、自動的に科される制裁ではありません。実際の執行の結果は、違反の性質および状況、ならびに適用される規定によって異なります。
銀行、大学、病院またはテクノロジー企業であるというだけで、すべてのAIシステムが自動的にハイリスクとなるわけではありません。
重要なのは、AIの具体的なユースケースです。
第6条第3項は、要件を満たすシステムについて適用除外を定めています。
分類は、AIシステムが何を行うことを意図しているか、また実際にどのように設計され導入されているかに大きく左右されます。
ワークフローのどこかに人間が介在しているからといって、必ずしもシステムがハイリスク分類から外れるわけではありません。第6条第3項の条件を慎重に評価しなければなりません。
AI Actは、提供者、導入者、輸入者、販売者その他の関係者に、それぞれ異なる義務を課しています。
改正後の現行の枠組みでは、第6条第2項/附属書IIIのハイリスクシステムについて2027年12月2日と定められています。
いいえ。附属書IIIには、雇用に関する特定のAIのユースケースが掲げられています。実際の意図された目的および機能を評価しなければなりません。
必ずしもそうではありません。汎用的なチャットボットは、ハイリスクに分類されるのではなく透明性要件の対象となる場合がありますが、附属書IIIの特定の意思決定のユースケースに使用されるAIシステムは、異なる分類となることがあります。
いいえ。医療分野であること自体によって、附属書IIIの分類が自動的に決まるわけではありません。ただし、規制対象の医療製品の一部であるAIシステムは、第6条第1項/附属書Iの経路に該当する可能性があり、その場合は別途の評価が必要です。
その可能性はあります。第6条第3項は、必要な条件を満たす場合の適用除外を定めています。提供者は評価を文書化しなければならず、プロファイリングの場合は適用除外の対象外となる点も考慮する必要があります。
改正後の現行規則では、第3章第1節~第3節の要件は、第6条第2項/附属書IIIのハイリスクAIシステムに2027年12月2日から適用されます。
いいえ。両者は異なる規制要件を対象としています。ただし、AIシステムが個人データを処理する場合には、2つの枠組みが重なり合うことがあります。
欧州委員会の分類ガイダンスは、一貫した解釈および執行を支えることを目的としていますが、ガイダンス自体がAI Actの法文に代わるものではありません。欧州委員会は、提供者および導入者がハイリスク該当性を評価する際の助けとなるよう、分類ガイダンスと実務的な例を公表しています。
AIシステムが附属書IIIに該当するかどうかを判断することは、AIガバナンスプログラムを構築するうえで重要な第一歩です。
RegulatoryBridgeは、AIシステムの分類の評価、適用されるAI Actの要件の整理、ガバナンス上のギャップの特定、および導入計画の策定を支援します。
当社のAI Actリスク分類ツールでAIシステムを評価いただくか、当社のAIガバナンスチームまでご要望をお聞かせください。