Skip to main content

EU AI Act 附属書III:ハイリスクAIシステムの解説

EU AI Actの附属書IIIは、健康、安全および基本的権利に影響を及ぼすおそれがあることから、ハイリスクAIシステムに分類され得る具体的なAIのユースケースを定めています。

ただし、附属書IIIに掲げられているからといって、これらの分野で利用されるすべてのAIシステムに、ハイリスクに関する規制が自動的に全面適用されるわけではありません。第6条を、附属書IIIおよび適用される例外と併せて評価する必要があります。

本ガイドでは、附属書IIIによる分類の仕組み、ハイリスクのユースケースの8つのカテゴリー、第6条第3項の例外、提供者および導入者(デプロイヤー)の主な義務、ならびに現在の導入スケジュールを解説します。

重要: AIシステムの分類は、その意図された目的、機能、導入の状況その他の事実によって決まります。本ガイドは一般的な情報を提供するものであり、拘束力のある法的な分類として扱うべきものではありません。

§AI Actにおけるハイリスク分類の概要

EU AI Actは、AIシステムがもたらすリスクに応じて、異なる規制要件を定めています。

主な区分は次のとおりです。

  • 禁止されるAIの利用行為 — 第5条で禁止される行為。
  • ハイリスクAIシステム — 第6条に基づいて分類されるシステム。附属書Iおよび附属書IIIの対象となるシステムを含みます。
  • 透明性に関する規制を受ける一定のAIシステム — 第50条をはじめとする、特定の透明性義務の対象となるシステム。
  • その他のAIシステム — 禁止される区分にも個別の規制を受ける区分にも該当しないシステム。ただし、他のEU法や任意のガバナンス措置が適用される場合があります。

附属書IIIについては、第6条第2項が出発点となります。附属書IIIのユースケースに該当するAIシステムは、第6条第3項の適用除外およびAI Actのその他の適用規定に従うことを条件に、原則としてハイリスクとなります。

§第6条によるハイリスク該当性の判断

第6条は、ハイリスクに分類される主な経路を2つ定めています。

経路1:第6条第1項 — 規制対象製品に関連するAIシステム

AIシステムは、次の場合にハイリスクとなることがあります。

  • 製品の安全コンポーネントとして使用されることが意図されているか、またはそれ自体が製品である場合
  • 当該製品が、附属書Iに掲げるEUの整合法令の対象である場合
  • 当該製品が、その法令に基づき第三者による適合性評価を受けることを求められている場合

この経路は、医療機器、機械、玩具、昇降機、無線機器その他関連するEU法令の対象となる製品など、一定の規制対象製品分野を対象としています。

経路2:第6条第2項 — 附属書IIIのユースケース

AIシステムは、附属書IIIに掲げるユースケースのいずれかに該当する場合にも、ハイリスクとなることがあります。

これは、雇用、教育、信用、不可欠なサービス、生体認証、法執行、移民および司法といった分野で利用される多くの企業向けAIシステムに最も関係の深い経路です。

重要: 分類は、組織が属する業種だけで判断するのではなく、具体的な意図された目的およびユースケースに基づいて行う必要があります。

§附属書III:8つのハイリスクカテゴリー

附属書IIIは、ハイリスクとなるAIの利用について、8つの大きな分野を定めています。

§1 生体認証

対象となるシステムには、次のうち一定のものが含まれます。

  • 遠隔生体識別システム
  • センシティブな特性または保護される特性に基づく生体分類システム
  • 感情認識システム

正確な適用範囲は、AI Actで禁止される行為、および適用されるEU法または国内法と併せて検討しなければなりません。

たとえば、本人が申告どおりの人物であることを確認する目的のみで行われる生体照合は、附属書IIIにおいて遠隔生体識別とは異なる扱いを受けます。

§2 重要インフラ

これには、次の管理および運用において安全コンポーネントとして使用されることが意図された一定のAIシステムが含まれます。

  • 重要なデジタルインフラ
  • 道路交通
  • 水道
  • ガスの供給
  • 暖房
  • 電力

システムの実際の機能および意図された用途を、附属書IIIの文言に照らして評価する必要があります。

§3 教育・職業訓練

例として、次の目的で使用されるAIシステムが挙げられます。

  • 教育機関への入学または受入れの可否の決定
  • 学習成果の評価
  • 個人に適した教育水準の評価
  • 試験中の禁止行為の監視
  • 学習プロセスへの影響または誘導

したがって、教育用のAIツールは、学校や大学で利用されているというだけで自動的にハイリスクとなるわけではありません。その意図された目的を、附属書IIIの該当するユースケースに照らして評価しなければなりません。

§4 雇用、労働者管理および自営業へのアクセス

このカテゴリーは、HRテクノロジーにとって特に重要です。

次のような活動に使用される、所定のAIシステムが対象となります。

  • 採用および選考
  • 応募書類の分析および絞り込み
  • 候補者の評価
  • 雇用関係に影響する決定
  • 個人の特性または行動に基づく業務の割当て
  • 業績のモニタリングおよび評価

したがって、雇用に関する意思決定に用いるAIは、導入前に慎重に評価する必要があります。

§5 不可欠な民間サービスおよび公共サービスへのアクセス

附属書IIIは、次のものを含む分野で使用される所定のAIシステムを対象としています。

  • 不可欠な公的扶助および公共サービスの受給資格
  • 信用力の評価およびクレジットスコアリング
  • 生命保険および医療保険に関する一定のリスク評価および保険料の算定
  • 緊急サービスの出動指令およびトリアージ

金融サービスや公共部門のAIシステムのすべてが、自動的にハイリスクとなるわけではありません。具体的なユースケースが、附属書IIIの該当する記載に当てはまる必要があります。

§6 法執行

対象となるユースケースには、次の目的で使用される一定のAIシステムが含まれます。

  • ポリグラフおよび類似のツール
  • 証拠の信頼性の評価
  • 犯罪を行うリスクの評価または予測
  • 一定の法執行目的での個人のプロファイリング

このカテゴリーも、第5条、および法執行における一定のAIの利用行為に適用される個別の制限と併せて解釈しなければなりません。

§7 移民、庇護および国境管理

附属書IIIには、次の目的で使用される所定のシステムが含まれます。

  • ポリグラフおよび類似のツール
  • 庇護、査証または滞在許可の申請の審査
  • 所定の状況における個人の検知、認識または識別
  • 移民および国境管理の手続におけるリスク評価

渡航文書の確認に使用される一定のシステムは、附属書IIIにおいて異なる扱いを受けます。

§8 司法運営および民主的プロセス

このカテゴリーには、次のような活動について司法当局を支援するために使用される所定のAIシステムが含まれます。

  • 事実または法の調査および解釈
  • 具体的な事実関係への法の適用

また、選挙または国民投票の結果に影響を与えることを意図した一定のAIシステムも対象となります。

適用範囲は、附属書IIIの正確な文言およびAI Actの禁止行為に関する規定に照らして評価する必要があります。

§附属書IIIのAIシステムはすべて自動的にハイリスクとなるか

いいえ。

第6条第3項は、附属書IIIの一定のシステムについて適用除外を定めています。これは、意思決定の結果に実質的な影響を与えない場合を含め、当該システムが自然人の健康、安全または基本的権利に重大な危害のリスクをもたらさない場合に適用されます。

この適用除外は、AIシステムが次のいずれかを意図している場合に適用されることがあります。

  • 限定的な手続上のタスクを実行すること
  • すでに完了した人間の活動の結果を改善すること
  • 適切な人間によるレビューを条件として、完了済みの人間による評価に取って代わることも影響を与えることもなく、意思決定のパターンまたはそこからの逸脱を検知すること
  • 附属書IIIのユースケースに関連する評価のための準備的なタスクを実行すること

ただし、AIシステムが自然人のプロファイリングを行う場合、この適用除外は適用されません。

第6条第3項に依拠する提供者は、システムを上市する前、またはサービスに供する前に自らの評価を文書化し、適用される登録要件を遵守しなければなりません。

§具体例

例1:採用スクリーニング

AIシステムが応募書類を分析し、企業のために候補者を順位付けします。

想定される分類: 具体的な意図された目的および機能によっては、附属書IIIの雇用のカテゴリーに基づきハイリスクとなります。

例2:事務的な日程調整ツール

HRシステムが面接の日程を自動的に調整しますが、候補者の評価や採用の決定への影響は伴いません。

想定される分類: 機能および意図された目的によっては、附属書IIIの該当するユースケースの対象外となる可能性があります。

例3:信用評価

AIシステムが、信用供与の可否を判断するために個人の信用力を評価します。

想定される分類: 具体的なユースケースおよび適用される例外によっては、附属書IIIに基づきハイリスクとなる可能性があります。

例4:教育機関の事務管理

AIシステムが、入学、評価または学習成果に影響を与えることなく、すでに確定した学生記録の整理といった限定的な事務タスクを実行します。

想定される分類: 実際の機能によっては、該当するハイリスクのユースケースの対象外となる可能性があります。

これらの例は説明のためのものにすぎません。最終的な分類は、個別のシステム、意図された目的、導入環境、および適用されるAI Actの規定に基づいて行う必要があります。

§ハイリスクAIの提供者が備えるべきこと

AIシステムがハイリスクに分類され、関連規定が適用される場合、提供者は次のような要件への対応が必要となることがあります。

リスク管理

AIシステムのライフサイクル全体を対象とする、継続的なリスク管理システムを構築し、維持します。

データおよびデータガバナンス

関連する学習用、検証用およびテスト用のデータセットに、適切なデータガバナンスおよびデータ管理の実務を適用します。

技術文書

AI Actが求める技術文書を作成し、維持します。

記録の保持

自動的に生成される適切なログおよび記録を保持します。

透明性および使用説明

システムを適切に使用するために必要な情報および使用説明を導入者に提供します。

人間による監督

人間による実効的な監督が行えるようにシステムを設計します。

正確性、堅牢性およびサイバーセキュリティ

適切な水準の正確性、堅牢性およびサイバーセキュリティを確保します。

品質管理

必要な品質管理プロセスを構築します。

適合性評価

適用される適合性評価手続を完了します。

具体的な適合性評価の経路は、分類および適用される法令によって異なります。したがって、附属書IIIのすべてのシステムに同じ形式の第三者評価が必要であると考えるのは誤りです。

§導入者の責任

ハイリスクAIへの対応は、提供者だけの問題ではありません。

導入者には、次の事項に関する義務が課される場合があります。

  • 提供者の使用説明に従った利用
  • 適切な能力を有する者による人間の監督の割当て
  • AIシステムの運用状況のモニタリング
  • 関連する記録の保持
  • 一定の重大なインシデントの報告
  • 第27条で求められる場合の基本的権利影響評価の実施
  • 影響を受ける個人への所定の情報の提供

これらの義務は、導入者の役割、業種、ユースケース、およびその導入に適用されるAI Actの個別の規定によって異なります。

§基本的権利影響評価

ハイリスクAIシステムの一定の導入者は、第27条に基づき基本的権利影響評価(FRIA)を実施しなければなりません。

この要件は、特に次の主体に関係します。

  • 公的機関
  • 公共サービスを提供する民間事業者
  • 信用力の評価またはクレジットスコアリングに使用されるハイリスクシステムの一定の導入者

該当する場合、FRIAでは次のような事項を検討します。

  • AIシステムの意図された用途
  • 影響を受ける個人の類型
  • 基本的権利に対する潜在的なリスク
  • 特定されたリスクを低減するための措置
  • 人間による監督およびガバナンスの体制

FRIAは、GDPRのデータ保護影響評価(DPIA)とは別のものですが、個人データが関わる場合には、両者の評価を連携させる必要が生じることがあります。

§AI ActとGDPRの関係

AI ActはGDPRに代わるものではありません。

AIシステムが個人データを処理する場合、組織は双方の枠組みを遵守する必要が生じることがあります。

例:

GDPRが対象とする事項:

  • 適法根拠
  • 透明性
  • データ主体の権利
  • データの最小化
  • 自動化された意思決定
  • データ保護影響評価
  • セキュリティおよび国際移転

AI Actが対象とする事項:

  • AIシステムの分類
  • リスク管理
  • 技術文書
  • 人間による監督
  • 正確性および堅牢性
  • AI固有のサイバーセキュリティ
  • 適合性評価
  • 市販後モニタリング

したがって、2つのコンプライアンスプログラムは、相互に置き換え可能なものとして扱うのではなく、連携させる必要があります。

§AI Actの現在の導入スケジュール

導入スケジュールは、2026年のデジタル・オムニバスによる改正を受けて変更されています。

主な日程

2025年2月2日

禁止されるAIの利用行為およびAIリテラシーに関する規定の適用が開始されました(施行中の個別の規定および改正に従います)。

2025年8月2日

ガバナンスおよび汎用AIモデルに関する規則の適用が、関連規定に基づき開始されました。

2026年8月2日

AI Actの一般的な適用開始日であり、個別の経過規定に従い、その他の規定も適用されます。

2027年12月2日

第3章第1節~第3節のハイリスク要件が、第6条第2項および附属書IIIに基づきハイリスクに分類されるAIシステムに適用されます。

2028年8月2日

対応するハイリスク要件が、第6条第1項および附属書Iに基づいて分類されるAIシステムに適用されます。

これらの日程が重要なのは、附属書IIIのハイリスク義務について従来定められていた2026年8月2日という期日が、Regulation (EU) 2026/1744により変更されたためです。

もっとも、特に技術文書、リスク管理、データガバナンス、サイバーセキュリティおよびガバナンスプロセスを整備する必要がある場合には、法的な適用開始日よりも十分前から準備を始めるべきです。

§AI Actの制裁

AI Actは、違反の種類に応じて、異なる行政上の制裁金の上限を定めています。

たとえば、第99条は次のとおり定めています。

  • 一定の禁止されるAIの利用行為について、最大3,500万ユーロまたは全世界年間売上高の7%
  • その他の一定の違反について、最大1,500万ユーロまたは全世界年間売上高の3%
  • 通知機関または各国の所轄当局に対する不正確、不完全または誤解を招く情報の提供について、最大750万ユーロまたは全世界年間売上高の1%

事業者の場合、適用される上限は、AI Actの詳細な規定に従い、原則として、所定の固定金額と全世界年間売上高に対する所定の割合のいずれか高い方となります。

これらは法定の上限であり、自動的に科される制裁ではありません。実際の執行の結果は、違反の性質および状況、ならびに適用される規定によって異なります。

§附属書IIIの分類でよくある誤り

誤り1:業種をそのまま分類として扱う

銀行、大学、病院またはテクノロジー企業であるというだけで、すべてのAIシステムが自動的にハイリスクとなるわけではありません。

重要なのは、AIの具体的なユースケースです。

誤り2:附属書IIIのシステムはすべて自動的にハイリスクであると考える

第6条第3項は、要件を満たすシステムについて適用除外を定めています。

誤り3:意図された目的を考慮しない

分類は、AIシステムが何を行うことを意図しているか、また実際にどのように設計され導入されているかに大きく左右されます。

誤り4:人間が関与していれば自動的に十分であると考える

ワークフローのどこかに人間が介在しているからといって、必ずしもシステムがハイリスク分類から外れるわけではありません。第6条第3項の条件を慎重に評価しなければなりません。

誤り5:提供者と導入者の責任を混同する

AI Actは、提供者、導入者、輸入者、販売者その他の関係者に、それぞれ異なる義務を課しています。

誤り6:附属書IIIについて、旧来の2026年8月2日という期限を用いる

改正後の現行の枠組みでは、第6条第2項/附属書IIIのハイリスクシステムについて2027年12月2日と定められています。

§よくあるご質問

HRで使用されるAIシステムは、すべてハイリスクに該当しますか?

いいえ。附属書IIIには、雇用に関する特定のAIのユースケースが掲げられています。実際の意図された目的および機能を評価しなければなりません。

チャットボットは、すべて限定リスクのAIに該当しますか?

必ずしもそうではありません。汎用的なチャットボットは、ハイリスクに分類されるのではなく透明性要件の対象となる場合がありますが、附属書IIIの特定の意思決定のユースケースに使用されるAIシステムは、異なる分類となることがあります。

病院で使用されるAIシステムは、自動的にハイリスクとなりますか?

いいえ。医療分野であること自体によって、附属書IIIの分類が自動的に決まるわけではありません。ただし、規制対象の医療製品の一部であるAIシステムは、第6条第1項/附属書Iの経路に該当する可能性があり、その場合は別途の評価が必要です。

附属書IIIのシステムが、ハイリスクではないと分類されることはありますか?

その可能性はあります。第6条第3項は、必要な条件を満たす場合の適用除外を定めています。提供者は評価を文書化しなければならず、プロファイリングの場合は適用除外の対象外となる点も考慮する必要があります。

附属書IIIのハイリスク義務は、いつから適用されますか?

改正後の現行規則では、第3章第1節~第3節の要件は、第6条第2項/附属書IIIのハイリスクAIシステムに2027年12月2日から適用されます。

AI Actのハイリスク義務は、GDPR上の義務と同じですか?

いいえ。両者は異なる規制要件を対象としています。ただし、AIシステムが個人データを処理する場合には、2つの枠組みが重なり合うことがあります。

欧州委員会の分類ガイドラインには法的拘束力がありますか?

欧州委員会の分類ガイダンスは、一貫した解釈および執行を支えることを目的としていますが、ガイダンス自体がAI Actの法文に代わるものではありません。欧州委員会は、提供者および導入者がハイリスク該当性を評価する際の助けとなるよう、分類ガイダンスと実務的な例を公表しています。

AI Actにおける分類を評価する

AIシステムが附属書IIIに該当するかどうかを判断することは、AIガバナンスプログラムを構築するうえで重要な第一歩です。

RegulatoryBridgeは、AIシステムの分類の評価、適用されるAI Actの要件の整理、ガバナンス上のギャップの特定、および導入計画の策定を支援します。

当社のAI Actリスク分類ツールでAIシステムを評価いただくか、当社のAIガバナンスチームまでご要望をお聞かせください。