Skip to main content

EU AI Act 부속서 III: 고위험 AI 시스템 해설

EU AI Act 부속서 III은 건강, 안전 및 기본권에 미칠 수 있는 영향 때문에 고위험 AI 시스템으로 분류될 수 있는 구체적인 AI 활용 사례를 열거합니다.

다만 부속서 III에 열거되어 있다고 해서 해당 분야에서 사용되는 모든 AI 시스템에 고위험 규제 전체가 자동으로 적용되는 것은 아닙니다. 제6조를 부속서 III 및 관련 예외와 함께 검토해야 합니다.

이 가이드는 부속서 III 분류의 작동 방식, 고위험 활용 사례의 8개 범주, 제6조 제3항의 예외, 제공자와 배포자의 주요 의무, 그리고 현행 구현 일정을 설명합니다.

중요: AI 시스템의 분류는 의도된 목적, 기능, 배포 맥락 및 그 밖의 사실관계에 따라 달라집니다. 이 가이드는 일반적인 정보를 제공하는 것이며, 구속력 있는 법적 분류로 취급해서는 안 됩니다.

§한눈에 보는 AI Act 고위험 분류

EU AI Act는 AI 시스템이 초래하는 위험에 따라 서로 다른 규제 요건을 정하고 있습니다.

주요 범주는 다음과 같습니다.

  • 금지되는 AI 관행 — 제5조에 따라 금지되는 관행.
  • 고위험 AI 시스템 — 부속서 I 및 부속서 III의 적용을 받는 시스템을 포함하여 제6조에 따라 분류되는 시스템.
  • 투명성 규제가 적용되는 일부 AI 시스템 — 제50조를 포함한 특정 투명성 의무가 적용되는 시스템.
  • 기타 AI 시스템 — 금지 범주나 별도 규제 범주에 해당하지 않는 시스템. 다만 다른 EU 법률과 자율적 거버넌스 조치는 여전히 적용될 수 있습니다.

부속서 III의 경우 출발점은 제6조 제2항입니다. 부속서 III의 활용 사례에 해당하는 AI 시스템은 원칙적으로 고위험이며, 제6조 제3항의 예외와 AI Act의 그 밖의 관련 조항이 적용됩니다.

§제6조는 AI 시스템의 고위험 여부를 어떻게 판단합니까?

제6조는 고위험으로 분류되는 두 가지 주요 경로를 규정합니다.

경로 1: 제6조 제1항 — 규제 대상 제품과 연계된 AI 시스템

AI 시스템은 다음의 경우 고위험에 해당할 수 있습니다.

  • 제품의 안전 구성요소로 사용되도록 의도되었거나 그 자체가 제품이고,
  • 해당 제품이 부속서 I에 열거된 EU 조화 법령의 적용을 받으며,
  • 해당 제품이 그 법령에 따라 제3자 적합성 평가를 받아야 하는 경우.

이 경로는 의료기기, 기계류, 완구, 승강기, 무선 장비 및 관련 EU 법령의 적용을 받는 그 밖의 제품 등 일부 규제 대상 제품 분야에 적용됩니다.

경로 2: 제6조 제2항 — 부속서 III 활용 사례

AI 시스템은 부속서 III에 열거된 활용 사례 중 하나에 해당하는 경우에도 고위험이 될 수 있습니다.

고용, 교육, 신용, 필수 서비스, 생체 인식, 법 집행, 이민, 사법 등의 분야에서 사용되는 많은 기업용 AI 시스템과 가장 관련이 깊은 경로입니다.

중요: 분류는 조직이 속한 산업이 아니라 정확한 의도된 목적과 활용 사례를 기준으로 해야 합니다.

§부속서 III: 8개 고위험 범주

부속서 III은 고위험 AI 활용 영역을 크게 8가지로 구분합니다.

§1 생체 인식

해당 시스템에는 다음 중 일부가 포함됩니다.

  • 원격 생체 인식 식별 시스템
  • 민감하거나 보호되는 특성에 기반한 생체 인식 분류 시스템
  • 감정 인식 시스템

정확한 범위는 AI Act의 금지 관행 및 관련 EU법 또는 국내법과 함께 검토해야 합니다.

예를 들어, 본인이 주장하는 사람이 맞는지 확인하는 용도로만 사용되는 생체 인증은 부속서 III에서 원격 생체 인식 식별과 다르게 취급됩니다.

§2 핵심 인프라

여기에는 다음 분야의 관리 및 운영에서 안전 구성요소로 사용되도록 의도된 일부 AI 시스템이 포함됩니다.

  • 핵심 디지털 인프라
  • 도로 교통
  • 수도 공급
  • 가스 공급
  • 난방
  • 전력

시스템의 실제 기능과 의도된 용도를 부속서 III의 문언에 비추어 평가해야 합니다.

§3 교육 및 직업 훈련

다음 용도로 사용되는 AI 시스템이 그 예입니다.

  • 교육기관 접근 또는 입학 결정
  • 학습 성과 평가
  • 개인에게 적합한 교육 수준 평가
  • 시험 중 부정행위 모니터링
  • 학습 과정에 대한 영향 또는 유도

따라서 교육용 AI 도구가 학교나 대학에서 사용된다는 이유만으로 자동으로 고위험이 되는 것은 아닙니다. 의도된 목적을 부속서 III의 관련 활용 사례에 비추어 평가해야 합니다.

§4 고용, 근로자 관리 및 자영업 접근

HR 기술에 특히 중요한 범주입니다.

다음과 같은 활동에 사용되는 특정 AI 시스템이 대상입니다.

  • 채용 및 선발
  • 지원서 분석 및 선별
  • 지원자 평가
  • 고용 관계에 영향을 미치는 결정
  • 개인의 특성 또는 행동에 기반한 업무 배정
  • 성과 모니터링 및 평가

따라서 고용 관련 의사결정에 사용되는 AI는 배포 전에 신중하게 평가해야 합니다.

§5 필수 민간 및 공공 서비스 접근

부속서 III은 다음을 포함한 영역에서 사용되는 특정 AI 시스템을 대상으로 합니다.

  • 필수 공공 지원 및 서비스의 수급 자격
  • 신용도 평가 및 신용 점수 산정
  • 일부 생명보험 및 건강보험의 위험 평가와 보험료 산정
  • 긴급 서비스 출동 배치 및 우선순위 분류

금융 서비스나 공공 부문의 모든 AI 시스템이 자동으로 고위험이 되는 것은 아닙니다. 구체적인 활용 사례가 부속서 III의 해당 기술 내용에 부합해야 합니다.

§6 법 집행

관련 활용 사례에는 다음 용도로 사용되는 일부 AI 시스템이 포함됩니다.

  • 거짓말 탐지기 및 유사 도구
  • 증거의 신뢰성 평가
  • 범죄 발생 위험의 평가 또는 예측
  • 특정 법 집행 목적의 개인 프로파일링

이 범주는 제5조 및 일부 법 집행 AI 관행에 적용되는 개별 제한 규정과도 함께 해석해야 합니다.

§7 이민, 망명 및 국경 통제

부속서 III에는 다음 용도로 사용되는 특정 시스템이 포함됩니다.

  • 거짓말 탐지기 및 유사 도구
  • 망명, 비자 또는 체류 허가 신청 심사
  • 특정 상황에서의 개인 탐지, 인식 또는 식별
  • 이민 및 국경 관리 절차에서의 위험 평가

여행 서류 확인에 사용되는 일부 시스템은 부속서 III에서 다르게 취급됩니다.

§8 사법 행정 및 민주적 절차

이 범주에는 다음과 같은 활동에서 사법 당국을 지원하는 데 사용되는 특정 AI 시스템이 포함됩니다.

  • 사실관계 또는 법률의 조사 및 해석
  • 구체적인 사실관계에 대한 법률 적용

선거 또는 국민투표의 결과에 영향을 미치도록 의도된 일부 AI 시스템도 여기에 해당합니다.

적용 범위는 부속서 III의 정확한 문언과 AI Act의 금지 관행 조항에 비추어 평가해야 합니다.

§부속서 III의 모든 AI 시스템이 자동으로 고위험입니까?

아닙니다.

제6조 제3항은 일부 부속서 III 시스템에 대한 예외를 규정합니다. 의사결정 결과에 실질적인 영향을 미치지 않는 경우를 포함하여, 시스템이 자연인의 건강, 안전 또는 기본권에 중대한 위해 위험을 초래하지 않는 경우가 이에 해당합니다.

이 예외는 AI 시스템이 다음을 의도한 경우에 적용될 수 있습니다.

  • 좁은 범위의 절차적 업무를 수행하는 경우,
  • 이미 완료된 인간 활동의 결과를 개선하는 경우,
  • 적절한 인간 검토를 전제로, 완료된 인간의 평가를 대체하거나 그에 영향을 미치지 않으면서 의사결정 패턴 또는 그 편차를 탐지하는 경우, 또는
  • 부속서 III 활용 사례와 관련된 평가를 위한 준비 업무를 수행하는 경우.

다만 AI 시스템이 자연인에 대한 프로파일링을 수행하는 경우에는 이 예외가 적용되지 않습니다.

제6조 제3항을 원용하는 제공자는 시스템을 시장에 출시하거나 서비스에 투입하기 전에 평가 내용을 문서화하고 관련 등록 요건을 준수해야 합니다.

§실무 사례

사례 1: 채용 심사

AI 시스템이 기업을 위해 입사 지원서를 분석하고 지원자의 순위를 매깁니다.

예상 분류: 정확한 의도된 목적과 기능에 따라 부속서 III의 고용 범주에서 고위험에 해당합니다.

사례 2: 행정용 일정 관리 도구

HR 시스템이 면접 일정을 자동으로 잡지만 지원자를 평가하거나 채용 결정에 영향을 미치지는 않습니다.

예상 분류: 기능과 의도된 목적에 따라 부속서 III의 해당 활용 사례에 해당하지 않을 수 있습니다.

사례 3: 신용 평가

AI 시스템이 신용 이용을 위해 개인의 신용도를 평가합니다.

예상 분류: 정확한 활용 사례와 관련 예외에 따라 부속서 III에서 고위험에 해당할 수 있습니다.

사례 4: 교육 행정

AI 시스템이 입학, 평가 또는 학습 성과에 영향을 미치지 않으면서 이미 확정된 학생 기록을 정리하는 것과 같은 좁은 범위의 행정 업무를 수행합니다.

예상 분류: 실제 기능에 따라 해당 고위험 활용 사례에 해당하지 않을 수 있습니다.

이 사례들은 예시일 뿐입니다. 최종 분류는 구체적인 시스템, 의도된 목적, 배포 환경 및 AI Act의 관련 조항을 기준으로 해야 합니다.

§고위험 AI 제공자가 준비해야 할 사항

AI 시스템이 고위험으로 분류되고 관련 조항이 적용되는 경우, 제공자는 다음을 포함한 요건에 대응해야 할 수 있습니다.

리스크 관리

AI 시스템의 수명 주기 전반을 포괄하는 상시 리스크 관리 체계를 수립하고 유지합니다.

데이터 및 데이터 거버넌스

관련 학습, 검증 및 테스트 데이터셋에 적절한 데이터 거버넌스 및 데이터 관리 관행을 적용합니다.

기술 문서

AI Act가 요구하는 기술 문서를 작성하고 유지합니다.

기록 보관

자동으로 생성되는 로그와 기록을 적절히 유지합니다.

투명성 및 사용 지침

배포자가 시스템을 적절히 사용하는 데 필요한 정보와 지침을 제공합니다.

인간 감독

실효성 있는 인간 감독이 가능하도록 시스템을 설계합니다.

정확성, 견고성 및 사이버 보안

적절한 수준의 정확성, 견고성 및 사이버 보안을 확보합니다.

품질 관리

요구되는 품질 관리 프로세스를 수립합니다.

적합성 평가

해당하는 적합성 평가 절차를 완료합니다.

구체적인 적합성 평가 경로는 분류와 적용 법령에 따라 달라집니다. 따라서 모든 부속서 III 시스템에 동일한 형태의 제3자 평가가 필요하다고 가정하는 것은 옳지 않습니다.

§배포자의 책임

고위험 AI 컴플라이언스는 제공자에게만 국한되지 않습니다.

배포자는 다음과 관련된 의무를 부담할 수 있습니다.

  • 제공자의 사용 지침 준수
  • 적절한 역량을 갖춘 인간 감독 담당자 지정
  • AI 시스템의 운영 모니터링
  • 관련 기록 유지
  • 일부 중대 사고의 보고
  • 제27조가 요구하는 경우 기본권 영향평가 수행
  • 영향을 받는 개인에게 해당 정보 제공

의무의 내용은 배포자의 역할, 분야, 활용 사례 및 해당 배포에 적용되는 AI Act의 개별 조항에 따라 달라집니다.

§기본권 영향평가

고위험 AI 시스템의 일부 배포자는 제27조에 따라 기본권 영향평가(FRIA)를 수행해야 합니다.

이 요건은 특히 다음 주체와 관련이 깊습니다.

  • 공공기관
  • 공공 서비스를 제공하는 민간 사업자
  • 신용도 평가 또는 신용 점수 산정에 사용되는 고위험 시스템의 일부 배포자

해당하는 경우 FRIA에서는 다음과 같은 사항을 검토해야 합니다.

  • AI 시스템의 의도된 용도
  • 영향을 받는 개인의 범주
  • 기본권에 대한 잠재적 위험
  • 식별된 위험을 완화하기 위한 조치
  • 인간 감독 및 거버넌스 체계

FRIA는 GDPR의 데이터 보호 영향평가(DPIA)와 별개의 평가이지만, 개인정보가 관련된 경우 두 평가를 서로 조율해야 할 수 있습니다.

§AI Act와 GDPR: 상호 관계

AI Act는 GDPR을 대체하지 않습니다.

AI 시스템이 개인정보를 처리하는 경우 조직은 두 프레임워크를 모두 준수해야 할 수 있습니다.

예를 들면 다음과 같습니다.

GDPR이 다루는 사항:

  • 적법 근거
  • 투명성
  • 정보주체의 권리
  • 데이터 최소화
  • 자동화된 의사결정
  • 데이터 보호 영향평가
  • 보안 및 국외 이전

AI Act가 다루는 사항:

  • AI 시스템 분류
  • 리스크 관리
  • 기술 문서
  • 인간 감독
  • 정확성 및 견고성
  • AI 특화 사이버 보안
  • 적합성 평가
  • 시판 후 모니터링

따라서 두 컴플라이언스 프로그램은 서로 대체 가능한 것으로 취급하지 말고 조율하여 운영해야 합니다.

§현행 AI Act 구현 일정

구현 일정은 2026년 Digital Omnibus 개정에 따라 변경되었습니다.

주요 일자

2025년 2월 2일

금지되는 AI 관행 및 AI 리터러시 조항이 시행 중인 개별 조항과 개정 사항에 따라 적용되기 시작했습니다.

2025년 8월 2일

거버넌스 및 범용 AI 모델에 관한 규칙이 관련 조항에 따라 적용되기 시작했습니다.

2026년 8월 2일

AI Act의 일반 적용일로, 개별 경과 규정에 따라 그 밖의 조항이 효력을 발생합니다.

2027년 12월 2일

제3장 제1~3절의 고위험 요건이 제6조 제2항 및 부속서 III에 따라 고위험으로 분류되는 AI 시스템에 적용됩니다.

2028년 8월 2일

이에 상응하는 고위험 요건이 제6조 제1항 및 부속서 I에 따라 분류되는 AI 시스템에 적용됩니다.

이 일자들이 중요한 이유는 부속서 III 고위험 의무의 종전 적용일인 2026년 8월 2일이 Regulation (EU) 2026/1744에 의해 변경되었기 때문입니다.

그렇더라도 조직은 법적 적용일보다 훨씬 앞서 준비를 시작해야 하며, 기술 문서, 리스크 관리, 데이터 거버넌스, 사이버 보안 및 거버넌스 프로세스를 새로 수립해야 하는 경우에는 더욱 그렇습니다.

§AI Act 제재

AI Act는 위반 유형에 따라 서로 다른 행정 과징금 상한을 규정합니다.

예를 들어 제99조는 다음과 같이 규정합니다.

  • 일부 금지되는 AI 관행에 대해 최대 3,500만 유로 또는 전 세계 연간 매출액의 7%,
  • 그 밖의 일부 위반 행위에 대해 최대 1,500만 유로 또는 전 세계 연간 매출액의 3%,
  • 인증기관 또는 국가 관할 당국에 부정확하거나 불완전하거나 오해의 소지가 있는 정보를 제공한 경우 최대 750만 유로 또는 전 세계 연간 매출액의 1%.

기업의 경우 적용되는 상한은 AI Act의 세부 규칙에 따라, 원칙적으로 정해진 고정 금액과 전 세계 연간 매출액의 해당 비율 중 더 높은 금액입니다.

이는 법정 상한이며 자동으로 부과되는 제재가 아닙니다. 실제 집행 결과는 위반의 성격과 정황, 그리고 적용 조항에 따라 달라집니다.

§부속서 III 분류에서 흔히 저지르는 실수

실수 1: 산업 분야를 곧 분류로 취급

은행, 대학, 병원 또는 기술 기업이라고 해서 모든 AI 시스템이 자동으로 고위험이 되는 것은 아닙니다.

중요한 것은 구체적인 AI 활용 사례입니다.

실수 2: 부속서 III의 모든 시스템이 자동으로 고위험이라고 가정

제6조 제3항은 요건을 충족하는 시스템에 대한 예외를 규정합니다.

실수 3: 의도된 목적을 간과

분류는 AI 시스템이 무엇을 하도록 의도되었는지, 실제로 어떻게 설계되고 배포되는지에 크게 좌우됩니다.

실수 4: 인간의 관여만으로 충분하다고 취급

워크플로 어딘가에 사람이 있다고 해서 시스템이 반드시 고위험 분류에서 제외되는 것은 아닙니다. 제6조 제3항의 조건을 신중하게 평가해야 합니다.

실수 5: 제공자와 배포자의 책임을 혼동

AI Act는 제공자, 배포자, 수입자, 유통자 및 그 밖의 주체에게 서로 다른 의무를 부여합니다.

실수 6: 부속서 III에 종전 기한인 2026년 8월 2일을 적용

현행 개정 프레임워크는 제6조 제2항/부속서 III 고위험 시스템의 적용일을 2027년 12월 2일로 정하고 있습니다.

§자주 묻는 질문

HR에 사용되는 모든 AI 시스템이 고위험에 해당합니까?

아닙니다. 부속서 III에는 고용과 관련된 특정 AI 활용 사례가 열거되어 있습니다. 실제 의도된 목적과 기능을 평가해야 합니다.

모든 챗봇이 제한적 위험 AI에 해당합니까?

반드시 그렇지는 않습니다. 범용 챗봇에는 고위험 분류가 아니라 투명성 요건이 적용될 수 있지만, 부속서 III의 특정 의사결정 활용 사례에 사용되는 AI 시스템은 다르게 분류될 수 있습니다.

병원에서 사용하는 AI 시스템은 자동으로 고위험입니까?

아닙니다. 의료 분야라는 사실만으로 부속서 III 분류가 자동으로 결정되지는 않습니다. 다만 규제 대상 의료 제품의 일부인 AI 시스템은 제6조 제1항/부속서 I 경로에 해당할 가능성이 있으며, 이 경우 별도의 평가가 필요합니다.

부속서 III 시스템이 고위험이 아닌 것으로 분류될 수 있습니까?

그럴 수 있습니다. 제6조 제3항은 필요한 조건이 충족되는 경우에 적용되는 예외를 규정합니다. 제공자는 평가 내용을 문서화해야 하며, 프로파일링에 대한 예외 적용 배제도 고려해야 합니다.

부속서 III 고위험 의무는 언제부터 적용됩니까?

현행 개정 규정에 따르면 제3장 제1~3절의 요건은 2027년 12월 2일부터 제6조 제2항/부속서 III 고위험 AI 시스템에 적용됩니다.

AI Act의 고위험 의무는 GDPR 의무와 동일합니까?

아닙니다. 두 법은 서로 다른 규제 요건을 다룹니다. 다만 AI 시스템이 개인정보를 처리하는 경우에는 두 프레임워크가 중첩될 수 있습니다.

유럽연합 집행위원회의 분류 지침은 법적 구속력이 있습니까?

집행위원회의 분류 지침은 일관된 해석과 집행을 뒷받침하기 위한 것이지만, 지침 자체가 AI Act의 법문을 대체하지는 않습니다. 집행위원회는 제공자와 배포자가 고위험 해당 여부를 평가할 수 있도록 분류 지침과 실무 사례를 공표했습니다.

AI Act 분류 평가하기

AI 시스템이 부속서 III에 해당하는지 판단하는 것은 AI 거버넌스 프로그램을 구축하는 중요한 첫걸음입니다.

RegulatoryBridge는 조직이 AI 시스템 분류를 평가하고, 적용되는 AI Act 요건을 매핑하고, 거버넌스 격차를 파악하고, 구현 계획을 수립하도록 지원합니다.

당사의 AI Act 리스크 분류 도구로 AI 시스템을 평가하거나 당사 AI 거버넌스 팀과 귀사의 요건을 상의하세요.