O Classificador de risco do EU AI Act da RegulatoryBridge ajuda as empresas a identificar possíveis obrigações regulatórias e a entender os próximos passos rumo a uma governança de IA responsável.
Inicie sua avaliação para conhecer a possível classificação de risco do seu sistema de IA.
O sistema de IA implementa alguma das seguintes práticas proibidas?
Como o EU AI Act classifica os sistemas de IA?
O EU AI Act segue uma abordagem baseada em risco. As obrigações aplicáveis dependem das características e do uso pretendido do sistema de IA.
Práticas de IA proibidas
Certas práticas são proibidas porque representam riscos inaceitáveis à segurança, aos direitos fundamentais ou à dignidade humana.
Sistemas de IA de alto risco
Certos sistemas usados em áreas como emprego, educação, serviços essenciais, infraestrutura crítica e produtos regulados podem estar sujeitos a requisitos extensos de conformidade.
Obrigações de transparência
Certos sistemas de IA devem cumprir requisitos de divulgação ou de identificação de conteúdo, incluindo as regras aplicáveis a interações com IA e a conteúdo gerado ou manipulado por IA.
Risco mínimo ou nenhum risco
Muitas aplicações de IA ficam fora dos requisitos de alto risco do regulamento, embora outras obrigações legais aplicáveis ainda possam incidir.
Essas categorias são um ponto de partida prático. As obrigações exatas dependem das disposições aplicáveis, da finalidade pretendida do sistema e do papel da organização.
Como funciona a avaliação de risco do AI Act
Identificar práticas proibidas
A avaliação verifica primeiro se o sistema pode envolver uma prática de IA proibida pelo artigo 5 do EU AI Act. Uma prática potencialmente proibida exige uma análise jurídica cuidadosa antes que o sistema seja desenvolvido, implantado ou usado.
Avaliar a classificação de alto risco
Se nenhuma prática proibida for identificada, a avaliação considera se o sistema pode ser qualificado como de alto risco nos termos do artigo 6 e das disposições pertinentes do Anexo I ou do Anexo III.
Analisar os requisitos de transparência
A avaliação considera se o sistema pode acionar obrigações específicas de transparência, como informar as pessoas de que estão interagindo com uma IA ou cumprir os requisitos aplicáveis a determinados conteúdos gerados por IA.
Entender os possíveis próximos passos
Com base nas suas respostas, a ferramenta fornece uma classificação preliminar e destaca as áreas que podem exigir avaliação adicional, documentação ou planejamento de conformidade.
O que significa a classificação de IA de alto risco?
Quando um sistema de IA é classificado como de alto risco e as obrigações pertinentes se aplicam, a organização pode precisar atender a requisitos relativos a:
- Gestão e mitigação de riscos
- Qualidade e governança de dados
- Documentação técnica e manutenção de registros
- Transparência e instruções de uso
- Supervisão humana
- Exatidão, robustez e cibersegurança
- Gestão da qualidade e avaliação de conformidade
- Registro, monitoramento e comunicação de incidentes, quando aplicável
Os requisitos variam de acordo com a classificação do sistema e o papel da organização, inclusive conforme ela atue como fornecedor, implantador, importador ou distribuidor.
Quem deve usar este classificador do AI Act?
A ferramenta foi concebida para:
- Desenvolvedores de IA e fornecedores de tecnologia
- Empresas que implantam soluções de IA de terceiros
- Equipes de conformidade, privacidade e jurídico
- Profissionais de riscos e de segurança da informação
- Gerentes de produto e líderes de governança de IA
- Organizações que avaliam o uso de IA em suas operações europeias
Por que a classificação de risco de IA é importante
Entender desde cedo a classificação provável do seu sistema de IA pode ajudar sua organização a identificar possíveis obrigações, alocar recursos de conformidade e incorporar controles de governança ao ciclo de desenvolvimento e implantação.
Uma avaliação estruturada também pode ajudar a identificar quando é apropriada uma análise jurídica ou técnica especializada. A classificação deve ser revista quando mudarem a finalidade pretendida do sistema, sua funcionalidade, o contexto de implantação ou os requisitos regulatórios aplicáveis.
Perguntas frequentes
O que é o Classificador de risco do EU AI Act?
É uma ferramenta de avaliação preliminar que ajuda as organizações a avaliar um sistema de IA em relação às categorias de risco pertinentes do EU AI Act. O resultado é uma indicação inicial, não uma determinação jurídica vinculante.
Todo sistema de IA é classificado como de alto risco?
Não. A classificação de alto risco depende dos critérios legais aplicáveis, da finalidade pretendida e do uso. Muitos sistemas de IA não são classificados como de alto risco, embora ainda possam estar sujeitos a outras disposições do AI Act ou a outras leis.
O que acontece se o meu sistema de IA puder ser proibido?
Não confie apenas no resultado automatizado. Analise a disposição pertinente do artigo 5 e obtenha orientação jurídica adequada antes de prosseguir com a atividade potencialmente proibida.
Quais obrigações se aplicam aos sistemas de IA de alto risco?
Dependendo do sistema e das datas de aplicação pertinentes, os requisitos podem incluir gestão de riscos, governança de dados, documentação técnica, registro de logs, supervisão humana, cibersegurança, avaliação de conformidade e monitoramento pós-comercialização.
Um resultado de baixo risco significa que meu sistema de IA está totalmente em conformidade?
Não. Uma classificação de baixo risco não estabelece automaticamente a conformidade com todo o EU AI Act ou com outras leis aplicáveis. Transparência, letramento em IA, proteção de dados, segurança de produtos e outros requisitos ainda podem ser relevantes.
O classificador substitui a orientação jurídica?
Não. Ele fornece orientação preliminar com base nas informações fornecidas. Uma avaliação completa pode exigir a análise da finalidade pretendida do sistema, da documentação técnica, do contexto de implantação e das disposições legais aplicáveis.
Avalie sua prontidão em governança de IA
Entender a categoria de risco do seu sistema de IA é um primeiro passo importante. A RegulatoryBridge pode ajudar sua organização a avaliar possíveis obrigações, identificar lacunas de governança e desenvolver uma abordagem estruturada para a conformidade em IA.
Entre em contato com a RegulatoryBridge para discutir sua avaliação do EU AI Act e seus requisitos de governança de IA.
Fale com a RegulatoryBridge