PL da IA: CGI.br pede análise de risco e controle rigoroso de biometria

Recomendações do Comitê Gestor da Internet sobre o PL 2338/23

O Comitê Gestor da Internet no Brasil divulgou uma nova nota técnica com sugestões de ajustes ao Projeto de Lei 2338/23. As recomendações visam reforçar a abordagem baseada em risco, ampliar as salvaguardas de direitos fundamentais e corrigir lacunas relacionadas ao uso de sistemas automatizados em áreas sensíveis, como segurança pública e políticas sociais.

Análise Preliminar de Risco

Um dos principais pontos destacados pelo comitê é a obrigatoriedade da análise preliminar de risco por desenvolvedores e operadores de sistemas de inteligência artificial. O texto atual do artigo 12 permite que os responsáveis “poderão” realizar essa avaliação, o que, segundo o CGI.br, enfraquece a proposta regulatória.

A análise prévia de risco é fundamental para a compreensão e cumprimento da legislação. Por isso, o comitê recomenda que essa avaliação seja obrigatória, com exigências proporcionais ao porte da organização e ao impacto potencial do sistema de IA.

Regulação Baseada em Risco

O CGI.br enfatiza que a regulação deve considerar as perspectivas tanto do regulador quanto dos agentes regulados. O regulador deve priorizar sua atuação com base nos riscos associados a setores e tecnologias, utilizando metodologias de avaliação adequadas. Por sua vez, as empresas que desenvolvem ou utilizam sistemas de IA devem implementar mecanismos internos de avaliação e gerenciamento de riscos.

Novas Categorias de Sistemas de Alto Risco

Outra sugestão do comitê é a inclusão de uma previsão que permita identificar novas categorias de sistemas de alto risco por meio de regulamentação futura. Essa medida é considerada essencial para que a legislação acompanhe a evolução tecnológica e as novas aplicações da inteligência artificial.

Proteção de Grupos Vulneráveis e Tecnologias de Vigilância

O comitê também propõe a retirada do artigo 77 do projeto, que trata dos impactos da inteligência artificial sobre conteúdos online. Na visão do CGI.br, essa previsão pode limitar o debate regulatório e deve ser substituída por uma abordagem que permita um tratamento mais flexível do tema.

Em relação à proteção de grupos vulneráveis, o comitê recomenda que a norma sobre abuso e exploração sexual, atualmente focada em crianças e adolescentes, seja ampliada para incluir mulheres, que também são frequentemente vítimas desse tipo de violência em ambientes digitais.

Preocupações com Vigilância e Previsão de Crimes

A nota técnica expressa preocupações sobre o tratamento de tecnologias de vigilância no projeto. O CGI.br alerta que o texto permite o uso irrestrito de sistemas de identificação biométrica à distância, o que pode representar riscos significativos à privacidade e às liberdades civis, caso não haja salvaguardas adequadas.

Além disso, o comitê critica a possibilidade de uso de sistemas de inteligência artificial para previsão de crimes, argumentando que isso pode reproduzir vieses presentes nos dados históricos e resultar em práticas discriminatórias.

Transparência em Sistemas de Ranqueamento

Por fim, o CGI.br sugere ajustes nas regras sobre sistemas de ranqueamento utilizados para determinar elegibilidade em políticas públicas. Esses mecanismos devem ser acompanhados de critérios claros de transparência e revisão, uma vez que podem impactar diretamente o acesso da população a benefícios e serviços estatais.

Fonte por: Convergencia Digital