IA no serviço público: a necessidade de governança além da tecnologia

A Integração da Inteligência Artificial na Administração Pública

A adoção da inteligência artificial (IA) na administração pública já não é uma promessa, mas uma realidade que impacta diretamente a vida dos cidadãos. Sistemas automatizados estão sendo utilizados para triagens de benefícios, identificação de fraudes, priorização de atendimentos e análise de grandes volumes de dados governamentais. O aspecto crucial, no entanto, não reside apenas na complexidade dos algoritmos, mas na capacidade do Estado de regular o uso dessas ferramentas. Sem diretrizes claras, critérios documentados, transparência e responsabilização, a tecnologia pode amplificar decisões erradas.

No contexto do setor público, cada modelo automatizado integra um processo decisório que envolve direitos, recursos e políticas sociais. A ausência de registros auditáveis, definição de responsabilidades e instâncias de revisão humana transforma falhas em práticas institucionais, tornando a discussão sobre IA uma questão de governança pública e gestão de risco, e não apenas uma pauta de inovação.

Fundamentos Legais e Governança de Dados

O Brasil possui uma base legal que se relaciona diretamente com a discussão sobre IA, destacando-se a Lei Geral de Proteção de Dados (LGPD), nº 13.709 de 2018. Esta lei regula o tratamento de dados pessoais por entidades públicas e privadas, visando proteger direitos fundamentais como liberdade e privacidade. A LGPD estabelece diretrizes para a coleta, uso, armazenamento e compartilhamento de dados, além de prever sanções em caso de violação.

Outro aspecto importante é a governança de dados no Executivo federal, regulamentada pelo Decreto nº 10.046 de 2019, que define regras para o compartilhamento e gestão de bases públicas, criando um comitê central para tratar do assunto. Além disso, a Lei Federal nº 14.129 de 2021, conhecida como Lei do Governo Digital, estabelece diretrizes para modernizar e digitalizar a administração pública, promovendo eficiência, integração de serviços e transparência.

Regulação da Inteligência Artificial e Seus Impactos

O debate regulatório sobre inteligência artificial no Congresso brasileiro tem se concentrado na lógica de risco. O Projeto de Lei 2.338 de 2023, já aprovado no Senado e atualmente em análise na Câmara, organiza obrigações de acordo com o impacto potencial dos sistemas sobre direitos e garantias. Essa discussão inclui exigências como documentação técnica, avaliação de impacto, medidas de mitigação e supervisão humana em aplicações consideradas de maior risco.

Essa abordagem reconhece que a IA no governo representa uma forma de poder administrativo em escala. Decisões que antes eram individuais agora podem ser replicadas rapidamente, com a aparência de neutralidade técnica. Sem trilhas de auditoria e critérios verificáveis, o Estado pode perder a capacidade de justificar suas escolhas e corrigir erros, comprometendo a confiança institucional. A governança, nesse cenário, atua como um mecanismo de controle e prestação de contas.

Conclusão sobre a Inteligência Artificial no Setor Público

A evolução da inteligência artificial na administração pública é inevitável e pode resultar em ganhos significativos em produtividade e qualidade dos serviços. Contudo, para que esses benefícios sejam alcançados, é fundamental que a tecnologia seja acompanhada de regras, processos e mecanismos de responsabilização. Assim, a discussão sobre IA no serviço público se torna menos sobre a tecnologia em si e mais sobre como o Estado decide, documenta e responde por suas decisões.

Fonte por: It Forum