ONU revela que 1 bilhão de pessoas utilizam IA conversacional semanalmente, mas alerta para riscos catastróficos

Relatório da ONU sobre Inteligência Artificial: Benefícios e Riscos

A inteligência artificial (IA) apresenta grandes oportunidades e desafios para países e indivíduos ao redor do mundo, conforme destacado por 40 cientistas e especialistas em um relatório do painel científico independente da ONU. Este documento é o primeiro a oferecer uma avaliação global e científica da tecnologia.

Apresentação do Relatório e Contexto

O relatório será apresentado durante o primeiro Diálogo Global da ONU sobre a governança da IA, que ocorrerá em Genebra nos dias 6 e 7 de julho. Os membros do painel foram escolhidos de diversas regiões do mundo e atuam de forma independente, sem vínculos com governos ou empresas, com um mandato de três anos.

Principais Conclusões do Relatório

O relatório preliminar traz várias observações importantes sobre a governança da IA:

Os formuladores de políticas necessitam de evidências científicas para regular a IA, mas a evolução da tecnologia está superando a compreensão científica e a capacidade de adaptação dos governos.
Yoshua Bengio, copresidente do painel, alertou sobre comportamentos enganosos da IA, afirmando que não há garantias de que a tecnologia não causará danos significativos, seja por ação própria ou por usuários mal-intencionados.
Embora os benefícios da IA sejam vastos, a rápida e descontrolada implementação da tecnologia pode resultar em riscos sérios, como impactos na saúde mental, uso indevido e desafios sociais e ambientais.
A adoção da IA tem sido desigual, com mais de um bilhão de pessoas utilizando IA conversacional semanalmente, enquanto os países em desenvolvimento enfrentam um atraso significativo.
O desenvolvimento da IA é concentrado, com os EUA detendo 75% do poder de computação dos 500 maiores supercomputadores de IA, enquanto a China possui 15%.
Os modelos de IA atuais são treinados em apenas uma fração dos mais de 7.000 idiomas falados no mundo, resultando em erros na tradução automática que podem impactar diagnósticos de saúde.
Os riscos associados à IA incluem impactos negativos nos direitos humanos e no meio ambiente, além da disseminação de conteúdo abusivo e deepfakes.
A IA também facilita a criação de conteúdo persuasivo em larga escala, o que pode comprometer a integridade da informação e a confiança pública.
A maioria dos países, incluindo aqueles com economias avançadas, carece do conhecimento técnico necessário para avaliar e governar os novos modelos de IA.

Considerações Finais

O relatório da ONU destaca a necessidade urgente de uma abordagem equilibrada para a governança da IA, que maximize seus benefícios enquanto mitiga os riscos associados. A colaboração internacional e o desenvolvimento de capacidades técnicas são essenciais para enfrentar os desafios que a IA apresenta no cenário global.

Fonte por: Convergencia Digital