Jorge Brivilati alerta: Brasil precisa organizar dados culturais urgentemente

Desafios da Inteligência Artificial na Representação Cultural Brasileira

Quando solicitamos a um modelo de inteligência artificial que crie a imagem de uma cidade sem especificar o país ou a região, o resultado frequentemente se limita a um arranha-céu típico dos Estados Unidos. Ao pedirmos representações de manifestações culturais brasileiras, como o Maracatu ou um mercado público do Nordeste, os resultados tendem a ser genéricos ou até mesmo ausentes. Essa limitação não é uma falha do algoritmo, mas sim uma consequência da origem dos dados utilizados para treinar esses modelos.

A Bamboo Data, uma empresa brasileira de datatech, busca estruturar conjuntos de dados audiovisuais que representem a cultura brasileira, visando treinar modelos de IA de forma mais precisa. Para as empresas que utilizam essas tecnologias no Brasil, como bancos e varejistas, essa questão é extremamente relevante.

Impacto dos Dados na Inteligência Artificial

A discussão sobre inteligência artificial geralmente se concentra nos modelos, mas a origem dos dados é uma questão crucial. Jorge Brivilati, cofundador e CEO da Bamboo Data, destaca que, sem a estruturação de bases de dados próprias, a tecnologia aprende sobre o Brasil de maneira superficial e incompleta.

Resultados de Pesquisas sobre Vieses Geográficos

Estudos científicos demonstram que modelos de geração de imagens apresentam disparidades geográficas significativas. Pesquisadores do laboratório FAIR, da Meta, descobriram que modelos de texto para imagem produzem resultados menos realistas ao representar regiões como a África e a Ásia Ocidental, em comparação com a Europa e a América do Norte. Além disso, um estudo recente revelou que modelos acionados com o prompt “EUA” tendem a gerar cenários metropolitanos, excluindo cidades menores e áreas rurais.

Esses vieses não se limitam à geografia. Uma pesquisa da Universidade de Massachusetts identificou que as disparidades nas representações de fundo, como ruas e paisagens, são significativamente maiores entre regiões do que entre os próprios objetos retratados. Isso indica que os modelos têm uma visão distorcida do contexto cultural.

Leia também

IA transforma entrevistas para programadores e exige revisão nos processos de contratação

IBM investe US$ 5 bilhões na proteção de código aberto contra ameaças de IA

Disputa por talentos aumenta, mas empresas investem apenas 3,3% do orçamento de TI em capacitação

Implicações para Empresas no Brasil

Para as empresas que utilizam IA generativa, os resultados tendem a refletir uma visão de mundo que não corresponde ao público-alvo. Isso pode impactar diretamente a comunicação e o atendimento ao cliente, levando a uma desconexão entre a empresa e seus consumidores.

A Iniciativa da Bamboo Data

Brivilati, que cresceu na periferia de Niterói, percebeu a falta de representatividade nos bancos de imagens disponíveis. A partir disso, fundou a Bamboo Stock, uma plataforma de licenciamento de audiovisual focada na produção nacional. Posteriormente, lançou a Bamboo Data, que visa estruturar conjuntos de dados com curadoria e rastreabilidade, permitindo o uso adequado para o treinamento de IA.

Importância da Soberania de Dados

A soberania de dados é um tema crucial, especialmente quando se trata de dados sensíveis. Brivilati alerta que o conhecimento sobre o Brasil coletado na internet não está armazenado em servidores nacionais, o que pode representar um risco significativo. Ele compara a situação atual a disputas internacionais sobre controle de dados, como o caso do TikTok.

Pesquisadores alertam que, se os modelos de IA continuarem a reproduzir vieses, as futuras gerações de sistemas poderão se tornar ainda mais enviesadas. O Brasil está se movimentando nesse sentido, com investimentos significativos em inteligência artificial e iniciativas como o programa SoberanIA, que visa criar um grande conjunto de dados em português, respeitando a LGPD.

O Futuro da Criatividade e da IA

Brivilati acredita que a IA não foi projetada para ser criativa, mas sim para otimizar associações conhecidas. No entanto, quando utilizada corretamente, pode servir como uma ferramenta valiosa para profissionais criativos. Marcas como Porsche e Apple já estão destacando o processo criativo humano em suas campanhas, aumentando o engajamento ao mostrar que a criação foi feita por pessoas.

Por fim, Brivilati ressalta que a IA tende a amplificar desigualdades e preconceitos existentes. O grande desafio é mitigar esses vieses, que muitas vezes são invisíveis. A Bamboo Data busca ocupar esse espaço e garantir que a representação cultural brasileira seja devidamente considerada na formação de modelos de IA.

Fonte por: It Forum