Regulador britânico investiga X por imagens sexualizadas do Grok

Investigação da Ofcom sobre o uso do Grok no Reino Unido

A Ofcom, regulador de comunicações do Reino Unido, iniciou uma investigação formal contra a plataforma X, de Elon Musk, para verificar se o chatbot de inteligência artificial (IA) Grok, desenvolvido pela xAI, foi utilizado para criar e disseminar imagens sexualizadas potencialmente ilegais. A apuração se concentra em relatos de que a funcionalidade de geração de imagens do Grok teria sido empregada para produzir e compartilhar representações íntimas não consensuais, incluindo imagens envolvendo menores de idade.

No Reino Unido, a criação e a circulação desse tipo de material, mesmo quando gerado por IA, são consideradas crimes. A legislação vigente exige que as plataformas tomem medidas para reduzir o risco de exposição dos usuários a conteúdos ilegais e removam rapidamente qualquer material identificado como tal.

Pressão política e reações internacionais

A investigação ocorre em um contexto de crescente pressão política e pública. O primeiro-ministro britânico, Keir Starmer, afirmou que os materiais associados ao Grok são inaceitáveis e exigiu uma resposta mais rigorosa da empresa. O governo britânico manifestou apoio total à Ofcom na responsabilização de plataformas que não cumpram suas obrigações de proteção, especialmente em relação a crianças.

Além do Reino Unido, a funcionalidade do Grok também gerou reações em outros países. Na França, autoridades enviaram denúncias a promotores e reguladores, classificando o conteúdo como ilegal. Na Índia, órgãos governamentais solicitaram esclarecimentos formais à empresa. Em resposta às críticas, a X anunciou restrições ao uso do recurso de geração de imagens, limitando-o a assinantes pagos.

Compromissos da X e da xAI

A X afirma que remove conteúdos ilegais assim que são detectados e aplica punições permanentes a contas envolvidas na criação ou compartilhamento desse tipo de material. A empresa também declarou que usuários que utilizarem prompts para gerar conteúdo ilícito enfrentam as mesmas sanções aplicadas a quem faz upload direto de material proibido. A xAI, por sua vez, não forneceu detalhes sobre medidas técnicas ou de governança adicionais em resposta a questionamentos sobre o tema.

Escopo da investigação da Ofcom

De acordo com informações, a Ofcom avaliará se a X realizou uma análise adequada dos riscos antes de disponibilizar o recurso, se adotou salvaguardas suficientes para proteger usuários no Reino Unido de material ilegal e se considerou os impactos sobre crianças e adolescentes. O regulador também examinará os processos de resposta da plataforma a denúncias e a efetividade das ações de remoção.

Consequências e debate sobre IA generativa

Casos graves de descumprimento das regras podem resultar em medidas severas, incluindo ações judiciais para exigir que provedores de pagamento ou anunciantes suspendam serviços à plataforma e solicitações para que operadoras de internet bloqueiem o acesso ao site no Reino Unido. Essa investigação se insere em um debate mais amplo sobre os limites do uso de inteligência artificial generativa em plataformas abertas, especialmente quando ferramentas que criam imagens realistas são disponibilizadas a grandes audiências.

Reguladores europeus têm enfatizado que a responsabilidade pelo controle de riscos não se limita ao conteúdo publicado por usuários, mas também abrange os sistemas automatizados oferecidos pelas empresas de tecnologia. Até o momento, a X não respondeu diretamente aos pedidos de comentário sobre a investigação da Ofcom.

Fonte por: It Forum