Califórnia sanciona primeira lei nos EUA para regulamentar chatbots de companheirismo com IA
Califórnia regulamenta chatbots de companheirismo com a sanção do projeto de lei SB 243 pelo governador Gavin Newsom.
Califórnia Regula Chatbots de Companheirismo com Nova Lei
A Califórnia se tornou o primeiro estado dos EUA a regulamentar oficialmente chatbots de companheirismo baseados em inteligência artificial, após a sanção do projeto de lei SB 243 pelo governador Gavin Newsom. A nova legislação estabelece diretrizes para empresas como Meta, OpenAI, Character.AI e Replika, exigindo a implementação de protocolos de segurança voltados para crianças e usuários vulneráveis.
Com a entrada em vigor marcada para 1º de janeiro de 2026, a proposta foi elaborada pelos senadores Steve Padilla e Josh Becker. A medida ganhou destaque após incidentes trágicos envolvendo jovens que interagiram com chatbots sem os devidos filtros, incluindo o suicídio de um adolescente que teve conversas com o ChatGPT e um processo judicial relacionado a uma jovem que se suicidou após interações com a Character.AI.
Regras e Proteções para Usuários
A nova lei impõe várias obrigações às plataformas, como a verificação da idade dos usuários e a exibição de avisos claros sobre a natureza artificial das interações. Além disso, os chatbots não poderão se apresentar como profissionais de saúde e deverão fornecer lembretes para pausas regulares a menores de idade, além de restringir o acesso a conteúdos sexualmente explícitos gerados por IA.
As empresas também devem implementar protocolos para detectar e responder a sinais de problemas de saúde, reportando estatísticas ao Departamento de Saúde Pública da Califórnia. A legislação ainda aborda a questão dos deepfakes ilegais, prevendo multas que podem chegar a US$ 250 mil por infração.
Companhias se Adaptam à Nova Legislação
Algumas empresas já estavam adotando medidas de segurança antes da nova lei. A OpenAI, por exemplo, lançou controles parentais e um sistema de detecção de autolesão em versões do ChatGPT voltadas para crianças. A Replika, focada em usuários maiores de 18 anos, afirmou que está investindo em segurança, incluindo filtros de conteúdo e encaminhamentos para centros de prevenção de crises.
A Character.AI informou que já exibe alertas sobre a natureza ficcional de suas conversas e está comprometida em colaborar com os legisladores para garantir a conformidade com a nova legislação.
Expansão da Regulação de IA
O senador Padilla considera a aprovação da SB 243 um passo crucial para estabelecer limites éticos em tecnologias de grande impacto. Ele enfatizou a necessidade de ação rápida antes que as oportunidades se esgotem, prevendo que outros estados seguirão o exemplo da Califórnia.
Essa lei é a segunda iniciativa regulatória de IA aprovada recentemente no estado. Em setembro, Newsom sancionou o SB 53, que exige que grandes laboratórios, como OpenAI e Google DeepMind, divulguem seus protocolos de segurança e ofereçam proteção a denunciantes. Além disso, estados como Illinois, Nevada e Utah já implementaram leis que restringem ou proíbem o uso de IA como substituto para terapeutas licenciados.
Conclusão sobre a Nova Legislação
A regulamentação dos chatbots na Califórnia representa um avanço significativo na proteção de usuários vulneráveis e na promoção de interações seguras com a inteligência artificial. Com a implementação de medidas rigorosas, espera-se que outras jurisdições adotem abordagens semelhantes, visando garantir a segurança e o bem-estar dos usuários, especialmente das crianças.
Fonte por: It Forum
