Anthropic pede regulação equilibrada para IA e alerta sobre limites à inovação

Anthropic defende regulação da inteligência artificial

A Anthropic, empresa focada em inteligência artificial, defende a implementação de uma regulação que aborde os riscos associados à tecnologia. Executivos da companhia afirmam que a evolução dos modelos de IA requer mecanismos de supervisão que considerem o impacto potencial das inovações, buscando aumentar a segurança sem comprometer a capacidade de inovação.

A discussão sobre regulação surge em um contexto onde diversos governos estão avaliando novas legislações para a IA, impulsionados pela rápida evolução dos modelos generativos e pelo uso crescente da tecnologia em setores econômicos, serviços públicos e defesa.

Proposta de regulamentação proporcional aos riscos

A Anthropic argumenta que a regulamentação deve ser proporcional ao nível de risco apresentado por cada sistema de inteligência artificial. A empresa sugere que nem todos os modelos têm o mesmo potencial de causar danos, e, portanto, a supervisão deve ser ajustada de acordo com as capacidades de cada um.

Além disso, a empresa propõe que critérios técnicos objetivos sejam utilizados para identificar quais sistemas necessitam de maior supervisão, evitando que ferramentas de menor impacto sejam submetidas às mesmas exigências que os modelos mais avançados.

A Anthropic também enfatiza a importância de que os governos estabeleçam padrões mínimos para testes de segurança e transparência antes do lançamento de novos modelos de IA.

Leia também

Samsung e SK Hynix planejam investir US$ 1,3 trilhão em semicondutores até 2047, revela estudo

Bancos buscam novos investidores para financiar dívida da inteligência artificial

“Governança de dados é decisão de liderança, não projeto de TI”, afirma Lyzbeth Cronembold

Impacto das regras na inovação e cooperação internacional

Executivos da Anthropic alertam que regulamentações excessivamente restritivas podem prejudicar a inovação e a competitividade tecnológica, especialmente em um cenário de intensa disputa internacional pelo desenvolvimento de inteligência artificial. A empresa destaca a necessidade de coordenação entre diferentes países para evitar custos elevados de conformidade e barreiras para empresas globais.

Além disso, a Anthropic defende que haja investimentos públicos em pesquisa sobre segurança da IA, incluindo estudos sobre o comportamento de modelos avançados e técnicas para mitigar riscos associados ao uso indevido da tecnologia.

Conclusão sobre a regulação da IA

A discussão sobre a regulação da inteligência artificial tem se intensificado nos últimos anos, especialmente com a expansão do uso de modelos generativos por empresas e governos. Países como os membros da União Europeia, Estados Unidos e Reino Unido estão debatendo diferentes abordagens regulatórias para equilibrar inovação, competitividade e proteção da sociedade.

A Anthropic acredita que o setor privado deve participar ativamente na formulação dessas políticas públicas, contribuindo com conhecimento técnico sobre as capacidades e limitações dos sistemas atuais, sem substituir o papel dos governos na definição das regras. A confiança pública é vista como um elemento crucial para a adoção em larga escala da inteligência artificial, com governança, testes de segurança e transparência sendo fundamentais para a expansão do uso da tecnologia.

Fonte por: It Forum