Risco de Falhas em Infraestrutura devido à Inteligência Artificial até 2028
Uma análise da consultoria Gartner alerta que uma inteligência artificial mal configurada pode causar a paralisação de serviços essenciais em países do G20 até 2028. O estudo destaca que o perigo não está em ataques cibernéticos ou desastres naturais, mas sim em falhas operacionais durante a implementação ou atualização de sistemas que controlam a infraestrutura física.
Impacto da IA em Sistemas Ciberfísicos
O foco do alerta está no aumento do uso de IA em sistemas ciberfísicos, que conectam sensores, redes e mecanismos de controle a processos do mundo real. Esses sistemas incluem tecnologia operacional, controle industrial, automação e internet das coisas industrial, além de robôs e drones.
Esses sistemas são responsáveis por coordenar sensores, análise de dados e decisões automatizadas que impactam diretamente operações físicas, como redes de energia e transporte, além de outras infraestruturas críticas.
Erros Simples Podem Causar Grandes Problemas
Wam Voster, vice-presidente analista do Gartner, afirma que a próxima grande falha em infraestrutura pode ser causada por erros simples, como configurações incorretas ou atualizações mal executadas. Ele ressalta que uma IA mal configurada pode desligar serviços vitais ou interpretar dados de forma errada, resultando em danos materiais e interrupções de serviços.
Dificuldades em Prever Comportamentos da IA
Voster também destaca a complexidade dos modelos modernos de IA, que muitas vezes se comportam como “caixas pretas”. Isso dificulta a previsão de como pequenas alterações nas configurações podem afetar o comportamento do sistema.
Recomendações para Mitigar Riscos
Para minimizar esses riscos, o Gartner sugere a implementação de mecanismos que permitam interromper ou limitar a atuação de sistemas autônomos em infraestruturas críticas. Isso inclui a adoção de mecanismos de desligamento de emergência acessíveis apenas a operadores autorizados.
Além disso, a consultoria recomenda que operadores desenvolvam gêmeos digitais de seus sistemas para testar atualizações antes da implementação. O monitoramento em tempo real das alterações em sistemas de IA, junto com mecanismos de reversão, também é essencial para garantir a segurança e a estabilidade das operações.
Fonte por: It Forum