Ataques com inteligência artificial representarão 50% dos incidentes corporativos até 2028

Adoção de Inteligência Artificial e Desafios de Segurança

A rápida implementação de inteligência artificial (IA) nas empresas, especialmente em aplicações personalizadas, está gerando novas vulnerabilidades que exigirão atenção especial das equipes de segurança nos próximos anos. Segundo a consultoria Gartner, até 2028, metade dos esforços de resposta a incidentes de cibersegurança nas organizações estará focada em problemas relacionados a aplicações de IA desenvolvidas sob medida.

Desafios na Implementação de IA

A Gartner observa que, embora a IA esteja evoluindo rapidamente, muitas ferramentas, especialmente as personalizadas, estão sendo lançadas antes de serem completamente testadas. Esses sistemas são complexos e dinâmicos, tornando a proteção ao longo do tempo um desafio. A maioria das equipes de segurança ainda carece de processos claros para lidar com incidentes relacionados à IA, o que pode prolongar a resolução de problemas e aumentar o esforço necessário.

Plataformas de Segurança para IA

Até 2028, a consultoria prevê que mais de 50% das empresas adotarão plataformas especializadas em segurança para IA. Essas ferramentas serão essenciais tanto para proteger o uso de serviços de IA de terceiros quanto para salvaguardar as aplicações internas desenvolvidas pelas próprias organizações. Essas plataformas oferecem uma abordagem unificada para gerenciar os novos riscos associados à adoção acelerada da IA, como injeção de prompts maliciosos e uso indevido de dados.

Dívida de Dados e Compliance

Outro desafio significativo é a chamada “dívida de dados de IA”. A Gartner estima que, até 2030, um terço do trabalho de TI será dedicado à correção de problemas relacionados à qualidade e segurança dos dados que alimentam os sistemas de IA. Além disso, a consultoria alerta que, até 2027, a falta de processos automatizados para compliance em IA poderá expor 75% das organizações a multas que ultrapassam 5% de sua receita global.

Impactos Geopolíticos e Gestão de Identidades

O cenário geopolítico também influencia as projeções da Gartner. Até 2027, 30% das organizações deverão exigir controle soberano sobre seus sistemas de segurança em nuvem, em resposta a conflitos e regulamentações locais. Isso resultará em mudanças na escolha de fornecedores e na priorização de esforços para repatriar dados.

Por fim, a consultoria destaca a crescente importância da gestão de identidades. Com o aumento de ataques cibernéticos focados em credenciais, a Gartner prevê que, até 2028, 70% dos CISOs utilizarão recursos de visibilidade e inteligência de identidade para minimizar a superfície de ataque do Gerenciamento de Identidades e Acessos (IAM). A integração de plataformas unificadas com capacidades de IA será fundamental para preencher lacunas de visibilidade e reduzir riscos associados a configurações incorretas e comprometimento de credenciais.

Fonte por: Convergencia Digital