Previsões de Segurança para Aplicações de IA Generativa
O Gartner alertou que até 2028, um quarto das aplicações corporativas de IA Generativa enfrentará pelo menos cinco incidentes de segurança menores anualmente, um aumento significativo de 9% em 2025 para 25%. Além disso, a consultoria prevê que metade dos esforços de resposta a incidentes de cibersegurança nas empresas será direcionada a ameaças relacionadas à IA, exigindo que CISOs e equipes de TI reavaliem suas estratégias de defesa.
Números Cruciais para CISOs
Em 2025, apenas 9% das aplicações de IA Generativa registravam cinco ou mais incidentes de segurança menores por ano. Esse número deverá aumentar para 25% até 2028, representando um crescimento quase três vezes maior em menos de quatro anos. Em relação a incidentes graves, a previsão é que 15% das aplicações de GenAI sofram pelo menos um grande incidente anualmente até 2029, um aumento de cinco vezes.
O impacto operacional é alarmante, com a expectativa de que até 2028, metade dos esforços de resposta a incidentes de cibersegurança se concentre em ameaças relacionadas à IA, forçando as equipes de segurança a realocar recursos e requalificar profissionais rapidamente.
Novos Vetores de Ataque: IA Agêntica e MCP
O relatório do Gartner destaca a crescente adoção do Model Context Protocol (MCP) por aplicações de IA Generativa. Embora o protocolo facilite a interoperabilidade entre sistemas de IA, ele não prioriza a segurança, criando novos vetores de ataque em ambientes corporativos. Agentes de IA com autonomia crescente, conectados via MCP, podem ser explorados por atores maliciosos devido a falhas de autenticação e controle de acesso.
A maioria das equipes de segurança ainda carece de processos claros para lidar com incidentes gerados por agentes de IA, o que prolonga o tempo de resolução e aumenta os custos associados a cada incidente.
Shadow AI: Riscos Internos
Além das ameaças externas, o uso não autorizado de IA Generativa por funcionários, conhecido como shadow AI, representa um risco significativo. Uma pesquisa do Gartner revelou que 69% das organizações suspeitam que seus colaboradores utilizam ferramentas de IA não homologadas. Esse uso pode expor dados sensíveis e violar políticas de conformidade.
Até 2027, estima-se que mais de 40% das violações de dados relacionadas à IA terão origem no uso indevido de GenAI, complicando ainda mais a resposta a incidentes devido a diferentes regulações. O impacto regulatório pode ser severo, com 75% das organizações regulamentadas enfrentando multas significativas por falhas em conformidade de IA.
Custos Crescentes na Proteção de Ambientes de IA
Os gastos globais com segurança da informação devem alcançar USD 213 bilhões em 2025, com um crescimento projetado de 12,5% para 2026. Uma parte significativa desse investimento será direcionada à proteção de ambientes de IA Generativa. Até 2030, 33% do trabalho de TI será dedicado à remediação da dívida de dados de IA, resultante da implementação apressada de soluções de GenAI sem os controles adequados.
Além disso, até 2028, 70% dos CISOs utilizarão recursos de inteligência de identidade para reduzir a superfície de ataque em gestão de identidade e acesso, uma resposta necessária para autenticar e monitorar agentes de IA autônomos.
Ações Necessárias para Líderes de TI
As previsões do Gartner exigem ações imediatas de CISOs e executivos de TI em três frentes. A primeira é a governança, onde toda implementação de IA Generativa deve passar por revisões de segurança antes de entrar em produção, incluindo mapeamento de riscos específicos.
A segunda frente é a visibilidade. Com 69% das organizações expostas ao shadow AI, é crucial implementar ferramentas que detectem o uso não homologado de GenAI e estabeleçam políticas claras de uso aceitável. A terceira é a capacitação, onde as equipes de segurança precisam de processos estruturados para responder a incidentes de IA, incluindo playbooks e treinamentos específicos.
O Gartner enfatiza que a janela para agir proativamente está se fechando. Organizações que priorizarem a segurança de IA Generativa agora terão uma vantagem significativa sobre aquelas que esperarem por incidentes para reagir.
Fonte por: Its Show