Deepfakes, IA e software open source estão entre as principais ameaças para empresas, aponta Gartner
Ameaças Cibernéticas em Ascensão: O Futuro da Segurança Digital
As equipes de segurança cibernética enfrentarão desafios crescentes nos próximos anos, impulsionados pelo avanço da inteligência artificial e pela ampliação das superfícies de ataque digitais. Uma análise do Gartner destaca quatro ameaças críticas para as organizações: deepfakes, comprometimento de aplicações de IA, ataques à cadeia de suprimentos de software e injeção de prompts.
Esses riscos oferecem uma vantagem significativa aos atacantes, dificultando a prevenção e a mitigação dos impactos. O estudo faz parte do Gartner ThreatScape 2026-2027, que avalia ameaças com base na quantidade e qualidade dos sinais disponíveis e na capacidade das organizações de respondê-las.
De acordo com John Watts, Vice-Presidente Analista do Gartner, o desafio atual é distinguir ameaças relevantes em meio ao grande volume de informações do mercado. Ele ressalta que a introdução de iniciativas de segurança por empresas de IA gera um ruído significativo em um cenário já agitado, exigindo que os líderes em segurança cibernética identifiquem sinais de ameaça para responder adequadamente.
Comprometimento de Aplicações de IA
O comprometimento de aplicações de inteligência artificial é uma das principais ameaças identificadas pelo Gartner. A crescente adoção de IA nas empresas, tanto em ambientes internos quanto em aplicações voltadas ao público, cria novas oportunidades para exploração de vulnerabilidades.
Ferramentas de IA generativa e integrações com fornecedores externos aumentam a superfície de ataque das organizações, expondo credenciais e dados sensíveis. Watts enfatiza a necessidade de expandir os programas de segurança para além das proteções tradicionais, utilizando o framework de gerenciamento de confiança, risco e segurança (TRiSM) do Gartner para incorporar medidas de mitigação no desenvolvimento de aplicações de IA.
Leia também
Deepfakes e Riscos de Fraude
O uso crescente de deepfakes em ataques corporativos é uma preocupação crescente. A evolução das ferramentas de IA generativa melhorou a qualidade e a acessibilidade de conteúdos falsificados, ampliando as possibilidades de fraudes.
Essas tecnologias têm sido utilizadas para burlar processos de autenticação biométrica e apoiar ataques de engenharia social. Watts alerta que a detecção de fraudes e golpes de phishing se torna cada vez mais difícil, recomendando uma combinação de fortalecimento dos processos de negócios e implementação de tecnologias de detecção de deepfakes.
Ameaças à Cadeia de Suprimentos de Software
O Gartner também destaca a evolução dos ataques à cadeia de suprimentos de software, especialmente em ecossistemas que utilizam código aberto. A tendência de ataques deve aumentar com as ofertas de GenAI, que exploram vulnerabilidades em softwares de código aberto.
As organizações devem criar registros confiáveis de componentes, fortalecer seus pipelines de integração contínua e desenvolver capacidades robustas de detecção e resposta a anomalias operacionais. É essencial ampliar a visibilidade sobre os componentes de software e exigir listas detalhadas de materiais de fornecedores.
Injeção de Prompts e Segurança de Sistemas de IA
A injeção de prompts é uma técnica que explora vulnerabilidades em sistemas baseados em Grandes Modelos de Linguagem (LLMs). Nesse tipo de ataque, comandos maliciosos alteram o comportamento da IA, resultando em vazamento de informações ou contorno de mecanismos de proteção.
Com a popularização de aplicações de IA generativa, o Gartner prevê um aumento na relevância dessa ameaça. Para mitigar os riscos, recomenda-se uma abordagem de múltiplas camadas de proteção, incluindo validação de entradas e monitoramento contínuo.
Conclusão: A Necessidade de Revisão nas Prioridades de Segurança
A combinação dessas quatro ameaças reforça a necessidade de que líderes de segurança revisem suas prioridades e direcionem investimentos para áreas que possam responder às novas vulnerabilidades introduzidas pela inteligência artificial e pela crescente complexidade dos ambientes digitais.
Fonte por: It Forum
Autor(a):
Redação
Portal de notícias e informações atualizadas do Brasil e do mundo. Acompanhe as principais notícias em tempo real
