Impacto da Inteligência Artificial Generativa na Cibersegurança
A inteligência artificial generativa (GenAI) está se tornando uma preocupação crescente na cibersegurança das empresas. Um estudo recente revelou que 29% dos líderes da área relataram ataques direcionados à infraestrutura de aplicações corporativas de GenAI nos últimos 12 meses. Além disso, 32% dos entrevistados enfrentaram ataques que exploraram prompts de aplicação.
Estudo do Gartner sobre Cibersegurança
O levantamento foi realizado pelo Gartner entre março e maio de 2025, envolvendo 302 líderes de cibersegurança na América do Norte, Europa, Oriente Médio, África (EMEA) e Ásia-Pacífico. Os resultados indicam que 62% das organizações sofreram ataques com deepfake, que utilizam engenharia social ou exploram processos automatizados.
A consultoria destaca que assistentes de chatbot são suscetíveis a diversas técnicas de prompts utilizadas por atacantes, que tentam manipular modelos de linguagem ou multimodais para gerar respostas tendenciosas ou maliciosas.
Aumento de Ataques com GenAI
Com a crescente adoção da GenAI, ataques que utilizam essa tecnologia para phishing, deepfakes e engenharia social tornaram-se comuns. Além disso, novas ameaças, como ataques à infraestrutura de aplicações e manipulações baseadas em prompts, estão emergindo e ganhando força.
Necessidade de Estratégias de Segurança Eficazes
Embora 67% dos líderes de cibersegurança reconheçam que os riscos associados à IA generativa exigem mudanças significativas nas abordagens de segurança, o Gartner sugere uma estratégia mais equilibrada. Em vez de implementar mudanças radicais ou realizar investimentos isolados, as organizações devem fortalecer os controles centrais e adotar medidas específicas para cada nova categoria de risco.
Conclusão sobre a Cibersegurança e GenAI
A crescente integração da inteligência artificial generativa na cibersegurança apresenta desafios significativos. As empresas precisam se adaptar e desenvolver estratégias robustas para mitigar os riscos associados a essa tecnologia, garantindo a proteção de suas infraestruturas e dados.
Fonte por: It Forum