“CISO moderno capacita equipes além da proteção”, afirma Paula Yara, CISO do Grupo Ivy

Importância da Cibersegurança em Projetos de Inteligência Artificial

A cibersegurança deve ser um facilitador essencial para a implementação de projetos de inteligência artificial (IA) nas organizações. Essa afirmação foi feita por Paula Yara, CISO do Grupo Ivy, durante sua apresentação no IT Forum Na Mata, realizado recentemente no Distrito Itaqui.

Com uma vasta experiência que abrange desde segurança ofensiva até a criação de indicadores de valor para o crescimento empresarial, Paula destacou que o mercado, após o entusiasmo inicial com a IA, está agora focado em um planejamento mais estruturado. Ela observou que muitos CIOs reconhecem os danos causados por implementações apressadas, que muitas vezes resultaram em investimentos que pouco trouxeram além de soluções superficiais, como a reescrita de e-mails a altos custos.

Desafios e Riscos da Implementação da IA

Paula enfatizou a necessidade de entender os “dois lados” da tecnologia. Por um lado, a IA pode acelerar a análise de documentos, criar trilhas de conscientização personalizadas e aprimorar a correlação de alertas em Centros de Operações de Segurança (SOCs). Ela ressaltou que a IA melhora significativamente a identificação de padrões que podem passar despercebidos por humanos.

Por outro lado, a falta de governança pode levar a riscos significativos, como a “shadow IA”. Quando as empresas não oferecem ferramentas seguras, os colaboradores podem recorrer a versões gratuitas, colocando em risco dados corporativos e propriedade intelectual. Paula mencionou ameaças como injeção de comandos, vazamentos por chatbots mal configurados, deepfakes realistas e geração de código sem revisão adequada.

A Importância da Cultura Organizacional

Segundo Paula, o aspecto cultural é tão crucial quanto o tecnológico. As políticas de segurança devem ser curtas, claras e práticas, pois os colaboradores tendem a não ler documentos extensos. Além disso, é fundamental que essas políticas sejam acompanhadas de treinamentos contínuos, exemplos de sucesso internos e canais seguros para reportar problemas. A comunicação deve ser capaz de traduzir a complexidade técnica para diferentes áreas, como recursos humanos, jurídico, finanças e operações.

Conclusão: Governança da IA como Vantagem Competitiva

Paula finalizou sua apresentação com uma metáfora sobre a governança da IA, comparando-a a dirigir um carro esportivo: é perigoso sem freios, mas sem acelerar, não se avança. Ela defendeu que a aceleração deve incluir casos de uso legítimos, medição de riscos e a implementação de guardrails técnicos e culturais. Além disso, é necessário um ciclo contínuo de análise, decisão e monitoramento que não se encerra na fase de implantação. Para ela, a colaboração dos colaboradores é fundamental para transformar a segurança em uma vantagem competitiva.

Fonte por: It Forum