Ansiedade é a principal ameaça à segurança na era da IA

Adoção da IA e seus Desafios nas Empresas

A inteligência artificial (IA) já se tornou uma parte essencial do cotidiano empresarial. No entanto, o maior desafio não reside na tecnologia em si, mas na reação das pessoas a ela. Dados recentes mostram que 89% das organizações utilizam pelo menos uma aplicação de IA generativa na nuvem, mas essa aceitação varia entre as empresas.

Uma pesquisa da Writer indica que 31% dos colaboradores adotam comportamentos que dificultam a adoção da IA. Entre os mais resistentes, surge um novo risco interno, relacionado ao medo e à incerteza. Esses colaboradores, que não compreendem o impacto da IA em suas funções, acabam agindo de maneira a prejudicar a integração da tecnologia.

A falta de confiança e a incerteza aumentam o risco de erros humanos, que atualmente representam 68% das violações de segurança. À medida que a adoção da IA avança, ações simples podem criar novas vulnerabilidades, exigindo atenção das equipes para mitigar esses riscos.

Comportamentos que Afetam a Adoção da IA

A relação com a IA está em constante evolução, e isso gera novos padrões de comportamento nas empresas que adotam a tecnologia rapidamente. Esses padrões podem causar atritos no ambiente de trabalho:

• O sabotador: Colaboradores que, por desconfiança, dificultam a adoção da IA, atrasando projetos ou influenciando outros a não utilizá-la.
• O resistente: Aqueles que evitam ferramentas de IA por medo do impacto em suas funções, criando lacunas no fluxo de trabalho.
• O sobrecarregado: Colaboradores que tentam acompanhar o ritmo, mas acabam utilizando a IA de forma inadequada, resultando em erros amplificados por sistemas automatizados.

O medo em relação à IA é um problema real de segurança, pois pode ser explorado por atacantes. Em um ambiente de incerteza, equipes ansiosas tendem a cometer mais erros, seja por evitar ferramentas ou não concluir treinamentos. A falta de confiança na operação da IA pode levar a configurações incorretas e manipulações indesejadas.

Quando um agente de IA comete um erro, o atacante pode explorar o sistema, induzindo ações prejudiciais. Isso pode resultar em falhas que não se encaixam nos modelos tradicionais de risco, mas que se manifestam como ações legítimas dentro da empresa.

Ações Necessárias para Mitigar Riscos

Para lidar com os riscos internos associados à IA, não basta implementar controles técnicos. É fundamental apoiar os colaboradores na adaptação à nova tecnologia, esclarecendo seu funcionamento e as expectativas em relação ao uso diário. Diretrizes claras de segurança são essenciais em cenários de incerteza.

A governança deve ser descentralizada, levando orientações para as áreas operacionais. Iniciativas como programas de embaixadores de IA podem ajudar, colocando profissionais capacitados dentro das equipes para esclarecer dúvidas e orientar decisões, promovendo uma integração mais ágil entre segurança e operação.

Além disso, é importante reconhecer que erros humanos ocorrerão. Sistemas automatizados podem amplificar falhas, exigindo mecanismos de proteção que considerem desvios e instruções equivocadas. Não podemos esperar que os erros não aconteçam; é preciso estar preparado para lidar com eles.

Preparando-se para o Futuro com IA

A IA está transformando a forma como as organizações operam, mas a mudança mais significativa ocorre nas pessoas que precisam se adaptar a esse novo ritmo. Ansiedade e incerteza influenciam comportamentos e decisões, criando brechas de segurança que não se ajustam sozinhas.

Os CISOs devem adotar uma abordagem centrada nas pessoas, reconhecendo que a evolução dos controles técnicos é necessária, mas não suficiente. A liderança ativa é crucial para preparar as equipes, oferecendo clareza, treinamento e suporte para que a IA seja incorporada de maneira segura no dia a dia. Ignorar o fator humano apenas adia os problemas, sem realmente mitigá-los.

Fonte por: It Forum