Gartner prevê que 40% dos agentes de IA serão desativados

Desafios da Governança em Inteligência Artificial

Segundo o Gartner, até 2027, 40% das organizações globais poderão reduzir a autonomia ou desativar seus agentes de inteligência artificial devido a falhas de governança. Essa previsão, baseada em uma pesquisa com mais de 3.400 empresas, revela uma crise que pode impactar investimentos significativos e coloca os CISOs e CIOs em uma posição crítica: acelerar a adoção de IA ou estabelecer bases sólidas para evitar retrocessos.

O mercado de agentes autônomos de IA enfrenta um paradoxo. Embora as empresas busquem implementar essas soluções, muitas não possuem a estrutura necessária para gerenciá-las adequadamente. O Gartner alerta que a falta de governança pode levar a consequências severas, com 40% das organizações desativando seus agentes de IA não por falta de tecnologia, mas pela ausência de uma governança eficaz.

O Mercado de IA e o Fenômeno do “Agent Washing”

A corrida pela inteligência artificial autônoma gerou o que o Gartner chama de “agent washing”, onde muitos fornecedores afirmam oferecer agentes autônomos, mas apenas cerca de 130 realmente entregam soluções com autonomia real. A confusão no mercado resulta em empresas adquirindo tecnologias sem entender sua complexidade, levando à implementação sem uma estratégia clara e sem a governança necessária.

Uma pesquisa da Sinch revelou que 74% das grandes empresas tiveram que desativar ou reverter o uso de agentes de IA após a implementação. Entre as empresas mais digitalmente maduras, esse número sobe para 81%, indicando que quanto mais avançada a organização, maior a exposição a falhas.

A Armadilha da Governança Binária

O Gartner identifica a “armadilha da governança binária” como um dos principais problemas. Muitas organizações tratam os agentes de IA como sistemas que devem ter autonomia total ou serem desligados, sem considerar controles proporcionais ou supervisão humana. A solução proposta envolve a criação de modelos de governança que se ajustem ao nível de autonomia de cada agente.

Leia também

IA da Anthropic identifica 10 mil vulnerabilidades críticas

Bot de IA da Meta compromete contas do Instagram

Dashlane é alvo de ataque de força bruta em 2026

Dados do AI Now Institute mostram que sistemas de IA sem supervisão adequada podem gerar até 2,4 vezes mais decisões injustas. Isso é especialmente crítico em setores regulados, onde a falta de governança pode resultar em riscos jurídicos e danos à reputação.

Números Cruciais para CISOs

Além da previsão de 40% de desativações, o Gartner destaca que até 2027, mais de 40% das violações de dados relacionadas à IA serão causadas pelo uso inadequado de IA generativa. Além disso, 75% das organizações em setores regulamentados podem enfrentar multas significativas por falhas de conformidade. O custo de aprendizado prático em IA generativa é elevado, com provas de conceito custando em média US$ 2,3 milhões.

Para os responsáveis pela segurança, um alerta adicional: até 2028, 50% dos esforços de resposta a incidentes de cibersegurança serão direcionados a falhas em aplicações personalizadas de IA, ampliando a superfície de ataque das empresas.

Medidas Preventivas para Incidentes de IA

A governança de IA tornou-se um requisito essencial para a continuidade operacional. CISOs e CIOs que não estruturaram seus frameworks de controle estão operando em um modelo arriscado, aprendendo apenas após a ocorrência de incidentes. O Gartner recomenda que as organizações mapeiem o grau de autonomia de cada agente em operação para definir controles proporcionais.

Ferramentas do segmento TRiSM (Trust, Risk and Security Management) estão emergindo como soluções para esses desafios. O mercado de governança de IA para agentes autônomos deve crescer mais de 40% nos próximos três anos, refletindo a urgência do problema e a rápida adaptação dos fornecedores.

Atualmente, apenas 23% dos gestores de TI afirmam ter controle total sobre seus agentes de IA, enquanto 77% enfrentam uma proliferação sem governança adequada. A visibilidade é o primeiro passo para um programa sério de governança de IA. O mercado de IA não vai desacelerar, e a questão não é se as organizações usarão agentes autônomos, mas se terão a estrutura necessária para operá-los de forma segura.

Fonte por: Its Show