Governos precisam expandir estruturas de TrustOps contra deepfakes e desinformação

Aumento da Ameaça dos Deepfakes e Desinformação

O crescimento dos deepfakes e das campanhas de desinformação impulsionadas pela inteligência artificial está levando governos de diversos países a fortalecer suas estruturas de segurança digital. De acordo com uma projeção do Gartner, até 2028, 40% das instituições públicas criarão funções específicas de TrustOps para lidar com ameaças relacionadas à falsificação de identidade digital e à desinformação como serviço (DaaS).

Riscos Associados ao Uso de Conteúdos Sintéticos

A consultoria destaca que o aumento do uso de conteúdos sintéticos gerados por IA amplia os riscos tanto para a comunicação pública quanto para os sistemas internos das instituições. Entre os cenários identificados estão campanhas de desinformação que envolvem a falsificação de pronunciamentos de autoridades e ataques que visam manipular funcionários por meio de engenharia social e clonagem de voz ou imagem.

Impacto na Credibilidade do Estado

O diretor analista sênior do Gartner, Daniel Nieto, alerta que os deepfakes podem comprometer a credibilidade do Estado, tornando difícil para os cidadãos distinguir entre comunicações legítimas e falsificações. Essa confusão pode levar a um colapso na arquitetura da verdade, essencial para a confiança pública.

Necessidade de Mudança nas Estruturas de TI

O Gartner sugere que as áreas de tecnologia do setor público precisam mudar sua abordagem em relação à verificação de informações falsas. Os Chief Information Officers (CIOs) devem deixar de atuar apenas de forma reativa e começar a construir estruturas permanentes de confiança digital e autenticação.

Consequências da Desinformação em Serviços Públicos

O impacto dos deepfakes pode comprometer os avanços da transformação digital, especialmente em serviços públicos que se tornaram digitais. Nieto afirma que esse fenômeno pode levar a uma regressão digital, forçando um retorno a interações presenciais e em papel, o que gera mais atrito e diminui a eficiência.

Leia também

Energia nos EUA aumenta e reabre discussão sobre impacto da IA no consumo elétrico

Moovi amplia atuação em capacitação SAP com aquisição da Descomplicando Linguagens e foco em IA

Jeitto alcança redução de 49% nos custos e economiza R$ 4 milhões com Delfia

Abordagem Integrada para Combater a Desinformação

O Gartner enfatiza que o combate à desinformação deve ser uma questão abrangente, envolvendo não apenas as equipes de TI, mas também áreas jurídicas, comunicação institucional, recursos humanos e segurança da informação. Recomenda-se a criação de conselhos de confiança digital para supervisionar políticas relacionadas à identidade digital e monitorar atividades de desinformação.

Medidas Recomendadas para Governos

Entre as ações sugeridas, está a revisão de fluxos administrativos críticos, especialmente aqueles relacionados a transferências financeiras e aprovações sensíveis. A adoção de múltiplos níveis de autenticação e validação é essencial para reduzir vulnerabilidades a ataques com IA. Além disso, é importante desenvolver procedimentos específicos para identificar deepfakes e conteúdos sintéticos, utilizando ferramentas tecnológicas adequadas.

Fonte por: It Forum