TrustOps e deepfakes: Gartner antecipa defesa governamental até 2028

Deepfakes e a Confiança no Estado Digital

A crescente ameaça dos deepfakes transcende questões de imagem e reputação, afetando diretamente a confiança nas instituições governamentais. De acordo com o Gartner, essa situação impacta processos de autenticação, identidade digital, atendimento ao cidadão e segurança interna. A consultoria prevê que, até 2028, 40% das organizações governamentais implementarão funções específicas de TrustOps para combater a falsificação de identidade e a desinformação.

O desafio não se limita à identificação de conteúdos falsos após sua divulgação, mas envolve a construção de uma arquitetura institucional que assegure a origem e a legitimidade das comunicações digitais. CIOs e CISOs devem adotar uma abordagem proativa em vez de reativa, uma vez que os deepfakes podem se manifestar em declarações falsas atribuídas a autoridades e tentativas de fraude.

Riscos Internos: Voz Clonada e Engenharia Social

Além das campanhas de desinformação, o Gartner alerta sobre os riscos internos que os deepfakes representam. Esses ataques podem comprometer sistemas de autenticação biométrica e manipular funcionários através de ordens falsas que simulam autoridade. Essa situação pode afetar processos administrativos sensíveis, como aprovações de contratos e desembolsos financeiros.

A defesa contra deepfakes deve ser integrada à arquitetura de identidade e aos controles de acesso, exigindo evidências técnicas para garantir a confiança nas comunicações. A confiança não deve ser uma percepção subjetiva, mas sim baseada em processos e mecanismos de verificação contínua.

Proveniência de Conteúdo e C2PA

O Gartner sugere que as organizações governamentais considerem a adoção do protocolo C2PA, que visa garantir a proveniência de conteúdos digitais. Essa tecnologia incorpora metadados criptográficos que permitem verificar a origem de materiais, embora não substitua a necessidade de governança e validação institucional.

TrustOps e Governança de IA

A crescente acessibilidade e realismo dos conteúdos sintéticos exigem que as organizações enfrentem novos riscos operacionais. O TrustOps contra deepfakes pode atuar como uma ponte entre segurança digital, governança de IA e gestão de reputação. Essa função deve incluir monitoramento de desinformação, autenticação de comunicações e validação de mídias.

O Gartner recomenda que governos estabeleçam estruturas de supervisão que integrem TI, jurídico, comunicação e recursos humanos, além de criar procedimentos para identificar conteúdos gerados por IA.

Impacto para CIOs e CISOs

Para líderes de tecnologia e segurança, é crucial entender que os deepfakes não são um tema secundário. A incapacidade de comprovar a autenticidade das comunicações pode comprometer os avanços em transformação digital. O fenômeno pode levar a um retrocesso digital, forçando um retorno a interações presenciais e em papel, o que aumentaria o atrito e reduziria a eficiência.

A antecipação é fundamental. Governos e empresas devem mapear processos sensíveis, revisar autenticações e avaliar tecnologias de proveniência para garantir a confiança em um ambiente de conteúdo sintético.

Fonte por: Its Show