Cisco apresenta nova ferramenta DNA voltada para modelos de IA

Cisco Lança Model Provenance Kit para Verificação de Modelos de IA

A Cisco apresentou o Model Provenance Kit, uma ferramenta open-source em Python que atua como um teste de DNA para modelos de inteligência artificial. Essa solução permite que equipes de TI e segurança verifiquem a origem, linhagem e integridade dos modelos de IA antes de sua implementação em ambientes corporativos, abordando uma lacuna crítica na cadeia de suprimentos de IA, especialmente em um cenário onde plataformas como Hugging Face já hospedam mais de 2 milhões de modelos.

Com o objetivo de eliminar a opacidade relacionada à origem dos modelos de IA utilizados por empresas globalmente, o Model Provenance Kit foi lançado no final de abril de 2026. A ferramenta oferece um mecanismo robusto para que as equipes de TI e cibersegurança confirmem a autenticidade dos modelos de IA.

Desafios na Verificação da Origem dos Modelos de IA

O crescimento acelerado de plataformas como Hugging Face, que já conta com mais de 2 milhões de modelos, traz à tona um problema significativo: muitos desses modelos foram alterados ou reempacotados sem documentação clara sobre suas origens ou modificações. Para diretores de TI e CISOs, isso representa um risco real, incluindo a possibilidade de modelos envenenados, vulnerabilidades herdadas e violações de licenciamento.

Até o momento, não havia uma solução técnica que permitisse investigar essas questões de maneira sistemática e escalável, o que torna o Model Provenance Kit uma ferramenta essencial para mitigar esses riscos.

Funcionamento do ‘Teste de DNA’ para Modelos de IA

A analogia com o DNA é intencional, pois a ferramenta analisa três camadas de informações em modelos do tipo transformer: metadados de arquitetura, estrutura do tokenizador e pesos aprendidos durante o treinamento. Essa combinação gera uma impressão digital única para cada modelo.

Resultados que Reforçam a Confiabilidade da Ferramenta

A Cisco testou o Model Provenance Kit em um benchmark com 111 pares de modelos, obtendo resultados impressionantes: F1 score de 0,963, acurácia de 96,4%, precisão de 98,1% e recall de 94,6%. Apenas 4 pares foram classificados incorretamente, todos em situações desafiadoras, o que demonstra a eficácia da ferramenta.

Esses resultados fornecem uma base sólida para que executivos confiem na ferramenta durante o processo de due diligence de IA, essencial para a aprovação do uso de modelos de terceiros.

Governança como Estratégia com o Model Provenance Constitution

Simultaneamente ao lançamento da ferramenta, a Cisco introduziu o Model Provenance Constitution, um framework que define critérios para avaliar a relação legítima de derivação entre modelos de IA. Essa iniciativa posiciona a Cisco como referência em governança de IA, especialmente em um contexto regulatório crescente que exige maior transparência e rastreabilidade.

Com um instrumento técnico auditável e um framework reconhecido, as organizações podem acelerar seus processos de compliance e aprovação interna para a adoção de novos modelos.

Impacto para Equipes de Segurança e TI Corporativa

O Model Provenance Kit traz implicações práticas significativas para organizações. Antes de implementar um modelo, a equipe de segurança pode verificar sua linhagem, identificar vulnerabilidades conhecidas e detectar modificações não documentadas.

Além disso, em casos de comportamento inesperado de sistemas baseados em IA, a rastreabilidade da ferramenta permite identificar rapidamente a origem do problema, seja no modelo base ou em camadas de fine-tuning.

Com a capacidade de verificar relações de derivação de modelos open-source, a ferramenta reduz o risco de violações de licenciamento, evitando consequências jurídicas e financeiras. O lançamento do Model Provenance Kit representa um avanço na maturidade do ecossistema de IA corporativa, tornando a rastreabilidade uma prática técnica viável e mensurável.

Fonte por: Its Show