Microsoft Reconhece Limitações de Agentes de IA no Windows 11
A Microsoft, que tem promovido a inteligência artificial (IA) como o futuro de suas tecnologias, admite que os agentes de IA apresentam sérias falhas. A empresa alertou sobre o potencial de brechas de segurança e agora destaca o risco de “alucinações” nos resultados gerados por esses sistemas.
Essas alucinações podem levar a resultados imprecisos em tarefas simples e pesquisas, o que levanta preocupações sobre a confiabilidade da tecnologia. Para mitigar esses problemas, a Microsoft planeja isolar os agentes em contas de usuários específicas, mas isso evidencia que a solução ainda não é tão robusta quanto a empresa gostaria que fosse.
Desafios de Segurança e Acesso a Arquivos
Um dos pontos críticos levantados pela Microsoft é que os agentes de IA do Windows 11 necessitam de acesso a arquivos importantes do sistema. Essa exigência é preocupante, especialmente considerando as limitações funcionais da tecnologia, que pode gerar resultados inesperados e até mesmo comprometer a segurança dos usuários.
A empresa está investindo pesadamente na inteligência artificial generativa, o que justifica a rápida implementação desses sistemas, mesmo que a aceitação do público ainda não seja total. O objetivo é disponibilizar essas ferramentas para um número maior de usuários, permitindo a coleta de métricas que possam ser apresentadas ao mercado.
Expectativas Futuras e Confiabilidade dos Recursos
A Microsoft já havia introduzido recursos de IA em suas ferramentas de produtividade, como o Copilot no Excel, que também veio acompanhado de advertências sobre sua confiabilidade. A empresa reconheceu que esses sistemas não são adequados para cálculos ou tarefas que exigem precisão.
Embora os novos recursos do Windows 11 estejam disponíveis apenas para um grupo restrito de usuários, a expectativa é que sejam liberados para o público geral nos primeiros meses de 2026. Isso levanta questões sobre a eficácia e a segurança das ferramentas que a Microsoft está promovendo como essenciais para o futuro do sistema operacional.
Fonte por: Adrenaline