Em 19 de outubro de 2026, a Microsoft divulgou um alerta sobre os riscos associados aos agentes de inteligência artificial (IA), classificando-os como potenciais ameaças internas. A empresa enfatiza que, embora esses agentes não sejam automaticamente maliciosos, eles têm acesso a dados sensíveis e podem agir rapidamente, o que os torna um risco significativo para as organizações.
A advertência surge em um contexto onde empresas estão cada vez mais utilizando agentes de IA para tarefas como programação, revisão de documentos e processamento de despesas. A Microsoft destaca que as ações desses agentes podem mudar com base em instruções, dados ou contextos de trabalho, o que pode levar a erros ou ações prejudiciais. A empresa alerta que um agente pode seguir direções ocultas em um documento ou ser comprometido, resultando em ações que expõem informações sensíveis antes que um humano possa intervir.
Satya Nadella, CEO da Microsoft, defende que as organizações não devem assumir que os agentes sempre se comportarão conforme o esperado. O risco aumenta quando um agente recebe mais permissões do que o necessário para a tarefa que executa. Por exemplo, um agente designado para revisar despesas pode precisar apenas ler as submissões, mas não deveria herdar automaticamente todas as permissões do funcionário que o configurou.
Para mitigar esses riscos, a Microsoft anunciou a expansão do Project Perception, que inclui novas funcionalidades de segurança como os Guardian Agents. Esses agentes de monitoramento são projetados para acompanhar a atividade dos agentes de IA utilizados pelas empresas, ajudando a identificar e responder rapidamente a comportamentos potencialmente perigosos. A empresa também introduziu recursos como Permissões Dinâmicas e Acesso Condicional Dinâmico, que ajustam as permissões dos agentes com base no nível de risco.
Além disso, a Microsoft está ampliando o suporte para 35 novos tipos de agentes, totalizando 60, e implementando o Microsoft Entra Agent ID, que permite que os agentes tenham identidades separadas de seus patrocinadores humanos. Essa separação é crucial para que as equipes de segurança possam rastrear a propriedade dos agentes e distinguir suas ações das de uma pessoa.
O alerta da Microsoft também reflete uma mudança de perspectiva sobre a segurança dos agentes de IA. A empresa anteriormente focava em ameaças externas, mas agora reconhece que os próprios agentes implantados podem representar um risco, semelhante a um funcionário desonesto. Essa abordagem é corroborada por Hayete Gallot, chefe de segurança da Microsoft, que afirmou que modelos de IA de ponta não podem ser confiáveis, não por serem maliciosos, mas por sua imprevisibilidade.
A Microsoft, que mantém relações estreitas com empresas como OpenAI e Anthropic, está ciente de que sua posição pode parecer contraditória, pois busca vender soluções de segurança ao mesmo tempo em que critica a confiabilidade dos produtos dessas empresas. No entanto, a lógica por trás de sua proposta de segurança é clara: o software que monitora o comportamento dos agentes deve ser independente dos fornecedores desses agentes.
Com a introdução dessas novas medidas de segurança, a Microsoft busca não apenas proteger suas próprias operações, mas também posicionar-se como uma fornecedora essencial de soluções de segurança para outras empresas. A expectativa é que, à medida que mais organizações adotem agentes de IA, a necessidade de controles de segurança robustos se torne ainda mais crítica.
O futuro das interações entre humanos e agentes de IA permanece incerto, especialmente à medida que mais empresas implementam essas tecnologias. A Microsoft está se preparando para liderar o caminho na definição de padrões de segurança, mas o sucesso dessas iniciativas dependerá da aceitação e implementação por parte das organizações em todo o mundo.
Siga a HACKBR e receba as notícias de cibersegurança e tecnologia no seu feed: Instagram @hackbrnews