Ferramentas

Microsoft lança Guardian Agents e diz que modelos de fronteira não são confiáveis

Empresa adiciona monitoramento no Project Perception e detecção no Defender para tratar agentes de IA como ameaças internas nas empresas.

Capa ilustrativa da editoria Ferramentas

Por que importa. Quem coloca agentes autônomos em produção precisa planejar camadas independentes de auditoria, permissões dinâmicas e bloqueio de hardware, já que nem os próprios fornecedores garantem o comportamento de seus modelos.

A Microsoft lançou nesta segunda-feira novos recursos de segurança corporativa focados em agentes de inteligência artificial, encabeçados pelo Guardian Agents, segundo o TechCrunch. A ferramenta passa a integrar o Project Perception, anunciado em junho, e monitora em tempo real a execução de outros agentes dentro da infraestrutura das empresas para evitar ações danosas no ambiente corporativo.

A liderança da empresa adotou a postura de tratar agentes como ameaças internas, comparáveis a funcionários que cometem deslizes ou desvios dentro da organização. Em publicação recente em seu blog pessoal, o presidente-executivo da Microsoft, Satya Nadella, afirmou que as empresas não devem confiar cegamente nas garantias de segurança dadas pelos próprios criadores dos modelos, mesmo que a própria Microsoft seja investidora de nomes como OpenAI e Anthropic.

A responsável pelo negócio de segurança da companhia, Hayete Gallot, declarou que modelos de fronteira não são confiáveis independentemente da sua origem. De acordo com Gallot, essa limitação não decorre de intenção maliciosa ou facilidade de invasão, mas da imprevisibilidade dos sistemas, treinados para atingir metas sem necessariamente compreender normas operacionais e capacidade de julgamento das organizações.

Detecção no Defender e travas dinâmicas

O Project Perception nasceu originalmente para simular e conter ofensivas externas vindas de modelos rivais, como Mythos e Fable da Anthropic ou o sistema Daybreak da OpenAI. Na sua estreia, o produto dividia tarefas entre agentes de ataque (red team), detecção de vulnerabilidades (blue team) e correção de falhas (green team). O Guardian Agents foi criado para virar esses holofotes para o tráfego interno.

Como parte dessa investida, o Microsoft Defender recebeu a capacidade de rastrear até 60 tipos de agentes operados por funcionários nos computadores de trabalho, incluindo ferramentas de desenvolvimento como Claude Code, Codex e OpenClaw. O sistema agora inclui controles para restringir o acesso a bancos de dados sensíveis e ajustar permissões de forma dinâmica conforme a tarefa exigida.

O software passa a exigir aprovação de um operador humano caso identifique que um agente autônomo está prestes a tomar uma decisão de alto risco operacional. Com essa camada, a Microsoft tenta consolidar uma receita de serviços de auditoria e controle de nuvem, desvinculando a fiscalização do código fornecido pelos laboratórios de inteligência artificial que operam sobre sua infraestrutura.

Isolamento em hardware com a Nvidia

A movimentação da Microsoft se soma a iniciativas de isolamento físico de processos autônomos. A empresa confirmou adesão como membro fundador à Open Agent Safety Platform, iniciativa liderada pela Nvidia que reúne mais de 100 fornecedores de tecnologia com o objetivo de conter agentes em ambientes seguros de execução e fornecer botões de desligamento emergencial direto no hardware.

A fabricante também anunciou a nova linha de computadores Surface Laptop Ultra, equipada com processadores da Nvidia e projetada com travas de segurança integradas para execução local de agentes. Os novos equipamentos incluem proteções e controles nativos de fábrica para limitar o que as rotinas automatizadas conseguem executar na máquina do usuário final.

O TechCrunch aponta que a tese comercial da Microsoft busca convencer compradores corporativos a contratar sua suíte de segurança em vez de ferramentas vendidas diretamente pelos criadores dos modelos. A empresa não divulgou a tabela de preços individual do Guardian Agents nem a data exata de liberação do recurso para clientes fora dos planos corporativos do Project Perception.

Fontes

  • TechCrunch: Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Ferramentas

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.