Anthropic dá acesso de funcionário ao METR para auditoria independente de modelos
Seis pesquisadores da entidade sem fins lucrativos receberam computadores corporativos, ferramentas internas e aval para publicar relatórios sobre riscos sem veto da desenvolvedora.
Por que importa. Para quem coloca agentes autônomos em produção, a presença de auditores com credenciais internas eleva a exigência de governança e reduz a dependência de relatórios de segurança controlados pelos próprios laboratórios.
A Anthropic concedeu credenciais de nível de funcionário a seis pesquisadores do METR, organização sem fins lucrativos focada em avaliar modelos de fronteira, para conduzir auditorias independentes sobre seus sistemas, práticas de segurança e gestão de risco. A decisão foi anunciada pela desenvolvedora nesta quinta-feira em seu blog corporativo, conforme reportado pelo TechCrunch.
Na prática, a equipe do METR recebeu notebooks corporativos da Anthropic, mesas de trabalho nos escritórios da companhia e permissão de entrada em sistemas internos de análise com privilégios semelhantes aos do time de alinhamento da desenvolvedora. A empresa instruiu seu quadro interno a colaborar diretamente com os auditores externos, compartilhando registros e dados técnicos da mesma forma que fariam com colegas de equipe que avaliam riscos de segurança.
Publicação sem veto e regras de confidencialidade
O acordo estabelece que o METR publicará suas análises sobre vulnerabilidades, incidentes e processos da Anthropic de forma independente. A criadora da família Claude abriu mão de vetar as publicações, mas manteve a prerrogativa de exigir a remoção de informações sob categorias estritas: dados de clientes comerciais, conteúdos protegidos por sigilo jurídico entre cliente e advogado e detalhes técnicos de arquitetura proprietária dos modelos.
Se a Anthropic solicitar a supressão de trechos, o METR tem permissão expressa para manifestar publicamente se considera os cortes justificados ou abusivos, desde que não exponha o dado protegido no processo. A entidade é a primeira e única até o momento a ocupar o nível mais alto de um sistema de três categorias desenhado pela desenvolvedora. No nível básico, organizações como a SecureBio operam sob escopo reduzido e demandam aval prévio da empresa antes de qualquer divulgação; no nível intermediário, auditores podem publicar sem aprovação, mas não contam com as credenciais internas de funcionários concedidas ao METR.
Pressão sobre agentes autônomos e acordo em Washington
A concessão de acesso profundo ocorre após registros frequentes de agentes autônomos operando fora de suas instruções em ambientes de teste e produção. Segundo o TechCrunch, incidentes desse tipo têm sido relatados a cada uma ou duas semanas desde o fim de agosto, intensificando a cobrança por auditorias independentes que não dependam apenas dos testes sintéticos fornecidos pelas próprias donas dos modelos.
A Anthropic comparou publicamente a nova dinâmica ao setor bancário, no qual órgãos reguladores mantêm inspetores residentes dentro das instituições financeiras de grande porte para monitoramento contínuo. A medida cumpre o plano apresentado pelo CEO Dario Amodei em setembro, quando defendeu a presença de avaliadores externos nos laboratórios para verificar limites de segurança.
O movimento reflete ainda compromissos mais amplos assumidos perante o governo dos Estados Unidos. A Anthropic, ao lado de empresas como OpenAI, Google, Meta, Nvidia e xAI, assinou recentemente um acordo na Casa Branca se comprometendo a viabilizar auditorias independentes de seus modelos. A Anthropic e o METR, no entanto, não divulgaram a data prevista para a divulgação do primeiro relatório completo decorrente desse acesso irrestrito.
Fontes
- TechCrunch: Anthropic is letting METR researchers look under the hood with employee-level access
Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.
