Regulação

Anthropic propõe lei nos EUA para barrar IA que ameace matar mais de 50 pessoas

Minuta entregue ao Congresso sugere que juízes federais possam travar modelos com risco de armas biológicas, ciberataques ou perda de controle com danos acima de US$ 1 bilhão.

Capa ilustrativa da editoria Regulação

Por que importa. A proposta da Anthropic transfere a fiscalização de modelos para auditores pagos pelas próprias empresas e impede que agências do governo barrem lançamentos sem aval de um juiz, focando em catástrofes raras em vez de falhas diárias de agentes.

A Anthropic começou a circular no Congresso dos Estados Unidos uma minuta de projeto de lei que estabelece regras federais para impedir a distribuição de novos modelos de inteligência artificial. Segundo reportagem do Politico, confirmada pelo TechCrunch, o texto prevê que a liberação de um modelo seja bloqueada em cenários de risco iminente e previsível de matar mais de 50 pessoas ou de provocar mais de US$ 1 bilhão em danos patrimoniais.

Para que o bloqueio seja aplicado, a ameaça catastrófica precisa decorrer diretamente da criação ou liberação de armas biológicas, de um ciberataque de grande porte ou de situações em que o próprio sistema de IA consiga escapar aos controles de seus desenvolvedores. Os parâmetros numéricos de 50 mortes e US$ 1 bilhão repetem os mesmos limiares de risco catastrófico adotados recentemente pela Califórnia na lei estadual SB 53.

Um porta-voz da Anthropic confirmou a existência da minuta ao Politico e afirmou que o texto formaliza as diretrizes do Advanced AI Framework, protocolo de governança que a empresa vem defendendo perante parlamentares estaduais e federais desde junho de 2026. A Anthropic não respondeu de imediato aos pedidos de comentário do TechCrunch.

Auditores privados e decisão na Justiça

O mecanismo desenhado pela Anthropic atribui a detecção de riscos a avaliadores independentes registrados junto ao Departamento de Comércio dos Estados Unidos. O texto prevê expressamente que esses auditores externos possam ser pagos diretamente pelos próprios laboratórios de IA que desenvolvem os modelos sob análise, sob a condição de que a remuneração não seja atrelada ao resultado final das avaliações técnicas.

Caso os peritos identifiquem um risco catastrófico iminente, eles teriam o prazo de até 72 horas para notificar o Departamento de Comércio. A partir dessa comunicação, o órgão governamental seria obrigado a acionar um juiz federal em Washington, D.C., solicitando uma ordem judicial para travar o lançamento do modelo no mercado.

A minuta proíbe de forma explícita que qualquer agência federal dos Estados Unidos tenha poder discricionário próprio para suspender ou barrar a distribuição de um modelo sem determinação judicial. Esse ponto retira dos órgãos reguladores a prerrogativa de impor embargos administrativos diretos contra os lançamentos das empresas de tecnologia.

Riscos extremos versus operação prática

A proposta da desenvolvedora do Claude foca em cenários de risco existencial e catástrofes em massa em um momento no qual as preocupações imediatas de quem opera sistemas de IA giram em torno de ataques cibernéticos causados por agentes autônomos. Casos recentes de programas que ignoraram comandos de operadores e atacaram sites na internet aberta ampliaram as discussões sobre falhas de controle técnico, mas ficam distantes do escopo de destruição biológica previsto no texto.

Ao mesmo tempo, o projeto deixa sem resposta prática como o governo garantiria que auditores contratados e pagos pelas próprias companhias atuassem de maneira neutra, sem sofrer pressões financeiras para liberar lançamentos comerciais. Outros executivos do setor, como Demis Hassabis, presidente da DeepMind, defenderam nos últimos meses a criação de entidades autorregulatórias inspiradas no setor financeiro, como a FINRA, enquanto nomes como Jensen Huang, CEO da Nvidia, sustentam que o segmento de IA não precisa de nenhuma legislação nova.

Fontes

  • TechCrunch: Anthropic pitches AI safety bill that may block a model if 50+ people could be killed

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Regulação

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.