Anthropic atualiza termos de uso e proíbe comportamento cruel contra o Claude

A Anthropic atualizou seus termos de uso pela primeira vez em mais de um ano para consolidar novas restrições em áreas de alto risco. Entre as mudanças, a empresa passou a proibir de forma explícita o comportamento cruel ou abusivo contínuo contra os modelos Claude. A companhia informou que a regra se aplica a casos extremos e repetidos, sem utilidade clara, sem afetar testes técnicos, pesquisas, temas criativos densos ou frustrações cotidianas de usuários.

Desde agosto, o Claude já podia encerrar conversas com pessoas persistentemente prejudiciais ou hostis como parte das pesquisas da empresa sobre bem-estar de modelos. De acordo com o The Verge, a interrupção do chat continua sendo o principal mecanismo de fiscalização, embora a Anthropic não tenha detalhado se aplicará banimentos definitivos de contas.

Restrições a armas, vigilância e robótica

Além do foco no tratamento dispensado à IA, a atualização reúne regras dispersas contra campanhas comerciais e políticas enganosas. A política proíbe expressamente o uso do Claude para criar contas falsas, disseminar desinformação sobre votações ou tentar suprimir o comparecimento de eleitores às urnas.

A empresa também ampliou o veto a armamentos após registrar tentativas de uso do Claude no desenvolvimento de softwares de controle e direcionamento bélico. Ficou proibido criar componentes para armar drones e veículos autônomos. Em vigilância, o sistema não pode ser empregado para rastrear cidadãos sem consentimento nem para recomendar prisões ou investigações policiais, exceto mediante salvaguardas contratuais com governos.

Para integrações físicas, a Anthropic estabeleceu uma nova exigência: modelos acoplados a equipamentos que realizem ações autônomas capazes de causar lesões corporais precisarão contar com um operador qualificado apto a monitorar e interromper a operação se necessário.