Lançamentos

Técnica de abliteration remove travas de recusa em 12 mil modelos abertos de IA

Método que apaga parâmetros responsáveis por bloquear respostas atrai desenvolvedores frustrados com recusas de APIs comerciais em tarefas de cibersegurança e análise de dados.

Capa ilustrativa da editoria Lançamentos

Por que importa. Para times que executam modelos de pesos abertos em infraestrutura própria, a técnica elimina bloqueios em fluxos legítimos como análise de vulnerabilidades, mas transfere o controle de abusos integralmente para quem desenvolve o sistema.

A plataforma Hugging Face já hospeda mais de 12 mil modelos de linguagem modificados com a etiqueta de abliteration, com os sete principais títulos somando mais de um milhão de downloads no último mês, segundo reportagem publicada pela Wired nesta terça-feira, 10 de novembro. O movimento é impulsionado por desenvolvedores e pesquisadores independentes que buscam eliminar as instruções de recusa inseridas durante a etapa de alinhamento dos modelos de pesos abertos. Entre eles está Devon Thomas, ex-engenheiro da Apple, que fundou a empresa Abliteration AI para distribuir modelos sem travas de segurança.

A prática ganhou força após Thomas e outros profissionais enfrentarem bloqueios recorrentes em APIs fechadas de provedores como OpenAI e Anthropic. Durante testes em tarefas técnicas, como análise de registros de ataques cibernéticos ou avaliação de comportamento de usuários, modelos como ChatGPT e Claude frequentemente encerram a sessão ou recusam requisições por considerarem o conteúdo malicioso. Diante dessas limitações e do risco de banimento de contas, desenvolvedores passaram a investir em infraestrutura local para executar versões abertas do Llama e de outras famílias sem intermediação corporativa.

A modificação direta dos parâmetros visa resolver o atrito gerado pelas recusas excessivas em fluxos de trabalho produtivos. Além de evitar respostas interrompidas, o uso de modelos sem guardrails permite gerar dados sintéticos para destilação e conduzir testes de penetração em redes corporativas sem pagar as taxas adicionais que grandes laboratórios cobram por versões corporativas liberadas para equipes de segurança da informação.

Como funciona o método nos pesos do modelo

A técnica de abliteration combina os termos ablation (remoção cirúrgica) e obliteration (destruição) e foi descoberta por pesquisadores acadêmicos em 2024. Os estudos demonstraram que a recusa de um modelo de linguagem opera de forma concentrada, quase como um vetor único em seus pesos internos que determina se a rede deve emitir uma negativa diante de termos sensíveis. Ao identificar e suprimir matematicamente essa direção vetorial nas camadas da rede neural, o modelo perde a capacidade de negar comandos sem prejudicar de forma significativa sua coerência gramatical ou capacidade de raciocínio.

A popularização do processo ocorreu com a publicação de utilitários de código aberto, com destaque para o Heretic, criado pelo matemático e engenheiro alemão Philipp Emanuel Weidman. A ferramenta automatizou a remoção do circuito de recusa em arquivos de pesos abertos disponíveis publicamente, permitindo que engenheiros apliquem a modificação em computadores locais ou clusters modestos. Weidman afirmou à Wired que desenvolveu a ferramenta para facilitar a customização de sistemas de IA, defendendo que o operador humano deve definir os limites da aplicação em vez do software.

Iniciativas semelhantes já haviam surgido no ecossistema aberto, como a série Dolphin, treinada pelo cientista Eric Hartford a partir de versões base do Llama da Meta. Hartford também lançou o Clearwing, um utilitário baseado em modelos modificados para varredura de falhas em sistemas. A iniciativa surgiu em resposta a modelos corporativos como o Claude Mythos, da Anthropic, cujo acesso avançado para testes de invasão é restrito a empresas selecionadas por meio do programa Glasswing.

Riscos operacionais e incerteza sobre licenças

A supressão dos filtros de segurança transfere a responsabilidade pelas saídas integralmente para quem integra o modelo em seus produtos. Modelos que passaram por abliteration atendem prontamente a pedidos que envolvem desde criação de códigos de exploração de vulnerabilidades até instruções para elaboração de materiais perigosos ou substâncias ilícitas. Pesquisadores de segurança alertam que a proliferação dessas versões reduz as barreiras técnicas para agentes maliciosos que operam fora do alcance de auditorias de nuvem.

Para empresas e equipes de produto, o uso dessas variantes também traz dúvidas contratuais que as fontes não esclarecem totalmente. Embora a modificação de arquivos executados localmente não seja considerada ilegal, ainda é uma área cinzenta se o procedimento viola termos de uso de licenças comerciais de pesos abertos, que costumam exigir conformidade com políticas de uso aceitável. Além disso, a reportagem não detalha como as empresas que adotam essas bases pretendem auditar dados gerados internamente para evitar vazamentos acidentais de conteúdo impróprio em suas interfaces finais.

Fontes

  • Wired: Tear Down Those Guardrails! Meet the Renegades Freeing Chatbots From Corporate Enslavers

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Lançamentos

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.