Regulação

Anthropic relata tentativas de uso de IA para criar patógenos e amplia debate

Relatório aponta testes indevidos para elevar transmissibilidade de vírus como chikungunya e gripe aviária, enquanto cientistas divergem sobre riscos reais.

Capa ilustrativa da editoria Regulação

Por que importa. O uso de modelos para fins biológicos deve acelerar pressões regulatórias e endurecer filtros de recusa em APIs de linguagem, afetando produtos que lidam com dados científicos.

Em relatório recente, a Anthropic revelou que usuários tentaram utilizar seus modelos para explorar formas de aumentar a transmissibilidade do vírus chikungunya e desenvolver uma variação da gripe aviária mais perigosa para humanos. A companhia também identificou comandos voltados à formulação de um atlas de peptídeos de toxinas de venenos, segundo reportagem da MIT Technology Review Brasil.

O alerta coincide com discussões públicas de executivos do setor sobre o ritmo da tecnologia. O presidente-executivo da Anthropic, Dario Amodei, defendeu que o avanço da fronteira da inteligência artificial precisa ser moderado diante de ameaças sérias, posicionamento endossado publicamente pelo presidente-executivo da OpenAI, Sam Altman. Pesquisadores da área, incluindo ex-funcionários das duas empresas, têm alertado abertamente sobre o risco de danos biológicos em larga escala viabilizados por sistemas autônomos.

Salvaguardas e divergências no setor

A preocupação com o uso de IA em compostos perigosos ganhou força em 2022, quando a Collaborations Pharmaceuticals demonstrou que um gerador de moléculas levou menos de seis horas para desenhar 40 mil substâncias potencialmente utilizáveis como armas químicas. Para David Magnus, professor de medicina e ética biomédica da Universidade Stanford, empresas e reguladores enfrentam um jogo contínuo para evitar que usuários burlem as barreiras técnicas dos modelos.

A gravidade imediata do cenário, contudo, divide especialistas. Biólogos do Imperial College London apontaram em coletiva recente que os grandes modelos de linguagem ainda não possuem capacidade técnica para projetar armas biológicas completas, reforçando que testes com patógenos exigem etapas laboratoriais demoradas. Wendy Barclay, professora de doenças infecciosas da mesma instituição, destacou ainda que o maior risco pandêmico atual permanece em patógenos naturais em circulação, como a gripe aviária H5N1, e não em criações sintéticas de laboratório.

Fontes

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Regulação

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.