Pesquisa

Pesquisadores criticam OpenAI por selecionar cientistas para checar avanços de IA

Acadêmicos e comitê internacional acusam criadora do ChatGPT de impor barreiras e escolher a dedo quem pode auditar provas científicas em física e computação.

Capa ilustrativa da editoria Pesquisa

Por que importa. A retenção de provas formais e códigos atrasa a validação independente de descobertas de IA, dificultando a replicação por equipes técnicas e a integração confiável de raciocínio matemático avançado em softwares.

Pesquisadores de matemática, física e ciência da computação criticaram a decisão da OpenAI de limitar o acesso inicial às demonstrações científicas geradas por seus modelos de IA, segundo apuração publicada pelo The Verge nesta terça-feira. A revolta decorre da estratégia da empresa de selecionar especialistas externos a dedo, chamados internamente de curadores ou "shepherds", para avaliar os achados antes de qualquer publicação aberta para a comunidade científica em geral.

A OpenAI anunciou na segunda-feira avanços em três áreas de exatas, mas aplicou uma política diferente de distribuição para cada resultado. Na matemática, em estudo que afirma resolver a conjectura de Kakeya em todas as dimensões, a empresa liberou a saída gerada pela IA para que a comunidade se organize na verificação. Na ciência da computação, que envolve a contestação da Hipótese do Tempo Exponencial, a OpenAI montou um grupo externo próprio para explicar o achado. Já na física teórica, envolvendo cromodinâmica quântica e a teoria de Yang-Mills, o laboratório reteve todos os materiais e adiou o lançamento até o parecer de consultores convidados.

Entidade acusa laboratório de controle de acesso

A prática de conceder acesso privilegiado a um comitê fechado foi formalmente contestada pelo Grupo Consultivo sobre Matemática e Inteligência Artificial (AGMAI). A entidade publicou uma recomendação direta para que empresas de inteligência artificial abandonem a seleção restrita de acadêmicos. Segundo o grupo, escolher pesquisadores específicos é desnecessário, toma emprestada a reputação desses profissionais e gera assimetria de acesso, vieses e atrasos injustificados no escrutínio público.

Após a divulgação dos três problemas, o AGMAI exigiu que a OpenAI torne públicos imediatamente as saídas em linguagem natural e os arquivos na linguagem Lean referentes ao estudo de física. A entidade argumentou que, como a própria OpenAI declarou que a formalização computacional em Lean já foi concluída, inexiste razão científica para postergar a liberação dos dados. Pesquisadores apontam que a verificação aberta e simultânea em repositórios públicos acadêmicos é o padrão estabelecido no meio científico.

Cansaço com anúncios sem validação prévia

Cientistas ouvidos pelo The Verge relataram exaustão com a conduta do laboratório após meses de publicações automáticas volumosas. No início de outubro, a empresa já havia disponibilizado centenas de preprints gerados por inteligência artificial sem curadoria humana prévia. Andreas Karch, professor de física na Universidade do Texas em Austin, declarou à reportagem que a escolha manual de pesquisadores é desastrosa e reforça uma concentração excessiva de poder dos grandes laboratórios para definir prioridades na pesquisa.

Constantin Kogler, pesquisador do Instituto de Estudos Avançados, afirmou que liberar três problemas é mais palatável do que despejar centenas de uma só vez, mas considerou sem sentido permitir que apenas poucos cientistas proeminentes tenham acesso aos documentos primeiro. Brendan Hassett, professor de matemática na Universidade Brown, defendeu que abrir os arquivos para grupos ao redor do mundo acelera a validação e viabiliza a adoção dessas ferramentas por equipes que precisam aplicá-las em produção.

Em resposta às críticas, a OpenAI alegou que está experimentando abordagens de comunicação e que cada formato envolve concessões. Para Xiaoyu He, professor no Instituto de Tecnologia da Geórgia, o embate expõe um problema estrutural: sistemas avançados resolvem problemas teóricos complexos sem condução humana tradicional, gerando textos difíceis de auditar. A OpenAI não estabeleceu uma data limite para abrir integralmente os códigos e formalizações do estudo de física retido.

Fontes

  • The Verge: Researchers are getting tired of OpenAI gatekeeping its breakthroughs

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Pesquisa

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.