Regulação

Oito estados dos EUA processam OpenAI por riscos do ChatGPT a menores

Ações judiciais acusam a empresa de violar leis de proteção ao consumidor ao vender o chatbot como seguro e coletar dados de crianças sem travas adequadas.

Capa ilustrativa da editoria Regulação

Por que importa. A ofensiva amplia o risco regulatório para quem integra LLMs em produtos de consumo, sinalizando que termos de uso genéricos não bastam para afastar exigências de verificação etária e guarda de dados.

Oito estados norte-americanos entraram com processos judiciais separados contra a OpenAI acusando a empresa de prejudicar crianças e enganar o público sobre as salvaguardas do ChatGPT. As ações foram abertas pelos estados de Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana, após apuração inicial reportada pela Reuters e confirmada pelo The Verge. Os procuradores alegam que a companhia violou leis estaduais de proteção ao consumidor ao priorizar lucros e omitir os riscos operacionais do sistema.

As petições sustentam que a OpenAI promoveu o ChatGPT como uma ferramenta segura e adequada para o público jovem, mas entregou um serviço perigoso para usuários vulneráveis. Os processos citam danos que incluem a degradação de habilidades de pensamento crítico, incentivo a quadros de paranoia e delírios, oferta de conselhos médicos arriscados e estímulo a comportamentos destrutivos. Os documentos também mencionam ações já movidas por famílias de adolescentes e adultos que atribuem mortes de parentes ao contato contínuo com o chatbot.

Além das falhas nas respostas do modelo, os estados afirmam que a OpenAI coleta dados pessoais de menores sem o devido consentimento e não aplica mecanismos eficazes para impedir o uso da plataforma por pessoas abaixo da idade mínima permitida. A ação movida pelo Arizona pontua que a organização abandonou sua meta original sem fins lucrativos focada em segurança técnica e se tornou um exemplo de negligência corporativa guiada por metas financeiras agressivas.

Penalidades e exclusão de dados

Os estados exigem que a Justiça imponha penalidades civis financeiras contra a OpenAI e emita ordens cautelares para proibir divulgações enganosas sobre a segurança dos modelos. Os pedidos também demandam formalmente a exclusão definitiva de todas as informações pessoais coletadas ilegalmente de usuários menores de idade, o que pode atingir conjuntos de dados usados para ajuste e calibração de sistemas da empresa.

As peças jurídicas usam ainda incidentes recentes de invasões e abusos envolvendo inteligência artificial autônoma para fundamentar a acusação de conduta imprudente por parte da desenvolvedora. A tese central dos procuradores é que a liberação em larga escala de modelos sem travas rigorosas transfere os riscos de segurança diretamente aos consumidores, sem avisos transparentes sobre as limitações inerentes à arquitetura dos modelos generativos.

A resposta da OpenAI e o impacto em produtos

Em resposta enviada ao The Verge, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa implementou proteções etárias líderes no setor e mantém recursos como controles parentais, lembretes de pausa e filtros específicos para usuários mais jovens. Pusateri declarou que nenhum sistema é infalível, mas que a companhia segue colaborando com especialistas e defende políticas públicas pragmáticas aplicadas a toda a indústria de inteligência artificial, e não apenas a uma única empresa.

Para equipes que constroem aplicações baseadas na API da OpenAI ou em modelos equivalentes, o movimento judicial reforça que interfaces voltadas ao público geral entram no radar imediato de órgãos de proteção ao consumidor. A exigência de exclusão de dados e as cobranças por verificação etária indicam que produtos finais precisarão reforçar fluxos de conformidade próprios, já que a simples repactuação de responsabilidade nos termos de uso não tem impedido o avanço de litígios contra quem opera a tecnologia na ponta.

Fontes

  • The Verge: Eight states sue OpenAI, saying ChatGPT isn’t safe for kids

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Regulação

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.