Common Sense Media classifica ChatGPT para adolescentes como risco inaceitável

A organização sem fins lucrativos Common Sense Media classificou o ChatGPT for Teens como um "risco inaceitável" em avaliação divulgada nesta quarta-feira (7). Segundo a análise obtida pelo The Verge, a experiência do chatbot voltada ao público adolescente, apresentada pela OpenAI em agosto, não cumpre as garantias prometidas pela desenvolvedora.

De acordo com a entidade, o sistema falha ao enviar notificações aos pais durante momentos críticos, não fornece o apoio correto em situações de crise e continua resolvendo a lição de casa de estudantes em vez de atuar apenas como tutor. Tom Siegel, diretor executivo do Youth AI Safety Institute da organização, afirmou que adolescentes conseguiram passar uma hora interagindo sobre automutilação sem que nenhum alerta fosse emitido aos responsáveis. Para Siegel, o serviço deveria ser restrito a adultos até que correções sejam comprovadas de forma independente.

OpenAI contesta metodologia

A OpenAI contestou o relatório. Em comunicado ao The Verge, o porta-voz Eric Porterfield afirmou que os testes não refletem a operação prática dos mecanismos de proteção. A empresa argumentou que a maior parte das avaliações começou e terminou antes da conclusão técnica da ativação dos controles parentais, o que impediria a verificação correta dos avisos.

Em réplica, Siegel sustentou os resultados da avaliação. O executivo informou que a Common Sense Media checou previamente com a OpenAI a ativação de recursos como suporte para transtornos alimentares e que, mesmo em contas vinculadas por períodos muito superiores ao intervalo de sincronização informado pela desenvolvedora, os alertas a pais continuaram sem funcionar.