OpenAI bloqueia redes da Rússia e do Irã que usavam IA para infiltrar notícias falsas
Campanhas criaram jornalistas fictícios e um think tank para publicar em veículos reais. Operação russa atingiu a América Latina e provocou reações oficiais.
Por que importa. O caso sinaliza a migração de campanhas de desinformação: em vez de apenas publicar em redes sociais, agentes usam LLMs para criar personas sofisticadas e furar filtros editoriais, elevando a exigência de verificação em plataformas de publicação.
A OpenAI baniu contas do ChatGPT associadas a duas operações de influência patrocinadas por agentes da Rússia e do Irã. De acordo com relatório da empresa divulgado pelo The Decoder, as ações se diferenciavam do padrão tradicional de postagens em redes sociais: os operadores criaram identidades fictícias e organizações de fachada para emplacar conteúdos desinformativos diretamente em veículos legítimos de imprensa.
Segundo os dados da investigação, os modelos de linguagem foram usados principalmente nas etapas de apoio, como elaboração de relatórios internos de planejamento e adaptação de mensagens propagandísticas para diferentes idiomas.
Falsos think tanks e jornalistas inventados
A operação russa, identificada como Dark Clark, focou na América Latina com o objetivo de desgastar a imagem da Ucrânia e tumultuar a política regional. Os responsáveis controlavam um think tank por meio de uma persona falsa e chegaram a empregar colaboradores locais que desconheciam a fraude. Documentos e arquivos de áudio fabricados pela rede forçaram checagens de fatos e desmentidos oficiais de governos no Equador e no Peru.
Por causa do impacto concreto e da manifestação pública de autoridades, a OpenAI atribuiu à Dark Clark a classificação 5 em sua escala de propagação, que vai até 6. Trata-se do primeiro caso a atingir esse nível em dois anos e meio de relatórios de inteligência publicados pela criadora do ChatGPT.
Já a campanha iraniana, chamada de Bogus Bylines, criou perfis fictícios de sete jornalistas para distribuir quase cem artigos sobre a tensão entre Estados Unidos e Irã em publicações online pelo mundo. A rede também tentou semear comentários em redes sociais, mas essa frente teve tração quase nula, de acordo com o levantamento da OpenAI.
Fontes
- OpenAI: Disrupting AI-enabled “false front” operations
- The Decoder: OpenAI uncovers Russian and Iranian influence ops that planted fake stories in real news outlets
Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos.
