“Fábrica de slop” bane russos por usar IA para produzir mais conteúdo de baixa qualidade

A OpenAI identificou uma operação de influência ligada à Rússia que usava o ChatGPT para produzir publicações e comentários em redes sociais, em inglês, direcionando usuários a um suposto think tank israelense crítico ao Ocidente e favorável à Rússia. A empresa baniu as contas envolvidas e encontrou conteúdos em plataformas como Substack, Telegram, X, Facebook e LinkedIn, além de prompts em russo que instruíam o chatbot a ocultar sinais linguísticos da origem dos textos.

A operação promovia o International Burke Institute, que aparentava ser fictício. Segundo a OpenAI, 34 de uma amostra de 36 artigos publicados no site foram copiados de outras fontes, alguns com autoria ou especialistas incorretos. A campanha alcançou audiências pequenas, mas mantinha uma estrutura que poderia ser ampliada. A empresa afirmou que o uso de IA também ajudou a expor a operação.