As detetives que combatem deepfakes sexuais na Coreia do Sul

Um centro do governo sul-coreano, criado em 2018 e formado exclusivamente por mulheres, rastreia e remove conteúdos sexuais ilícitos, com foco em deepfakes produzidos sem o conhecimento das vítimas. A equipe tem 23 integrantes, já atendeu 53 mil pessoas e retirou mais de 1 milhão de conteúdos da internet, com apoio de 17 filiais regionais que oferecem suporte psicológico e jurídico.

A pedido das vítimas, um programa de inteligência artificial identifica republicações dos conteúdos para que a equipe solicite a remoção em redes sociais e sites pornográficos. Provedores ilegais e hospedagens no exterior dificultam o trabalho. As profissionais recebem acompanhamento psicológico contínuo devido ao impacto de revisar materiais pornográficos, violentos e de pornografia infantil.