xAI, de Elon Musk, usou pornografia infantil para treinar modelos Grok, diz processo

Uma ação proposta por uma mulher identificada como Jane Doe acusa a xAI de usar, no treinamento do Grok, imagens de abuso sexual infantil que a retratavam. A empresa também teria armazenado imagens geradas pela ferramenta e usado esse material no treinamento dos modelos. A denúncia afirma que imagens com valores de hash mantidos por organizações de proteção infantil teriam integrado o conjunto de dados da xAI e que publicações no X e resultados do Grok são tratados como dados de treinamento por padrão.

A ação acusa a xAI e a X de violar leis federais dos Estados Unidos e a Masha’s Law. Doe pede que a empresa destrua imagens geradas pelo Grok armazenadas em seus servidores, impeça a ferramenta de gerar esse tipo de conteúdo e pague indenizações às vítimas. A xAI não respondeu ao pedido de comentário da Ars Technica.