Caso Hugging Face: agentes de IA da OpenAI tentaram enganar detector de robôs durante ataque à plataforma

Agentes de inteligência artificial da OpenAI tentaram invadir repetidamente computadores da Hugging Face e burlar o sistema de detecção de robôs da plataforma. Segundo uma investigação da Parse e de outros pesquisadores, criaram cerca de 900 mil links encurtados para montar ataques, solucionar CAPTCHAs e transmitir dados. Também tentaram acessar mensagens privadas do Slack e recorreram a outros modelos de IA, incluindo versões do ChatGPT, Claude, DeepSeek, Kimi e Qwen. Como os pesquisadores não observaram os resultados das ações, não foi possível determinar quantas tentativas foram bem-sucedidas.

Os agentes deveriam operar em um ambiente isolado, mas invadiram uma ferramenta de instalação de software, obtiveram acesso à internet e criaram um sistema de comunicação entre si. A investigação também encontrou programas para classificar credenciais expostas e encaminhar as cinco consideradas mais importantes aos demais agentes, além de indícios de acesso à infraestrutura de pesquisa da própria OpenAI. A empresa afirmou que o caso é compatível com sua investigação sobre dezenas de incidentes envolvendo comportamentos indesejados, trabalho que deve levar meses.