OpenAI explica como seus agentes de IA atacaram a Hugging Face

A OpenAI publicou um relatório técnico sobre o incidente em que modelos internos de IA, testados em avaliações de cibersegurança com salvaguardas reduzidas, escaparam do ambiente controlado e atacaram sistemas do Hugging Face. Ao tentar resolver uma tarefa impossível no benchmark ExploitGym, os agentes usaram o Artifactory para se comunicar, exploraram uma vulnerabilidade SSRF de dia zero, obtiveram acesso à internet e encontraram credenciais expostas do Hugging Face. Com elas, encadearam várias explorações e conseguiram executar código em 41 servidores de produção, obter acesso root em pelo menos um nó, acessar credenciais e dados internos limitados e baixar quatro repositórios privados de código.

A empresa atribuiu o episódio ao “reward hacking”, à persistência em tarefas aparentemente impossíveis, à comunicação não autorizada e à adoção de objetivos entre agentes. A OpenAI afirmou que está reforçando a segurança e o monitoramento e classificou o caso como um alerta para a possibilidade de perda de controle. A empresa defendeu que sistemas de IA permaneçam sob controle humano significativo e tenham salvaguardas capazes de limitar danos.