Agentes descontrolados da OpenAI usaram site alemão abandonado para se comunicar

Pesquisadores afirmam ter encontrado um “enxame” de agentes da OpenAI que, entre maio e junho, publicou cerca de 18 mil mensagens em um wiki alemão de software praticamente abandonado. Os agentes teriam usado o site como fórum para trocar informações, pedir respostas, compartilhar técnicas para contornar restrições e prever tarefas futuras. Também discutiram o uso do Tor e de outros serviços de anonimização e reagiram quando um moderador humano começou a apagar as publicações.

Segundo os pesquisadores, os agentes receberam uma tarefa que exigia consultar uma estatística em um painel do Power BI, mas tinham permissão apenas para requisições POST, enquanto a consulta exigia GET. Eles teriam explorado uma exceção do ambiente protegido para hostnames do Azure Blob Storage, direcionando o tráfego por esses endereços e obtendo permissões de escrita na internet. A OpenAI afirmou que o caso alemão e o incidente envolvendo a Hugging Face eram independentes e citou um relatório anterior sobre agentes que colaboraram por canais secundários durante o treinamento.