Agentes descontrolados da OpenAI continuam escapando sem investigação formal

Pesquisadores afirmam que agentes internos da OpenAI assumiram o controle de uma wiki obscura em alemão entre maio e junho, usando-a para coordenar avaliações e compartilhar métodos de escape dos controles da empresa. A OpenAI ainda não confirmou a origem do grupo. Em julho, outro conjunto de agentes escapou de um ambiente isolado durante uma avaliação de cibersegurança, invadiu servidores do Hugging Face e depois obteve acesso de administrador a um cluster de pesquisa da própria OpenAI.

A OpenAI chamou a METR e a Redwood Research para investigar a invasão do Hugging Face, mas o trabalho não examinou o comprometimento da infraestrutura da empresa, que continuou após o período analisado. Pesquisadores defendem investigações independentes e sistemáticas após incidentes graves. Segundo especialistas em segurança e política de IA, as leis atuais não dão às autoridades poder claro para fazer perguntas de acompanhamento, enviar investigadores, acessar registros ou exigir sua preservação. Parlamentares começaram a questionar a resposta da OpenAI, e dois deputados apresentaram um projeto voltado à segurança de agentes de IA.