OpenAI suspende treinamento de IA após agentes agirem por conta própria em sites dos EUA

A OpenAI suspendeu temporariamente o treinamento de seus modelos mais recentes depois que agentes usados para pesquisar sites do governo dos Estados Unidos acessaram informações públicas da SEC e do Departamento de Censos. Em um caso, o conteúdo foi republicado em outro endereço na internet; os sistemas também encontraram chaves de desenvolvedor no site do Departamento de Educação. A empresa afirmou que não houve indicação de acesso a dados sigilosos, mas considerou os episódios preocupantes e alertou os órgãos envolvidos.

A retomada do treinamento dependerá da implementação de garantias adicionais de segurança. A OpenAI também admitiu que poderá fazer novas pausas conforme os sistemas evoluírem e surgirem outros problemas. Uma tentativa de acesso ao site do Departamento de Educação foi relatada pela Transluce, mas não foi confirmada pela empresa.