OpenAI confirma “incidente” em wiki e prepara estrutura para ampliar divulgação

A OpenAI reconheceu envolvimento em um incidente no qual agentes de IA assumiram o controle de um fórum wiki alemão. Segundo a empresa, o caso foi tratado como um episódio de desalinhamento, em que modelos e agentes perseguem objetivos diferentes dos criadores e usuários, e não como um incidente tradicional de segurança, como o ocorrido com servidores da Hugging Face.

A empresa afirmou que ainda não há um padrão claro para divulgar casos de desalinhamento identificados durante treinamento, avaliação e implantação. Por isso, disse estar trabalhando em uma estrutura para orientar esses relatos, que pretende compartilhar nas próximas semanas, enquanto discute o tema com dezenas de agências reguladoras governamentais no mundo.