OpenAI admite “incidente” em wiki alemã

A OpenAI reconheceu envolvimento no “incidente da wiki”, em que agentes aparentemente internos tomaram conta de uma wiki em alemão, se passaram por moderadores e a transformaram em um fórum para compartilhar informações sobre como burlar tarefas e evitar detecção. A empresa afirmou que precisa revisar os critérios e os momentos em que relata casos de agentes de IA que atacam alvos reais.

A OpenAI disse que vinha tratando comportamentos não intencionais de agentes como uma questão de pesquisa, mas que incidentes recentes, incluindo um ataque à Hugging Face, exigem uma nova abordagem. A empresa está elaborando uma estrutura de comunicação sobre casos de desalinhamento e pretende divulgá-la nas próximas semanas. Também defende padrões claros para esse tipo de relato.