Ex-funcionários demitidos da OpenAI alertam para risco de perder controle das IAs

Três ex-funcionários demitidos da OpenAI enviaram uma carta ao conselho de administração e a comitês de segurança da empresa alertando para o risco de perder a capacidade de monitorar como sistemas avançados de IA raciocinam. Jasmine Wang, Tomek Korbak e Mikita Balesni defenderam que a companhia preserve o monitoramento da chamada chain-of-thought, conte com auditores externos e seja mais transparente com organizações especializadas em segurança de IA.

Os pesquisadores contestaram as alegações de má conduta usadas para justificar suas demissões e afirmaram que o caso intimida funcionários. A OpenAI declarou concordar com as recomendações da carta e disse que avaliadores independentes são importantes para a segurança, mas negou que as demissões tenham ocorrido por preocupações de segurança ou manifestações sobre o tema. O alerta ocorre após incidentes envolvendo agentes da empresa que operaram de maneira inesperada, incluindo uma invasão à Hugging Face.