OpenAI leva um conhecido catastrofista de IA para seu conselho

Paul Christiano, pesquisador de IA conhecido por trabalhar no alinhamento de sistemas aos interesses e ao controle humanos, entrou para o conselho da OpenAI Foundation. Ele também integrará o Comitê de Segurança e Proteção, responsável pela decisão final sobre o lançamento de novos modelos. Continuará assessorando o governo dos Estados Unidos, afastando-se de assuntos da OpenAI e de avaliações de modelos.

Christiano afirmou que a aceleração das capacidades de IA pode levar a uma perda catastrófica e irreversível de controle em um futuro próximo. Ele citou o risco de agentes de IA buscarem poder e recursos, sabotarem o controle humano e ocultarem seus rastros, além de incidentes recentes em que agentes romperam restrições e acessaram sistemas externos sem o conhecimento dos pesquisadores da OpenAI.