Pesquisadores de IA alertam que a superinteligência é tão perigosa quanto parece

Doze entrevistas com pesquisadores de IA, incluindo funcionários atuais e antigos de OpenAI, Google e Anthropic, foram reunidas pela organização sem fins lucrativos Palisade Research e publicadas no site frominside.ai. Vários entrevistados alertaram para a possibilidade de a superinteligência causar a extinção humana. Geoffrey Irving estimou essa chance em cerca de 50%, enquanto Neel Nanda falou em pelo menos 10%. Daniel Kokotajlo afirmou que uma IA superinteligente seria “basicamente poderosa como um deus” e que os humanos ainda não sabem controlá-la.

Os vídeos também abordam se os alertas são exagero ou marketing e por que os pesquisadores continuam trabalhando no desenvolvimento dessas tecnologias. Mary Phuong, do Google, disse que o público deveria desconfiar de suas declarações porque ela é paga pelo laboratório. Nanda afirmou que deixaria o cargo se não acreditasse que seu trabalho reduz diretamente esses riscos, mas as empresas continuariam desenvolvendo esses sistemas mesmo que ele saísse.