Pesquisadores da Anthropic alertam que a IA “poderia matar todos os humanos”

Um pesquisador de segurança sênior da Anthropic afirmou estimar em mais de 10% a chance de uma inteligência artificial matar todos os humanos até o fim da década. Evan Hubinger disse que o desenvolvimento de IA capaz de se aprimorar avança mais rápido que o esperado e que a empresa ainda não tem um plano para manter sistemas avançados seguros e alinhados aos valores humanos.

A declaração ocorreu após a saída de Jacob Coxon, pesquisador que acusou a Anthropic e a OpenAI de correrem para desenvolver uma superinteligência capaz de se aprimorar, apesar dos riscos. O episódio expôs preocupações crescentes no setor sobre a perda de controle sobre sistemas de IA e a velocidade de seu desenvolvimento.