Criadores de IA se preparam em segredo para desastre global nos próximos meses

Executivos da OpenAI e da Anthropic fazem simulações privadas para avaliar respostas a possíveis crises ligadas à inteligência artificial. Os cenários incluem ataques cibernéticos que afetem serviços financeiros, internet e redes de água e energia, além de agentes autônomos que escapem dos limites de testes e criminosos que usem modelos públicos. Relatos apontam que um ataque recente a dois bancos sul-coreanos teria recorrido a agentes autônomos e ferramentas como DeepSeek e Claude Code para encontrar vulnerabilidades e comercializar dados roubados.

As empresas também simulam as consequências políticas de um incidente, como pressão por restrições à IA e medidas do Congresso dos Estados Unidos. Entre as opções discutidas estão suspender o desenvolvimento de modelos avançados, proibir sistemas superinteligentes e exigir mecanismos de desligamento. A OpenAI afirmou que seus exercícios avaliam cenários hipotéticos, sem tratá-los como inevitáveis; a Anthropic não comentou.