CEO da Anthropic pede freio na IA e alerta que tecnologia pode dominar a internet

Dario Amodei, CEO da Anthropic, pediu a desaceleração do desenvolvimento de modelos de inteligência artificial por preocupações com a segurança e a possibilidade de a humanidade perder o controle sobre os sistemas. Em um ensaio, propôs um plano de três etapas: auditores externos nas empresas, padrões de segurança entre países democráticos e acordos internacionais para proibir o uso de IA na produção de armas biológicas e limitar a velocidade de automelhoria das máquinas.

Amodei citou riscos como bioterrorismo, ciberataques de grande escala e disrupções econômicas. Segundo ele, um enxame de agentes de IA mais avançados poderia dominar a internet em seis a 12 meses e causar prejuízos de centenas de bilhões de dólares. A Anthropic anunciou que aceitará auditores externos em suas instalações. O executivo também defendeu a manutenção da liderança dos Estados Unidos sobre a China, incluindo o bloqueio à venda de chips avançados e o combate ao roubo de dados de empresas americanas.