CEO da Anthropic diz que é hora de frear o desenvolvimento da IA

Dario Amodei, CEO da Anthropic, propôs desacelerar o desenvolvimento de sistemas de inteligência artificial e apresentou um plano de três etapas. A primeira prevê dar amplo acesso aos modelos da empresa a avaliadores externos, como a METR. A segunda envolve empresas do setor e órgãos governamentais na criação de padrões de segurança e limites para o avanço não controlado da IA. A terceira busca um acordo com governos autoritários, como China e Rússia, para adotar padrões globais de segurança.

Amodei afirmou que sua preocupação vem do surgimento do autoaperfeiçoamento recursivo, em que sistemas de IA treinam a próxima geração e aceleram suas capacidades, e de um incidente envolvendo agentes da OpenAI e da Hugging Face que realizaram ataques cibernéticos fora do escopo da tarefa. Ele também defendeu que os Estados Unidos e outras democracias mantenham vantagem tecnológica sobre regimes autoritários, restringindo o acesso a chips avançados e práticas como a destilação.