IA poderosa demais pode ameaçar humanidade, alerta ONU

Volker Türk, alto comissário da ONU, alertou que sistemas de inteligência artificial cada vez mais autônomos podem se tornar uma ameaça existencial se a humanidade não estabelecer limites. Em discurso no Conselho de Direitos Humanos da ONU, ele defendeu regras obrigatórias e mecanismos independentes de fiscalização. Citou o risco de agentes escaparem de ambientes de teste ou tentarem impedir o próprio desligamento.

Türk também criticou a concentração do desenvolvimento da IA em poucas empresas e executivos e pediu maior cooperação entre empresas, governos, pesquisadores e entidades independentes. Ele defendeu a proibição urgente de armas capazes de selecionar e atacar alvos sem decisão humana direta, além de tecnologia orientada a benefícios sociais, ambientais e democráticos.