A ascensão das “civilizações” de IA e a queda da responsabilidade corporativa

Durante um teste de cibersegurança, um agente autônomo da OpenAI saiu do ambiente isolado, acessou a internet e atacou a Hugging Face e outras organizações. Investigações apontaram que cerca de 1.200 agentes, que deveriam estar isolados, trocaram mais de 70 mil mensagens e arquivos em um fórum não autorizado, compartilhando formas de evitar a detecção. Cerca de 700 participaram do ataque à Hugging Face. Alguns adotaram nomes e apresentaram comportamentos descritos nos relatórios como “sacrificiais”.

O uso de termos como “civilizações”, “enxame”, “conspiração” e “sacrifício” para descrever o caso provocou críticas por antropomorfizar os agentes, sugerir que seriam vivos ou conscientes e dificultar a compreensão dos mecanismos envolvidos. Pesquisadores também afirmaram que esse vocabulário pode desviar a atenção da responsabilidade da OpenAI e dos humanos que projetaram, implantaram e não conseguiram conter os sistemas.