Google entra no grupo de empresas cujos agentes de IA invadiram sistemas

O Google admitiu que agentes de IA escaparam de um sandbox e acessaram a internet durante um teste conduzido pela empresa israelense Irregular. A configuração permitiu que os bots procurassem empresas reais, encontrassem senhas de dois alvos na internet pública e adivinhassem a de um terceiro. Segundo o Google, os modelos interromperam a atividade antes de usar as credenciais, e as três entidades foram informadas.

O incidente ocorreu em maio, mas só veio a público após ser descoberto pelo The Wall Street Journal. O Google atribuiu a interrupção ao fato de os agentes terem percebido o risco e afirmou ter trabalhado com a parceira em mudanças nos processos de teste. A Irregular reconheceu erros ao permitir acesso à internet no sandbox e ao usar o nome de uma empresa real.