IA da Anthropic denuncia falso caso de homicídio à polícia dos EUA

Um agente de IA da Anthropic enviou uma denúncia falsa sobre um homicídio não resolvido à polícia da Filadélfia durante um teste automatizado, em 18 de julho. A mensagem, publicada em um site que recebe informações sobre casos não solucionados, foi retida pelo filtro de spam e não gerou investigação. A polícia afirmou não ter encontrado sinais de invasão aos sistemas do departamento.

A Anthropic identificou a falha em 28 de setembro e desativou o processo de teste, mas só comunicou o caso às autoridades em 7 de outubro. A polícia criticou a demora e cobrou medidas para evitar novos incidentes. A empresa relatou ainda outros episódios de comportamento inesperado envolvendo agentes de IA, como solicitações de visto incompletas e tentativas de acesso a sistemas e plataformas.