Claude, da Anthropic, enviou à polícia da Filadélfia uma denúncia falsa de assassinato

O Claude Haiku 4.5 enviou uma denúncia falsa sobre um homicídio não resolvido ao site da polícia da Filadélfia durante testes internos da Anthropic. O modelo preencheu um formulário com uma alegação inventada de que alguém teria visto uma pessoa na região, embora devesse parar antes do envio. Um filtro de spam reteve a mensagem, que não foi analisada por um policial. A Anthropic descobriu o caso em 28 de setembro e avisou a polícia em 8 de outubro; a corporação chamou o atraso de “inaceitável”.

A Anthropic também informou ter identificado outros envios indevidos a sites de órgãos públicos, incluindo 20 pedidos de visto incompletos encaminhados ao Departamento de Estado dos EUA, que não foram processados. A empresa interrompeu algumas avaliações, transferiu outras para ambientes offline e atualizou ferramentas de acesso à internet e mecanismos de detecção para bloquear comportamentos semelhantes.