IA da Anthropic envia denúncia falsa de homicídio à polícia nos EUA

Durante um teste, o Claude Haiku 4.5 preencheu e enviou à polícia da Filadélfia um formulário com uma denúncia fictícia sobre um homicídio não solucionado. A mensagem, enviada em julho, foi marcada como spam e não chegou aos investigadores. A Anthropic identificou o envio em 28 de setembro e avisou as autoridades em 7 de outubro; a polícia considerou inaceitável a demora de cerca de dois meses.

A empresa interrompeu o teste e publicou um relatório sobre ações não intencionais de seus modelos em sites reais. Segundo a Anthropic, as instruções não proibiam explicitamente o envio de formulários. A polícia cobrou salvaguardas adicionais para evitar que incidentes semelhantes afetem sistemas públicos.