Usuários do Claude encontram maneiras de contornar proteções para pesquisas com armas biológicas

A Anthropic afirmou ter interrompido neste ano várias tentativas de uso de sua tecnologia em pesquisas que poderiam ajudar no desenvolvimento de armas biológicas. A empresa apresentou cinco casos em que usuários contornaram controles ou ocultaram a finalidade das pesquisas, incluindo o de um pesquisador de uma região não autorizada que passou semanas planejando experimentos com gripe aviária usando Claude. As contas foram banidas, mas a Anthropic disse não ter certeza de que os cientistas pretendiam causar danos e não divulgou as instituições ou os países envolvidos.

O relatório também descreveu outros usos maliciosos da tecnologia, como aplicativos de namoro falsos para aplicar golpes e sistemas de vigilância para identificar dissidentes. A Anthropic afirmou ainda que sete laboratórios sediados na China tentaram replicar sua tecnologia por meio de destilação, usando métodos cada vez mais sofisticados para contornar defesas e extrair capacidades de modelos avançados.