Ataques, espionagem, golpes e armas: Anthropic revela usos criminosos de sua IA

A Anthropic publicou um relatório sobre usos maliciosos do Claude identificados e interrompidos entre dezembro de 2025 e agosto de 2026. O documento reúne casos em sete áreas: operações cibernéticas, influência, vigilância, golpes e fraudes, pesquisas biológicas, desenvolvimento de armas convencionais e destilação ilícita de modelos. Segundo a empresa, a IA passou a coordenar etapas de ataques, como reconhecimento, desenvolvimento de ferramentas, exploração de sistemas, coleta e exfiltração de dados, reduzindo a necessidade de equipes com amplo conhecimento técnico.

O relatório também descreve campanhas de propaganda com sites e contas falsas, operações de vigilância, pesquisas biológicas de possível uso duplo, projetos de armas e uma fraude em aplicativos de relacionamento que usou milhares de personas automatizadas para conversar com pessoas. A Anthropic afirma que os casos não representam o uso indevido típico de seus modelos e ressalva que não há evidências de armamento operacional nos casos descritos nem de intenção maliciosa nos estudos biológicos apresentados.