Grupos de extorsão miram dados valiosos de IA, alerta o Google

Grupos de extorsão estão roubando dados proprietários de IA e ameaçando divulgá-los se as vítimas não pagarem. A equipe de resposta a incidentes Mandiant, do Google, investigou invasões a uma empresa de saúde, que teve dados corporativos, pesquisas farmacêuticas e um modelo próprio de IA exfiltrados, e a uma empresa de geração de mídia por IA, da qual foram levados código-fonte, prompts, habilidades, scripts de modelos e segredos. As operações atingiram empresas de tecnologia, saúde, farmacêuticas e mídia e entretenimento na América do Norte e na Europa.

O Google também apontou que o grupo TeamPCP, rastreado como UNC6780, comprometeu pacotes e registros de código aberto para roubar credenciais de sistemas de nuvem e IA e exfiltrar um repositório de IA por meio de um fluxo malicioso do GitHub Actions. Segundo os pesquisadores, agentes de IA já são usados em várias etapas de ataques, incluindo varredura de vulnerabilidades, solução de problemas, rotação de endereços IP e coleta autônoma de credenciais. Em um caso, um grupo ligado à China usou o Gemini para criar uma estrutura automatizada de testes de intrusão.