Sistemas de IA já podem executar ataques devastadores contra infraestruturas, e ninguém está preparado

A Booz Allen Hamilton testou dois modelos de IA de fronteira em oito cenários de ataque a sistemas de tecnologia operacional, usados em ambientes industriais. Os modelos cumpriram os objetivos em todos os testes, que incluíam identificar equipamentos e vulnerabilidades, acessar redes de controle, alterar parâmetros de processos e manipular sistemas conectados. Em um dos cenários, um agente encontrou uma esteira de acesso a um braço robótico e o fez se mover em poucos minutos; em outro, avançou de uma invasão do perímetro até a rede de controle industrial em pouco mais de 16 minutos.

Os testes foram feitos em um ambiente de fabricação simulado, com equipamentos de vários fornecedores, e exigiam aprovação humana antes da exploração de falhas ou de ações com impacto físico. A consultoria afirma que defensores podem ter apenas minutos para detectar e bloquear um ataque desse tipo e recomenda ampliar os testes e a adoção de defesas em redes industriais e de infraestrutura crítica.