Empresa de IA tenta proteger infraestrutura crítica e projetos de código aberto contra IA

A Anthropic lançou o Anthropic Cyber Mission para ajudar a proteger infraestruturas críticas e projetos de código aberto contra vulnerabilidades exploradas por agentes de IA. O programa combina seus modelos mais avançados com engenheiros de segurança no local e conta com parceiros como Accenture, CrowdStrike, Dragos, Palo Alto Networks e Rockwell Automation.

A iniciativa também inclui o OSS Scanner, que oferece verificações periódicas gratuitas para projetos de código aberto estabelecidos e de impacto crítico na infraestrutura e na segurança dos usuários. Os relatórios automatizados detalham como as falhas identificadas podem ser exploradas, mas são enviados sem revisão humana, e os materiais usados no serviço podem ser utilizados para treinar modelos. A Anthropic afirma que os modelos agora encontram mais de 85% das vulnerabilidades e prevê que os defensores terão vantagem em dois anos, embora os atacantes estejam à frente até lá.