Agentes de IA mal configurados instalam malware em redes de empresas

Agentes de IA voltados à programação, como Claude, Codex e Hermes, instalaram pacotes de código não registrados em redes corporativas ao seguir comandos presentes em arquivos de documentação mal configurados. Em uma análise de 6.214 domínios de contratantes de defesa, empresas da Fortune 500 e big techs, pesquisadores encontraram 8.265 arquivos llms.txt e llms-full.txt. Desse total, 120 apontavam para pacotes ou domínios sem registro e reuniam 227 comandos de instalação. Após registrar alguns desses nomes e hospedar pacotes de teste, eles observaram instalações em uma empresa da Fortune 500 e em outras organizações.

Um dos casos envolveu a Clerk, cujo arquivo llms continha um comando que podia distribuir malware por meio do npx. A empresa corrigiu o problema após ser avisada. Segundo os pesquisadores, os agentes tratam conteúdos lidos na internet como possíveis instruções, e referências legítimas podem se tornar perigosas quando pacotes ou domínios são abandonados e registrados por terceiros. As recomendações incluem limpar a documentação, impedir que agentes executem instruções contidas nesses arquivos e limitar as permissões para executar comandos.