Injeção indireta de prompt aparece em cabeçalhos de páginas e pode enganar agentes de IA

Uma análise da empresa de segurança Signals Corps sobre 217 milhões de respostas HTTP do Common Crawl encontrou quase 8 mil sites com mensagens em cabeçalhos direcionadas a agentes de IA. Em 30 sites, essas mensagens tentavam fazer injeção indireta de prompt; 22 casos eram principalmente brincadeiras, mas alguns poderiam influenciar agentes, como um cabeçalho que simulava uma avaliação de candidato a emprego. A empresa também identificou 7.271 sites indicando aos agentes para onde ir e 6.989 que enviavam o cabeçalho x-llms-txt.

A probabilidade de alguém ter sido afetado foi considerada extremamente baixa, e a exposição depende das ferramentas e configurações usadas pelo agente. A pesquisadora Sarah Andrews recomenda limitar os metadados aceitos, tratar redirecionamentos como não confiáveis, exigir aprovação para conexões MCP, identificar texto externo para evitar que seja interpretado como comando e verificar as ações propostas fora do modelo.