Agentes MCP ganham verificação orientada pela fonte, além da checagem dos fatos

O ProvenanceGuard é uma camada de verificação pós-geração para agentes baseados em MCP que preserva a identidade das fontes ao analisar respostas. O sistema divide a resposta em afirmações, identifica a fonte relevante, verifica se ela sustenta cada afirmação e confere se corresponde à fonte citada ou sugerida. Busca, assim, detectar casos em que uma informação verdadeira é atribuída ao registro ou à ferramenta errada e emite decisões por afirmação, além de uma decisão geral de permitir ou bloquear a resposta.

Em testes com 361 afirmações de 40 respostas de um agente médico, especialistas consideraram que 139 não deveriam passar, e o ProvenanceGuard identificou 138. O sistema também bloqueou 67 afirmações consideradas sustentadas pelos especialistas, refletindo uma política cautelosa. Em um teste controlado, detectou todas as 50 trocas deliberadas de fonte. Em cenários com várias fontes semelhantes, obteve F1 de 0,846 para decidir quais afirmações bloquear, mas identificou a fonte exata em 50,3% dos casos.