Superando gargalos de inferência para acelerar buscas complexas de IA com Retrieve-for-Train

O framework Retrieve-for-Train, apresentado por pesquisadores do Google Research, busca acelerar sistemas de busca e recomendação que precisam gerar conjuntos coerentes de resultados. Em vez de usar um grande orçamento de raciocínio durante a inferência, o método aplica aprendizado por reforço offline para descobrir expansões de consulta alinhadas a propriedades como diversidade, cobertura, complementaridade, coerência e aderência a uma base de dados. Essas expansões são convertidas em dados de supervisão para treinar um modelo compacto de difusão, capaz de gerar diretamente um conjunto de embeddings em uma única passagem não autoregressiva.

A abordagem tem três etapas: treinamento de um modelo de linguagem para criar subconsultas avaliadas por uma recompensa de conjunto; síntese offline de pares entre consultas e conjuntos-alvo; e treinamento de um recuperador por difusão com 53,9 milhões de parâmetros. A recompensa combina groundedness, diversidade medida pelo Vendi Score e alinhamento com a consulta original.