Execute agentes rápidos e privados no dispositivo com LFM2.5-24B-A2B

A Liquid AI apresentou o LFM2.5-24B-A2B, modelo de raciocínio com 24 bilhões de parâmetros e 2 bilhões ativos por token, desenvolvido para executar agentes localmente. O modelo tem janela de contexto de 131 mil tokens, faz chamadas a ferramentas e está disponível com pesos abertos. A empresa afirma que ele alcança 184 tokens por segundo em um Apple M5 Max e mais de 21 mil tokens por segundo em uma GPU NVIDIA B300.

Em avaliações de 16 benchmarks, o modelo liderou ou empatou em cinco dos oito testes de uso de ferramentas e agentes, além de liderar os três testes de seguimento de instruções. Modelos maiores tiveram vantagem em tarefas de conhecimento e programação. O LFM2.5-24B-A2B tem suporte para ferramentas de inferência como llama.cpp, MLX, vLLM, SGLang e ONNX.