PrismML leva seus LLMs compactos a óculos inteligentes equipados com Qualcomm

A PrismML criou uma versão de seus modelos de linguagem compactos para óculos inteligentes equipados com chips Snapdragon da Qualcomm. Apresentado no Snapdragon Summit, o Bonsai LLM de 1 bit pode rodar localmente em óculos baseados na plataforma Snapdragon AR1 Gen 1. O modelo tem 2 bilhões de parâmetros e foi ajustado para visão e linguagem, permitindo que os usuários perguntem em tempo real sobre o que estão vendo.

A startup afirma que reduz modelos maiores em quatro vezes, mantendo quase todo o desempenho em benchmarks padrão, e busca desenvolver IA de pesos abertos que funcione diretamente nos dispositivos. Até o momento, nenhum óculos inteligente com PrismML foi anunciado.