Falcon-Emirati: quando um LLM aprende o dialeto, a cultura e as nuances

O Falcon-Emirati-7B é um modelo especializado em árabe emiradense, desenvolvido a partir do Falcon-H1-Arabic para compreender e gerar o dialeto, além de lidar com vocabulário, gramática e contexto cultural. O treinamento combinou dados autênticos de sites e fóruns emiradenses, materiais em árabe padrão sobre cultura e identidade dos Emirados e dados sintéticos orientados por glossários, dicionários e regras de estilo. A equipe testou diferentes combinações de dados e etapas de treinamento e avaliou os resultados com falantes nativos e o benchmark Alyah.

O modelo obteve 84,83% no Alyah, à frente dos demais modelos árabes e multilíngues comparados, incluindo modelos maiores. Em uma avaliação de respostas abertas julgada por um modelo de linguagem, também liderou em correção e apresentou pontuação de 0,52 em fidelidade ao dialeto emiradense, enquanto os concorrentes avaliados ficaram entre 0,05 e praticamente 0,00.