Spécialiser le vocabulaire des SLM peut réduire de 77 % le coût d'inférence dans des applications réelles

Dharma-AI préfigure les résultats de son papier VocabX : un correcteur de rédactions en portugais, basé sur Qwen3-4B, utilisait le tokenizer d'origine de 151 669 entrées, conçu pour de nombreuses langues. En reconstruisant le vocabulaire autour du coût de chaque token, avec les mêmes données et la même recette d'entraînement, l'équipe annonce une baisse de 77 % du coût d'inférence mesuré. Les chiffres proviennent d'une version du papier encore en relecture.