3 items

#quantification

Toutes les news taguées avec ce sujet.

Chronologie · 60 derniers jours

RECHERCHE
heat 35
Mise à l'échelle par blocs UE5M3 FP4 pour un pré-entraînement stable des LLM
Un nouveau schéma de quantification FP4 simplifie le pré-entraînement en basse précision et améliore les performances face à la recette NVIDIA existante.
OUTILS
heat 35
Pourquoi votre LLM local semble plus bête qu'il ne l'est réellement
Un article de forum décortique les réglages techniques négligés qui plombent silencieusement les performances des LLM exécutés en local.
OUTILS
nvidiaheat 40
NVIDIA détaille le développement de Nemotron 3.5 Lightning NVFP4 avec la quantification QAD
Un nouveau checkpoint compressé à 22 Go, contre 66 Go en pleine précision, promet jusqu'à 4x plus de débit sans perte de précision.

3 items

Toutes les news taguées avec ce sujet.

Chronologie · 60 derniers jours

RECHERCHE
heat 35
Mise à l'échelle par blocs UE5M3 FP4 pour un pré-entraînement stable des LLM
Un nouveau schéma de quantification FP4 simplifie le pré-entraînement en basse précision et améliore les performances face à la recette NVIDIA existante.
OUTILS
heat 35
Pourquoi votre LLM local semble plus bête qu'il ne l'est réellement
Un article de forum décortique les réglages techniques négligés qui plombent silencieusement les performances des LLM exécutés en local.
OUTILS
nvidiaheat 40
NVIDIA détaille le développement de Nemotron 3.5 Lightning NVFP4 avec la quantification QAD
Un nouveau checkpoint compressé à 22 Go, contre 66 Go en pleine précision, promet jusqu'à 4x plus de débit sans perte de précision.