DeepSeek-V4 Latent Reasoning : transfert du raisonnement en espace latent

L'expérimentation DeepSeek-V4-Flash-0731-Latent-Reasoning marque une évolution technique dans la manière dont les grands modèles de langage gèrent le raisonnement complexe. Plutôt que de déployer une chaîne de pensée explicite sous forme de tokens textuels visibles, cette méthode déporte l'intégralité du processus de réflexion dans un espace latent compressé. Le mécanisme repose sur l'ajout d'une tête de raisonnement de 35,7 millions de paramètres, greffée sur l'épine dorsale d'un modèle DeepSeek-V4 existant, fonctionnant ici en quantisation NVFP4. L'objectif est double : maintenir la cohérence logique nécessaire à la résolution de tâches ardues tout en réduisant drastiquement le coût computationnel associé à la génération de tokens de "pensée" intermédiaires.

D'un point de vue architectural, le système fonctionne en boucle fermée. Une fois le pré-remplissage du prompt utilisateur effectué, le modèle entre dans une phase de décodage latent. À chaque étape, l'état caché de la couche 35 est capturé, compressé par une tête variationnelle prédisant des paramètres mu et sigma, puis réinjecté dans le flux résiduel via un décodeur après passage par une LayerNorm. Ce processus se poursuit de manière autorégressive jusqu'à ce qu'une "tête d'arrêt" apprise, dédiée à la détection de la fin du raisonnement, dépasse un seuil de probabilité fixé par défaut à 0,5. Le modèle ne produit alors que la réponse finale, sans jamais exposer les étapes intermédiaires.

L'intégration de cette architecture nécessite des modifications profondes du moteur d'inférence, ce qui explique le fork spécifique de vLLM utilisé. Le routage des experts MoE (Mixture of Experts) de DeepSeek-V4 dépendant d'un hash basé sur les input_ids, l'injection directe d'embeddings latents dans le chemin standard perturberait ce mécanisme. La solution technique retenue consiste à injecter les latents au niveau de la sortie de la couche d'embeddings, tout en conservant des IDs de tokens factices (un pad token réservé) pour maintenir la cohérence du comptage de tokens et permettre le routage correct des experts. Cette approche permet de rester sur le fast path des cudagraphs, garantissant des performances optimales sans sacrifier le traitement par lots.

Les premières évaluations, menées sur le benchmark BBH (BIG-Bench Hard), montrent des résultats contrastés mais prometteurs, avec un score agrégé de 0,880 en mode exact match. Le modèle excelle particulièrement dans les tâches nécessitant un suivi d'état multi-étapes, telles que le suivi d'objets mélangés ou l'analyse de tableaux, atteignant parfaitements 1,00 sur plusieurs sous-tâches logiques. En revanche, une faiblesse structurelle apparaît sur les tâches mécaniques et lourdes en syntaxe, comme le test dyck_languages (appariement de parenthèses), où le score chute à 0,26. Ce suggère que la compression du raisonnement en espace latent, si elle est efficace pour la manipulation de concepts abstraits, gêne le traitement formel de structures syntaxiques rigides.

Le déploiement de ce modèle impose des contraintes matérielles strictes en raison de l'utilisation de la quantisation NVFP4 et des kernels spécifiques à l'architecture Blackwell (sm120). La configuration testée requiert environ 192 Gio de VRAM pour une taille de contexte de 262 144 tokens, répartie idéalement sur deux GPU RTX PRO 6000 Blackwell en parallèle de tenseurs (TP=2). Les configurations de runtime permettent de borner la phase de réflexion via des variables d'environnement, empêchant notamment une boucle infinie si la tête d'arrêt venait à dysfonctionner, tout en assurant un budget minimum de tokens pour la génération de la réponse finale.