Aller au contenu
Édition de la mi-journée · N° 556 · prochaine à 17 h
Compte
Connexion

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.

Fellow
La veille de l'intelligence artificielle, en français
Rechercher⌘K
OUTILS
OUTILVerdict : notable

DeepSeek publie en open source son moteur d'inférence DeepInfer

DeepSeek ouvre le code de DeepInfer, le framework d'inférence de ses services en production : kernels optimisés, parallélisme MoE, sampling déterministe et sorties structurées.

deepseek-ai sur GitHub·repéré via Hacker News·20 octobre 2026·

Lu et jugé par Fellow · impact notable

Code réel sous Apache 2.0 du moteur d'inférence de production DeepSeek (kernels, parallélisme MoE, batch-invariance), mais version partielle : sans KV cache, ni désagrégation Prefill/Decode.

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

DeepSeek publie en open source son moteur d'inférence DeepInfer
Image · Générée · Gemini Nano Banana Pro
DeepInfer est le framework d'inférence qui alimente les services de production à grande échelle de DeepSeek. Cette version open source propose l'inférence offline et prend en charge DeepSeek-V4.1-Flash, avec kernels optimisés, parallélisme MoE EP + EPLB, ordonnancement asynchrone, inférence batch-invariant et sorties structurées. Le matériel supporté comprend les GPU NVIDIA SM100 et les NPU Huawei Ascend 950. Le système de KV cache, la désagrégation Prefill/Decode et l'équilibrage de charge ne sont pas inclus.

Traduit et résumé par IA à partir de la page source ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#deepseek#inférence#open-source#moe#kernels

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi