DeepSeek publie en open-source des optimisations d'inférence offrant 60 à 85 % de gain de vitesse

DeepSeek publie DSpark, un paper accompagné d'un code open-source détaillant des optimisations d'inférence permettant d'accélérer la génération de 60 à 85 %. Les techniques couvrent des améliorations au niveau du kernel GPU, de la gestion du KV cache et du scheduling des requêtes. Cette publication s'inscrit dans la stratégie d'ouverture de DeepSeek, qui partage régulièrement ses avancées en matière d'efficacité computationnelle.