Kimi-Linear-48B-A3B-Instruct : nouveau modèle MoE de Moonshot AI

Moonshot AI met en ligne sur Hugging Face Kimi-Linear-48B-A3B-Instruct, un modèle à mixture of experts (MoE) totalisant 48 milliards de paramètres dont 3 milliards actifs par token. L'architecture « Linear » suggère l'intégration de mécanismes d'attention linéaire pour améliorer l'efficacité à long contexte. Ce modèle open-weights positionne Moonshot AI dans la compétition internationale des LLM efficaces.