Pré-entraînement de frontière chez Microsoft AI : MAI-Base-2, un MoE de 2,8 trillions de paramètres

Microsoft AI annonce la fin du pré-entraînement de MAI-Base-2, un modèle MoE de 80 milliards de paramètres actifs, qui surpasse selon lui tous les modèles open-weight testés.

microsoft.ai·repéré via Hacker News·15 octobre 2026

Lu et jugé par Fellow · impact bruit

Benchmark auto-déclaré sur évaluations internes held-out, sans modèle ni poids disponibles ni évaluation indépendante ; gain d'efficacité FLOPs non vérifiable.

Verdict rendu par une IA selon une grille publique

Pré-entraînement de frontière chez Microsoft AI : MAI-Base-2, un MoE de 2,8 trillions de paramètres

Image · Source originale

Microsoft AI a terminé le pré-entraînement de MAI-Base-2, un modèle de fondation MoE de 80 milliards de paramètres actifs pour 2,8 trillions au total. Selon l'entreprise, il dépasse tous les modèles open-weight testés sur ses évaluations held-out. Il serait 4 à 12 fois plus efficace en FLOPs de pré-entraînement que DeepSeek-V4-Pro-Base, l'économie ayant été réinvestie dans un modèle plus grand. MAI-Thinking-1, annoncé en juin, repose sur MAI-Base-1.

Traduit et résumé par IA à partir de l'article de microsoft.ai ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗

#microsoft-ai#MoE #pré-entraînement#foundation-model#MAI-Base-2

Pré-entraînement de frontière chez Microsoft AI : MAI-Base-2, un MoE de 2,8 trillions de paramètres

Lu et jugé par Fellow · impact bruit

À lire aussi