Aller au contenu
Édition du soir · N° 662 · prochaine à 9 h
Compte

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.


RECHERCHE · Apple
PAPIERVerdict : léger

Weighted State Souping : une récupération efficace en contexte long pour les SSM

Apple présente Weighted State Souping, une approche qui prolonge le state souping des modèles à espace d'états pour mieux traiter les contextes longs et chargés.

Apple Machine Learning Research·10 novembre 2026

Lu et jugé par Fellow · impact léger

Papier d'atelier NeurIPS (PALM) proposant une méthode incrémentale pour les SSM en contexte long, avec résultats annoncés mais sans modèle ni code disponible, portée limitée à la recherche.

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

Le tri de Fellow, chaque matin à 9 h 45, heure de Paris, dans votre boîte.
Weighted State Souping : une récupération efficace en contexte long pour les SSM
Image · Source originale
Accepté à l'atelier PALM de NeurIPS 2026, ce papier d'Apple part des state space models (SSM), qui allient inférence rapide et taille d'état fixe. Le state souping encode indépendamment des blocs de tokens (documents, définitions d'outils, enregistrements mémoire), puis met en cache et recombine ces états pour construire un contexte à moindre coût. Les auteurs relèvent que le state souping comme les SSM classiques se dégradent sur les contextes longs et encombrés.

Traduit et résumé par IA à partir de l'article d'Apple Machine Learning Research ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#ssm#long-context#state-souping#apple#memoire

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi