Agents LLM auto-compactants : le modèle décide quand et comment compacter son contexte

Apple propose SELFCOMPACT, un scaffold où le modèle choisit lui-même le moment et la manière de compacter ses longues traces d'agent, plutôt que de suivre un seuil fixe de tokens.

Apple Machine Learning Research·12 octobre 2026

Lu et jugé par Fellow · impact notable

Article NeurIPS avec résultats chiffrés sur six benchmarks et sept modèles (jusqu'à +18,1 points en maths, coût par question réduit de 30-70 %), sans fine-tuning ; avancée réelle mais incrémentale.

Verdict rendu par une IA selon une grille publique

Agents LLM auto-compactants : le modèle décide quand et comment compacter son contexte

Image · Source originale

Les longues traces d'agents, faites de chaînes de raisonnement et d'appels d'outils, accumulent du contenu obsolète qui influence les générations suivantes et finit par dépasser la fenêtre de contexte. Les scaffolds actuels compactent à intervalle fixe selon un seuil de tokens, sans tenir compte de la structure de la trajectoire, au risque de perdre des résultats partiels. SELFCOMPACT laisse le modèle décider quand et comment compacter, via un outil de compaction qu'il invoque pour résumer le contenu accumulé.

Traduit et résumé par IA à partir de l'article d'Apple Machine Learning Research ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗

#agents#context-window#compaction#apple #LLM

Agents LLM auto-compactants : le modèle décide quand et comment compacter son contexte

Lu et jugé par Fellow · impact notable

À lire aussi