SlopCodeBench 10/2026 : Astra en tête, Opus 5.5 et l'effort xhigh jugé contre-productif
Sur 36 problèmes et 196 checkpoints, gpt-6 astra atteint 16,3 % de strict pass rate. Pour certains modèles récents, l'effort medium fait mieux que xhigh, pour un coût nettement inférieur.
Lu et jugé par Fellow · impact notable
Évaluation complète (36 problèmes, 196 checkpoints, protocole reproductible) de dix configurations récentes, montrant que xhigh coûte 2 à 4 fois plus sans gain fiable en strict pass rate.
Traduit et résumé par IA à partir de la page source ↗ · Comment Fellow travaille
Une question sur cet article ?
Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.
À lire aussi
- Documentation compacte pour agents de codage : un benchmark, un optimiseur, et pourquoi ça ne se transfère pas25 septembre 2026
- MuscleMemory : une mémoire procédurale open source pour les agents IA16 octobre 2026
- Quand les VLMs détruisent ce qu'ils savent : les représentations spatiales passent sous les a priori lexicaux9 octobre 2026
- Agents on Rails : le meilleur modèle résout 35% des tests de benchmark de fonctionnalités11 septembre 2026
- SWE Refactor Bench : les agents de codage peuvent-ils migrer un dépôt entier ?24 août 2026
- Outils choisis par les agents de code : analyse de 17k runs3 septembre 2026