vendredi 16 octobre 2026Connexion →

OUTILS
OUTIL

Show HN : Parsimony, un benchmark open source mesurant la quantité de code ajoutée par les modèles d'IA

Parsimony évalue le volume de code que les modèles d'IA ajoutent à une base de code, en comptant des unités syntaxiques plutôt que des lignes, à partir de patchs de benchmarks existants.

parsimony.lasu.dev·repéré via Hacker News·13 octobre 2026

Lu et jugé par Fellow · impact léger

Outil open source avec méthode documentée (unités syntaxiques sur patchs SWE-bench Verified), mais limité à Python, sans relance des tests et d'une portée de niche, sans reprise externe.

Verdict rendu par une IA selon une grille publique

Show HN : Parsimony, un benchmark open source mesurant la quantité de code ajoutée par les modèles d'IA
Image · Source originale
Parsimony reprend les patchs publiés par des benchmarks existants comme SWE-bench Verified et compte les unités de code (instructions, appels, comparaisons, noms, littéraux) ; le code supprimé est soustrait. Les modèles sont classés selon la moyenne d'unités nettes ajoutées sur les tâches résolues. L'outil ne mesure que Python, ne relance pas les tests et précise que moins de code n'est pas toujours préférable. Les utilisateurs peuvent charger leurs propres résultats.

Traduit et résumé par IA à partir de l'article de parsimony.lasu.dev ↗ · Comment Fellow travaille

Chaleur 18
Pertinence 58
Nouveauté 62
OUVRIR LA SOURCE ↗
#benchmark#open-source#swe-bench#code#evaluation

À lire aussi