OUTILS
Le problème du sac à dos 0/1 dans PyTorch : un solveur qui réduit la RAM de pointe d'un facteur 20
Un nouveau solveur de budget mémoire d'activation, dp_knapsack_sliding_hirschberg, remplace dp_knapsack dans PyTorch et diviserait par 20 le pic de RAM lors de la planification mémoire.
jedrzej.maczan.pl·repéré via Hacker News·14 octobre 2026
Lu et jugé par Fellow · impact léger
Nouveau solveur mergé dans PyTorch, activable par config, qui réduit la RAM de planification (~20x sur la machine de l'auteur) ; portée limitée à la phase de compilation, mesures non rigoureuses.
Image · Source originale
L'article présente dp_knapsack_sliding_hirschberg, un solveur de budget mémoire d'activation pour PyTorch. Il peut remplacer le solveur dp par défaut via torch._functorch.config.activation_memory_budget_solver et réduirait d'un facteur 20 le pic de RAM pendant la planification mémoire. Le texte explique le problème du sac à dos 0/1 appliqué au choix des opérations à stocker ou à recalculer, ainsi que l'approche de programmation dynamique de dp_knapsack.
Traduit et résumé par IA à partir de l'article de jedrzej.maczan.pl ↗ · Comment Fellow travaille
Chaleur 15
Pertinence 45
Nouveauté 55
#pytorch#optimisation-mémoire#compilateurs#algorithmes