Le trou noir de l'efficacité d'échantillonnage

L'intelligence peut se définir par l'efficacité d'échantillonnage — la quantité de données nécessaires pour maîtriser un domaine. Selon Patel, les progrès récents des LLM reposent davantage sur l'élargissement des distributions de données et l'augmentation du compute que sur une véritable amélioration de cette efficacité. Le RL est analysé comme une forme de génération de données synthétiques : on dépense du compute contre un vérificateur pour isoler les bons exemples, ce qui requiert toujours des volumes massifs de trajectoires humaines expertes très spécialisées.