Le prochain grand saut : des IA qui apprennent en travaillant

La thèse centrale est que l'entraînement d'IA sur des millions de tâches vérifiables dans des environnements RL diversifiés produira des capacités générales de résolution de problèmes assimilables à l'AGI. Les supposées limites structurelles — inefficacité des données, absence de continual learning — seraient contournables par le scaling, comme ce fut le cas pour le NLP. L'apprentissage in-context sur de longues sessions remplacerait la mise à jour continue des poids.