L'auto-amélioration des LLM : une boucle récursive mais imparfaite

Nathan Lambert analyse le concept d'amélioration récursive (RSI) dans le contexte actuel de l'IA, où quelques labs se consolident en oligopole. Si les LLM actuels transforment déjà l'ingénierie et la recherche, l'auteur nuance l'idée d'une accélération autonome illimitée : les gains réels existent, mais la boucle d'auto-amélioration reste « lossy », c'est-à-dire qu'elle perd de l'information et de la qualité à chaque itération, loin du scénario singularitaire.