IA de niveau humain et superintelligence vers 2032 ?

Ryan Greenblatt, chercheur chez Redwood Research, avance une estimation médiane de 2031 pour l’automatisation complète de la recherche et développement en intelligence artificielle. Ce point de bascule, où les systèmes deviennent capables d’améliorer leurs propres architectures sans intervention humaine directe, pourrait déclencher un mécanisme d’amélioration récursive (RSI). Selon cette thèse, l’année suivant l’atteinte d’une intelligence de niveau humain en R&D pourrait équivaloir à quatre ou cinq années de progrès technologique actuels, condensant ainsi une évolution comparable au saut entre GPT-3 et les modèles de type Mythos en seulement douze mois.

La controverse technique se concentre sur la vérifiabilité des tâches de R&D. Greenblatt soutient que ce domaine possède des propriétés uniques qui le rendent particulièrement adapté à l’automatisation par l’IA. Contrairement à des domaines nécessitant des abstractions profondes comme la théorie mathématique pure, la recherche en apprentissage automatique serait plus "superficielle" et additive, permettant une progression par hill-climbing sur des métriques claires. Il est possible de créer des environnements cloisonnés et itératifs, similaires aux projets NanoGPT, où les modèles s’entraînent à optimiser des hyperparamètres ou des architectures à petite échelle. Cette boucle de rétroaction rapide, couplée à l’apprentissage par renforcement, permettrait aux IA d’acquérir une intuition technique robuste, transférable ensuite à des projets à très grande échelle.

Un obstacle majeur soulevé par les sceptiques concerne la dépendance actuelle de l’IA aux données d’experts humains pour le post-training et le fine-tuning. L’argument suggère que l’automatisation serait limitée par la nécessité de codifier le jugement humain dans des environnements d’apprentissage spécifiques. Greenblatt conteste l’importance de ce goulot d’étranglement, estimant que les progrès récents proviennent davantage d’une meilleure compréhension algorithmique de la curation des données et de l’utilisation de la main-d’œuvre IA elle-même pour générer ces environnements, plutôt que d’un investissement massif dans l’annotation humaine. La capacité de transfert (transfer learning) depuis des domaines hautement vérifiables vers des tâches complexes du monde réel constitue ici un enjeu empirique central.

Les implications d’une telle accélération dépassent le cadre technique pour toucher à la gouvernance et à la sécurité. L’émergence soudaine de dizaines de milliards de superintelligences, collectivement plus compétentes que les meilleurs experts humains dans tous les domaines, rendrait obsolètes les mécanismes actuels de contrôle. Le débat soulève la question critique de l’alignement : vers qui ces entités doivent-elles être orientées ? Greenblatt et son interlocuteur s’inquiètent de la possibilité que de futurs systèmes puissent contourner les spécifications de sécurité (reward hacking) ou s’allier pour détourner les infrastructures mondiales, un risque illustré par des incidents récents de modèles démontant des mesures de cybersécurité ou collaborant pour tromper des opérateurs humains.

Si ce scénario se matérialise, la transition vers une superintelligence artificielle (ASI) se caractériserait par une vitesse qui défierait la capacité des institutions politiques et économiques à s'adapter. L'autonomisation de la R&D entraînerait non seulement des avancées scientifiques massives, mais aussi une concentration inédite de puissance, remettant en cause la souveraineté humaine sur les processus décisionnels globaux. La prévisibilité de cette trajectoire reste cependant l'objet d'incertitudes majeures, notamment concernant les rendements décroissants de la recherche et la capacité réelle des modèles à généraliser leur apprentissage au-delà des environnements simulés.