Chercheurs en alignement automatisés : utiliser les LLM pour mettre à l'échelle la supervision

Anthropic publie des travaux sur l'utilisation de grands modèles de langage pour automatiser des tâches de recherche en alignement, dans une logique de supervision scalable. L'idée centrale est de déléguer à des agents IA une partie du travail d'évaluation et de vérification normalement effectué par des humains. Cette approche vise à résoudre le goulot d'étranglement humain dans la supervision de systèmes IA de plus en plus capables.