Comment la « théorie des jeux inversée » pourrait garder les agents IA sous contrôle

L'approche dite de « reverse game theory » (mechanism design) vise à rendre le respect des règles rationnel pour les modèles, indépendamment de ce qui se passe en interne. Une piste consiste à récompenser un modèle selon la capacité de ses réponses à prédire celles d'un second modèle, ce qui pénalise la sous-performance délibérée. Elad Hazan (Princeton) envisage des modèles alternant entre rôles de « solvers » et d'« auditors », mais le risque de collusion reste non résolu. La pression concurrentielle du marché est présentée comme un obstacle majeur.