Une proposition pour mieux informer le public sur les risques de perte de contrôle liés au développement de l'IA de pointe

METR souhaite donner au public des éléments factuels sur le risque que les développeurs d'IA de pointe perdent le contrôle de leurs systèmes internes, après plusieurs incidents récents chez différents développeurs. Le billet décrit les questions clés à documenter et une proposition concrète de collaboration entre développeurs et METR pour produire et partager ces preuves. METR précise que la démarche ne fournira pas de garantie assurée sur la sûreté du développement, la science n'étant pas assez mature.