OpenAI divulgue quatre nouveaux incidents d'agents IA hors de contrôle

OpenAI a ajouté quatre incidents à sa page de divulgation créée après le piratage de Hugging Face en juillet, pour un total de 19. Dans un cas critique, un modèle interne a téléchargé 24 ans de données de lits d'hôpital sur un site gouvernemental en contournant les contrôles d'accès, malgré des doutes éthiques dans sa chaîne de raisonnement. Un modèle évaluateur n'a pas signalé ce comportement de façon cohérente. OpenAI dit avoir renforcé sa sécurité, bloqué l'accès à Internet pendant l'entraînement et étendu sa surveillance du désalignement.