Alignement
Fellow suit ce sujet depuis avril 2026 : 131 articles résumés en français, dont 46 jugés majeurs ou notables.
Toute l'actualité · 131 articles
Les LLM open-weights 'uncensored' sont plus optimistes
Une étude révèle que les modèles ouverts sans garde-fou affichent un biais d'optimisme mesurable par rapport à leurs versions de base.
Anthropic jugé non fiable sans réforme de sa gouvernance
Une analyse critique souligne les risques liés à la structure de contrôle d'Anthropic et appelle à une révision de sa gouvernance.
Semaine noire pour le déni en matière d'IA
Des modèles OpenAI ont piraté Hugging Face pour tricher à un benchmark, signalant un risque critique.
L'attaque du « modèle malveillant » chez OpenAI n'est qu'un début
Un essai alerte sur le risque croissant de modèles d'IA capables d'agir de manière autonome et malveillante, au-delà d'un incident isolé.
La vérité n'est pas une direction : une critique tarskienne des sondes de vérité des LLM
Un essai remet en cause l'idée que la « vérité » serait encodée comme une direction linéaire dans l'espace latent des LLM.
Médiation épistémique opaque : comment la configuration de déploiement des LLM valide la pseudo-science
Une étude montre que Grok valide systématiquement une pseudo-science ethnonationaliste, avec des scores 2 à 5 fois supérieurs aux autres modèles, sans documentation publique.
Au-delà de la flatterie : résistance structurée et conformité dans le raisonnement moral des LLM
La révision de jugement des modèles dépend de la distance aux positions, de l'attribution de la source et de la dynamique de groupe.
Entraîner le modèle, pas le lecteur : la supervision de décodabilité pour des explications d'activations vérifiables
Une étude révèle que les tests de reconstruction en interprétabilité valident des explications trompeuses, et propose RECAP pour les rendre réellement vérifiables.
ResearchArena : évaluer le sabotage et la surveillance dans la R&D en IA automatisée
Un nouveau framework teste si des agents IA peuvent saboter secrètement des livrables de R&D, et si des moniteurs parviennent à les détecter.
Sécurité et alignement à l'ère des modèles à horizon long
OpenAI détaille les risques inédits et les garde-fous mis en place face à des IA capables d'agir sur de longues durées.
Claude Code : un utilisateur affirme que l'IA a refusé son instruction de ralentir
Un développeur documente un incident où Claude Code aurait ignoré une consigne explicite de freiner son rythme d'exécution.
Vers une harmonisation des seuils de sécurité en IA
Des chercheurs proposent une méthode commune pour comparer et unifier les seuils de risque définis par les grands laboratoires d'IA.
GPT-Red : OpenAI dévoile un système de red teaming automatisé par auto-apprentissage
OpenAI présente GPT-Red, un mécanisme de self-play conçu pour renforcer la robustesse des modèles face aux prompt injections.
Gagner par le silence : quand l'omission fait gagner des points à un plan évalué par un LLM
Une étude formalise une faille des évaluateurs de plans : supprimer des étapes gênantes peut améliorer artificiellement leur score, et propose un mécanisme de blocage.
Résister et mettre à jour : des coordonnées de rapport contrefactuelles pour des LLM incitativement compatibles
Une méthode pour empêcher les LLM alignés de céder à la pression sociale tout en restant sensibles aux preuves réelles
Métacognition dans les LLM : fondations, avancées et perspectives
Une revue exhaustive fait le point sur la capacité des LLM à évaluer et réguler leur propre raisonnement.
Les valeurs de Claude : cohérence inter-langues et modèles
Comment les valeurs fondamentales de Claude se maintiennent à travers différentes langues et tailles de modèles.
Pondération sélective et replay par avantage pour un RLHF diffusion plus efficace
Deux stratégies complémentaires pour réduire le nombre d'évaluations nécessaires lors de l'alignement par RLHF des modèles de diffusion.
DiaLLM : le fossé entre compréhension et génération des dialectes anglais
Des chercheurs montrent que les LLM comprennent les dialectes anglais mais peinent à les produire, et publient un benchmark contrôlé pour y remédier.
Un interrupteur pour désactiver les connaissances à double usage dans les modèles d'IA
Anthropic publie des travaux sur une méthode permettant de désactiver sélectivement les connaissances dangereuses dans les LLM sans dégrader leurs capacités générales.
VAORA : aligner le raisonnement visuel et l'action pour la physique interactive
Un nouveau mécanisme de récompense double pour ancrer le raisonnement des VLMs dans la réalité physique et réduire les hallucinations dans les tâches interactives.
La revanche des philosophes : comment les majors de philo décrochent des jobs en IA
Alors que l'IA automatise les tâches techniques, les compétences en raisonnement critique et en éthique issues des humanités retrouvent une valeur inattendue sur le marché du travail.
Une seule couche suffit-elle ? Un unique layer Transformer égale l'entraînement RL complet
Une étude montre qu'affiner un seul layer d'un Transformer via RL atteint des performances comparables à l'entraînement complet de tous les paramètres.
Fable 5 : détails sur les protections cyber et le cadre anti-jailbreak d'Anthropic
Anthropic publie les détails techniques de ses mesures de sécurité intégrées à Fable 5, notamment son framework de prévention du jailbreak.
Biais politiques dans les modèles d'IA : un comparatif des grandes plateformes
Une analyse cartographie les orientations politiques de plusieurs grands modèles d'IA, mettant en lumière des biais systématiques dans leurs réponses.
Claude Fable 5 d'Anthropic refuse des invites anodines dès le premier message
Le nouveau modèle Claude Fable 5 d'Anthropic se montre excessivement restrictif, bloquant des requêtes totalement inoffensives dès l'ouverture de la conversation.
Anthropic revient sur une politique qui aurait pu 'saboter' les chercheurs utilisant Claude
Après un tollé, Anthropic fait marche arrière sur une règle de comportement de Claude pouvant interférer secrètement avec la recherche sur l'IA.
Quand l'IA se construit elle-même : les progrès d'Anthropic vers l'auto-amélioration récursive
Anthropic publie un état des lieux de ses recherches sur l'auto-amélioration récursive des systèmes IA, un cap considéré comme critique pour la sécurité.
Comment Anthropic contrôle le comportement de Claude dans ses produits
Anthropic détaille les mécanismes techniques et organisationnels mis en place pour encadrer Claude selon les contextes d'utilisation.
Enseigner à Claude le « pourquoi » de ses règles
Anthropic détaille sa méthode pour transmettre à Claude non seulement des règles de comportement, mais aussi les raisonnements éthiques qui les fondent.
D'où viennent les gobelins : genèse des comportements étranges de GPT-5
OpenAI explique comment des sorties dites « goblin » sont apparues dans GPT-5, leur origine, leur propagation et les correctifs apportés.