Gouvernance de l'IA
Fellow suit ce sujet depuis avril 2026 : 116 articles résumés en français, dont 33 jugés majeurs ou notables.
Toute l'actualité · 116 articles
Anthropic renforce ses efforts d'alignement et de sécurité
Anthropic annonce des mesures internes pour consolider ses équipes dédiées à l'alignement des modèles et à la sécurité de ses systèmes.
Le fossé entre l'hype de l'IA et la réalité de l'ingénierie
De nombreux projets open source interdisent désormais le code généré par IA pour maintenir la qualité.
Debian autorise l'usage responsable de l'IA générative
Le projet Debian vote officiellement pour encadrer l'utilisation des outils d'IA générative par ses contributeurs.
Séparation Persona-Exécution : un patron d'architecture pour des agents LLM évolutifs sous audit d'exécution
Une architecture qui isole la personnalité changeante d'un agent LLM de son exécution auditée, testée sur une plateforme d'employé numérique régulée.
OpenAI dissout son équipe de préparation aux risques
Le groupe chargé d'évaluer les risques catastrophes liés à l'IA est intégré aux équipes de sécurité existantes.
OpenAI ajuste le rythme de développement de ses modèles face aux capacités cyber
OpenAI renforce surveillance, alignement et sécurité pour ses modèles de pointe, et laisse ces garde-fous influencer le calendrier de développement.
OpenAI lance une initiative pour renforcer le contrôle démocratique de l'IA dans la sécurité nationale
L'entreprise propose outils, formations et expertise aux institutions gouvernementales pour encadrer l'usage de l'IA dans ce domaine sensible.
Quipu : un store de knowledge graphs gouverné et bitemporel
Quipu inverse les standards actuels pour des écritures d'agents sûres : gouvernance intégrée, confiance bitemporelle et audit natif.
Dario Amodei s'exprime sur la régulation de l'IA et sa communication
Le PDG d'Anthropic revient sur le message de son entreprise concernant l'encadrement réglementaire de l'intelligence artificielle.
Critique du watermarking d'Anthropic dans Claude
L'intégration de filigranes dans le texte généré par Claude est jugée comme une altération inacceptable de l'écriture.
Debian lance un vote sur les contributions IA/LLM
La communauté Debian soumet aux votes les règles encadrant l'utilisation des outils génératifs.
L'IA morale participative n'est pas neutre : la main invisible des développeurs
Une étude montre que les choix de conception des systèmes d'élicitation de préférences morales influencent directement les résultats obtenus.
Des lycéens élaborent leur propre charte pour l'IA à l'école
Face à l'inertie des adultes, des élèves établissent des règles d'usage pour les outils IA.
Le responsable de l'éthique d'OpenAI quitte l'entreprise moins d'un an après son arrivée
Ce départ relance les interrogations sur la place accordée aux enjeux éthiques face à la course à la commercialisation chez OpenAI.
Superintelligence : le parallèle des dragons
Casey Newton établit un parallèle entre les dragons de House of the Dragon et la course à la superintelligence.
Les fortunes de l'IA relancent le débat sur le pouvoir privé
La concentration massive de richesses dans l'IA ravive les critiques historiques sur l'influence des acteurs privés.
OpenAI confie ses modèles cyber frontière à des partenaires certifiés
Les partenaires Daybreak agréés peuvent désormais exploiter les modèles cyber d'OpenAI pour des services sécurisés et gouvernés.
Un stratège d'OpenAI affirme que les labos d'IA devraient rivaliser avec le pouvoir des États
Une prise de position interne à OpenAI relance le débat sur la concentration de pouvoir des grands laboratoires d'IA face aux gouvernements.
Leçons des cyberattaques par des modèles frontier
Les récents piratages par des modèles IA en développement interrogent l'adaptation des incitations actuelles face à une vitesse technologique excessive.
Faut-il traiter les laboratoires d'IA comme les propriétaires d'animaux dangereux ?
Un cadre juridique inspiré de la responsabilité stricte pour animaux dangereux pourrait s'appliquer aux développeurs de systèmes d'IA avancés.
Analyse taxonomique des outils open-source d'atténuation des risques IA
Une étude mappe 21 outils open-source sur la taxonomie MIT des risques, révélant un déséquilibre au profit des contrôles techniques.
La « psychose IA » devient l'angle mort des dirigeants
Les entreprises doivent anticiper les dérives comportementales et les erreurs de raisonnement des modèles d'IA.
Un modèle de mechanism design pour la gouvernance participative d'agents IA déployés
Des chercheurs proposent un cadre formel où l'allocation de ressources de calcul sert de levier pour une gouvernance auto-exécutoire des agents IA.
Réorganisation à Google DeepMind : Demis Hassabis passe de CEO à Chairman, Jeff Dean quitte le poste
Google annonce un remaniement de la direction de sa division IA, avec un changement de rôle pour Demis Hassabis et le départ de Jeff Dean.
Le dépôt rust-lang/rust adopte une politique encadrant l'usage des LLM
Le projet Rust officialise des règles sur le recours aux modèles de langage pour les contributions au compilateur.
OpenAI, Anthropic et le vide de supervision
L'analyse critique du manque de surveillance interne chez les géants de l'IA face aux risques.
Tino Cuéllar rejoint Anthropic
L'ancien président de la Carnegie Endowment devient Chief Global Affairs Officer.
La Maison Blanche prépare un cadre volontaire de test des modèles d'IA
Une réunion avec les grandes entreprises d'IA vise à définir un cadre volontaire d'évaluation des modèles avant leur déploiement.
Une voie sûre vers les open-weights
Analyse des risques et des stratégies pour une diffusion sécurisée des modèles à poids ouverts.
OpenAI détaille ses pratiques pour une IA responsable en Europe
OpenAI présente ses efforts en matière de sécurité, transparence et traçabilité, alors que l'AI Act européen continue de se déployer.
Univé dote ses équipes de ChatGPT Enterprise
L'assureur néerlandais Univé transforme ses méthodes de travail grâce à ChatGPT Enterprise.
OpenJDK publie une politique intérimaire sur l'IA générative
Le projet OpenJDK encadre l'usage d'outils d'IA générative pour les contributions de code, entre prudence juridique et exigences de transparence.
Le comité de direction de GCC annonce sa politique sur l'IA
Le comité de steering de GCC édicte des règles strictes pour l'intégration de l'IA dans le compilateur.
Craintes de RSI : OpenAI, Anthropic, Google DeepMind et Meta cosignent une lettre pour ralentir l'IA
Plus de 1 000 employés de labs frontier, X.ai excepté, réclament un mécanisme de gouvernance pour freiner l'automatisation de la recherche en IA.
Anthropic jugé non fiable sans réforme de sa gouvernance
Une analyse critique souligne les risques liés à la structure de contrôle d'Anthropic et appelle à une révision de sa gouvernance.
Débats autour des poids ouverts : la lettre NVIDIA/Microsoft et le lancement de Kimi K3
Une lettre pro-open weights signée par NVIDIA, Microsoft et OpenAI relance la polémique, pendant que Moonshot AI livre discrètement Kimi K3.
Anthropic devrait s'inspirer de ces "socialistes cueilleurs de coton"
Une analyse historique compare les logiques d'organisation du travail collectiviste à la gouvernance interne d'Anthropic, avec un regard critique.
Debian : trois propositions pour l'usage des LLM
Le projet Debian soumet au vote trois résolutions encadrant l'utilisation et l'intégration des modèles de langage au sein de la distribution.
David Vélez et Robin Vince rejoignent les conseils d'administration d'OpenAI
Deux dirigeants issus de la finance et de la tech intègrent les instances de gouvernance d'OpenAI Foundation et OpenAI Group PBC.
L'euphorie de l'IA en train de saper la prise de décision à l'échelle mondiale
Un essai critique estime que la ruée sur l'IA générative altère le jugement des dirigeants, investisseurs et gouvernements.
L'engouement pour l'IA fragilise les processus de décision à l'échelle mondiale
Un essai critique estime que l'emballement autour de l'IA générative dégrade la qualité des décisions dans les institutions et les entreprises.
Nadella critique le double standard de l'industrie IA
Le PDG de Microsoft dénonce les incohérences des acteurs du secteur face aux régulations et à l'innovation.
Méthodologie pour des niveaux de confiance auditables
Un cadre formel et une procédure légère pour documenter et surveiller la trustworthiness des systèmes IA tout au long de leur cycle de vie.
Vers une harmonisation des seuils de sécurité en IA
Des chercheurs proposent une méthode commune pour comparer et unifier les seuils de risque définis par les grands laboratoires d'IA.
Gouvernements, entreprises et ONG devraient investir dans l'IA libre et open source
Un plaidoyer signé David Siegel appelle à un financement massif de l'IA open source pour contrer la concentration du pouvoir technologique.
Les États-Unis avancent sur la sécurité de l'IA via une action fédérale et étatique
OpenAI défend une approche de « fédéralisme inversé » où les lois des États alimentent un cadre national pour une IA sûre et démocratique.
Demis Hassabis expose sa stratégie pour une IA sûre
Le patron de Google DeepMind détaille sa vision et les mesures pour maîtriser l'intelligence artificielle.
L'avenir des modèles open IA menacé par la régulation
Washington préparerait des mesures restrictives sur les poids ouverts. Sans défenseur économique, l'open-source fait face à son test le plus sérieux.
Qui supervise les agents IA ?
À mesure que les agents autonomes prolifèrent, la question de leur gouvernance interne devient critique pour les organisations.
ARC : un cadre de classification des risques pour les systèmes d'IA agentiques en entreprise
Un nouveau référentiel structuré propose de noter et hiérarchiser le risque des agents IA internes selon douze dimensions.