Monitoring
Fellow suit ce sujet depuis juillet 2026 : 13 articles résumés en français, dont 3 jugés majeurs ou notables.
Toute l'actualité · 13 articles
Évaluations de contrôle simulées : simuler les réponses d'outils avec un modèle de langage
Des chercheurs proposent de remplacer l'environnement d'exécution par un modèle de langage simulant les réponses d'outils, afin d'élargir les contextes où mener des évaluations de contrôle.
Red-teaming des systèmes internes de surveillance des agents d'OpenAI
METR et Redwood Research ont testé pendant trois semaines, avec un accès approfondi, le système de surveillance de la désalignement d'OpenAI. Un rapport interne de 61 pages en est issu.
Launch HN : Laminar (YC S24) entraîne un modèle pour détecter les échecs silencieux des agents
La startup Laminar, issue de Y Combinator (S24), présente sur Hacker News un modèle entraîné pour repérer les défaillances silencieuses des agents d'IA.
Monitoring agentique : des agents pour surveiller les systèmes logiciels
Un ingénieur plaide pour confier la surveillance des systèmes à des agents LLM, en s'appuyant sur les « superfans » décrits par Anthropic, qui détectent des anomalies que les alertes classiques manquent.
Comment un évaluateur pourrait examiner le contrôle et la surveillance des agents IA internes
METR propose un cadre pour évaluer la fiabilité des monitors qui surveillent les agents IA internes des développeurs, autour de cinq sous-questions : couverture, vulnérabilités, évasion, réponse humaine et impact.
NVIDIA dévoile une plateforme open source pour la sécurité des agents IA en continu
NVIDIA propose une architecture de référence pour surveiller en continu les agents IA directement au niveau matériel.
Plans corrompus, traces propres : contourner la surveillance du chain-of-thought par injection de plan
Des chercheurs montrent qu'injecter un raisonnement malveillant mais anodin dans le contexte d'un LLM permet d'échapper aux moniteurs de sécurité chargés de détecter des actions dangereuses.
Outil de monitoring des pics d'usage DeepSeek
Une interface pour visualiser en temps réel les heures de forte affluence et la disponibilité des serveurs de DeepSeek.
Surveillance du désalignement des agents de codage internes
OpenAI expose sa méthode pour détecter et corriger les comportements indésirables de ses agents d'IA.
OpenAI détaille l'incident Hugging Face et ses mesures de sécurité
L'entreprise partage les conclusions de l'enquête sur la faille de sécurité et renforce ses protocoles de monitoring et d'alignement.
Comment choisir une solution d'observabilité full-stack pour les AI factories NVIDIA
NVIDIA détaille les critères pour surveiller de bout en bout les infrastructures IA, du compute au réseau jusqu'aux applications.
ResearchArena : évaluer le sabotage et la surveillance dans la R&D en IA automatisée
Un nouveau framework teste si des agents IA peuvent saboter secrètement des livrables de R&D, et si des moniteurs parviennent à les détecter.
Launch HN : Traceforce (YC S26) – supervision de sécurité à l'échelle de l'entreprise pour les apps IA
Une startup issue du programme YC S26 lance un outil de monitoring de sécurité destiné aux applications basées sur l'IA en entreprise.