#alignement

Une évaluation multidimensionnelle révèle que les LLMs surpassent les médecins en complexité linguistique mais restent en deçà sur les critères épistémiques.

Un chercheur propose de recadrer l'alignement IA non comme un défi technique, mais comme une question de gouvernance institutionnelle.

Anthropic présente une approche de classification constitutionnelle pour contrer les tentatives de contournement systématiques des garde-fous des LLM.

Anthropic présente un outil permettant d'identifier automatiquement les écarts de comportement entre deux versions d'un modèle d'IA.

Anthropic publie une recherche sur la façon dont les LLM représentent et utilisent des concepts émotionnels en interne.

Anthropic explore comment des LLM peuvent automatiser une partie du travail de recherche en alignement pour accélérer la supervision scalable.

Anthropic publie ses réflexions sur la conception d'agents IA fiables, entre sécurité, autonomie et supervision humaine.

GRIFT exploite les gradients internes des modèles pour détecter les comportements de reward hacking invisibles à l'analyse textuelle des chaînes de raisonnement.

DeepMind publie ses travaux sur les risques de manipulation induite par l'IA dans des domaines sensibles comme la finance et la santé.