NLP
Fellow suit ce sujet depuis juillet 2026 : 63 articles résumés en français, dont 10 jugés majeurs ou notables.
Toute l'actualité · 63 articles
Modèles de langage pour la classification de texte : du bag-of-words à Jev
Un tour d'horizon de l'évolution des méthodes de classification de texte, du comptage de mots aux architectures modernes de langage.
Retrouver les références intertextuelles bibliques dans les Contes gothiques de Karen Blixen
Un benchmark inédit teste la détection de citations et allusions bibliques en danois ancien, entre méthodes lexicales classiques et encodeurs neuronaux fine-tunés.
MexHat : un jeu de données vidéo pour la détection de discours haineux en espagnol mexicain
Un nouveau dataset multimodal vise à combler le manque de ressources non anglophones pour détecter le hate speech en contexte mexicain.
Apprentissage contrastif pour la vérification de paternité
L'apprentissage contrastif surpasse l'approche par classification pour la vérification de paternité, atteignant 98,4 % de précision sur le benchmark PAN21.
Gzip peut-il faire office de modèle de langage ?
Un billet explore l'idée provocatrice d'utiliser la compression gzip comme méthode de modélisation du langage, sans réseau de neurones.
Des caractéristiques linguistiques pour une inférence textuelle interprétable
Un modèle hybride nommé SLITE combine analyse structurelle et distributionnelle pour rivaliser avec RoBERTa, tout en restant explicable.
Show HN : un dataset de 307 personnages du Mahabharata avec gunas et logiques de décision
Un jeu de données Hugging Face répertorie 307 figures du Mahabharata, annotées selon leurs traits et schémas décisionnels.
Tokenizers v1 : encode, decode et scaling, mesurés
Hugging Face publie la v1 de sa lib tokenizers avec des benchmarks de vitesse et de scalabilité pour l'encode et le decode.
Généralisation intersectorielle de la classification des rôles dans les récits d'accidents du travail
Une étude évalue si des classifieurs entraînés sur le secteur du BTP restent performants en métallurgie et en chimie-plastique.
Les modèles d'embedding mesurent de façon singulière
Une étude révèle que les embeddings modélisent mal les mesures physiques objectives, privilégiant la similarité textuelle.
Unifier les modèles d'hostilité intergroupe dans le discours en ligne
Une étude sur 2,86 millions de posts durant l'élection américaine de 2024 modélise six théories de l'hostilité intergroupe en un cadre commun.
Objectif vs recherche : ce qui détermine vraiment la qualité d'un tokeniseur
Une étude décompose BPE et UnigramLM en deux axes distincts pour identifier ce qui explique réellement leurs différences de performance.
Fable 5.1 résout le Cyphral Distich, un chiffre vieux de 370 ans
Le modèle Fable 5.1 parvient à décrypter le Cyphral Distich, une énigme cryptographique non résolue depuis 1654.
La diversité des types permet aux Transformers de généraliser de façon compositionnelle
Une étude remet en cause l'idée que la généralisation structurelle est intrinsèquement plus difficile que la lexicale pour les Transformers.
Nuha-Speech : des Speech-LLM généralistes pour l'arabe
Une initiative complète pour combler le sous-représentation de l'arabe dans les modèles audio.
Un meilleur détecteur de commentaires de code par IA
Un nouvel algorithme améliore la classification automatique des commentaires dans le code source pour distinguer documentation et annotations.
Exploiter la géométrie universelle des embeddings
Une étude arXiv explore une structure géométrique commune aux espaces d'embeddings, ouvrant la voie à leur traduction sans supervision directe.
Last Translation Benchmark : un test évolutif pour piéger les modèles de traduction automatique
Un nouveau benchmark collaboratif rassemble des exemples multimodaux conçus pour faire échouer les meilleurs systèmes de traduction actuels.
NeoMME : encodeur multimodal natif multilingue
Hugging Face dévoile NeoMME, un encodeur efficace et nativement multimodal pour le multilingue.
DiscoSign : traduction de texte vers gloses en langue des signes sensible au discours
Un cadre basé sur des LLM améliore la cohérence spatiale et le suivi des entités dans la traduction texte-langue des signes au-delà de la phrase isolée.
Chunking sémantique configurable pour RAG biomédical
Un framework améliore l'extraction biomédicale en RAG via un chunking sémantique adaptable.
Comment construire un modèle de langage par diffusion
Un guide technique détaillé expliquant l'architecture et l'entraînement des modèles de langage basés sur la diffusion.
L'Open ASR Leaderboard intègre sa première langue du Sud global
Hugging Face étend son classement open source à la reconnaissance vocale pour soutenir les langues sous-représentées.
Estimation stochastique des TLM
Une méthode d'estimation sans biais pour les Transduced Language Models via échantillonnage sans remise.
RATIO : benchmark pour la récupération d'idéations scientifiques
RATIO évalue la capacité des systèmes à récupérer de la littérature scientifique pour l'inspiration via des opérations d'idéation typées.
Dialogue ancré comme révision sélective des croyances
L'incertitude référentielle impose une révision sélective des croyances pour stabiliser le grounding.
Un framework LLM bidimensionnel pour l'analyse de similarité incidente
Une nouvelle méthode exploitant les LLM détecte la redondance sémantique dans les évaluations à grande échelle.
Quand les noms changent d'écriture : un benchmark pour la réconciliation d'entités historiques mongoles
MHER teste des systèmes génératifs sur des identités de personnes historiques mongoles, montrant l'importance décisive du contexte source face aux simples noms.
Bons résultats pour l'apprentissage d'un nouveau domaine avec Qwen 3 4B
Expériences concluantes d'entraînement de Qwen 3 4B sur un domaine spécifique.
Analyse de la dérive thématique au niveau des commentaires Reddit
Une méthode d'embedding détecte la dérive sémantique dans 12,7 Md de commentaires Reddit, montrant une forte instabilité des sujets politiques.
TokEval : une suite d'évaluation pour tokenizers
Un nouveau framework évalue les propriétés des tokenizers et leur impact réel sur les performances des modèles.
SLMs et géométrie d'embeddings pour la catégorisation de factures
L'étude explore l'usage de petits modèles de langage internes pour classifier les factures financières avec précision.
Satisfaction informationnelle : une nouvelle approche centrée sur le lecteur pour évaluer les résumés
Les métriques classiques comme ROUGE échouent à capturer l'utilité réelle pour l'utilisateur. Une étude introduit l'évaluation par persona.
Silence structurel : l'IA exclut les langues sous-représentées
Les infrastructures de l'IA pénalisent structurellement le bengali et autres langues minoritaires dès la conception.
Un pipeline NLP hybride non supervisé/supervisé pour détecter les propos accusateurs dans les marchés publics
Des chercheurs équatoriens combinent clustering et classification pour repérer les signalements d'irrégularités dans les commentaires publics des appels d'offres.
Thinking of ACE ? Efficacité avec moins de tokens
IBM Research et Hugging Face présentent une méthode pour réduire la consommation de tokens sans perdre en qualité.
Grip on LLMs : évaluer les LLM pour le gouvernement néerlandais
Un nouveau framework évalue les modèles sur six dimensions clés pour un usage public administratif.
RP-OPSD : self-distillation guidée pour le raisonnement multilingue
Une méthode de self-distillation on-policy qui se concentre sur les pivots de raisonnement pour améliorer le transfert de compétences multilingue des LLM.
BnBERT-iPET : modélisation few-shot parcimonieuse pour le bengali via l'élagage Lottery Ticket
Un modèle BERT élagué à 90% de parcimonie rivalise avec des modèles bien plus lourds pour le traitement du bengali, langue à ressources limitées.
string2string Studio : une plateforme interactive dans le navigateur pour les algorithmes string-to-string
Un outil open-source compile en WebAssembly des algorithmes de NLP, bio computationnelle et humanités numériques, sans installation ni upload de données.
Faut-il taper ou parler aux agents LLM ? Étude comparative des perturbations vocales et clavier
Une étude systématique montre que les erreurs de transcription vocale nuisent bien plus aux LLM que les fautes de frappe classiques.
TACT : un post-entraînement aligné sur des taxonomies pour un tutorat d'anglais pédagogiquement adaptatif
Un cadre associant taxonomies pédagogiques et RL affine un LLM pour qu'il adapte ses stratégies de tutorat comme un enseignant humain.
L'arabizi : perceptions, usages et variations dialectales
Une étude approfondit la compréhension de l'arabe romanisé à travers cinq dialectes majeurs.
Persian Pixel : un jeu de données OCR synthétique à grande échelle pour le persan
Un nouveau corpus de 343 000 paires image-texte vise à combler le retard de l'OCR pour la langue persane, complexe et sous-dotée en données.
Gigatoken : un tokenizer présenté comme le plus rapide du marché
Un nouveau tokenizer baptisé Gigatoken promet des performances de traitement inédites, selon un thread partagé sur X.
Outil de modélisation de sujets hiérarchique par LLM
Un outil open-source exploitant les LLM pour structurer des thématiques complexes en arbres hiérarchiques.
Tokens, octets ou pixels : les frontières coût-utilité des encodages linguistiques
Une étude compare tokens, octets et pixels à contenu et capacité contrôlés, révélant qu'aucun encodage ne domine sur toutes les tâches.
Identification de la langue par analyse de données compositionnelles : un classifieur linéaire basé sur la géométrie log-ratio
Une alternative légère et déterministe aux réseaux de neurones pour identifier la langue d'un texte, basée sur des transformations log-ratio.
Détecter les textes générés par LLM avec du machine learning « classique »
Un billet de blog explore une approche alternative aux détecteurs neuronaux : des méthodes de ML traditionnelles pour repérer les textes générés par IA.
ViHoRec : Dataset de recommandation hôtelière vietnamienne
Un benchmark pour le cold-start avec un nouveau dataset contrôlé et privé.