Toutes les news taguées avec ce sujet.
Un papier propose de modéliser la propagation des idées générées par les LLM comme un phénomène épidémique affectant la cognition humaine.
Une analyse théorique montre que, dans un cadre linéaire idéalisé, régler la complexité d'un a priori génératif n'améliore pas la reconstruction.
Une nouvelle analyse théorique montre que la complexité d'échantillonnage des modèles de diffusion discrète dépend de la structure de dépendance des données, pas de la dimension brute.
Un papier théorique explore si des architectures fixes peuvent être entraînées par descente de gradient pour atteindre n'importe quel réseau cible.
Un papier théorique montre que la tokenisation musicale échoue si elle imite la musique comme du texte, sans définir un bon système de coordonnées prédictif.
Une thèse théorique propose un second paramètre linguistique, la phase, absent des transformers actuels et clé pour comprendre allusion, ironie et citation.
Une étude théorique propose un cadre formel pour décider quelles informations transmettre lors du passage d'une session à une autre dans les applications LLM.
Un nouveau cadre théorique optimise les schedules de diffusion discrète en s'appuyant sur la géométrie des données, avec des gains prouvés en grande dimension.
Une preuve théorique montre qu'un simple bit aléatoire classique partagé permet aux circuits quantiques peu profonds de dépasser les modèles purement unitaires.
Une étude théorique explique pourquoi Adam brise le biais implicite vers les solutions de rang faible que la descente de gradient préserve naturellement.