Relu
Fellow suit ce sujet depuis septembre 2026 : 6 articles résumés en français, dont 1 jugé majeur ou notable.
Toute l'actualité · 6 articles
Sur la (non-)fermeture de l'ensemble des réseaux ReLU
Des mathématiciens montrent que les réseaux ReLU à une couche cachée et au plus N neurones forment un ensemble faiblement fermé dans W^{1,p}, alors qu'à deux couches cachées il ne l'est pas.
Descente de gradient sur deux neurones ReLU : paysage global et dynamiques de bifurcation
Une analyse théorique d'un modèle teacher-student à deux neurones ReLU décrit le paysage de la loss et les phases successives d'apprentissage des features par gradient flow.
Apprendre des combinaisons linéaires positives de ReLU en temps pleinement polynomial
Des chercheurs proposent le premier algorithme en temps pleinement polynomial pour l'apprentissage PAC de combinaisons linéaires positives de k ReLU sous distribution gaussienne, en perte L2.
Deux couches ReLU suffisent : simulation exacte de tout réseau ReLU
Des chercheurs démontrent que tout réseau ReLU peut être simulé exactement par un réseau à deux couches cachées, avec deux preuves distinctes : algébrique et combinatoire.
Show HN : Hardwired, un outil qui transforme du code JavaScript en réseau de neurones
Le projet convertit du JavaScript ordinaire en réseau de neurones exact et différentiable, sans entraînement, exécutable dans un navigateur sans GPU.
Réseaux ReLU à deux couches univariés : solutions exactes et optimalité globale grâce aux skip connections
Une étude théorique caractérise géométriquement les classifieurs à norme minimale et montre comment les skip connections garantissent l'optimalité globale.