GPU

Publication de la documentation complète et des pilotes conformes (OpenGL 4.6, Vulkan 1.4), rendant le support Linux et le gaming Proton fonctionnels sur M1.

Un module noyau Linux double la vitesse d'émission des instructions FMA FP/BF16 vers FP32 sur les GPU GA102, GA103, GA104 et GA106, sans patcher le pilote NVIDIA.

Modal dépasse 1 milliard de dollars de revenu annualisé et lève 750 M$ en Series D à 16 Md$ de valorisation. Son CEO explique pourquoi la demande de GPU ne ressemble pas aux contrats.

Face à la croissance des jeux de données et de la puissance de calcul, NVIDIA détaille comment charger efficacement les données du stockage vers la mémoire GPU depuis Python.

Le framework open source de programmation GPU hétérogène pour Java atteint la version 7.3 : FFM API à la place de JNI, backend CUDA optimisé, support de cuTile et exécution multi-GPU.

Enregistré en marge du track Compute Trading d'AIE NYC, l'épisode compare la virtualisation des GPU par SF Compute à la révolution du software-defined networking portée par Martin Casado.

À Pyeongtaek, en Corée du Sud, Samsung étend un immense complexe de puces mémoire pour répondre à la demande tirée par l'essor de l'IA générative.

Stealthium explique comment des attaques ROME modifient les poids d'un modèle en mémoire GPU sans toucher au disque, et comment son capteur d'exécution relie chaque lancement de kernel CUDA au code Python.

Le speculative decoding n'économise pas de calcul : il en exécute davantage. Son gain vient du type de travail demandé au GPU, qui passe d'un régime memory bound à un usage plus intensif du calcul.

NVIDIA détaille comment cuDF, qui exploite le parallélisme massif et la mémoire à haute bande passante des GPU, répond à la demande croissante de débit de données des applications d'entreprise.

Des chercheurs d'Apple présentent Minions, un système qui agrège les GPU inactifs d'appareils macOS pour exécuter de l'inférence de machine learning à grande échelle.

Intel présente le D270, un accélérateur GPU pour centres de données dédié à l'IA, dont la mémoire LPDDR5X peut atteindre 480 Go.

L'hébergeur allemand Hetzner présente GEX63, un serveur GPU conçu pour les charges de travail IA professionnelles, relayé en tête de Hacker News.

Le dépôt open source GPGPU-Sim, relayé sur Hacker News, propose un simulateur de GPU au niveau du cycle pour étudier l'exécution de programmes CUDA et OpenCL.

Un billet d'Ai2 publié sur le blog Hugging Face aborde l'ordonnancement des charges de travail sur clusters GPU, un levier clé pour optimiser l'utilisation du calcul en IA.

La solution GPU de NVIDIA franchit un cap pour la supply chain et les réseaux énergétiques, avec des accélérations de plus de 10x sur CPU.

NVIDIA lance cuPhoton, une bibliothèque GPU pour accélérer le traitement d'images scientifiques et lever le goulot d'étranglement des pipelines CPU-bound.

Un projet open source propose un backend PyTorch permettant d'exécuter des tenseurs sur un GPU distant de manière transparente.

NVIDIA détaille comment le déterminisme bit-à-bit facilite débogage, validation et reprise reproductible du pré-entraînement de modèles à des milliers de GPU.

NVIDIA détaille comment sa bibliothèque DOCA GPUNetIO permet au GPU de piloter directement les opérations réseau, sans passer par le CPU.

Analyse chiffrée de l'infrastructure GPU nécessaire pour servir des volumes de tokens à l'échelle du million, du milliard et du billion.

NVIDIA propose un référentiel ouvert pour garantir la compatibilité des composants dans les clusters Kubernetes accélérés par GPU.

NVIDIA détaille une fonctionnalité permettant de répartir précisément les ressources GPU entre plusieurs tâches exécutées simultanément.

Neuvième tutoriel Godot de la série Catlike Coding : le value noise est adapté à un tore, avec fréquences en vec2, afin de préparer un motif qui se répète sans raccord visible.

Un projet open source sur GitHub permet d'analyser et visualiser les traces d'exécution GPU pour le debugging de performances.

Malgré les restrictions à l'export américaines, un commerce parallèle de puces IA avancées persisterait et contournerait les contrôles imposés à la Chine.

Un article technique compare plusieurs méthodes de rendu de texte accéléré par GPU, entre qualité visuelle et performance.

Un projet open source recrée en Vulkan le pipeline de neural rendering de DLSS 5, indépendamment du framework propriétaire de Nvidia.

NVIDIA lance DSX MaxLPS, un système de partage dynamique de puissance pour exploiter pleinement les infrastructures GPU sous-utilisées.

Un projet open source propose un pilote virtio permettant d'exploiter des GPU Nvidia depuis une machine virtuelle KVM avec des performances proches du natif.

NVIDIA détaille pourquoi un cluster GPU en bonne santé apparente peut quand même faire échouer un entraînement à grande échelle.

NVIDIA Warp et MjWarp optimisent les workflows de simulation et d'apprentissage en robotique grâce à l'accélération GPU, réduisant drastiquement les temps de calcul.

NVIDIA présente NodeWright, un outil pour automatiser la configuration et la maintenance des nœuds Kubernetes, en particulier pour les charges de travail GPU.

NVIDIA détaille comment son outil Topograph optimise le placement des workloads GPU en tenant compte de la topologie réseau des data centers.

L'architecture RISC-V remplace progressivement les microcontrôleurs propriétaires dans les GPU Nvidia, jusqu'à prendre en charge le pilote graphique.

Décryptage complet de l'architecture et des performances de la puce graphique Adreno X2 de Qualcomm.

NVIDIA détaille les mécanismes de tolérance aux pannes de NVLink 6 pour limiter les interruptions dans les clusters GPU massifs.

Un outil open source vise à faire tourner les charges CUDA de Nvidia directement sur des cartes graphiques AMD, sous Windows.

System76 lance une workstation Linux optimisée pour l'IA intégrant jusqu'à 192 Go de mémoire GPU.

Une nouvelle approche compile les jeux en graphes CUDA statiques, faisant enfin dépasser le GPU sur le CPU pour l'algorithme CFR utilisé en théorie des jeux.

BioNeMo Inference Runtime accélère la prédiction de structures biomoléculaires à grande échelle sur GPU.

Une plongée technique dans les mécanismes internes d'écriture mémoire des GPU, entre caches, cohérence et performance.

NVIDIA officialise son support du Rust pour la programmation GPU native avec deux approches distinctes.

Arm promet des performances de jeu proches du desktop sur mobile grâce à un GPU pensé pour l'IA native.

Une librairie JAX accélère le calcul de gradients pour les ensembles d'équations différentielles sur NVIDIA GPU.

NVIDIA détaille une méthode concrète pour optimiser du code CUDA, entre profilage, bibliothèques modernes et bonnes pratiques de performance.

NVIDIA propose une méthode pour calibrer les ressources GPU d'inférence face aux contraintes de latence, de trafic et de budget.

Le constructeur développe un écosystème logiciel complet pour sécuriser sa suprématie face à la concurrence.

Une analyse technique exhaustive marque l'achèvement du projet de rétro-ingénierie du GPU de la puce M1.

Une nouvelle architecture d'exécution GPU vise à améliorer l'efficacité des calculs tensoriels en dissociant threads et registres.

Une nouvelle méthode exploite l'amplification géométrique des GPU pour accélérer le rendu des graphismes vectoriels.