Le professeur de l'optimisation GPU — Anjney Midha, AMP

Le vrai goulot d'étranglement de l'IA frontier n'est pas le nombre de GPU mais leur utilisation effective (MFU). Alors que GPT-3 atteignait ~21% et PaLM ~46%, les meilleurs systèmes actuels plafonnent à 60-70%, tandis que certains labs comme xAI opéreraient sous les 10%. Anjney Midha (AMP) argue que l'IA frontier est désormais avant tout un problème systèmes : ordonnancement, réseau, kernels, parallélisme et fiabilité des clusters.