Router les workloads d'agents IA avec NeMo Switchyard
NVIDIA propose NeMo Switchyard pour optimiser l'acheminement des requêtes entre différents modèles selon le coût et la tâche.
NVIDIA Developer Blog·Michelle Horton·11 août 2026

Image · Source originale
NVIDIA dévoile NeMo Switchyard, un outil permettant de distribuer les charges de travail d'agents IA entre plusieurs modèles. Cette approche vise à combiner les forces de chaque LLM selon l'étape de la tâche—classification, raisonnement ou routine—afin de maîtriser les coûts et les performances.