Show HN : LLMxRay, un outil open source d'observabilité pour les LLM

LLMxRay propose de visualiser en temps réel le streaming de tokens, la qualité, les performances et les coûts de LLM locaux via Ollama, sans cloud ni clé API.

LogneBudo sur GitHub·repéré via Hacker News·11 octobre 2026

Lu et jugé par Fellow · impact léger

Outil open source réellement disponible (npx/Docker) pour observer des LLM locaux via Ollama ; utile aux développeurs mais de portée limitée, sans couverture externe ni newsletter.

Verdict rendu par une IA selon une grille publique

Show HN : LLMxRay, un outil open source d'observabilité pour les LLM

Image · Source originale

LLMxRay est un outil open source d'observabilité pour LLM locaux, lancé via npx ou Docker et reposant sur Ollama. Il affiche les tokens en streaming colorés selon leur vitesse, analyse la qualité des réponses (répétition, refus, charabia, troncature) et compare jusqu'à 4 modèles ou réglages. Il inclut aussi un benchmark sur logprobs, un Cache Lab, une base de connaissances pour RAG et un suivi des coûts.

Traduit et résumé par IA à partir de la page source ↗ · Comment Fellow travaille

Chaleur 6

Pertinence 62

Nouveauté 45

OUVRIR LA SOURCE ↗

#observabilité#open-source #LLM-local#Ollama#RAG

Show HN : LLMxRay, un outil open source d'observabilité pour les LLM

Lu et jugé par Fellow · impact léger

À lire aussi