Introduction
LLMxRay est un tableau de bord gratuit et local-first qui se connecte à Ollama sur votre machine. Il vous permet de discuter avec n'importe quel modèle téléchargé puis d'inspecter tout ce qui s'est passé en coulisses : la vitesse d'arrivée de chaque token, ce que le modèle a pu "penser", comment différents paramètres modifient la sortie, et bien plus encore.
Pas de cloud. Pas de clés API. Aucun coût. Tout s'exécute sur votre matériel.
À qui s'adresse LLMxRay ?
| Vous êtes... | LLMxRay vous aide à... |
|---|---|
| Débutant curieux | Voir les réponses de l'IA se former en temps réel et comprendre ce que signifient vraiment "température" ou "tokens" |
| Étudiant / enseignant | Explorer visuellement le comportement des modèles -- idéal pour les cours et démonstrations en IA/ML |
| Développeur | Déboguer les prompts, comparer les modèles, profiler la latence, inspecter les appels d'outils |
| Chercheur | Mener des expériences contrôlées : même prompt, paramètres différents, résultats côté à côté |
Navigation dans l'application
LLMxRay dispose d'une barre latérale avec 12 éléments de navigation, chacun représentant une fonctionnalité majeure. Ce guide comporte un chapitre par élément, dans l'ordre exact d'apparition dans la barre latérale :
- Diagnostics de Chat -- L'interface de chat principale avec streaming et analyse de session
- Comparer -- Comparaison côté à côté de modèles et de paramètres
- Comparaison de Langues -- Comprendre la taxe de tokens entre les langues
- Plongements -- Visualisation d'embeddings textuels et similarité
- Base de Connaissances -- Téléchargement de documents, découpage et recherche RAG
- Atelier d'Outils -- Constructeur visuel d'outils avec synchronisation du code
- Complétion au Milieu (FIM) -- Terrain de jeu de complétion de code pour modèles compatibles FIM
- Labo de cache -- Mesurez pourquoi votre invite manque le cache KV, et ce que cela coûte à chaque tour
- Observatoire des Protocoles -- Lancez le même prompt sur natif, compat. OpenAI et compat. Anthropic contre votre modèle local
- Entraînement IA -- Curation et export de données d'entraînement
- Modèles -- Navigateur de modèles et détection des capacités
- Benchmark -- Évaluation standardisée des modèles avec logprobs
- Mon Système -- Détection du matériel et statut d'Ollama
- Paramètres -- Connexion, paramètres et préférences
Autres éléments
- Barre d'en-tête -- Affiche le titre de la page courante, un bouton de thème (sombre/clair) et le statut de connexion à Ollama (vert = connecté, rouge = déconnecté).
- Bouton de retour d'expérience -- En bas de la barre latérale. Ouvre une fenêtre superposée pour soumettre directement vos commentaires.
Étapes suivantes
Si vous n'avez pas encore installé LLMxRay, rendez-vous sur la page Installation. Sinon, choisissez n'importe quel chapitre dans la barre latérale pour commencer à explorer.