Introduction
LLMxRay est un tableau de bord gratuit et local-first qui se connecte à Ollama sur votre machine. Il vous permet de discuter avec n'importe quel modèle téléchargé puis d'inspecter tout ce qui s'est passé en coulisses : la vitesse d'arrivée de chaque token, ce que le modèle a pu "penser", comment différents paramètres modifient la sortie, et bien plus encore.
Pas de cloud. Pas de clés API. Aucun coût. Tout s'exécute sur votre matériel.
À qui s'adresse LLMxRay ?
| Vous êtes... | LLMxRay vous aide à... |
|---|---|
| Débutant curieux | Voir les réponses de l'IA se former en temps réel et comprendre ce que signifient vraiment "température" ou "tokens" |
| Étudiant / enseignant | Explorer visuellement le comportement des modèles -- idéal pour les cours et démonstrations en IA/ML |
| Développeur | Déboguer les prompts, comparer les modèles, profiler la latence, inspecter les appels d'outils |
| Chercheur | Mener des expériences contrôlées : même prompt, paramètres différents, résultats côté à côté |
Navigation dans l'application
LLMxRay dispose d'une barre latérale avec un élément par fonctionnalité majeure. Ce guide comporte un chapitre par élément, dans l'ordre exact d'apparition dans la barre latérale :
- Diagnostics de Chat -- L'interface de chat principale avec streaming et analyse de session
- Comparer -- Comparaison côté à côté de modèles et de paramètres
- Comparaison de Langues -- Comprendre la taxe de tokens entre les langues
- Plongements -- Visualisation d'embeddings textuels et similarité
- Base de Connaissances -- Téléchargement de documents, découpage et recherche RAG
- Atelier d'Outils -- Constructeur visuel d'outils avec synchronisation du code
- Complétion au Milieu (FIM) -- Terrain de jeu de complétion de code pour modèles compatibles FIM
- En direct -- Pointez vos autres outils vers LLMxRay plutôt que vers Ollama et voyez chaque tour qu'ils envoient, et où leurs invites rompent le cache
- Labo de cache -- Mesurez pourquoi votre invite manque le cache KV, et ce que cela coûte à chaque tour
- Labo de décision -- Posez des questions typées à un modèle de décision et voyez la probabilité derrière chaque réponse
- Observatoire des Protocoles -- Lancez le même prompt sur natif, compat. OpenAI et compat. Anthropic contre votre modèle local
- Entraînement IA -- Curation et export de données d'entraînement
- Modèles -- Navigateur de modèles et détection des capacités
- Benchmark -- Évaluation standardisée des modèles avec logprobs
- Mon Système -- Détection du matériel et statut d'Ollama
- Paramètres -- Connexion, paramètres et préférences
Autres éléments
- Barre d'en-tête -- Affiche le titre de la page courante, un bouton de thème (sombre/clair) et le statut de connexion à Ollama (vert = connecté, rouge = déconnecté).
- Bouton de retour d'expérience -- En bas de la barre latérale. Ouvre une fenêtre superposée pour soumettre directement vos commentaires.
Étapes suivantes
Si vous n'avez pas encore installé LLMxRay, rendez-vous sur la page Installation. Sinon, choisissez n'importe quel chapitre dans la barre latérale pour commencer à explorer.