LLMxRayObservatoire de LLM Local

Voyez ce que votre IA fait vraiment — token par token, couche par couche.

Diagnostics de Chat

Streamez les tokens en temps réel avec coloration par confiance, inspectez les chaînes de raisonnement et explorez les métriques de session.

Comparaison de Modèles

Exécutez le même prompt sur jusqu'à 4 modèles ou configurations côte à côte. Vue grille, vue diff et barre de métriques.

Benchmark Chirurgical

Évaluez les modèles avec de vrais logprobs sur des suites de tests standardisées. Graphiques radar, détails par catégorie.

Base de Connaissances (RAG)

Téléversez des documents, découpez-les et générez leurs embeddings localement, puis recherchez en langage naturel. Le tout dans IndexedDB.

En direct

Pointez VS Code Copilot, Open WebUI ou n'importe quel autre outil vers LLMxRay plutôt que vers Ollama, et voyez chaque tour qu'il envoie, ce que le cache a gardé, et où l'invite l'a rompu.

Nouveau en 0.7.2

Labo de cache

Mesurez quelle part de votre invite le cache KV réutilise, trouvez où la réutilisation casse, et mesurez ce que la réécriture économise à chaque tour.

Labo de décision

Posez à un modèle de décision des questions typées sur un ticket ou un message, et voyez la probabilité derrière chaque réponse, dessinée en barres.

Atelier d'Outils

Créez, modifiez et testez des définitions d'outils sur un canevas visuel à base de nœuds avec synchronisation bidirectionnelle du code.

100 % Local & Gratuit

Tout s'exécute sur votre matériel via Ollama. Pas de cloud, pas de clés API, aucun coût. Vos données restent les vôtres.

Kit Enseignants

Curriculum progressif en 8 modules pour cours d'IA/ML. De 'Qu'est-ce qu'un token ?' jusqu'à la recherche originale. Gratuit, ancré dans la science publiée.

Voir le Curriculum