Langfuse est une plateforme d'ingénierie LLM open source pour aider les équipes à déboguer, analyser et itérer collaborativement sur leurs applications LLM.
Langfuse offre une observabilité de base, des analyses, une gestion des invites, des évaluations, des expérimentations et des ensembles de données aux ingénieurs construisant des applications LLM.
Observabilité : Instrumentez votre application et commencez à ingérer des traces dans Langfuse
Interface Langfuse : Inspectez et déboguez des journaux complexes et des sessions utilisateur
Invites : Gérez, versionnez et déployez des invites depuis Langfuse
Analyses : Suivez les métriques (coût LLM, latence, qualité) et obtenez des insights à partir de tableaux de bord et d'exportations de données
Évaluations : Collectez et calculez des scores pour vos complétions LLM
Expériences : Suivez et testez le comportement de l'application avant de déployer une nouvelle version
Pourquoi Langfuse ?
- Open source
- Indépendant du modèle et du cadre
- Conçu pour la production
- Adoptable de manière incrémentale - commencez par un seul appel LLM ou une intégration, puis étendez à une traçabilité complète de chaînes/agents complexes
- Utilisez l'API GET pour construire des cas d'utilisation en aval et exporter des données