Langfuse ist eine Open-Source-LLM-Engineering-Plattform, die Teams dabei hilft, ihre LLM-Anwendungen gemeinsam zu debuggen, zu analysieren und weiterzuentwickeln.
Langfuse bietet Kernbeobachtbarkeit, Analysen, Prompt-Management, Bewertungen, Experimente und Datensätze für Ingenieure, die LLM-Apps entwickeln.
Beobachtbarkeit: Instrumentieren Sie Ihre App und beginnen Sie, Spuren in Langfuse zu erfassen
Langfuse UI: Untersuchen und debuggen Sie komplexe Protokolle und Benutzersitzungen
Prompts: Verwalten, versionieren und bereitstellen von Prompts innerhalb von Langfuse
Analysen: Verfolgen Sie Metriken (LLM-Kosten, Latenz, Qualität) und gewinnen Sie Einblicke aus Dashboards und Datenexporten
Evals: Sammeln und berechnen Sie Bewertungen für Ihre LLM-Abschlüsse
Experimente: Verfolgen und testen Sie das App-Verhalten, bevor Sie eine neue Version bereitstellen
Warum Langfuse?
- Open Source
- Modell- und Framework-agnostisch
- Für die Produktion gebaut
- Inkrementell annehmbar - beginnen Sie mit einem einzelnen LLM-Aufruf oder einer Integration und erweitern Sie dann auf vollständiges Tracing komplexer Ketten/Agenten
- Verwenden Sie die GET-API, um nachgelagerte Anwendungsfälle zu erstellen und Daten zu exportieren