Grepture es una puerta de enlace de IA de código abierto que se sitúa entre tu aplicación y proveedores de LLM como OpenAI, Anthropic y Google AI. Te ofrece visibilidad completa en cada solicitud de IA que realiza tu aplicación y protege automáticamente los datos sensibles antes de que lleguen a cualquier modelo.
Con una sola línea de configuración, obtienes:
- Inspección y depuración de prompts: Ve exactamente lo que tu IA recibe y devuelve. Reproduce solicitudes, compara diferencias y rastrea conversaciones de múltiples turnos.
- Seguimiento de costos: Desglose a nivel de token por solicitud con estimación de costos por modelo en toda tu pila de IA.
- Redacción automática de PII: Detecta y enmascara nombres, correos electrónicos, números de teléfono, claves API y más de 80 patrones de datos sensibles antes de que salgan de tu infraestructura. La redacción reversible significa que tu aplicación aún recibe respuestas personalizadas.
- Rastreo de conversaciones: Los IDs de rastreo vinculan cada solicitud en flujos de trabajo de agentes de múltiples pasos y secuencias de cadena de pensamiento.
- Gestión de prompts: Versiona y despliega cambios de prompts sin volver a desplegar tu aplicación.
- Evaluaciones: Puntúa y evalúa continuamente la calidad de tu tráfico de IA con evaluaciones de LLM como juez.
- Integraciones e informes: Recibe notificaciones automáticas en Slack o por correo electrónico cuando las puntuaciones de evaluación bajen, los límites de uso puedan alcanzarse y exporta todo el tráfico entrante como registros compatibles con OpenTelemetry.
Grepture funciona como un reemplazo directo con los SDKs existentes de OpenAI y Anthropic con cambios mínimos en la lógica de tu aplicación. Soporta más de 10 proveedores de IA a través de un solo panel de control.
Toda la infraestructura se ejecuta en la UE (Fráncfort y Núremberg), con cumplimiento de GDPR incorporado. Un modo de cero datos procesa solicitudes sin escribir contenido en disco, brindando a los equipos protección total sin datos almacenados.
Utilizado por equipos de cumplimiento, startups de IA y plataformas SaaS que envían características de IA. El nivel gratuito incluye 1,000 solicitudes por mes sin necesidad de tarjeta de crédito.