Funzionalità Kong Gateway

Fornisce un ambiente per gli utenti per testare la funzionalità, l'efficienza e l'accuratezza dei dati delle loro API.

Consente agli utenti di proteggere l'accesso ai dati. Fornisce supporto aggiuntivo per pratiche di sicurezza come la whitelist degli IP, la mitigazione degli attacchi e la crittografia dei dati.

Consente agli amministratori di creare API che utilizzano più risorse di backend e database.

Espande la funzionalità mantenendo carichi bilanciati. Serve la crescente domanda senza ridurre la funzionalità.

Limita l'accesso ai visitatori sospetti e monitora i picchi di traffico per prevenire sovraccarichi come gli attacchi DDoS.

Registra i dettagli relativi all'uso e alla funzionalità per l'analisi e la creazione di report.

Rileva anomalie nella funzionalità, accessibilità degli utenti, flussi di traffico e manomissioni.

Consente agli amministratori di gestire i prezzi e la fatturazione dell'integrazione API con le applicazioni dei clienti.

Fornisce una dashboard per gli utenti per gestire, governare e proteggere la loro API.

La funzionalità con cui le API si integrano e funzionano all'interno di applicazioni di terze parti.

Traduce set di dati complessi e sistemi backend in formati che possono essere interpretati dalle applicazioni.

Fornisce funzionalità aggiuntive per una maggiore sicurezza, analisi, monitoraggio e altre caratteristiche non incluse nel set di funzionalità native.

Fornisce un ambiente per gli utenti per testare la funzionalità, l'efficienza e l'accuratezza dei dati delle loro API.

Consente agli utenti di proteggere l'accesso ai dati. Fornisce supporto aggiuntivo per pratiche di sicurezza come la whitelist degli IP, la mitigazione degli attacchi e la crittografia dei dati.

Consente agli sviluppatori di creare API che utilizzano più risorse di backend e database.

Espande la funzionalità mantenendo carichi bilanciati. Serve la crescente domanda senza ridurre la funzionalità.

Consente agli amministratori di impostare linee guida e migliori pratiche per la progettazione delle API.

Consente agli amministratori di impostare i permessi per i membri del team per accedere agli spazi di lavoro.

Consente ai membri di diversi team di visualizzare i progressi e gli aggiornamenti durante l'intero processo di progettazione.

Offri guida SEO per aiutare gli utenti con la documentazione pubblica

Utilizza i contratti API per creare documentazione personalizzabile

Consente agli utenti di apportare le modifiche e gli aggiornamenti necessari con la gestione delle modifiche

Presenta un repository centrale che offre agli utenti uno spazio organizzato per accedere e archiviare documenti

Si integra facilmente con portali e strumenti di terze parti

Gestisce utenti e permessi con funzionalità di gestione degli accessi

Fornisce agli utenti la possibilità di testare e ottimizzare i prompt per migliorare la qualità e l'efficienza dell'output LLM.

Fornisce agli utenti una raccolta di modelli di prompt riutilizzabili per vari compiti LLM per accelerare lo sviluppo e standardizzare l'output.

Offre strumenti per gli utenti per confrontare più LLM fianco a fianco in base a metriche di prestazione, velocità e accuratezza.

Fornisce agli utenti un'interfaccia intuitiva per ottimizzare i LLM sui loro dataset specifici, consentendo un migliore allineamento con le esigenze aziendali.

Fornisce agli utenti strumenti per integrare la funzionalità LLM nelle loro applicazioni esistenti tramite SDK e API, semplificando lo sviluppo.

Offre agli utenti la capacità di distribuire rapidamente i modelli in ambienti di produzione con il minimo sforzo e configurazione.

Fornisce agli utenti strumenti per scalare automaticamente le risorse LLM in base alla domanda, garantendo un uso efficiente e un rapporto costo-efficacia.

Dà agli utenti la possibilità di impostare limiti e filtri per prevenire risultati inappropriati o sensibili dal LLM.

Offre agli utenti strumenti per garantire che i loro LLM rispettino gli standard di conformità come il GDPR, l'HIPAA e altre normative, riducendo il rischio e la responsabilità.

Fornisce agli utenti notifiche quando le prestazioni del LLM deviano significativamente dalle norme attese, indicando un potenziale drift del modello o problemi di dati.

Fornisce agli utenti informazioni in tempo reale sulla precisione del modello, la latenza e l'interazione dell'utente, aiutandoli a identificare e risolvere i problemi tempestivamente.

Fornisce agli utenti capacità di crittografia per i dati in transito e a riposo, garantendo comunicazioni e archiviazione sicure quando si lavora con LLM.

Offre agli utenti strumenti per impostare i permessi di accesso per diversi ruoli, garantendo che solo il personale autorizzato possa interagire con o modificare le risorse LLM.

Fornisce agli utenti un middleware per instradare le richieste in modo efficiente al LLM appropriato in base a criteri come costo, prestazioni o casi d'uso specifici.

Fornisce agli utenti strumenti per elaborare più input in parallelo, migliorando la velocità di inferenza e la convenienza economica per scenari ad alta domanda.

Fornisce un ambiente per gli utenti per testare la funzionalità, l'efficienza e l'accuratezza dei dati delle loro API.

Espande la funzionalità mantenendo carichi bilanciati. Serve la crescente domanda senza ridurre la funzionalità.

Consente agli sviluppatori di creare API che utilizzano più risorse di backend e database.

Consente agli utenti di proteggere l'accesso ai dati. Fornisce supporto aggiuntivo per pratiche di sicurezza come la whitelist degli IP, la mitigazione degli attacchi e la crittografia dei dati.

Consente ai membri di diversi team di visualizzare i progressi e gli aggiornamenti durante l'intero processo di progettazione.

Consente agli amministratori di impostare i permessi per i membri del team per accedere agli spazi di lavoro.

Consente agli amministratori di impostare linee guida e migliori pratiche per la progettazione delle API.

Rileva anomalie nella funzionalità, accessibilità degli utenti, flussi di traffico e manomissioni.

Limita l'accesso ai visitatori sospetti e monitora i picchi di traffico per prevenire sovraccarichi come gli attacchi DDoS.

Fornisce una dashboard per gli utenti per gestire, governare e proteggere la loro API.

Registra i dettagli relativi all'uso e alla funzionalità per l'analisi e la creazione di report.

Consente agli amministratori di gestire i prezzi e la fatturazione dell'integrazione API con le applicazioni dei clienti.

Imponi rigide quote di richieste e token per utente, tenant o applicazione per prevenire sovraccarichi del sistema e gestire i limiti di budget delle API.

Memorizza le risposte per prompt identici o semanticamente simili per ridurre significativamente la latenza dell'API ed eliminare i costi ridondanti dei token.

Instrada le richieste API ai vari fornitori LLM tramite un'unica API unificata e passa automaticamente ai modelli di backup in caso di inattività.

Intercetta il traffico per rilevare e mascherare le Informazioni di Identificazione Personale (PII) o bloccare le iniezioni di prompt dannose prima che la richiesta raggiunga il modello esterno.

Fornisce dashboard dettagliati per monitorare il consumo di token e calcolare i costi monetari esatti suddivisi per applicazione, team o modello specifico.

Protegge e gestisce in modo sicuro le chiavi API LLM esterne all'interno del gateway in modo che gli sviluppatori non debbano codificare le credenziali direttamente nelle loro applicazioni.