AI-Such- und Abrufinfrastrukturplattformen bieten die Kernsysteme, die Unternehmen nutzen, um intelligente Suche und Abruf über ihre Daten und Anwendungen hinweg zu ermöglichen, sodass KI-Systeme die relevantesten Informationen finden und zurückgeben können.
Diese Plattformen werden typischerweise in Organisationen eingesetzt, die KI-gestützte Produkte, interne Wissenssuchwerkzeuge oder kundenorientierte Entdeckungserlebnisse entwickeln, bei denen schneller und genauer Informationszugriff entscheidend ist.
AI-Such- und Abrufinfrastrukturplattformen unterstützen Geschäftsstrategien, die darauf abzielen, KI-Fähigkeiten zu skalieren, die Qualität der KI-Antworten zu verbessern und zuverlässigere KI-Anwendungen zu ermöglichen, indem sie die Art und Weise stärken, wie Informationen indexiert, abgerufen, bewertet und bereitgestellt werden.
Die Plattform wird hauptsächlich von Software-Ingenieuren, Machine-Learning (ML)-Ingenieuren und Plattform-Teams innerhalb der Produkt-, Daten- und Ingenieursfunktionen genutzt. Sie adressiert Geschäftsprobleme wie die Suche in großen, unstrukturierten Datensätzen, die Reduzierung von KI-Halluzinationen, die Verbesserung von Relevanz und Genauigkeit und die Unterstützung von Retrieval-Augmented-Generation (RAG)-Workflows.
Gemeinsame Merkmale dieser Plattformen umfassen Vektor- und Hybridsuche, Datenaufnahme und -indexierung, Relevanzbewertung, Embeddings-Management und APIs oder SDKs zur Integration. Diese Merkmale ermöglichen es der Plattform, Informationen basierend auf Bedeutung sowie Schlüsselwörtern abzurufen, Daten organisiert und aktuell zu halten und die relevantesten Ergebnisse zurückzugeben. Embeddings-Management unterstützt das semantische Verständnis, während APIs oder SDKs die Integration von Suchfunktionen in Anwendungen und KI-Workflows erleichtern.
Im Gegensatz zu Answer Engine Optimization (AEO)-Tools, die Inhalte für die Auffindbarkeit durch KI-Systeme optimieren, oder Site-Search-Software, die es Benutzern ermöglicht, innerhalb einer bestimmten Website oder Anwendung zu suchen, operieren AI-Such- und Abrufinfrastrukturplattformen auf der architektonischen Ebene, um KI-gesteuerten Informationsabruf über Datenquellen hinweg zu unterstützen.
Um für die Aufnahme in die Kategorie AI-Such- und Abrufinfrastruktur qualifiziert zu sein, muss ein Produkt:
Vektorbasierte und hybride (Schlüsselwort + semantische) Suche unterstützen
Strukturierte und unstrukturierte Daten aufnehmen, indexieren und aktualisieren
Einbettungssysteme speichern, verwalten oder integrieren, die für semantische Abrufe verwendet werden
Suchergebnisse basierend auf Relevanz bewerten, einschließlich hybrider Relevanzbewertung
Suchergebnisse mithilfe von Metadaten filtern und verfeinern
Die Konfiguration der Bewertungslogik ermöglichen, wie z.B. Feldgewichtung, Boosting, Neugewichtung oder hybride Gewichtungsanpassungen
API-basierte Abruf-Workflows für LLM-gestützte Anwendungen unterstützen, einschließlich Retrieval-Augmented-Generation (RAG)
APIs und SDKs für die Integration in Anwendungen und Workflows bereitstellen
Inkrementelle oder nahezu Echtzeit-Indexierungsaktualisierungen unterstützen
Die Bereitstellung über mindestens eine der folgenden Optionen ermöglichen: verwaltete Cloud, selbst gehostet oder hybrid
