Recensioni e Dettagli del Prodotto Vespa

Abbiamo acquistato il prodotto Enclave che era davvero adatto a noi perché ci permetteva di gestire gli host nel nostro account Google Cloud (ai nostri prezzi con Google), e quindi non richiedeva di trasferire alcun dato, il che era ben allineato con la nostra posizione sulla sicurezza. Ha fornito servizi di distribuzione e osservabilità leggeri che ci mancavano e ci ha aiutato a partire rapidamente e con un investimento minimo.

Il backend di ricerca Vespa stesso ha fornito una buona corrispondenza ai nostri requisiti di ricerca ibrida quasi in tempo reale, combinando la ricerca di embedding del vicino più prossimo con filtri di attributi, in modo distribuito e altamente scalabile. La nostra installazione target comprendeva oltre 12TB di memoria su 24 host e conteneva O(1B) embedding vettoriali. Recensione raccolta e ospitata su G2.com.

Vespa, in un'implementazione scalabile, presenta un'architettura piuttosto complessa con molte manopole di regolazione e campanelli e fischietti. Ci sono voluti diversi mesi per familiarizzare con essi. Il consulente Vespa è stato molto strumentale in questo. Alimentare Vespa da BigQuery è stato più difficile del previsto. Le estensioni native possono essere scritte solo in Java, il che, senza una toolchain Java nativa nella nostra azienda, si è rivelato troppo impegnativo da perseguire. La documentazione è vasta ma potrebbe essere meglio organizzata e avere più esempi contestuali in alcuni punti. Recensione raccolta e ospitata su G2.com.

La cosa più utile è il motore open source per big data, che aiuta a elaborare e servire dati su larga scala in tempo reale con un tempo di latenza molto basso. Le sue raccomandazioni sui contenuti sono molto utili per l'analisi in tempo reale moderna. Inoltre, è più flessibile e scalabile con tecniche di query avanzate che lo rendono più facile da usare. Recensione raccolta e ospitata su G2.com.

L'integrazione di Vespa con sistemi e flussi di lavoro esistenti può essere impegnativa, in particolare se i sistemi erano basati su tecnologie diverse. La documentazione e il supporto clienti per un open source non sono al massimo livello rispetto ai prodotti in tempo reale. Poiché è altamente specializzato, potrebbe essere eccessivo per applicazioni più semplici o con requisiti meno esigenti. Recensione raccolta e ospitata su G2.com.

Per il nostro caso d'uso nella pubblicità, Vespa lascia i prodotti basati su Apache Lucene nella polvere:

- Alto throughput di indicizzazione durante la ricerca

- Team molto, molto tecnico

- Il miglior supporto tecnico e guida

- Più volte, si sono tenute discussioni e il giorno successivo l'idea è stata implementata Recensione raccolta e ospitata su G2.com.

- La ricerca è ancora costosa

- Migliorare le capacità di ANN con idee come DiskANN

- Semplificare la configurazione e il test dello schema

- Puntare di più sulle tecnologie native del cloud Recensione raccolta e ospitata su G2.com.

Vespa offre un set completo di funzionalità che ci si aspetterebbe da un motore di ricerca, in particolare in termini di capacità di ranking (ad esempio, sfruttando modelli di ML) e prestazioni superiori rispetto a ciò che Elasticsearch offre di default. Stanno anche facendo costantemente progressi in nuove capacità che offrono un bel ibrido tra database vettoriali e un motore di ricerca convenzionale. In particolare per il nostro problema aziendale su OkCupid di raccomandare potenziali corrispondenze a milioni di altri utenti basandosi su una miriade di fattori e algoritmi di ranking, Vespa è stata una scelta eccellente non solo per soddisfare questi casi d'uso, ma anche per migliorare i flussi di lavoro di sviluppo e iterazione del nostro team nel nostro sistema di raccomandazioni.

Il team di Vespa è anche molto attivo su Slack: https://vespatalk.slack.com/ssb/redirect e genuinamente collaborativo. Nel mio caso, abbiamo lavorato insieme a un ingegnere del loro team che ha aiutato a proporre modifiche migliorative nel motore per aiutarci a soddisfare i nostri casi d'uso. Recensione raccolta e ospitata su G2.com.

Una delle sfide in passato riguardava la documentazione e la conoscenza e competenza generale della comunità. Da allora, la loro documentazione ha subito un sostanziale rinnovamento. Recensione raccolta e ospitata su G2.com.

Potenti Capacità di Ricerca: Il motore di ricerca di Vespa.ai offre risultati estremamente rapidi e altamente pertinenti, anche per query complesse su vasti set di dati. Le loro avanzate capacità linguistiche garantiscono una comprensione accurata dell'intento della query.

Architettura Scalabile: Non devo mai preoccuparmi della scalabilità con l'offerta cloud di Vespa.

Filtraggio e Classificazione Ricchi: Vespa fornisce ampie capacità per il filtraggio, la classificazione e la fusione dei risultati basati su criteri multipli e modelli di apprendimento automatico. Sfruttiamo le loro classificazioni HNSW e BM25.

Integrazione con l'Apprendimento Automatico: La loro stretta integrazione con avanzati framework di apprendimento automatico come TensorFlow e PyTorch consente un facile dispiegamento di modelli ML personalizzati per classificazione, raccomandazioni e altri casi d'uso.

Supporto Clienti di Primo Livello: Il team di Vespa è stato estremamente reattivo alle mie domande su come implementare determinate funzionalità. Recensione raccolta e ospitata su G2.com.

Ci può essere una curva di apprendimento ripida quando si inizia a utilizzare il prodotto, anche se vale bene l'investimento di tempo. Recensione raccolta e ospitata su G2.com.

Posso creare applicazioni di raccomandazione e distribuire inferenze di apprendimento automatico in tempo reale utilizzando questo stack. Un tale livello di funzionalità è ciò di cui abbiamo bisogno per le nostre applicazioni di ricerca su larga scala. Recensione raccolta e ospitata su G2.com.

L'inizializzazione e il funzionamento successivo di Vespa, infatti, richiedono un livello significativo di configurazione del sistema. Può essere un po' oscuro a volte e per risolvere i problemi bisogna davvero comprendere l'ambiente sottostante. Recensione raccolta e ospitata su G2.com.

Scalabilità comprovata con implementazioni a livello planetario. Utilizzato internamente da Yahoo.

Auto-ospitato con Docker e Kubernetes, o ospitato su cloud con autoscaling e aggiornamenti automatici.

Distribuzione da configurazione, con API o CLI.

Ricerca vettoriale con modelli di embedding auto-ospitati e remoti.

Ricerca ibrida.

Linguaggio di ranking molto potente.

Multi-fase: recupero, classificazione, riclassificazione.

Ottimo supporto su GitHub. Recensione raccolta e ospitata su G2.com.

L'architettura interna è flessibile ma complessa da padroneggiare. La documentazione era confusa, ma sta migliorando. Recensione raccolta e ospitata su G2.com.

Mi piacciono i crediti cloud open-source e gratuiti da 300 dollari per ospitare le applicazioni live. Recensione raccolta e ospitata su G2.com.

Sento che ci dovrebbe essere più lavoro di documentazione in sospeso e necessario mentre sto ancora esplorando la parte dell'IA e del database vettoriale.

Comunque sono felice di contribuire all'open source come collaboratore. Recensione raccolta e ospitata su G2.com.