Abbiamo acquistato il prodotto Enclave che era davvero adatto a noi perché ci permetteva di gestire gli host nel nostro account Google Cloud (ai nostri prezzi con Google), e quindi non richiedeva di trasferire alcun dato, il che era ben allineato con la nostra posizione sulla sicurezza. Ha fornito servizi di distribuzione e osservabilità leggeri che ci mancavano e ci ha aiutato a partire rapidamente e con un investimento minimo. Il backend di ricerca Vespa stesso ha fornito una buona corrispondenza ai nostri requisiti di ricerca ibrida quasi in tempo reale, combinando la ricerca di embedding del vicino più prossimo con filtri di attributi, in modo distribuito e altamente scalabile. La nostra installazione target comprendeva oltre 12TB di memoria su 24 host e conteneva O(1B) embedding vettoriali.

Mi piacciono i crediti cloud open-source e gratuiti da 300 dollari per ospitare le applicazioni live.

Posso creare applicazioni di raccomandazione e distribuire inferenze di apprendimento automatico in tempo reale utilizzando questo stack. Un tale livello di funzionalità è ciò di cui abbiamo bisogno per le nostre applicazioni di ricerca su larga scala.