Nous avons acheté le produit Enclave qui était vraiment bien adapté pour nous car il nous permettait de faire fonctionner les hôtes dans notre propre compte Google Cloud (à notre tarif avec Google), et ainsi ne nécessitait pas de transfert de données, ce qui était bien aligné avec notre position en matière de sécurité. Il offrait des services de déploiement léger et d'observabilité qui nous manquaient et nous a aidés à démarrer rapidement et avec un investissement minimal. Le backend de recherche Vespa lui-même correspondait bien à nos exigences de recherche hybride en quasi-temps réel, combinant la recherche d'embeddings de voisins les plus proches avec des filtres d'attributs, de manière distribuée et hautement évolutive. Notre installation cible comprenait plus de 12 To de mémoire répartis sur 24 hôtes et contenait O(1B) d'embeddings vectoriels.

J'aime les crédits cloud open-source et gratuits de 300 dollars pour héberger les applications en direct.

Je peux créer des applications de recommandation et déployer des inférences d'apprentissage automatique en temps réel en utilisant cette pile. Un tel niveau de fonctionnalité est ce dont nous avons besoin pour nos applications de recherche à grande échelle.