Adquirimos o produto Enclave, que foi realmente adequado para nós porque nos permitiu executar os hosts em nossa própria conta do Google Cloud (com nossa precificação com o Google), e assim não exigiu que transferíssemos qualquer dado para fora, o que estava bem alinhado com nossa postura de segurança. Ele forneceu serviços de implantação e observabilidade de baixo impacto que nos faltavam e nos ajudou a iniciar rapidamente e com investimento mínimo. O próprio backend de busca Vespa ofereceu uma boa correspondência com nossos requisitos de busca híbrida em tempo quase real, combinando busca de embeddings de vizinhos mais próximos com filtros de atributos, de maneira distribuída e altamente escalável. Nossa instalação alvo compreendia mais de 12TB de memória em 24 hosts e continha O(1B) embeddings de vetores.

Eu gosto dos créditos de nuvem de 300 dólares, de código aberto e gratuitos, para hospedar as aplicações ao vivo.

Eu posso criar aplicativos de recomendação e implantar inferência de aprendizado de máquina em tempo real usando essa pilha. Tal nível de funcionalidade é o que precisamos para nossas aplicações de busca em larga escala.