Vespa Reseñas y Detalles del Producto

Compramos el producto Enclave, que era realmente adecuado para nosotros porque nos permitía ejecutar los hosts en nuestra propia cuenta de Google Cloud (a nuestro precio con Google), y por lo tanto no requería que transfiriéramos ningún dato, lo cual estaba bien alineado con nuestra postura de seguridad. Proporcionaba servicios de implementación y observabilidad de bajo impacto que nos faltaban y nos ayudó a arrancar rápidamente y con una inversión mínima.

El backend de búsqueda Vespa en sí mismo proporcionó una buena coincidencia con nuestros requisitos de búsqueda híbrida en tiempo casi real, combinando la búsqueda de incrustaciones de vecinos más cercanos con filtros de atributos, de manera distribuida y altamente escalable. Nuestra instalación objetivo comprendía más de 12 TB de memoria en 24 hosts y contenía O(1B) incrustaciones vectoriales. Reseña recopilada por y alojada en G2.com.

Vespa, en un despliegue escalable, presenta una arquitectura bastante compleja con muchos ajustes y detalles. Tomó varios meses familiarizarse con ellos. El consultor de Vespa fue muy instrumental en esto. Alimentar a Vespa desde BigQuery fue más difícil de lo esperado. Las extensiones nativas solo se pueden escribir en Java, lo cual, sin una cadena de herramientas Java nativa en nuestra empresa, resultó demasiado desafiante para seguir adelante. La documentación es extensa pero podría estar mejor organizada y tener más ejemplos contextuales en algunos lugares. Reseña recopilada por y alojada en G2.com.

Lo más útil es el motor de big data de código abierto, ayuda a procesar y servir datos a gran escala en tiempo real con un tiempo de latencia muy bajo. Sus recomendaciones de contenido son muy útiles para el análisis en tiempo real moderno. Además, es más flexible y escalable con técnicas de consulta avanzadas que lo hacen más fácil de usar. Reseña recopilada por y alojada en G2.com.

Integrar Vespa con sistemas y flujos de trabajo existentes puede ser un desafío, particularmente si los sistemas se basaron en diferentes tecnologías. La documentación y el soporte al cliente para un código abierto no son de primera categoría en comparación con los productos en tiempo real. Dado que es altamente especializado, puede ser excesivo para aplicaciones más simples o con requisitos menos exigentes. Reseña recopilada por y alojada en G2.com.

Para nuestro caso de uso en publicidad, Vespa deja a los productos basados en Apache Lucene en el polvo:

- Alto rendimiento de indexación mientras se busca

- Un equipo muy, muy técnico

- El mejor soporte técnico y orientación

- Varias veces, se tuvieron discusiones y al día siguiente la idea fue implementada Reseña recopilada por y alojada en G2.com.

- La búsqueda sigue siendo costosa

- Mejorar las capacidades de ANN con ideas como DiskANN

- Simplificar la configuración y prueba de esquemas

- Apoyarse más en tecnologías nativas de la nube Reseña recopilada por y alojada en G2.com.

Vespa ofrece un conjunto completo de características que buscarías en un motor de búsqueda, particularmente en más capacidades de clasificación (por ejemplo, aprovechando modelos de ML) y rendimiento que lo que Elasticsearch ofrece de serie. También están constantemente haciendo avances en nuevas capacidades que ofrecen un buen híbrido entre bases de datos vectoriales y un motor de búsqueda convencional. Particularmente para nuestro problema de negocio en OkCupid de recomendar posibles coincidencias a millones de otros usuarios basados en una multitud de factores y algoritmos de clasificación, Vespa fue una gran opción no solo para cumplir con esos casos de uso, sino para mejorar los flujos de trabajo de desarrollo e iteración de nuestro equipo en nuestro sistema de recomendaciones.

El equipo de Vespa también es muy activo en Slack: https://vespatalk.slack.com/ssb/redirect y genuinamente colaborativo. En mi caso, trabajamos junto con un ingeniero de su equipo que ayudó a implementar cambios de mejora en el motor para ayudarnos a cumplir con nuestros casos de uso. Reseña recopilada por y alojada en G2.com.

Uno de los desafíos en el pasado fue la documentación y el conocimiento y la experiencia general de la comunidad. Su documentación ha pasado por una renovación sustancial. Reseña recopilada por y alojada en G2.com.

Capacidades de Búsqueda Poderosas: El motor de búsqueda de Vespa.ai ofrece resultados extremadamente rápidos y altamente relevantes, incluso para consultas complejas sobre grandes conjuntos de datos. Sus capacidades lingüísticas avanzadas aseguran una comprensión precisa de la intención de la consulta.

Arquitectura Escalable: Nunca tengo que preocuparme por la escalabilidad con la oferta en la nube de Vespa.

Filtrado y Clasificación Ricos: Vespa proporciona amplias capacidades para filtrar, clasificar y combinar resultados basados en múltiples criterios y modelos de aprendizaje automático. Aprovechamos sus clasificaciones HNSW y BM25.

Integración de Aprendizaje Automático: Su estrecha integración con marcos avanzados de aprendizaje automático como TensorFlow y PyTorch permite un fácil despliegue de modelos personalizados de aprendizaje automático para clasificación, recomendaciones y otros casos de uso.

Soporte al Cliente de Primer Nivel: El equipo de Vespa ha sido extremadamente receptivo a mis preguntas sobre cómo implementar ciertas características. Reseña recopilada por y alojada en G2.com.

Puede haber una curva de aprendizaje pronunciada al incorporarse al producto, aunque vale la pena la inversión de tiempo. Reseña recopilada por y alojada en G2.com.

Puedo crear aplicaciones de recomendación y desplegar inferencias de aprendizaje automático en tiempo real utilizando esta pila. Tal nivel de funcionalidad es lo que necesitamos para nuestras aplicaciones de búsqueda a gran escala. Reseña recopilada por y alojada en G2.com.

La inicialización de Vespa y su funcionamiento posterior, de hecho, requieren un nivel significativo de configuración del sistema. Puede ser un poco oscuro a veces y para resolver problemas uno tiene que apreciar realmente el entorno subyacente. Reseña recopilada por y alojada en G2.com.

Escalabilidad probada con implementaciones a escala planetaria. Utilizado internamente en Yahoo.

Alojado internamente con Docker y Kubernetes, o alojado en la nube con escalado automático y actualizaciones automatizadas.

Despliegue desde configuración, con API o CLI.

Búsqueda vectorial con modelos de incrustación alojados localmente y de forma remota.

Búsqueda híbrida.

Lenguaje de clasificación muy poderoso.

Multietapa: recuperación, clasificación, reclasificación.

Gran soporte en GitHub. Reseña recopilada por y alojada en G2.com.

La arquitectura interna es flexible pero compleja de dominar.

La documentación solía ser confusa, pero está mejorando. Reseña recopilada por y alojada en G2.com.

Me gustan los créditos en la nube de 300 dólares de código abierto y gratuitos para alojar las aplicaciones en vivo. Reseña recopilada por y alojada en G2.com.

Siento que debería haber más trabajo de documentación pendiente y necesario ya que todavía estoy explorando la parte de la IA y la base de datos vectorial.

De todos modos, estoy feliz de contribuir al código abierto como colaborador. Reseña recopilada por y alojada en G2.com.