Hyperlink by Nexa AI

1 avis

Hyperlink transforme votre ordinateur en un moteur de réponse privé, sur l'appareil. Recherchez des fichiers en langage clair, obtenez des réponses instantanées citées à partir de documents locaux, et discutez avec n'importe quel modèle d'IA localement—gratuit, privé et illimité pour le contexte des fichiers et l'utilisation de l'IA.

Nexa SDK

0 avis

Nexa SDK est un cadre d'inférence sur appareil qui exécute n'importe quel modèle sur n'importe quel appareil, sur n'importe quel backend. Il fonctionne sur les CPU, GPU, NPU avec un support backend pour CUDA, Metal, Vulkan et Qualcomm NPU. Il gère plusieurs modalités d'entrée, y compris le texte 📝, l'image 🖼️ et l'audio 🎧. Le SDK inclut un serveur API compatible avec OpenAI avec un support pour l'appel de fonctions basé sur un schéma JSON et le streaming. Il prend en charge des formats de modèle tels que GGUF, MLX, le format .nexa propre à Nexa AI, permettant une inférence quantifiée efficace sur diverses plateformes.