Hyperlink by Nexa AI

1 Bewertung

Hyperlink verwandelt Ihren Computer in eine private, geräteinterne Antwortmaschine. Durchsuchen Sie Dateien in einfacher Sprache, erhalten Sie sofort zitierte Antworten aus lokalen Dokumenten und chatten Sie lokal mit jedem KI-Modell – kostenlos, privat und unbegrenzt sowohl für Dateikontext als auch für die Nutzung von KI.

Nexa SDK

0 Bewertungen

Nexa SDK ist ein On-Device-Inferenz-Framework, das jedes Modell auf jedem Gerät und über jedes Backend ausführt. Es läuft auf CPUs, GPUs, NPUs mit Backend-Unterstützung für CUDA, Metal, Vulkan und Qualcomm NPU. Es verarbeitet mehrere Eingabemodalitäten, einschließlich Text 📝, Bild 🖼️ und Audio 🎧. Das SDK umfasst einen OpenAI-kompatiblen API-Server mit Unterstützung für JSON-Schema-basierte Funktionsaufrufe und Streaming. Es unterstützt Modellformate wie GGUF, MLX, Nexa AIs eigenes .nexa-Format, was eine effiziente quantisierte Inferenz über verschiedene Plattformen hinweg ermöglicht.