

CUDA ist eine parallele Computerplattform und ein Programmiermodell, das dramatische Leistungssteigerungen in der Rechenleistung ermöglicht, indem es die Leistung der NVIDIA-GPUs nutzt. Diese Images erweitern die CUDA-Images, um OpenGL-Unterstützung durch libglvnd einzuschließen.

PhysX erstellt Effekte und Szenen, die mit dynamischer Zerstörung, partikelbasierten Flüssigkeiten und lebensechter Animation mit genauer Physiksimulation gefüllt sind.

Die NVIDIA Virtual GPU (vGPU)-Technologie nutzt die Leistung von NVIDIA GPUs und NVIDIA Virtual GPU-Softwareprodukten, um jeden virtuellen Arbeitsablauf zu beschleunigen – von KI bis hin zu virtueller Desktop-Infrastruktur (VDI). Indem sie die GPU-Leistung für jede virtuelle Maschine (VM) ermöglicht, erlaubt die vGPU-Technologie den Nutzern, effizienter und produktiver zu arbeiten. In einer VDI-Umgebung, die von NVIDIA Virtual GPU betrieben wird, wird die NVIDIA Virtual GPU-Software zusammen mit dem Hypervisor auf der Virtualisierungsebene installiert. Die NVIDIA Virtual GPU-Software erstellt virtuelle GPUs, die es jeder virtuellen Maschine (VM) ermöglichen, eine physische GPU auf dem Server zu teilen oder mehrere GPUs einer einzelnen VM zuzuweisen, um die anspruchsvollsten Arbeitslasten zu bewältigen. Die NVIDIA Virtualisierungssoftware enthält einen Treiber für jede VM. NVIDIA Quadro® Virtual Data Center Workstation (Quadro vDWS) umfasst beispielsweise den leistungsstarken Quadro-Treiber. Da Arbeiten, die typischerweise von der CPU erledigt wurden, auf die GPU ausgelagert werden, hat der Benutzer ein viel besseres Erlebnis, und anspruchsvolle Ingenieur- und Kreativanwendungen können in einer virtualisierten und Cloud-Umgebung unterstützt werden.

Megatron-LM ist ein fortschrittliches Framework, das von NVIDIA zur Schulung von groß angelegten, transformerbasierten Sprachmodellen entwickelt wurde. Es ist darauf ausgelegt, Modelle mit Hunderten von Milliarden Parametern effizient zu handhaben, indem sowohl Modell- als auch Datenparallelität genutzt werden. Hauptmerkmale und Funktionalität: - Skalierbarkeit: Unterstützt das Training von Modellen mit einer Größe von 2 Milliarden bis 462 Milliarden Parametern über Tausende von GPUs und erreicht bis zu 47% Model FLOP Utilization (MFU) auf H100-Clustern. - Parallelitätstechniken: Verwendet Tensor-Parallelität, Pipeline-Parallelität und Datenparallelität, um Berechnungen effektiv zu verteilen und das effiziente Training massiver Modelle zu ermöglichen. - Mixed Precision Training: Unterstützt FP16-, BF16- und FP8-Mixed-Precision-Training, um die Leistung zu verbessern und den Speicherverbrauch zu reduzieren. - Fortgeschrittene Optimierungen: Integriert Funktionen wie FlashAttention für schnellere Aufmerksamkeitsberechnungen und Aktivierung-Checkpointing, um den Speicher während des Trainings effizient zu verwalten. - Modellunterstützung: Bietet vorkonfigurierte Trainingsskripte für verschiedene Modelle, einschließlich GPT, LLaMA, DeepSeek und Qwen, um schnelle Experimente und Bereitstellungen zu erleichtern. Primärer Wert und Problemlösung: Megatron-LM adressiert die Herausforderungen, die mit dem Training extrem großer Sprachmodelle verbunden sind, indem es ein skalierbares und effizientes Framework bietet. Seine fortschrittlichen Parallelitätsstrategien und Leistungsoptimierungen ermöglichen es Forschern und Entwicklern, hochmoderne Modelle auf großen Datensätzen zu trainieren, ohne Kompromisse bei Geschwindigkeit oder Ressourcennutzung einzugehen. Diese Fähigkeit ist entscheidend für den Fortschritt von Anwendungen der natürlichen Sprachverarbeitung und die Entwicklung anspruchsvollerer KI-Systeme.

NVIDIA ShadowPlay ist ein hardwarebeschleunigtes Bildschirmaufnahme-Tool, das in die GeForce Experience-Software von NVIDIA integriert ist. Es wurde entwickelt, um hochwertige Gameplay-Videos, Screenshots und Livestreams mit minimalen Leistungseinbußen aufzunehmen. Durch die Nutzung des dedizierten H.264-Videoencoders, der in GeForce-GPUs eingebaut ist, ermöglicht ShadowPlay den Nutzern, Gameplay in Auflösungen von bis zu 8K HDR bei 30 Bildern pro Sekunde oder 4K HDR bei 120 Bildern pro Sekunde aufzuzeichnen. Die Instant Replay-Funktion erlaubt es Spielern, die letzten 30 Sekunden des Gameplays automatisch zu speichern, sodass spontane Momente nie verpasst werden. Darüber hinaus unterstützt ShadowPlay die manuelle Aufnahme für längere Sitzungen und bietet nahtlose Integration mit Plattformen wie YouTube und Facebook für einfaches Teilen. Durch die Nutzung der Hardwarebeschleunigung stellt ShadowPlay sicher, dass Aufnahme- und Streaming-Aktivitäten minimale Auswirkungen auf die Systemleistung haben, und bietet Spielern ein zuverlässiges und effizientes Werkzeug, um ihre Spielerlebnisse festzuhalten und zu teilen. Hauptmerkmale und Funktionen: - Instant Replay: Nimmt automatisch die letzten 30 Sekunden des Gameplays auf, sodass Nutzer unerwartete Momente mit einem einfachen Hotkey speichern können. - Hochauflösende Aufnahme: Unterstützt Aufnahmen mit bis zu 8K HDR bei 30 fps oder 4K HDR bei 120 fps und liefert gestochen scharfe und detaillierte Videoqualität. - Manuelle Aufnahme: Ermöglicht es Nutzern, Aufnahmen nach Belieben zu starten und zu stoppen, geeignet für die Aufnahme längerer Spielsitzungen. - Livestreaming: Ermöglicht das Live-Streaming auf Plattformen wie YouTube und Facebook direkt aus dem Spiel heraus. - Minimale Leistungseinbußen: Nutzt den dedizierten Hardware-Encoder von NVIDIA, um sicherzustellen, dass Aufnahme und Streaming die Spielleistung nicht signifikant beeinträchtigen. - Screenshot-Aufnahme: Ermöglicht das Aufnehmen von hochwertigen Screenshots während des Gameplays. Primärer Wert und Nutzerlösungen: NVIDIA ShadowPlay adressiert das Bedürfnis von Spielern, ihre In-Game-Erlebnisse festzuhalten und zu teilen, ohne die Leistung zu beeinträchtigen. Die hardwarebeschleunigte Aufnahme stellt sicher, dass Nutzer ihr Gameplay in hoher Qualität dokumentieren können, während sie gleichzeitig flüssige und reaktionsschnelle Spielsitzungen beibehalten. Die Instant Replay-Funktion ist besonders wertvoll, um spontane und denkwürdige Momente festzuhalten, ohne dass eine ständige manuelle Aufnahme erforderlich ist. Durch die Integration von Aufnahme-, Streaming- und Sharing-Funktionen in eine einzige, benutzerfreundliche Oberfläche vereinfacht ShadowPlay den Prozess der Inhaltserstellung für Spieler und ermöglicht es ihnen, ihre Fähigkeiten und Erlebnisse mühelos zu präsentieren.

mental ray ist eine funktionsreiche, leistungsstarke 3D-Rendering-Software, die Bilder von herausragender Qualität und unübertroffener Realismus basierend auf fortschrittlichen Raytracing-Techniken erstellt.

NVIDIA Deep Learning GPU Training System (DIGITS) tiefes Lernen für Datenwissenschaft und Forschung, um schnell tiefe neuronale Netzwerke (DNN) für Bildklassifizierungs- und Objekterkennungsaufgaben zu entwerfen, unter Verwendung der Visualisierung des Netzwerkverhaltens in Echtzeit.

NVIDIA Jarvis ist ein Anwendungs-Framework für multimodale konversationelle KI-Dienste, das Echtzeit-Performance auf GPUs bietet.

NVIDIA cuOpt ist ein Open-Source, GPU-beschleunigtes System, das für Entscheidungsoptimierung entwickelt wurde und es Organisationen ermöglicht, komplexe Herausforderungen in der Routenplanung und Logistik mit beispielloser Geschwindigkeit und Effizienz zu lösen. Durch die Nutzung der parallelen Verarbeitungskapazitäten von GPUs adressiert cuOpt groß angelegte Probleme mit Millionen von Variablen und Einschränkungen und erleichtert datengetriebene Entscheidungsfindung in Echtzeit in verschiedenen Branchen. Hauptmerkmale und Funktionalität: - Fortschrittliche Optimierungsalgorithmen: Nutzt gemischt-ganzzahlige lineare Programmierung (MILP) und lineare Programmierung (LP) Solver, um komplexe Optimierungsprobleme wie Fahrzeugroutenplanung, Ressourcenallokation und Jobplanung zu bewältigen. - Echtzeit-Routenoptimierung: Bietet dynamische Routenplanungskapazitäten, die schnelle Anpassungen an sich ändernde Bedingungen ermöglichen und dadurch Reisezeit, Kraftstoffverbrauch und Betriebskosten reduzieren. - Skalierbarkeit und Leistung: Erzielt signifikante Geschwindigkeitssteigerungen gegenüber traditionellen CPU-basierten Methoden, löst groß angelegte Probleme in Sekunden und stellt mehrere Weltrekorde in Routing-Benchmarks auf. - Vielseitige Anwendungsfälle: Anwendbar in verschiedenen Bereichen, einschließlich Lieferkettenmanagement, Flottenmanagement, Zustellung auf der letzten Meile, Außendienstplanung, Jobplanungsoptimierung und Portfolio-Optimierung. Primärer Wert und Benutzerlösungen: NVIDIA cuOpt befähigt Unternehmen, die betriebliche Effizienz zu steigern, indem es komplexe Logistik- und Entscheidungsprozesse optimiert. Es ermöglicht die Echtzeitanpassung an dynamische Umgebungen, was zu Kostensenkungen, verbesserter Ressourcennutzung und erhöhter Kundenzufriedenheit führt. Durch die Integration von cuOpt können Organisationen schnellere Lieferzeiten erreichen, den CO2-Ausstoß minimieren und sich durch überlegene Optimierungsfähigkeiten einen Wettbewerbsvorteil verschaffen.

Since its founding in 1993, NVIDIA (NASDAQ: NVDA) has been a pioneer in accelerated computing. The company’s invention of the GPU in 1999 sparked the growth of the PC gaming market, redefined computer graphics, ignited the era of modern AI and is fueling the creation of the metaverse. NVIDIA is now a full-stack computing company with data-center-scale offerings that are reshaping industry.