TT-Metalium™ ist das Open-Source, Low-Level AI-Hardware-SDK von Tenstorrent, das Entwicklern direkten Zugriff auf die zugrunde liegenden Hardwarekomponenten für die Entwicklung und das Experimentieren mit benutzerdefinierten Kernen bietet. Im Gegensatz zu anderen Plattformen bietet TT-Metalium™ vollständige Transparenz ohne Black Boxes, verschlüsselte APIs oder versteckte Funktionen, was es ideal für Entwickler macht, die Modelle anpassen, neue erstellen oder Nicht-Machine-Learning-Code ausführen möchten.
TT-Forge™ ist der auf MLIR basierende Compiler von Tenstorrent, der nahtlos mit verschiedenen maschinellen Lern-Frameworks (ML) wie PyTorch, JAX, TensorFlow und ONNX integriert werden kann. Er dient als Brücke zwischen hochrangigen Modellen und Tenstorrent-Hardware und erleichtert die effiziente Kompilierung und Ausführung von KI-Workloads. Durch die Nutzung von Open-Source-Technologien wie OpenXLA, LLVMs MLIR und torch-mlir bietet TT-Forge™ eine flexible und erweiterbare Grundlage für die KI-Entwicklung. Seine Architektur unterstützt die Aufnahme von Modellen aus mehreren Frameworks und ermöglicht einen strukturierten Ansatz zur Kompilierung und Optimierung. Diese Integration stellt sicher, dass Entwickler KI-Modelle mit Leichtigkeit erstellen und bereitstellen können, um die Leistung auf Tenstorrent-Hardware zu maximieren.