MaxML CNN ist eine Hochleistungsrechenlösung, die von Maxeler Technologies entwickelt wurde, um die Inferenz von Convolutional Neural Networks (CNNs) mithilfe von Dataflow Engines (DFEs) zu beschleunigen. Diese Toolchain zielt auf mehrere FPGAs auf einem einzigen DFE-Gerät ab und erleichtert die effiziente Kommunikation zwischen FPGAs hauptsächlich über maxring und in einigen Fällen unter Verwendung von Off-Chip-RAM. Durch die Nutzung von Dataflow-Computing bietet MaxML CNN einen signifikanten Leistungszuwachs gegenüber herkömmlichen CPU-basierten Systemen und ist ideal für Anwendungen, die eine schnelle und effiziente CNN-Inferenz erfordern. Hauptmerkmale und Funktionalität: - Automatische Design Space Exploration (DSE): MaxML CNN sucht automatisch nach optimalen Loop-Unrolling-Parametern mithilfe eines theoretischen Leistungsmodells und vereinfacht so den Designprozess. - Leistungsschätzung: Das Tool bietet Schätzungen des Design-Durchsatzes, ohne dass eine vollständige Kompilierung oder Simulation erforderlich ist, was eine effiziente Leistungsbewertung ermöglicht. - Kompilierungsentspannung: In Fällen, in denen die Kompilierung fehlschlägt, können Benutzer die Ressourcennutzung entspannen, um die Anpassung des Designs auf dem FPGA während der MPPR-Phase zu erleichtern und die Flexibilität zu erhöhen. - Simulationsfähigkeiten: MaxML CNN ermöglicht die Simulation von maxring-Verbindungen ohne Neukonfiguration, indem sie als PCIe-Verbindungen zur CPU simuliert werden, was für die Überprüfung der Korrektheit von Vorteil ist. - Benutzerdefinierte Präzisions- und Frequenzeinstellungen: Benutzer können benutzerdefinierte Festkomma-Präzisionen und FPGA-Frequenzen für jedes neuronale Netzwerk angeben, um eine maßgeschneiderte Leistungsoptimierung zu ermöglichen. Primärer Wert und gelöstes Problem: MaxML CNN adressiert die Herausforderung der Beschleunigung der CNN-Inferenz durch die Nutzung der Leistung von DFEs und bietet eine hochdurchsatzstarke, energiearme Alternative zu herkömmlichen GPU-basierten Systemen. Diese Lösung ist besonders vorteilhaft in Szenarien, in denen Verarbeitungsgeschwindigkeit und Energieeffizienz entscheidend sind, wie z.B. bei der Echtzeit-Bildklassifizierung und anderen rechenintensiven Aufgaben. Durch die Bereitstellung einer anpassbaren und effizienten Plattform für die CNN-Inferenz ermöglicht MaxML CNN den Benutzern, schnellere Ergebnisse mit reduziertem Energieverbrauch zu erzielen und so die Gesamtleistung und Nachhaltigkeit des Systems zu verbessern.