bei Frank Scheufens, Product Manager Professional Visualization bei PNY

CAD NEWS MAGAZIN: Herr Scheufens, worin unterscheidet sich eine für den professionellen CAD-Einsatz konzipierte NVIDIA RTX PRO GPU aus Ihrer Sicht konkret von einer GeForce Consumer-Grafikkarte?
Frank Scheufens: Wie die verschiedenen Produktnamen bereits andeuten, sind die Grafikkarten für verschiedene Anwendungszwecke konzipiert. GeForce, bzw. NVIDIA RTX GPUs werden für Gaming optimiert und NVIDIA RTX PRO GPUs werden für professionelle Anwendungen optimiert. Das beginnt bereits bei der Hardware, die im PRO-Bereich ausschließlich von NVIDIA selbst gebaut wird mit höchsten Ansprüchen an Qualität, Stabilität und Langlebigkeit, um eine 24/7-Nutzung ohne Ausfall zu ermöglichen. Jedes Bauteil muss darum qualitativ hochwertig sein, der Preis spielt eine untergeordnete Rolle, der Ausfall einer Workstation oder eines Servers verursacht schnell weit höhere Kosten als der Aufpreis im Vergleich zu einer Consumer-Grafikkarte. Für die Consumer-Karten verkauft NVIDIA lediglich die GPU und die verschiedenen Hersteller bauen damit ihre Grafikkarten, wobei sie erheblich unter Preisdruck stehen und darum immer einen Kompromiss zwischen Qualität und Preis eingehen müssen. Die professionellen GPUs bieten außerdem ein EOL- und PCN-Management und bleiben während ihrer Lifetime von 3-4 Jahren unverändert. Dazu gibt es auch spezielle Long-Life Modelle, mit einer Lifetime von insgesamt 8-10 Jahren, die beispielsweise im Medizinbereich, sehr gefragt sind.
CN: Was bedeutet EOL- und PCN-Management konkret?
FS: Das EOL-Management ist ein Prozess, der gewöhnlich ca. ein Jahr umfasst. Zunächst gibt es die End of Life-Ankündigung, die bereits Daten enthält, wann Kunden einen letzten Forecast abgeben müssen. Dies ist gewöhnlich sechs Monate nach der Ankündigung, drei Monate später muss dann die letzte Bestellung platziert werden und wiederum meist drei Monate später erfolgt dann die letzte Lieferung. So kann jeder Kunde mit entsprechender Planung noch alle benötigten GPUs beschaffen und hat gleichzeitig genügend Zeit, um auf ein Nachfolgemodel umzusteigen.
Eine Product Change Notice gibt es zu den Karten, wenn Änderungen vorgenommen werden müssen. In den meisten Fällen passiert dies, wenn neue Komponenten wie Speichermodule zertifiziert wurden, um die Verfügbarkeit sicherzustellen. So wird jede Änderung entsprechend dokumentiert und ist nachverfolgbar.
CN: Die Grafikkarten werden für professionelle Anwendungen optimiert. Gilt das auch für den Grafiktreiber?
FS: Ja, es gilt sogar ganz besonders für den Grafiktreiber. Für den professionellen Bereich gibt es zwei verschiedene Treiber. Einmal den Production Branch, der optimale Stabilität und Leistung bietet. Hier werden auch nur evtl. Bugs gefixt, es kommen neuen Feature in diesen Treiber, die ja potenziell auch neue Bugs enthalten könnten. Dafür gibt es den New Feature-Treiber. Dieser kann neue Funktionen und andere Treiberverbesserungen bieten, aber auch potenziell neue Schwachstellen. Empfohlen wird deswegen immer der Einsatz des Production Branch-Treibers, sofern man nicht auf neue Funktionen angewiesen ist. Zusätzlich bietet der Production Branch-Treiber ISV-Zertifizierungen, man kann sicher sein, dass diese Grafikkarte mit dem zertifizierten Treiber für die Anwendung problemlos funktioniert. Dazu benötigt die professionelle Grafikkarte ein anderes Speicher-Management, da hier vornehmlich mehrere hardwarebeschleunigte Fenster und Applikationen gleichzeitig ausgeführt werden, während es beim Gaming beinahe immer der Vollbildschirm ist.
CN: Gibt es noch weitere Unterschiede?
FS: Die professionellen Grafikkarten bieten noch etliche andere Optimierungen für spezielle Einsatzzwecke. Das beginnt bei der Hardware, die mehr Grafikspeicher bietet und ab dem Midrange auch eine Speicher-Fehlerkorrektur. Dann werden ab der 4000-Reihe und höher Syncboards unterstützt. Damit lassen sich die Ausgänge der Grafikkarte synchronisieren was z.B. für Video-Wände mit Mosaic-Modus oder Video-Caves, die mit mehreren GPUs angesteuert werden, oder auch für TV-Studios und Videoproduktionen ist es oft un-
verzichtbar, um verschiedene Streams synchron zu halten. Es gibt dazu noch weitere Feature wie GPU-Direct for Memory, eine Option zur Senkung der Latenz speziell für die Videobearbeitung, und auch einige Applikationen bieten Features, die nur mit den professionellen GPUs unterstützt werden. Und nur die Topmodelle der professionellen GPUs der 5000er und 6000er Reihe unterstützen auch die Virtualisierung mit VMware, Citrix, KVM, usw.
CN: KI ist das Thema der Zukunft – bieten professionelle GPUs auch Vorteile in diesem Bereich?
FS: KI-Training oder Fine-Tuning benötigt oft sehr viel Performance und auch Speicher. Hier bieten die professionellen Grafikkarten die Möglichkeit mehrere Karten in ein System einzusetzen. Für Consumer-Grafikkarten sollten aufgrund der Kühllösung und Wärmeentwicklung maximal zwei Grafikkarten in einem System genutzt werden. Eine leistungsstarke KI-Workstation mit bis zu vier Top-GPUs oder ein Server mit 8-10 GPUs ist die sicherste Möglichkeit, um ein trainiertes AI-Modell im Unternehmen direkt zu nutzen – alle Daten bleiben so im Unternehmen. Dies ist ein Thema bei KI, das immer wichtiger wird.
Herr Scheufens, wir bedanken uns für das interessante Gespräch.