Nvidia, KI-Superstar

1. Extreme Nachfrage
2. Innovative Lösungen für Rechenzentren

Extreme Nachfrage

Derzeit herrscht auf dem Gebiet des Trainings künstlicher Intelligenz Nvidia mit ihren Nvidia H100 Tensor Core GPU Hopper-Chips. Sie werden in mehreren Versionen angeboten, einige sehen aus wie übergroße Grafikkarten mit PCIe-Schnittstelle, andere sind für die SXM-Schnittstelle bestimmt, die für die Integration in Rechenzentren vorgesehen ist. Offizielle Importeure bieten diese Karte auf Bestellung ab 35.000 Euro pro Karte an, aber derzeit übersteigt die Nachfrage das Angebot vollkommen, sodass es üblich ist, dass diese Karten mit einer Speicherkapazität von 80 GB RAM auf eBay zu einem Preis von 45.000 USD (cca. 41.000 Euro) verkauft werden.

Dies ist jedoch bei weitem nicht das letzte Wort von NVIDIA im Bereich der KI-Beschleuniger. Am 19. März 2024 stellte Jensen Huang die neue Generation von KI-Beschleunigern vor, die Nvidia H200 Blackwell, die die Leistung erheblich steigern und dabei dieselbe Software sowie dieselbe Infrastruktur nutzen, sodass ein Upgrade von H100 auf H200 relativ einfach möglich ist.

Der neue H200 entstand durch die Verbindung zweier physischer Chips zu einer Einheit, die von Anwendungen als monolithisch wahrgenommen wird. Er verfügt über 208 Milliarden Transistoren (2,5-mal mehr als Hopper) in modernster 5-nm-Lithografie und bietet insgesamt 16.896 Kerne. Jeder Chip besitzt einen 5.120 Bit breiten Speicherbus und ermöglicht die Adressierung von bis zu 141 GB RAM. Die einzelnen Chips können über den NVLink-Bus mit einer bidirektionalen Verbindung und einem Durchsatz von 900 GB/s miteinander verbunden werden, was es erlaubt, bis zu 576 solcher Prozessoren zu einer Einheit zusammenzuschließen.

Innovative Lösungen für Rechenzentren

Nvidia bietet eine fertige Lösung für Rechenzentren an, die auf einer Platine zwei H200-Prozessoren enthält, ergänzt durch den Steuerungsprozessor Nvidia Grace mit 72 ARM Neoverse V2-Kernen, der zur Steuerung und Koordination der Arbeit beider H200-Chips dient. Diese gesamte Einheit hat eine angegebene Leistungsaufnahme von 2700 Watt und erfordert daher sowohl eine Server-Stromversorgung als auch eine entsprechende Kühlung.

Nvidia bietet nicht nur extrem leistungsstarke Chips, sondern vollständige Komplettlösungen einschließlich der Softwareseite, sodass das Unternehmen derzeit nur sehr wenig Konkurrenz hat. Das Interesse an künstlicher Intelligenz bringt ihm beträchtliche Gewinne ein – und es ist höchstwahrscheinlich, dass es versuchen wird, seine Dominanz auch in Zukunft aufrechtzuerhalten.

Nvidia festigt ihre Position als Marktführer im Bereich der KI-Beschleuniger mit der Einführung ihrer Nvidia H100 Tensor Core GPU-Chips und der neueren Generation H200 Blackwell. Diese Produkte, die eine unglaubliche Rechenkapazität und einen enormen Speicher bieten, sind für die hohe Nachfrage in Rechenzentren und fortschrittliche KI-Anwendungen konzipiert. Obwohl Preis und Verfügbarkeit die extreme Nachfrage widerspiegeln, bietet Nvidia auch innovative Lösungen für ein effizienteres und leistungsfähigeres Arbeiten mit KI, einschließlich integrierter Systeme für Rechenzentren. Die Dominanz von Nvidia auf dem KI-Markt ist offensichtlich, und ihre Produkte sowie Innovationen eröffnen neue Möglichkeiten für die Entwicklung und Anwendung künstlicher Intelligenz.

Michal Rybka

Michal Rybka ist Publizist und Enthusiast mit 20 Jahren Erfahrung in den Bereichen IT und Gaming. Er ist Kurator des AlzaMuseums und des YouTube-Kanals AlzaTech. Er hat mehrere Fantasy- und Science-Fiction-Kurzgeschichten verfasst, die in Buchform erschienen sind, und berichtet regelmäßig freitags für das Online-Magazin PCTuning.