Erstaunliche Laufergebnisse enthüllt, besser als H100! Was ist NVIDIAs leistungsstärkster KI-Chip GH200?

Die wachsende Nachfrage nach generativem KI-Computing hat den Aktienkurs von NVIDIA, einem großen GPU-Hersteller, auf einen neuen Höchststand steigen lassen. Mitte August bewarb Huida-CEO Huang Renxun erneut den DGXGH200. Dabei handelt es sich um eine neue Generation generativer KI-Superchips, die mit der beschleunigten Computerkarte GraceHopper ausgestattet sind. Es ist auch Huidas erstes DGX-Supercomputerprodukt auf Exaflop-Niveau

Die Leistung des rollenden H100 erreicht 17 %

Laut den laufenden Score-Daten vom 11. September gab NVIDIA bekannt, dass seine GH200-, H100-, L4-GPU- und Jetson-Orin-ähnlichen Produkte Spitzenleistungen erzielt haben.

GH200 ist die erste Einreichung eines einzelnen Chips. Nach dem Vergleich mit einem einzelnen H100 mit Intel-CPU weist die GH200-Kombination in jedem Test eine Verbesserung von mindestens 15 % auf. Dave Salvator, Direktor für künstliche Intelligenz bei NVIDIA, sagte in einer Pressekonferenz: „Grace Hopper hat zum ersten Mal eine sehr starke Leistung erbracht und die Leistung im Vergleich zur eingereichten H100-GPU um 17 % verbessert, und wir liegen bereits auf ganzer Linie vorne.“

Was ist GH200?

Offizielle Beschreibung: NVIDIA GH200 ist der erste Superchip, der eine H100-GPU und eine Grace-CPU integriert. Die beiden sind über NVLink-C2C mit einer Bandbreite von bis zu 900 GB/s verbunden, was eine bessere Skalierbarkeit und ultraschnelle Deep-Learning-Leistung bietet .

NVIDIA gab an, dass die GH200 über drei Hauptmerkmale verfügt:

l Riesiger Speicher für große Modelle: Bietet Entwicklern mehr als 500-mal mehr Speicher zum Erstellen großer Modelle.

lSuper energiesparendes Computing: Die Bandbreite wurde um das Siebenfache erhöht und der Stromverbrauch der Verbindung wurde um mehr als das Fünffache reduziert.

Integriert und einsatzbereit: Erstellen Sie große Modelle in wenigen Wochen. Was wurde neu geschrieben: Bereits integriert und einsatzbereit: Ein großes Modell kann in wenigen Wochen gebaut werden

Die Leistung der meisten Spieler wurde im Vergleich zur vorherigen Generation um 20 % verbessert

Während der COMPUTEX im Mai erwähnte NVIDIA-CEO Jen-Hsun Huang, dass die Massenproduktion des GH200-Chips im zweiten Quartal 2024 geplant ist. Der MLPerfv3.1-Benchmark testete mehr als 13.500 Ergebnisse und die Leistung vieler Einreicher verbesserte sich im Vergleich zum 3.0-Benchmark um mehr als 20 %.

MLPerf ist ein gängiges Tool für Kunden zur Bewertung der Leistung von KI-Chips.

Die Liste der Einsender umfasst ASUS, Azure, Connect Tech, DELL, Fujitsu, Giga Computing, Google, H3C, HPE, IEI, Intel, Intel HabanaLabs, Nutanix, Oracle, Qualcomm, Quanta Cloud Technology, SiMA, Supermicro, TTA und xFusion Warte

Das obige ist der detaillierte Inhalt vonErstaunliche Laufergebnisse enthüllt, besser als H100! Was ist NVIDIAs leistungsstärkster KI-Chip GH200?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!