H100보다 나은 놀라운 달리기 점수 공개! NVIDIA의 가장 강력한 AI 칩 GH200은 무엇인가요?

제너레이티브 AI 컴퓨팅에 대한 수요 증가로 인해 주요 GPU 제조업체인 NVIDIA의 주가가 새로운 최고치로 치솟았습니다. 8월 중순 Huida CEO Huang Renxun은 전시회에서 DGXGH200을 다시 한번 홍보했습니다. DGXGH200은 GraceHopper 가속 컴퓨팅 카드로 구축된 차세대 생성 AI 슈퍼칩이기도 하며 Huida 최초의 Exaflop 수준 DGX 슈퍼컴퓨터 제품입니다

H100 롤링 성능이 17%에 도달

9월 11일 실행 점수 데이터에 따르면 NVIDIA는 GH200, H100, L4 GPU 및 Jetson Orin 유사 제품이 선도적인 성능을 달성했다고 발표했습니다.

GH200은 단일 칩 최초로 제출한 것으로, 인텔 CPU를 탑재한 단일 H100과 비교한 결과, GH200 조합은 각 테스트에서 최소 15% 이상 향상된 성능을 보였다. NVIDIA의 인공 지능 이사인 Dave Salvator는 기자 회견에서 다음과 같이 말했습니다. Grace Hopper는 처음으로 매우 강력한 성능을 발휘하여 제출된 H100 GPU에 비해 ​​성능이 17% 향상되었으며 우리는 이미 전반적으로 앞서 있습니다.

GH200이란 무엇인가요?

공식 설명: NVIDIA GH200은 H100 GPU와 Grace CPU를 통합한 최초의 슈퍼 칩입니다. 이 둘은 최대 900GB/s의 대역폭으로 NVLink-C2C를 통해 상호 연결되어 더 나은 확장성과 초고속 학습 성능을 제공합니다. .

NVIDIA는 GH200에 세 가지 주요 기능이 있다고 밝혔습니다.

l 대형 모델을 위한 대용량 메모리: 개발자에게 대형 모델을 구축할 수 있는 500배 이상의 메모리를 제공합니다.

l슈퍼 에너지 절약 컴퓨팅: 대역폭은 7배 증가하고 상호 연결 전력 소비는 5배 이상 감소합니다.

통합되어 즉시 실행 가능: 몇 주 안에 대규모 모델을 만들 수 있습니다. 다시 작성된 내용: 이미 통합되어 사용할 준비가 되었습니다. 몇 주 안에 대형 모델을 제작할 수 있습니다

대부분의 플레이어의 성능이 이전 세대에 비해 20% 향상되었습니다

5월 COMPUTEX에서 NVIDIA CEO Jen-Hsun Huang은 GH200 칩이 2024년 2분기에 양산될 예정이라고 언급했습니다. MLPerfv3.1 벤치마크는 13,500개 이상의 결과를 테스트했으며 많은 제출자의 성능은 3.0 벤치마크에 비해 20% 이상 향상되었습니다.

MLPerf는 고객이 AI 칩의 성능을 평가하는 데 사용되는 일반적인 도구입니다.

제출자 목록에는 ASUS, Azure, Connect Tech, DELL, Fujitsu, Giga Computing, Google, H3C, HPE, IEI, Intel, Intel HabanaLabs, Nutanix, Oracle, Qualcomm, Quanta Cloud Technology, SiMA, Supermicro, TTA 및 xFusion이 포함됩니다. 잠깐

위 내용은 H100보다 나은 놀라운 달리기 점수 공개! NVIDIA의 가장 강력한 AI 칩 GH200은 무엇인가요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!