NVIDIA lance le GPU L40S, les performances d'inférence de l'IA dépassent l'A100 d'environ 1,2 fois

Selon les informations d'IT House du 10 août, NVIDIA a récemment lancé le nouveau GPU NVIDIA L40S et le système serveur OVX équipé du GPU. Des documents sur cette technologie peuvent être trouvés ici

▲ Source de l'image : site officiel de NVIDIA

Il est rapporté que ce GPU L40S, associé au dernier serveur OVX, peut être utilisé pour la formation et l'inférence de grands modèles d'IA, la conception 3D, la visualisation, le traitement vidéo, la numérisation industrielle et à d'autres fins. Par rapport au GPU A100, cet ensemble de. "se complètent" Le système L40S peut "améliorer les capacités d'IA générative, de traitement graphique et vidéo et répondre à la demande croissante de puissance de calcul".

Selon l'enquête d'IT House, nous avons appris que le GPU L40S est une version améliorée du précédent GPU L40 de NVIDIA, avec 48 Go de mémoire vidéo GDDR6 ECC. Le GPU est basé sur l'architecture Ada Lovelace et est équipé du moteur de conversion Tensor Core et FP8 de quatrième génération. Sa vitesse de calcul est 5 fois supérieure à celle de la génération précédente. Cependant, NVLink n'est toujours pas pris en charge

Selon NVIDIA, le L40S est 1,2 fois meilleur que l'A100 en termes de performances d'inférence générative de l'IA et 1,7 fois meilleur en performances d'entraînement. NVIDIA estime que pour « des travaux d'IA complexes, avec des milliards de paramètres et de multiples modèles de données », les performances du L40S sont encore plus significatives

NVIDIA a annoncé qu'elle lancerait le GPU NVIDIA L40S cet automne. Chaque système serveur NVIDIA OVX peut prendre en charge jusqu'à 8 cartes accélératrices L40S, mais NVIDIA n'a pas encore annoncé le prix de ce GPU

NVIDIA a annoncé qu'ASUS, Dell, Gigabyte, HPE, Lenovo, QCT et Supermicro lanceront bientôt des systèmes de serveur OVX équipés du GPU L40S

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!