Azure AI 基礎架構強勢升級！進一步擴展人工智慧能力

微軟 Azure AI 基礎設施是微軟擴展產品和服務的核心支柱，為開發人員提供在 Azure 平台上建立新一代 AI 驅動的應用程式所需的系統、工具和資源。

微軟在早期對硬體和AI基礎設施的投資，正在幫助客戶將AI的高效和創新轉化為業務價值。透過利用AI，使用者可以創造更豐富的使用者體驗，推動創新，提高業務生產力

微軟 Azure AI 基礎設施能夠支援全球可擴展，未來微軟仍將對其進行持續投資與擴展。現在，微軟推出了 ND H100 v5 虛擬機系列，這款虛擬機配備了 NVIDIA H100 Tensor Core 圖形處理單元（GPU）和低延遲網絡，推動企業步入 AI 應用新時代。

AI 處理和規模的程度是前所未有的

發布了 ND H100 v5 虛擬機器系列

微軟全新發布 Azure ND H100 v5 虛擬機器（VM）系列，現已在美國東部和美國中南部 Azure 區域提供。該系列配備了最新的 NVIDIA H100 Tensor Core GPU 和 NVIDIA Quantum-2 InfiniBand 網路。憑藉在超級運算效能和規模方面的豐富經驗，微軟精心設計的 ND H100 v5 系列虛擬機，用於應對先進的 AI 工作負載帶來的日益增加的複雜性。 作為微軟在 AI 領域深入和持續投資的一部分，微軟正在利用一個 AI 優化的 4K GPU 集群，並將在明年將其擴展到數十萬個全新的 GPU。

ND H100 v5 VM 虛擬機器系列具有以下特性： - 高效能：ND H100 v5 VM 虛擬機器系列具備強大的運算能力與處理速度，能夠快速處理複雜的運算任務。 - 靈活性：此系列虛擬機器支援靈活的配置選項，可根據實際需求進行調整和自訂。 - 可靠性：ND H100 v5 VM 虛擬機器系列採用可靠的硬體和軟體元件，確保系統的穩定性和可靠性。 - 安全性：此系列虛擬機器提供安全的隔離環境，能夠有效保護使用者的資料和應用程式。 - 易用性：ND H100 v5 VM 虛擬機器系列提供簡單易用的介面和工具，使用戶能夠輕鬆管理和操作虛擬機器

• AI 超級運算 GPU：配備了八個 NVIDIA H100 Tensor Core GPU。比起上一代虛擬機，該系列可讓 AI 模型顯著提速，為企業提供無與倫比的運算能力。
• 新一代電腦處理單元（CPU）：CPU 效能對於AI 的訓練和推理至關重要，微軟選擇了第四代Intel Xeon Scalable 處理器，確保虛擬機器達到最佳的處理速度。
• 低延遲網路：採用NVIDIA Quantum-2 ConnectX-7 InfiniBand，每個GPU 擁有400Gb/s、每個VM 擁有3.2 Tb/s 的跨節點頻寬，確保GPU 間的無縫性能，堪稱全球頂級的超級電腦。
• 優化主機到 GPU 的效能：透過PCIe Gen5提供每個GPU 64GB/s的頻寬，Azure在CPU和GPU之間具有顯著的效能優勢。
• 大規模的記憶體和記憶體頻寬：DDR5 記憶體是該系列虛擬機器的核心，提供更高的資料傳輸速度和效率，使它們成為處理大規模資料集工作負載的理想選擇。

該系列虛擬機器已經證明了它們的效能優勢，使用新的8位元 FP8 浮點資料類型進行矩陣乘法操作時，速度提升了六倍，比前一代的 FP16 更快。 ND H100 v5 VM 幫助大型語言模型（如 BLOOM 175B 端對端模型）實現了最高兩倍的推理速度提升，驗證了它們進一步優化 AI 應用的潛力。

由 Azure AI 基礎設施支援的人工智慧，具有推動從製造到零售、從金融服務到醫療保健等各行各業發展的潛力。

以上是Azure AI 基礎架構強勢升級！進一步擴展人工智慧能力的詳細內容。更多資訊請關注PHP中文網其他相關文章！