Heim > Technologie-Peripheriegeräte > KI > Die Azure AI-Infrastruktur wurde erheblich verbessert! Weiterer Ausbau der Fähigkeiten der künstlichen Intelligenz

Die Azure AI-Infrastruktur wurde erheblich verbessert! Weiterer Ausbau der Fähigkeiten der künstlichen Intelligenz

王林
Freigeben: 2023-11-23 15:01:29
nach vorne
1137 Leute haben es durchsucht

Azure AI 基础设施强势升级!进一步扩展人工智能能力

Microsoft Azure AI Infrastructure ist eine zentrale Säule des erweiterten Angebots und der Dienste von Microsoft und stellt Entwicklern die Systeme, Tools und Ressourcen zur Verfügung, die sie zum Erstellen der nächsten Generation KI-gestützter Anwendungen auf der Azure-Plattform benötigen.

Microsofts frühe Investitionen in Hardware und KI-Infrastruktur helfen Kunden dabei, KI-Effizienz und Innovation in Geschäftswert umzuwandeln. Durch den Einsatz von KI können Benutzer umfassendere Benutzererlebnisse schaffen, Innovationen vorantreiben und die Unternehmensproduktivität verbessern

Die KI-Infrastruktur von Microsoft Azure kann die globale Skalierbarkeit unterstützen, und Microsoft wird auch in Zukunft weiter investieren und sie erweitern. Jetzt hat Microsoft die virtuelle Maschinenserie ND H100 v5 auf den Markt gebracht, die mit der NVIDIA H100 Tensor Core-Grafikverarbeitungseinheit (GPU) und einem Netzwerk mit geringer Latenz ausgestattet ist, um Unternehmen in eine neue Ära der KI-Anwendungen zu führen.

Das Niveau der KI-Verarbeitung und -Skalierung ist beispiellos

Veröffentlichung der virtuellen Maschinenserie ND H100 v5

Microsofts neue

Azure ND H100 v5 Virtual Machine (VM)-Serie ist jetzt in den Azure-Regionen USA Ost und USA Süd-Zentral verfügbar. Die Serie verfügt über die neueste NVIDIA H100 Tensor Core GPU und NVIDIA Quantum-2 InfiniBand-Netzwerk. Mit umfassender Erfahrung in der Leistung und Skalierbarkeit von Supercomputing hat Microsoft die virtuellen Maschinen der ND H100 v5-Serie entwickelt, um die zunehmende Komplexität komplexer KI-Workloads zu bewältigen. Im Rahmen der umfassenden und kontinuierlichen Investitionen von Microsoft in KI nutzt Microsoft einen KI-optimierten 4K-GPU-Cluster und wird ihn im nächsten Jahr auf Hunderttausende neuer GPUs skalieren. Die virtuelle Maschinenserie ND H100 v5 VM verfügt über die folgenden Funktionen: - Hohe Leistung: Die virtuelle Maschinenserie ND H100 v5 VM verfügt über eine leistungsstarke Rechenleistung und Verarbeitungsgeschwindigkeit und kann komplexe Rechenaufgaben schnell bewältigen. - Flexibilität: Diese Reihe virtueller Maschinen unterstützt flexible Konfigurationsoptionen und kann entsprechend den tatsächlichen Anforderungen angepasst und angepasst werden. - Zuverlässigkeit: Die virtuelle Maschinenserie ND H100 v5 VM verwendet zuverlässige Hardware- und Softwarekomponenten, um Systemstabilität und Zuverlässigkeit zu gewährleisten. - Sicherheit: Diese Reihe virtueller Maschinen bietet eine sichere Isolationsumgebung und kann die Daten und Anwendungen der Benutzer wirksam schützen. - Benutzerfreundlichkeit: Die virtuellen Maschinen der ND H100 v5 VM-Serie bieten einfache und benutzerfreundliche Schnittstellen und Tools, sodass Benutzer virtuelle Maschinen einfach verwalten und bedienen können

    AI Super Computing GPU:
  • Ausgestattet mit acht NVIDIA H100 Tensor Core GPUs. Diese Serie kann KI-Modelle im Vergleich zu virtuellen Maschinen der vorherigen Generation erheblich beschleunigen und bietet Unternehmen eine beispiellose Rechenleistung.
  • Computerprozessoreinheit (CPU) der neuen Generation:
  • Die CPU-Leistung ist für das KI-Training und die Inferenz von entscheidender Bedeutung. Microsoft hat sich für den skalierbaren Intel Xeon-Prozessor der vierten Generation entschieden, um sicherzustellen, dass die virtuelle Maschine die beste Verarbeitungsgeschwindigkeit erreicht.
  • Netzwerk mit geringer Latenz:
  • Mit NVIDIA Quantum-2 ConnectX-7 InfiniBand verfügt jede GPU über 400 Gbit/s und jede VM über eine knotenübergreifende Bandbreite von 3,2 Tbit/s, um eine nahtlose Leistung zwischen GPUs zu gewährleisten. Dies ist der weltweit beste Supercomputer.
  • Optimierte Host-zu-GPU-Leistung:
  • Mit einer Bandbreite von 64 GB/s pro GPU über PCIe Gen5 bietet Azure einen erheblichen Leistungsvorteil zwischen CPU und GPU.
  • RIESIGER SPEICHER UND SPEICHERBANDBREITE:
  • DDR5-Speicher ist das Herzstück dieser Serie virtueller Maschinen und bietet höhere Datenübertragungsgeschwindigkeiten und Effizienz, wodurch sie sich ideal für die Bewältigung von Arbeitslasten mit riesigen Datensätzen eignen.
  • Diese Serie virtueller Maschinen hat ihre Leistungsvorteile unter Beweis gestellt, indem sie den neuen 8-Bit-Gleitkomma-Datentyp FP8 verwenden, um Matrixmultiplikationsoperationen bis zu sechsmal schneller als die FP16 der vorherigen Generation durchzuführen. ND H100 v5 VM hilft großen Sprachmodellen (wie dem End-to-End-Modell BLOOM 175B), eine bis zu zweifache Inferenzgeschwindigkeit zu erreichen, was ihr Potenzial zur weiteren Optimierung von KI-Anwendungen bestätigt.

Künstliche Intelligenz, unterstützt durch die Azure-KI-Infrastruktur, hat das Potenzial, Branchen von der Fertigung bis zum Einzelhandel, von Finanzdienstleistungen bis zum Gesundheitswesen und mehr anzutreiben.

Das obige ist der detaillierte Inhalt vonDie Azure AI-Infrastruktur wurde erheblich verbessert! Weiterer Ausbau der Fähigkeiten der künstlichen Intelligenz. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Quelle:sohu.com
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage