NVIDIA NIM-Microservices beschleunigen die GenAI-Innovation in Unternehmen durchgängig und sind zu einem Highlight für Softwareunternehmen geworden!

Das Softwareentwicklungsunternehmen Cloudera hat kürzlich eine strategische Partnerschaft mit NVIDIA angekündigt, um die Bereitstellung generativer KI-Anwendungen zu beschleunigen. Die Zusammenarbeit umfasst die Integration der KI-Mikrodienste von NVIDIA in die Cloudera Data Platform (CDP) und soll Unternehmen dabei helfen, schneller benutzerdefinierte große Sprachmodelle (LLMs) auf der Grundlage ihrer Daten zu erstellen und zu skalieren. Diese Initiative wird Unternehmen leistungsfähigere Tools und Technologien zur Verfügung stellen, mit denen sie ihre Datenressourcen besser nutzen und den Entwicklungs- und Bereitstellungsprozess von KI-Anwendungen beschleunigen können. Diese Zusammenarbeit wird den Unternehmen mehr Möglichkeiten bieten und ihnen dabei helfen, effizientere datengesteuerte Entscheidungen zu treffen und die Geschäftsentwicklung voranzutreiben. Die Zusammenarbeit zwischen Cloudera und NVIDIA wird Unternehmen mehr Auswahlmöglichkeiten und Flexibilität bieten und soll die weit verbreitete Anwendung der KI-Technologie in verschiedenen Branchen fördern.

In dieser Zusammenarbeit plant Cloudera, die NVIDIA AI Enterprise-Technologie, einschließlich der NVIDIA Inference Manager (NIM)-Mikrodienste, vollständig zu nutzen, um Erkenntnisse aus mehr als 25 Exabyte an Daten in CDPs zu gewinnen. Diese wertvollen Unternehmensinformationen werden in die Plattform für maschinelles Lernen von Cloudera importiert, einen vom Unternehmen bereitgestellten End-to-End-KI-Workflow-Service, der eine neue Runde generativer KI-Innovationen vorantreiben soll.

Priyank Patel, VP of AI/ML Products bei Cloudera, stellte fest, dass Unternehmensdaten in Kombination mit einer Full-Stack-Plattform, die für große Sprachmodelle optimiert ist, von entscheidender Bedeutung sind, um die generativen KI-Anwendungen eines Unternehmens vom Pilotprojekt in die Produktion zu überführen. Cloudera integriert derzeit NVIDIA NIM- und CUDA-X-Mikrodienste, um seine Plattform für maschinelles Lernen voranzutreiben und Kunden dabei zu helfen, das Potenzial von KI in die geschäftliche Realität umzusetzen.

Diese Zusammenarbeit unterstreicht die Stärke von Cloudera und NVIDIA bei technologischer Innovation und zeigt auch die schnell wachsende Marktnachfrage nach generativen KI-Anwendungen. Durch die Integration der Ressourcen und technischen Vorteile beider Parteien werden wir gemeinsam die praktische Anwendung von KI in Unternehmen fördern und Unternehmen effizientere und intelligentere Lösungen bieten.

Darüber hinaus können Unternehmen durch die Nutzung der riesigen Datenmengen in CDP und deren Kombination mit den leistungsstarken Funktionen der Cloudera-Plattform für maschinelles Lernen tiefer in den Wert von Daten eintauchen und genauere Entscheidungen und effizientere Geschäftsabläufe erzielen. Diese Zusammenarbeit wird den Unternehmen eine intelligentere und automatisiertere Zukunft bescheren und die Entwicklung und den Fortschritt der gesamten Branche fördern.

1. Modelle und Daten verbinden

Bei der Verknüpfung von Modellen und Daten steht die Unternehmens-KI vor einer zentralen Herausforderung: Wie kann das zugrunde liegende Modell mit relevanten Geschäftsdaten verknüpft werden, um genaue und kontextbezogene Ergebnisse zu generieren? Die NIM- und NeMo Retriever-Microservices von NVIDIA zielen darauf ab, diese Lücke zu schließen, indem sie es Entwicklern ermöglichen, LLMs (Large Language Models) mit strukturierten und unstrukturierten Unternehmensdaten zu verbinden, die von Textdokumenten bis hin zu Bildern und Visualisierungen reichen.

Konkret wird Cloudera Machine Learning integrierte NIM-Modellbereitstellungsfunktionen bereitstellen, um die Inferenzleistung zu verbessern und Fehlertoleranz, geringe Latenz und automatische Skalierung in Hybrid- und Multi-Cloud-Umgebungen zu ermöglichen. Die Hinzufügung von NeMo Retriever wird die Entwicklung von Retrieval Augmented Generation (RAG)-Anwendungen vereinfachen, die die Genauigkeit generativer KI durch den Abruf relevanter Daten in Echtzeit verbessern.

Dabei ist NVIDIA NeMo Retriever ein brandneuer Dienst in der NVIDIA NeMo-Framework- und Tool-Reihe. NeMo ist eine Familie von Frameworks und Tools zum Erstellen, Anpassen und Bereitstellen generativer KI-Modelle. Als semantischer Retrieval-Microservice nutzt NeMo Retriever NVIDIA-optimierte Algorithmen, um generative KI-Anwendungen dabei zu unterstützen, genauere Antworten zu liefern. Entwickler, die diesen Microservice nutzen, können ihre KI-Anwendungen mit Geschäftsdaten verbinden, die sich in verschiedenen Clouds und Rechenzentren befinden. Diese Verbindung erhöht nicht nur die Genauigkeit von KI-Anwendungen, sondern ermöglicht Entwicklern auch eine flexiblere Verarbeitung und Nutzung von Unternehmensdaten.

Zusammenfassend lässt sich sagen, dass Microservices wie NIM und NeMo Retriever von NVIDIA Unternehmen eine effektive Möglichkeit bieten, KI-Modelle eng mit Geschäftsdaten zu integrieren, um genauere und nützlichere Ergebnisse zu generieren. Damit stehen Unternehmen leistungsstarke Werkzeuge zur Verfügung, um die Anwendung und Entwicklung von KI in verschiedenen Bereichen weiter voranzutreiben.

2. Von Daten zur generativen KI-Bereitstellung, was die Zeit erheblich verkürzt

Die Zusammenarbeit zwischen NVIDIA und Cloudera öffnet eine neue Tür für Unternehmen und führt sie dazu, riesige Datenmengen effizienter zu nutzen, um individuelle kollaborative Assistenten und Produktivität zu entwickeln Werkzeuge. Justin Boitano, Vizepräsident für Unternehmensprodukte bei NVIDIA, sagte: „Die Integration von NVIDIA NIM-Mikrodiensten mit der Cloudera-Datenplattform bietet Entwicklern eine flexiblere und einfachere Möglichkeit, große Sprachmodelle bereitzustellen und so die Unternehmenstransformation voranzutreiben.“

Durch die Vereinfachung des Wegs von Daten zur generativen KI-Bereitstellung wollen Cloudera und NVIDIA die Einführung transformativer Anwendungen wie Codierungsassistenten, Chatbots, Tools zur Dokumentenzusammenfassung und semantischen Suchtools in Unternehmen beschleunigen. Diese Zusammenarbeit baut auf den früheren Bemühungen der beiden Unternehmen auf, die GPU-Beschleunigung durch die Integration von NVIDIA RAPIDS in CDP zu nutzen.

Patel betonte die geschäftlichen Vorteile der erweiterten Zusammenarbeit und erklärte: „Die Ergebnisse dieser Integration bieten den Kunden nicht nur leistungsstarke generative KI-Funktionen und -Leistungen, sondern ermöglichen es ihnen auch, präzisere und zeitnahere Entscheidungen zu treffen.“ Reduzierung von Ungenauigkeiten, Illusionen und Fehlern in Prognosen – das sind entscheidende Faktoren bei der Navigation in der heutigen Datenumgebung.“ Während führende Unternehmen das Potenzial grundlegender Modelle zur Transformation ihrer Abläufe erkunden, sind Cloudera und NVIDIA davon überzeugt, dass ihre Zusammenarbeit ihre Kunden an die Spitze der aufkommenden Ära der Unternehmens-KI bringen wird.