NVIDIA、日本と台湾で生成 AI 用の NIM マイクロサービスを導入

Alvin Lang 2024 年 8 月 27 日 02:52 NVIDIA は、日本と台湾で生成 AI をサポートする NIM マイクロサービスを開始し、地域言語モデルとローカル AI アプリケーションを強化します。

NVIDIA は、地域言語モデルを強化し、本土化生成 AI アプリケーションの開発をサポートすることを目的として、日本と台湾で生成 AI アプリケーション用の NIM マイクロサービスを導入しました。

土曜日の NVIDIA ブログ投稿で発表されたこの新しいマイクロサービスは、開発者が現地の言語や文化的なニュアンスに敏感な生成 AI アプリケーションを構築および展開できるように設計されています。マイクロサービスは人気のあるコミュニティ モデルをサポートし、地域の言語や文化遺産に基づいた理解と応答の向上を通じてユーザー インタラクションを強化します。

ABI Research によると、アジア太平洋地域における生成 AI ソフトウェアの収益は、2024 年の 50 億ドルから 2030 年までに 480 億ドルに達すると予測されています。NVIDIA の新しいマイクロサービスは、高度なツールを提供することで、この成長に重要な役割を果たすことが期待されています。 AI開発

新しい製品の中には、それぞれ日本語と中国語のデータでトレーニングされた Llama-3-Swallow-70B モデルと Llama-3-Taiwan-70B モデルがあります。これらのモデルは、現地の法律、規制、習慣をより深く理解できるように設計されています。

RakutenAI 7B ファミリーのモデルは、Mistral-7B 上に構築されており、英語と日本語のデータセットでトレーニングされており、チャットおよび指示機能用の NIM マイクロサービスとして利用できます。これらのモデルは、2024 年 1 月から 3 月までの LM 評価ハーネス ベンチマークにおいて、オープンな日本語大規模言語モデルの中で最高の平均スコアを達成しました。

日本と台湾のいくつかの組織は、すでに NVIDIA の NIM マイクロサービスを使用して生成 AI アプリケーションを開発および展開しています。

例えば、東京工業大学は、日本語データを使用して Llama-3-Swallow 70B モデルを微調整しました。日本の AI 企業である Preferred Networks は、このモデルを使用して日本の医療データでトレーニングされたヘルスケア特化型 AI を開発し、日本の医師国家試験でトップスコアを獲得しています。

台湾の長庚記念病院は、Llama-3-Taiwan 70B モデルを使用して医療コミュニケーションを改善し、病院システム内で LLM アプリケーションを一元的にホストするカスタム AI 推論サービスを構築しています。台湾に本拠を置く電子機器メーカーである Pegatron は、社内および社外のアプリケーションの両方にこのモデルを採用し、PEGAAi Agentic AI システムと統合して、製造と運用の効率を高めています。

開発者は、NIM マイクロサービスとしてパッケージ化されたこれらの主権 AI モデルを本番環境に大規模にデプロイしながら、パフォーマンスの向上を達成できるようになりました。 NVIDIA AI Enterprise で利用できるマイクロサービスは、NVIDIA TensorRT-LLM オープンソース ライブラリによる推論用に最適化されており、最大 5 倍のスループットを提供し、本番環境でのモデルの実行にかかる総コストを削減します。

新しい NIM マイクロサービスは、ホスト型アプリケーション プログラミング インターフェイス (API) として現在利用可能です。

NVIDIA NIM が生成 AI の成果をどのように加速できるかについて詳しくは、こちらの製品ページをご覧ください。

LLM などの生成 AI モデルは、テキスト、コード、画像、ビデオの生成など、さまざまなタスクを実行できる機能で人気を集めています。ただし、これらのモデルの導入は、特に迅速かつ正確な結果を必要とする組織にとっては困難な場合があります。

このニーズに対処するために、NVIDIA は、生成 AI モデルのセキュリティ、パフォーマンスの最適化、集中管理を提供する、NVIDIA AI Enterprise ソフトウェア プラットフォームや NVIDIA AI レジストリを含む、さまざまなソリューションを提供しています。

これらのソリューションを使用すると、組織はモデルを迅速かつ効率的にデプロイし、アプリケーションの最適なパフォーマンスと信頼性を確保できます。

以上がNVIDIA、日本と台湾で生成 AI 用の NIM マイクロサービスを導入の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。