生成 AI を管理する方法

著者丨Dom Couldwell

コンパイル丨Noah

制作 | 51CTO テクノロジー スタック (WeChat ID: blog51cto)

マッキンゼー・アンド・カンパニーの推計によると、生成人工知能は世界経済に年間 2 兆 6,000 億米ドルから 4 兆 4,000 億米ドルの経済的利益をもたらすと予想されています。この予測は、複数の市場の顧客に改善、効率向上、新製品をもたらすと期待される 63 の新しいアプリケーション シナリオに基づいています。これは開発者や IT リーダーにとって大きなチャンスであることは間違いありません。

生成 AI の中核はデータにあります。データは、生成 AI に周囲の世界を理解して分析する能力を与えるだけでなく、その変革の可能性を強化します。生成 AI の分野で成功するには、企業はデータを効果的に管理し、準備する必要があります。

大規模な AI サービスの構築と運用を成功させ、生成 AI プロジェクトをサポートするには、データの準備についてしっかりと下調べを行い、賢明で持続可能な資金調達戦略を採用する必要があります。ペースが遅く、サポートが弱まるアプローチでは、人工知能の優位性にはつながりません。そのため、AIサービスの規模拡大に加え、長期的な開発と継続的なイノベーションを促進するプロジェクトの安定した資金源を確保する必要があります。

データの管理方法を改善するか、規模とコストの管理に適切なアプローチをとらなければ、生成 AI の大きな可能性が無駄になってしまいます。データ管理へのアプローチを改善し、長期的に生成 AI プロジェクトをサポートする方法について、いくつかの考えを示します。

1. データはどこから来るのですか?

データはさまざまな形で存在しますが、適切に使用すれば、各形式のデータを生成する AI の洞察をさらに豊かにすることができます。そして品質。

最初の形式は構造化データで、規則的かつ一貫した方法で編成され、製品情報、顧客層、在庫レベルなどの項目が含まれます。このタイプのデータは、応答の品質を向上させるために生成 AI プロジェクトに追加できる、組織化されたファクト ベースを提供します。

さらに、天気予報、株価、交通の流れなど、内部の構造化データ ソースを補完する外部データ ソースがある場合もあります。このデータは意思決定プロセスにリアルタイムの現実世界のコンテキストをもたらすことができ、それをプロジェクトに統合することで追加の高品質データを提供できますが、このデータを自分で生成する必要はない場合もあります。

もう 1 つの一般的なデータ セットは派生データです。これには、分析およびモデリング シナリオを通じて作成されたデータが含まれます。このような洞察には、顧客意図レポート、季節売上予測、セグメント分析などが含まれる場合があります。

データの最後の一般的な形式は非構造化データであり、アナリストが使用する通常のレポートやデータ形式とは異なります。この種類のデータには、画像、ドキュメント、データ形式などの形式が含まれます。オーディオファイル。これらのデータは、人間のコミュニケーションと表現のニュアンスを捉えています。生成 AI プログラムは多くの場合、生成 AI モデルの一般的な入出力である画像または音声を中心に動作します。

2. 生成 AI の大規模応用を実現するには

これらの多様なデータセットはすべて、それぞれ独自の環境に存在します。これを生成 AI プロジェクトに活用するには、この多様なデータ環境にリアルタイムでアクセスできるようにすることが重要です。このように大量の潜在的なデータが関係するため、どのようなアプローチでも、需要の増大に応じて動的に拡張し、データをグローバルにレプリケートし、要求されたときにリソースがユーザーの近くにあることを保証して、ダウンタイムを回避し、トランザクション リクエストの待ち時間を短縮できなければなりません。

さらに、このデータは、生成 AI システムで効果的に利用できるように前処理する必要もあります。これには、意味論的な意味を表す数学的値またはベクトルである埋め込みの作成が含まれます。埋め込みにより、生成 AI システムは特定のテキストのマッチングを超えて、データに埋め込まれた意味やコンテキストを受け入れることができます。元のデータ形式に関係なく、エンベディングを作成すると、そのデータの意味とコンテキストを保持しながら、生成 AI システムでデータを理解して使用できるようになります。

これらの埋め込みを使用すると、企業は価値と意味を組み合わせながら、すべてのデータにわたるベクトル検索またはハイブリッド検索をサポートできます。これらの結果は収集され、結果を統合するために使用される大規模言語モデル (LLM) に戻されます。 LLM 自体だけに依存するのではなく、複数のソースからより多くのデータを提供することで、生成 AI プロジェクトはより正確な結果をユーザーに提供し、架空のコンテンツのリスクを軽減できます。

これを実際に達成するには、基礎となる正しいデータ アーキテクチャを選択する必要があります。このプロセスでは、データがさまざまなソリューションに分散されて断片化されたパッチワークを形成することをできる限り避ける必要があります。これは、そのような各ソリューションが長期的なサポート、クエリ、管理を必要とするデータの孤島に相当するためです。ユーザーは、複数のコンポーネントが応答して結果がモデルによって評価されるのを待つのではなく、LLM にすぐに質問して、すぐに応答を得ることができる必要があります。統合されたデータ アーキテクチャはシームレスなデータ統合を提供し、生成 AI が利用可能なデータ スペクトル全体を完全に活用できるようにする必要があります。

3. モジュール式アプローチの利点

生成型 AI の実装を拡張するには、導入の加速と重要な資産の管理の維持の間でバランスを取る必要があります。生成 AI エージェントの構築にモジュール型のアプローチを採用すると、実装プロセスが細分化され、潜在的なボトルネックが回避されるため、このプロセスが容易になります。

アプリケーションでのマイクロサービス設計の適用と同様に、AI サービスへのモジュール型アプローチも、アプリケーションとソフトウェアの設計に関するベスト プラクティスを促進し、障害点を排除し、複数の潜在的なユーザーがより多くのアクセスを可能にします。このテクノロジーに。このアプローチにより、企業全体の AI エージェントのパフォーマンスの監視も容易になり、問題が発生している場所をより正確に特定できるようになります。

モジュール性の最初の利点は、生成 AI システムに関与するコンポーネントが互いに分離されているため、エージェントがどのように動作し、意思決定を行うかを分析しやすくなるため、解釈可能であることです。 AI は「ブラック ボックス」と見なされることが多く、モジュール化により結果の追跡と解釈が容易になります。

2 番目の利点はセキュリティです。最適な認証および認可メカニズムで個々のコンポーネントを保護できるため、許可されたユーザーのみが機密データや機能にアクセスできるようになります。また、モジュール性により、個人を特定できる情報 (PII) や知的財産 (IP) を保護し、基礎となる LLM から分離して保管できるため、コンプライアンスとガバナンスも容易になります。

4. 継続的に柔軟な資金調達モデルを提供する

マイクロサービス アプローチの採用に加えて、生成 AI プロジェクト全体にプラットフォームの考え方を採用する必要があります。これは、従来のプロジェクトベースのソフトウェア プロジェクト資金調達モデルを、継続的で柔軟な資金調達モデルを提供するモデルに置き換えることを意味します。このアプローチにより、参加者は、厳格な資金調達サイクルやビジネス ケースに制約されることなく、価値に基づいた意思決定を行い、新たな機会に対応し、ベスト プラクティスを開発できるようになります。

この方法で予算を管理すると、開発者やビジネス チームが生成 AI を組織の既存のインフラストラクチャの一部として検討することも促進され、計画ワークロードの急増と谷を平準化することが容易になります。 「センター・オブ・エクセレンス」アプローチを採用し、長期にわたって一貫性を維持することが容易になります。

同様のアプローチは、生成 AI を純粋なソフトウェアではなく、企業自体が運用する製品とみなすことです。 AI エージェントは製品として管理する必要があります。そうすることで、AI エージェントが生み出す価値がより効果的に反映され、統合、ツール、ヒントのサポート リソースがより簡単に利用できるようになるからです。このモデルを簡素化することで、生成 AI に対する理解が組織全体に広がり、ベスト プラクティスの採用が促進され、生成 AI 開発における専門知識の共有とコラボレーションの文化が生まれます。

生成 AI には大きな可能性があり、企業は新しいツール、エージェント、キューを業務に導入しようと競い合っています。ただし、これらの潜在的なプロジェクトを本番環境に移行するには、データの効果的な管理、システムを拡張するための基盤、チームをサポートするための予算モデルが必要です。プロセスを正しく行い、優先順位を付けることは、あなたとあなたのチームがこのテクノロジーの変革の可能性を解き放つのに役立ちます。

参考アドレス: https://www.infoworld.com/article/3713461/how-to-manage-generative-ai.html