アリババのインテリジェントな「組立工場」がオープンソースに！数万人のエージェントを同時に処理する経験がない-AI-php.cn

Alibaba Tongyi Lab のオープンソースマルチエージェントプログラミングフレームワークおよび開発プラットフォームである、ビルディングブロックのようなマルチエージェント開発を実現します。AgentScope。

このプラットフォームは、使いやすいプログラミングエクスペリエンス、安定した信頼性の高いランタイム保証を提供することを目的として、マルチエージェントアプリケーション開発者向けに特別に構築されており、開発者に分散型のマルチモーダルな技術サポートを提供します。

OpenAI、DashScope、Gemini、Ollama などのさまざまなプラットフォーム用のモデル API が組み込まれており、現在の大規模モデルのオープンソースエコシステムと深い互換性があります。

AgentScope には、すぐに使えるさまざまな機能が用意されており、ドラッグアンドドロップするだけでマルチエージェントアプリケーションを構築できます。

分散開発の経験がない開発者でも、AgentScope プラットフォーム上で数万レベルのマルチエージェントの同時実行を簡単に達成できます。

アリババのインテリジェントな「組立工場」がオープンソースに！数万人のエージェントを同時に処理する経験がない

#より多くのユーザーが独自のマルチエージェントアプリケーションを迅速かつ簡単に開発できるようにするため。 AgentScope は、次の機能を提供します。

ドラッグアンドドロッププログラミングパラダイム - AgentScope ワークステーション: ユーザーに視覚的なドラッグアンドドロッププログラミングパラダイムを提供します。アンドドロップ開発インターフェイス
インタラクティブプログラミングアシスタント—AgentScope Copilot: AgentScope に関する開発者の質問に答えます
#透過的で制御可能な開発プロセス - リアルタイムのアプリケーション監視: 透過的で制御可能な開発を実現するための、アプリケーションの運用コストとマルチエージェントのステータスのリアルタイム監視
豊富な開発リソース: 迅速かつ便利な二次開発を促進し、「最初から始める」ことなくアプリケーションを構築できます

AgentScope Workstation

AgentScope Workstation は、便利な「ドラッグアンドドロップ」マルチエージェントアプリケーションオーケストレーションパラダイムを提供します。

ここでは、プログラミング経験はもうあなたの想像力を制限する要素ではありません。各開発者は、コードを書かずに豊富なツールバーでお気に入りの大きなモデル、エージェント、パイプラインを選択してドラッグし、ブロックのように自由に組み合わせて、ユニークで革新的なマルチエージェントアプリケーションを作成できます。

ドラッグアンドドロップによって構築されたこれらのマルチエージェントアプリケーションが実際に使用可能であることを確認するために、AgentScope Workstation では、アプリケーションの正確性を確認する静的ルールチェックが導入されています。これにより、アプリケーションの正しい特性評価が保証されます。

さらなるカスタマイズと詳細な開発を求める上級開発者に対して、AgentScope Workstation は強力なサポートも提供します。

開発者は、アプリケーションを構成情報としてエクスポートし、AgentScope Workstation エンジンを使用して実行することも、AgentScope Workstation Compiler を使用してワンクリックで構成情報を Python コードに変換することもできます。このようにして、開発者はコードをさらに編集および最適化して、より洗練されたパーソナライズされたアプリケーション調整を実現できます。

アリババのインテリジェントな「組立工場」がオープンソースに！数万人のエージェントを同時に処理する経験がない

AgentScope Copilot

AgentScope Copilot は、AgentScope フレームワーク自体に基づいて構築された開発アシスタントであり、次のように設計されています。開発者がマルチエージェントアプリケーションの開発プロセスで遭遇する問題を解決できるように支援します。その技術的な実装は、マルチエージェントグループチャット (マルチエージェント会話) とデータ検索生成 (検索拡張生成、 RAG) 、エージェントコール (メンション) 、その他多くの機能。

AgentScope Copilot と対話する場合、開発者はガイドアシスタント

(ガイドアシスタント) と対話して、質問と回答アシスタントなどの専用のエージェントアシスタントを呼び出すこともできます。（家庭教師アシスタント）またはコードプログラミングアシスタント（コーディングアシスタント）。より専門的で具体的な回答が得られます。より具体的には、コードプログラミングアシスタントは、開発者がフレームワーク内の各モジュールの定義と使用法を迅速に明確にし、より適切なプログラミングの提案を提供するのに役立ちます。

アリババのインテリジェントな「組立工場」がオープンソースに！数万人のエージェントを同時に処理する経験がない

AgentScope Copilot 自体は、AgentScope フレームワークの RAG モジュールに基づいて構築されており、LlamaIndex などの一般的なデータ取得フレームワークをサポートしていることは言及する価値があります。さまざまなベクトルデータベースタイプであり、さまざまな大規模な言語モデルへのアクセスをサポートします。開発者は二次開発を迅速に実行し、独自のプロジェクト用に Copilot アシスタントを簡単に構築できます。

アリババのインテリジェントな「組立工場」がオープンソースに！数万人のエージェントを同時に処理する経験がない #透明で制御可能な開発プロセス

使いやすいアプリケーション開発プロセスは、開発者にとって制御可能で透明である必要があります。

ただし、マルチエージェントのシナリオでは、多くの種類のモデル API とさまざまな呼び出しインターフェイスが存在し、モデル API の使用コストを効果的に管理および監視し、リソースの無駄や予期せぬ出費を回避する方法が、リソースの監視にとってより大きな課題となります。能力。

たとえば、検索エンジンを使用するときに複雑な Web ページを大規模モデルへの入力として取得すると、オーバーヘッドが大きくなり、開発者の認識が遅れることがよくあります。この問題を解決するために、AgentScope は以下を実装するように Monitor モジュールを設計しました。

自動 API コスト統計: さまざまなモデル API のトークン使用量を正確に記録し、現在のコストを自動的に計算して、開発者はモデル API コストのすべての支出を明確に理解できます。

予算設定と超過アラーム: 開発者が各モデル API の予算上限を設定できるようにサポートします。総支出が予算を超えると、システムは自動的にアラームをトリガーし、過剰支出を避けるために検査と調整を行うよう開発者に即座に通知します。

カスタム監視インジケーターのサポート: プリセットモデル API 関連のインジケーターに加えて、Monitor を使用すると、開発者は検索ツールのコストやデータストレージのコストなど、他の監視インジケーターをカスタマイズすることもできます。サービス、ネットワークトラフィックなどを監視し、開発者がアプリケーションのステータスを包括的かつ自動的に監視できるようにします。

アリババのインテリジェントな「組立工場」がオープンソースに！数万人のエージェントを同時に処理する経験がない

#△ 監視モジュール

#すぐに使える開発リソース

AgentScope豊富な組み込みツール機能、エージェント、アプリケーション例があり、開発者は軽量の変更を加えて独自のマルチエージェントアプリケーションを簡単に開発できます。

ツール機能: AgentScope は、ネットワーク検索、データベースクエリ、ファイル操作、テキスト処理など、さまざまなタイプのツール機能をサポートしています。各カテゴリには異なる実装形式が含まれています。たとえば、ネットワーク検索レベルでは、AgentScope はすでに Bing、arXiv、DBLP などの複数の検索エンジンをサポートしています。

Agent: AgentScope には、基本ダイアログ、フォーマットされたダイアログ、推論、RAG、分散エージェント、その他のさまざまな種類のエージェントを含む、さまざまな機能を持つ組み込みエージェントがあります。開発者は、さまざまなパラメータを使用してエージェントインスタンスを初期化するだけで、エージェントを必要なエージェントインスタンスに特化できます。

アプリケーション例: AgentScope には、ダイアログ (会話) 、ゲーム (ゲーム) 、および分散 (配信)# がプリセットされています。 ## およびさまざまな種類のアプリケーション。これらのサンプルは、開発者が開発コストを削減するのに役立つ一方で、アプリケーション開発のためのテンプレートやリファレンスも提供します。開発者が AgentScope の組み込みリソースをより深く、より速く理解できるようにするために、AgentScope は、チュートリアル

(チュートリアル)

やインターフェイスドキュメント (API など) を含む豊富で詳細なドキュメントを提供します。 Document) および設計書は、開発者が AgentScope をよりよく理解して使用できるようにするために役立ちます。安定性と信頼性の高い

大規模モデルに基づくマルチエージェントアプリケーションは、モデルの錯覚やモデルの指示に従う能力の不足など、多くの新たな課題に直面します。マルチエージェントアプリケーションが安定して確実に実行できるようにするために、AgentScope はまずアプリケーションで発生するエラーを分類し、次にフォールトトレランスメカニズムの完全なセットと、それに応じてカスタマイズされたフォールトトレランス処理を提供します。

ランダム性指向の耐障害性

: ランダムエラーは、不安定なネットワーク状態やモデルによって生成されたコンテンツの不確実性によって発生することが多く、大規模なモデルに基づいてアプリケーションを構築する場合に最も一般的なタイプです。。間違い。このようなエラーは多くの場合非常に些細であり、完全に把握するのが難しいため、AgentScope は組み込みの再試行メカニズムを使用して、そのようなランダムなエラーをフィルタリングして保護し、開発者がアプリケーションのオーケストレーションにエネルギーを注ぎやすくします。

ルールベースのフォールトトレランス

: アプリケーションで発生した一部のエラーは、ルールによって修復できます。たとえば、指定された形式で応答を生成するために大規模なモデルが必要な場合、大規模なモデルは追加のコンテンツを生成することがありますが、アプリケーションの通常の動作を保証するために、事前に設定されたルールによってコンテンツを切り詰めることができます。

モデルベースのフォールトトレランス

: 大規模モデルの独自機能を使用してエラーを修正することは、マルチエージェントアプリケーションの特徴の 1 つであり、AgentScope は入力およびエラー情報を大規模モデルに提供しようとします。モデルの理解と知識を使用してエラーを修正します。

エージェント/開発者向けの耐障害性

: 事前に設定されたルールや大規模なモデルではエラーを解決できない場合、多くの場合、問題を解決するために開発者またはエージェントの介入が必要となるため、AgentScope発生した問題の解決に役立てるため、エラー、フォーマットされた属性、エラー情報、エラーの入出力情報がすべて開発者またはエージェントに送信されます。プロンプトの最適化

マルチエージェントアプリケーションのパフォーマンスの向上は、大規模なモデルのプロンプト (プロンプト) の品質に大きく依存します。適切なプロンプトは、アプリケーションの動作が成功する確率を大幅に高めます。 AgentScope プログラミングフレームワークは、開発者がアプリケーションを継続的に最適化できるように、プロンプトチューニングモジュールを提供します。

プロンプトの自動生成: 開発者にとって、適切なプロンプトを生成することは、多くの場合、時間と労力を要する作業です。 AgentScope にはエージェントがプリセットされており、内部でインコンテキスト学習 (ICL) を使用して開発者のアプリケーションシナリオを包括的に統合し、開発者が迅速に開発を開始できるように必要なプロンプトを直接生成します。

サンプル入力のサポート: AgentScope では、開発者は複数のサンプルをテンプレートとして同時に入力でき、AgentScope はこれらのサンプルに基づいて特定の下流タスク用の特定のプロンプトワードを生成できます。

プロンプトの動的調整: アプリケーションの実行プロセス中に、エラーを回避するための新しいルールを追加するなど、動作条件に応じて大規模モデルのプロンプトワードをさらに調整する必要があります。 AgentScope は、エージェントが開発者および環境と対話するプロセスにおいて、その履歴データがプロンプトを調整するための基礎となります。AgentScope は、その時点のシーンに基づいてエージェントのシステムプロンプト (システムプロンプト)# を変更します。 ##これにより、動作中のエージェントのパフォーマンスが向上します。分散並列

マルチエージェントプログラミングフレームワークとして、AgentScope は設計当初からエージェント間のコラボレーション効率の向上を主な目標の 1 つとして捉え、この目的のために分散を設計しました。スタイルモード。このモードでは、複数のエージェントを異なるプロセスやマシンで実行できるため、コンピューティングリソースが最大限に活用され、運用効率が向上します。 AgentScope の分散設計には主に次の特徴があります。

自動並列最適化

: AgentScope の分散設計はアクタープログラミングパラダイムに従い、アプリケーションプロセスオーケストレーションにおけるさまざまなエージェント間の潜在的な違いを自動的に識別できます。並列可能、自動並列最適化が実行され、動作効率が向上します。同時に、各エージェントはローカルまたはリモートのマシン上で独立して実行でき、コンピューティングリソースを最大限に活用し、大規模な展開をサポートします。

開始の敷居は非常に低いです

: AgentScope は、開発者を分散テクノロジの実装の詳細から完全に保護します。開発者は、コストなしで分散マルチエージェントアプリケーションを開発したり、既存のマルチエージェントを使用したりできます。エージェントアプリケーションを分散モードに変換して実行します。 AgentScope の分散アプリケーションオーケストレーションは、分散アプリケーションに変換すると、ローカライズされたオーケストレーション方法と完全に互換性があり、分散の背景知識がなくても、分散マルチエージェントアプリケーションを簡単にオーケストレーションできます。

大規模展開のサポート

: AgentScope は現在、単一マシン (64 コア 8 カード A100) 上で一度に 16,000 を超えるエージェントインスタンスの実行をサポートしています。スケールはマシンの数が増加するにつれて直線的に増加します。たとえば、AgentScope は、4 台のマシンのクラスタ上で 64,000 件を超えるエージェントコールを 30 秒以内に完了できます。この機能により、大規模な並列処理とエージェントのシミュレーションが可能になります。

アリババのインテリジェントな「組立工場」がオープンソースに！数万人のエージェントを同時に処理する経験がない △