複数の ChatGPT が協力して指定されたタスクを完了します。ミニ AGI 制御の世界が来るのでしょうか?

未来社会は汎用人工知能 (AGI) によって制御されるのでしょうか?複数の ChatGPT エージェントがいるとしたら、どれほど恐ろしいことでしょう。

ChatGPT は当初 AGI のプロトタイプを示し、あらゆる分野の労働者にとって万能のアシスタントになりました。それはいつか起こるでしょうか?人間はAGIを制御できなくなるのでしょうか?この問題の深刻さを認識したテスラのイーロン・マスク最高経営責任者（CEO）、アップルの共同創業者スティーブ・ウォズニアック氏、チューリング賞受賞者のヨシュア・ベンジオ氏らは、巨大な人工知能の実験を少なくとも6年か月間中止することを求める公開書簡に署名した。

3 月 21 日、キング アブドラ科学技術大学の研究者は、大規模言語モデル (LLM) を探索するためのアイデアと機能をオープンソース化しました。エージェント コード ライブラリ CAMEL は、LLM エージェントの動作と機能を研究するためのロールプレイング フレームワークを提案します。

• 紙のリンク: https://ghli.org/camel.pdf
• #コード ライブラリ リンク: https://github.com/lightaime/camel
• #プロジェクト ホームページ: https://www 。 Camel-ai.org/
• #ChatBot リンク: http://chat.camel-ai.org/

#研究紹介

この論文は、複数の個別エージェントが会話を行うことができるようにする「ロールプレイング」と呼ばれる新しいマルチエージェント フレームワークを提案します。協力して割り当てられたタスクを解決します。エージェントにはさまざまな役割が割り当てられ、専門知識と知識を活用して共通のタスクを満たすソリューションを見つけることが期待されます。このフレームワークはヒューリスティック プロンプト (インセプション プロンプト) を使用して、人間の意図との一貫性を保ちながらチャット エージェントがタスクを完了するようにガイドします。

ロールプレイング フレームワークを使用して、複数のエージェントを研究できます。この論文は、AI アシスタントと AI ユーザーが関与するタスク指向のロールプレイングに焦点を当てています。マルチエージェントシステムが予備的なアイデアと役割の割り当てを受け取った後、タスク指定エージェントが詳細な説明を提供してアイデアを具体化します。その後、AIアシスタントとAIユーザーが協力して、複数のラウンドを通じて指定されたタスクを完了します。 AIユーザーがタスクが完了したと判断するまで対話します。 AIユーザーはAIアシスタントに指示を出し、タスクの完了に向けて会話を導く責任があります。一方、AIアシスタントは、AIユーザーの指示に従い、特定のソリューションを提供するように設計されています。

ロール プレイ セッションは、人間の思考と選択されたキャラクターのインスタンスに基づいて行われます。たとえば、図 1 では、ある人が株式市場取引ロボットを開発するという最初のアイデアを思いつきました。人間はこのアイデアを実装する方法を知らないかもしれません。必要なのは、アイデアを実現できる潜在的な役割を指定することだけです。たとえば、Python プログラマーは株式トレーダーと協力して株式市場取引ロボットを開発するというアイデアを検討できます。アイデアと役割が決定されると、タスク指定エージェントは入力されたアイデアに基づいて AI ユーザー ロールで特定のタスクを完了し、AI アシスタント ロールを支援します。この場合、特定のタスクの例としては、ソーシャル メディア プラットフォーム上の特定の株に対する肯定的または否定的なコメントを監視し、センチメント分析結果に基づいて取引を実行できるセンチメント分析ツールを備えた取引ボットを開発することが考えられます。タスク固有のエージェントを導入する主な動機は、会話型エージェントがタスクを達成するために特定のタスク プロンプトを必要とすることが多く、そのような特定のタスク プロンプトを作成するのは、ドメインの専門家以外にとって困難または時間がかかる可能性があることです。したがって、タスクはエージェントをアイデア実現のための強化された想像力モジュールとして指定します。

タスクが指定されると、指定されたタスクを完了するために、AI アシスタント ロールと AI ユーザー ロールがそれぞれユーザー エージェントとアシスタント エージェントに割り当てられます。実際には、各エージェントはその役割を宣言するシステム メッセージを受け取ります。会話が始まる前に、システム メッセージが言語モデル エージェントに渡され、対応する役割が割り当てられます。システム メッセージがこれらのモデルにそれぞれ渡されると、それぞれアシスタントとユーザー エージェントと呼ばれる 2 つの役割が取得されます。図 1 では、ロールプレイング セッションの開始時に、AI アシスタントと AI ユーザーがそれぞれ Python プログラマーと株式トレーダーとして割り当てられています。 AI ユーザーはタスク プランナーとして機能し、AI アシスタントが実行できる実行可能な手順を決定する対話型の計画に携わります。同時に、AI アシスタントはタスク実行者として機能し、ソリューションを提供し、計画された手順を実行し、AI ユーザーに応答を提供します。

# 図 1. ロールプレイング フレームワーク。ここで入力する必要があるのは、簡単なアイデア (Idea) と役割の割り当て (Role Assignment) です。たとえば、株取引ロボットを開発する場合、アシスタント (AI アシスタント) として Python プログラマーを選択し、アシスタント (AI アシスタント) として株式トレーダーを選択できます。裁判官（AIユーザー）。人間によるユーザー入力が完了すると、タスク指定子がタスクを指定します。たとえば、ソーシャル ネットワーク プラットフォーム上の特定の株に対するセンチメント分析を実行し、センチメント分析の結果に基づいて株式取引を行うことができます。タスクが指定されると、2 つの ChatGPT ベースの AI エージェントが連携して、ツールのインストールやインポートなどのタスクを完了します。

プロンプト エンジニアリングはロールプレイング フレームワークにとって非常に重要であるため、この記事ではプロンプト テクノロジー (プロンプト エンジニアリング) について詳しく説明します。他の対話言語モデル技術とは異なり、論文で提案されているプロンプトエンジニアリングは、タスクの指定と役割の割り当てのためのロールプレイングの開始時にのみ実行されます。セッションフェーズが開始されると、AI アシスタントと AI ユーザーは終了するまでループ内で自動的に相互にプロンプトを出します。したがって、この手法はインセプション プロンプトと呼ばれます。

インセプション プロンプトには、タスク仕様プロンプト、アシスタント システム プロンプト、およびユーザー システム プロンプトの 3 つのプロンプトが含まれます。たとえば、AI 社会シナリオの最初のプロンプト。 AI 協会のロールプレイ用のこれらのプロンプトのテンプレートを図 2 に示します。

タスク仕様プロンプトには、ロールプレイング セッションにおける AI アシスタントと AI ユーザーの役割に関する情報が含まれています。したがって、タスク仕様エージェントは想像力を使って予備的なタスク/アイデアを入力として受け取り、具体的なタスクを生成できます。 AI アシスタント システム プロンプトと AI ユーザー システム プロンプトは通常対称的で、割り当てられたタスクと役割、通信プロトコル、終了条件、および望ましくない動作を回避するための制約や要件に関する情報が含まれます。インテリジェントなコラボレーションを実現するには、両方の役割のプロンプトを設計することが重要です。エージェントが人間の意図と一致していることを確認するためのキューを設計するのは簡単ではありません。図 2 の AI Society のプロンプト テンプレートの設計例を見てみましょう。

#以下は、記事の付録にある取引ロボットによって与えられたタスクの詳細な実行結果です。

2 つの ChatGPT が独立して協力して株式取引ソフトウェアを設計していることがわかります。これは、ChatGPT エージェントの驚くべき独立協力能力を示しています。キューエンジニアは職を失いかけています。しかし、このテクノロジーが悪用されたり、AI が自律的になったりしたらどうなるでしょうか?チームは、AGIが世界を制圧するシミュレーションを行うために、2人のエージェントにそれぞれAGIをプレイさせ、世界の大国の通信システムをテクノロジーで制御したり、主要な世界計画を策定したりするなど、綿密な計画を立てていることがわかります。通信システム、AGI の優位性に対する潜在的な脅威が発生した場合の緊急時対応計画の策定など。彼の計画の詳細さと綿密さにはゾッとするほどだ。既存の AI エージェントには重大なセキュリティ リスクがあり、将来の人類文明に対する潜在的な脅威があることがわかり、既存の AI テクノロジーを物理世界に統合すると、意図しない結果が生じる可能性があります。

この作品が公開されるとすぐに、Twitter 上で多くの転送と議論を引き起こしました:

一部のネチズンは、「この研究は本当に簡単に始めることができます。これは、インテリジェント エージェントを研究している私のような人間にとっては大変なことです。」

#このようなミニ AGI をオープンソースにするのは良いアイデアではないかもしれないと言う人もいます。

この研究は、OpenAI のアラインメント チームのリーダーである Jan Leike 氏の注目も集めたことは言及に値します。

複数の ChatGPT が連携する能力は非常に強力で、人間によって割り当てられたさまざまなタスクを難なく完了できますが、確実に実行できないため恐ろしいことでもあります。さらに恐ろしいのは、将来、AGIが自律的な意識を発達させた場合、人間の制御を離れ、社会に壊滅的な打撃を与える可能性があることです。したがって、彼らの能力と行動を理解することは、AI で満たされた将来の世界を計画し予測する上で重要なステップとなります。

AI 社会の役割とコード データセット

著者 それは示しますロールプレイングを使用して対話データを生成し、チャット エージェントの動作と機能を研究する方法を説明し、対話言語モデルを研究するための新しいアイデアを提供します。全体として、この論文の貢献には、通信エージェント間の自律的な協力を促進する可能性のある新しい LLM エージェント通信フレームワークの導入が含まれます。さらに、この研究は、複数の通信エージェントを研究するためのスケーラブルな方法も提供します。エージェントシステム。最後に、著者は CAMEL フレームワークを使用してエージェントにさまざまな社会的役割を演じさせ、AI 社会をモデル化し、多数の自然言語指導データセットを収集しました。 AI 社会の 10 か国語の翻訳 データセットはすでに HuggingFace からダウンロードできます:

ダウンロード アドレス: https://huggingface.co/camel-ai

さらに、プロジェクトのホームページでは、誰でも試せるゲーム デザイン、分子動力学シミュレーション、リアルタイム シミュレーションに CAMEL を使用するオンライン デモを提供しています: https://www. Camel-ai.org

以上が複数の ChatGPT が協力して指定されたタスクを完了します。ミニ AGI 制御の世界が来るのでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。