GPT-5 の脅威は圧倒的なものになっています。
GPT-4 の誕生後、AI が人間社会に与える可能性のある破壊的な影響は、すでに多くの業界リーダーを恐怖させています。
最近、全世界が ChatGPT を攻撃しているようです。
マスク氏、チューリング賞受賞者のベンジオ氏、その他の著名人が少し前に共同で始めた、高度なAIの研究開発を中止する公開書簡は、現在9,000件以上の署名に達している。
その直後、米国の非営利団体Center for Artificial Intelligence and Digital Policy (CAIDP)も連邦取引委員会(FTC)に次のように要請した。 OpenAI は消費者保護規則に違反していないかどうかを調査し、GPT-4 のさらなる公開を禁止します。
しかし、イタリアは ChatGPT を全国的に禁止し、OpenAI に 20 日間の調整期間を与えただけで、適格な解決策を見つけられなかった場合、最大 2000 万円の罰金を支払わなければなりません。 2000万ユーロ。
興味深いのは、イタリアがこの取り組みを始めて以来、他のいくつかの国も積極的に行動を起こそうとしていることです。 ChatGPT で。
フランスとアイルランドのプライバシー規制当局はイタリアの当局に連絡し、捜査の詳細を求めている。
ドイツ連邦データ保護委員のウルリッヒ・ケルバー氏は、「原則として、ドイツでも同様の手順を採用することが可能です。」と述べました。 , 欧州連合もChatGPTを高リスクAIシステムとして規制する計画案を提案している。
米国も行動を起こしました
ロイター通信によると、大統領科学技術諮問委員会(PCAST)の会議中、バイデン氏は次のように強調した。「私の考えでは、テクノロジー企業には、
AIが危険かどうか尋ねると、「まだ分からないが、その可能性はある。」
バイデン氏は、強力なテクノロジーが保護策を講じなければ引き起こし得る害はソーシャルメディア上で明らかだと述べた。
「安全策が欠如しているため、テクノロジーが人々の精神的健康に影響を及ぼし、特に若者の間で自尊心の低下や自己イメージに対する絶望感を引き起こしていることがわかります。 》
同氏は、テクノロジー企業が収集する個人データを制限し、青少年を対象とした広告を禁止する超党派のプライバシー法案を可決するよう議会に再度呼び掛けた。製品開発を改善する 健康と安全を優先します。
このニュースの影響を受け、バイデン氏がこの会議を召集する前に、AI企業の株価は急落した。
ChatGPT コンセプト株 C3.ai の株価は下落を続け、26.34% 安の 24.95 ドルで取引を終了し、時価総額は 28 億ドルとなり、同社の日中下落率としてはこの株以来最大となりました。と記載されていました。
以前、Microsoft が OpenAI、C3.ai との数十億ドル規模の提携を発表して以来、AI 分野の多くの企業と同様に、は最近ウォール街で最も注目されている企業の1つとなり、C3.aiの株価は今年130％以上上昇した。
現地時間の 4 月 3 日、ゲイツ氏はロイターとのインタビューで、数千人の専門家が署名した公開書簡について公に議論しました。
##AI 開発の一時停止を求めても「課題の解決」にはなりません。AI 開発を最大限に活用する方法に焦点を当てたほうがよいでしょう。AI 開発の世界的な一時停止を理解するのは困難です。 AI 研究開発 これはどのように達成されるのでしょうか。
特定のグループに一時停止をお願いすることが課題の解決になるとは思いません、と彼は続けました。明らかに、これらには大きなメリットがあります...私たちがしなければならないのは、難しい領域を特定することです。
ゲイツ氏は人工知能の強力な支持者です。
共同公開書簡を開始する前日の3月21日、ゲイツ氏は「人工知能の時代が始まった」というブログ投稿を公開した。
そこでは、世界で最悪の不平等を軽減するために人工知能を活用すべきであると述べられています。
# 彼はブログで人工知能を賞賛し、「AI 時代が始まり、人工知能革命は人工知能革命と同じくらい重要です」と述べました。 「携帯電話とインターネットの誕生です。これは彼の人生で唯一の革新的な技術進歩です。」
これまで、Microsoft は OpenAI に数十億ドルを投資してきました。 OpenAI は、Microsoft Bing、Edge、Microsoft 365 などの製品向けの AI テクノロジーを構築しています。
ゲイツ氏はインタビューの中で、AI開発の一時停止の実現可能性に疑問を抱き、その実装方法を知りたいと述べた。
「いかなる一時停止の詳細も複雑で強制するのは難しいでしょう。停止する可能性が高いのは誰のことなのか、世界中のすべての国なのか、彼らが話していることがよくわかりません。
GPT-4 は「自己反省」を学習し、そのパフォーマンスは 30% 向上しますしかし、たとえ全世界の誰もが超 AI に対する手ごわい敵に直面しており、状況を早く抑制したいと思っても、手遅れになる可能性があります。
なぜなら、今日の AI は自ら進化することを学んだからです。
GPT-4 自体が改善されているという証拠があります。
少し前に、元 Google Brain 研究エンジニアの Eric Jang は、GPT-4 は合理的な方法で自身の結果を批判できるという、とんでもないことを発見しました。
大規模言語モデル (LLM) の完璧なヒントを探すのではなく (段階的に考えてみましょう)、LLM が自身の出力を評価し、自身の間違いをすぐに修正できるようにします。
元 Tesla AI ディレクターで OpenAI 研究科学者の Andrej Karpathy でさえ、GPT がまだ見られていない理由を示す好例としてこれを賞賛しました。
Eric Jang が示した例では、Microsoft の研究者が GPT-4 では「韻を踏まない」単語をまったく書くことができないとツイートしているのを見ました。 . 詩。
ただし、GPT-4 にタスクが完了したかどうかを再度尋ねる場合。この時、謝罪した後に韻を踏まない詩が生成されました！満点と言ってもいいでしょう。
これは、GPT-4 が「反射」する能力を持っていることを証明しています。
最近、米国のノースイースタン大学、MIT、その他の機関の研究者らがリフレクションを提案しました。この方法は、エージェントに動的記憶と自己反省能力を与えます。
文書アドレス: https://arxiv.org/abs/2303.11366
この方法の有効性を検証するために、研究者らは、AlfWorld 環境で意思決定タスクを完了するエージェントの能力と、HotPotQA 環境で知識集約型の検索ベースの質問と回答タスクを完了するエージェントの能力を評価しました。
これら 2 つのタスクの成功率は、それぞれ 97% と 51% です。
Reflexion エージェントの全体的なアーキテクチャ
一部のネチズンは次のように言いました。 GPT-4 に「なぜ間違ったのか?」を反省させ、結果が正しくなるまでそのエラーを考慮した新しいプロンプトを自動的に生成することで、GPT-4 のパフォーマンスを 30% という驚異的な向上させることができます。
さらに、論文では、コードを書くモデルの能力をテストする際に、Reflexion GPT-4 が従来の GPT-4 よりも大幅に優れていることも指摘しています。 。
Eric Jang 氏が次のように言ったようです。
「接尾辞ヒント プロジェクト」を検討できるようになりました。 、巧妙な「プレフィックスヒントプロジェクト」ではありません。これにより、LLM は以前に生成されたソリューションの修正や不一致を見つけることができます。
自己改善を通じて自らをより賢くする GPT-4 の機能について、ネチズンがビデオの要約を作成しました。
メタ研究者らは、ChatGPT の「弱点」を直接ターゲットにした新しい論文 Toolformer を 2 月に発表し、大規模な言語モデルがツールの使い方を自分で学習できるようにしました。
文書アドレス: https://arxiv.org/abs/2302.04761
Meta の考えによれば、ChatGPT のような大規模な言語モデルは、不足しているものを補うことができます。たとえば、計算の仕方がわからない場合は電卓を取り出し、最新の情報が必要な場合は検索エンジンに接続して検索するだけで、次のことができます。翻訳したいコンテンツを直接スローすることもできます。
同様に、浙江大学とマイクロソフト アジア研究所が発表した最近の論文「Jarvis」HuggingGPT が業界で大きな注目を集めています。
論文アドレス: https://arxiv.org/abs/2303.17580
論文内, 研究者によって提案されたHuggingGPTは、ChatGPTをコントローラーとして使用し、HuggingFaceコミュニティ内のさまざまなAIモデルを接続し、マルチモダリティなどのさまざまな複雑なタスクを完了します。
一部のネチズンは、最初の汎用人工知能 (AGI) が予想より早く登場するのではないかと強く疑っていると述べました。一連の狭い人工知能と実用的なツールをインテリジェントに接着できる「接着剤」AI に依存します。
最近、開発者は GPT-4 がコードを自動的に生成できるようにするプロジェクトを作成しました。 GPT。
コードを実行することもできます。その後の改良により、Auto-GPT は GPT-4 を使用してコードを記述し、Python スクリプトを実行できるようになりました。これにより、それ自体を再帰的にデバッグ、開発、改善することができます...
Auto-GPT により、人々は GPT-4 の強力な機能をさらに理解できるようになります。 、一部のネチズンはミームを作成したことさえあります:
##Andrej Karpathy 氏は、私の意見では、プロンプト エンジニアリングの次のフロンティアは「AutoGPT 」であると述べています。 GPT 呼び出しは、コンピューター上の命令のようなものです。これらはプログラムに連結できます。プロンプトを使用して I/O デバイスとツールの仕様を定義し、コグニティブ ループを定義し、コンテキスト内でページ データの入出力を実行してから実行します。
一部のネチズンは、基本的にこれが特異点の定義であると言いました。
自己改善型 AI に今必要なのは、モデルのコードを変更して自律的にトレーニングできることだけです (インターネットを閲覧してすべてに独自のラベルを付けることによって)。
一部のネチズンは、テクノロジーの急速な進歩により、私たちは後戻りできない地点に到達したとさえ信じています。 2025 年までに、世界は良くも悪くも劇的に変化するでしょう。
間違いから学ぶことは知性の基礎です。
ある大手ボスからの最新ニュースによると、OpenAI は、自社の AI 製品の最近の急速な反復が非常に強い反応を引き起こしていることを明確にしており、公的監視も歓迎しているとのことです。
担当者は、現在のトークンあたりのリスクは臨界点に達していないため、GPT の悪用による被害はそれほど大きくないと述べています。 AI 調整ロードマップは数か月以内にリリースされる予定です。
以上がGPT-4 は非常に進化しており、約 1 万人が GPT-4 をブロックする請願書に署名しています。ホワイトハウスが緊急会議を開催、ChatGPTコンセプト株が急落の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。
![[Web フロントエンド] Node.js クイック スタート](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
