人工知能研究機関 OpenAI は、2022 年 11 月 30 日に自然言語生成モデル ChatGPT をリリースしました。公開から 2 か月以内にユーザー数が 1 億人を突破し、業界で当然のスーパープレイヤーになりました。人工知能産業、インターネットの有名人。 ChatGPT は、その強力な擬人化機能とタイムリーな応答機能ですぐに画期的な機能を発揮し、あらゆる分野で白熱した議論を引き起こしました。簡単に言うと、ChatGPT は、ユーザーのテキスト入力に基づいて回答を自動的に生成できる人工知能チャットボットです。では、これは Siri だという人もいるでしょうが、どちらも対話型ロボットではありますが、両者の違いは非常に大きいです。では、なぜ ChatGPT は人間とコンピューターの対話において非常に優れたパフォーマンスを発揮するのでしょうか?検索エンジンに取って代わるのでしょうか？ ChatGPT の出現により、本当に 90% の人が職を失う危険にさらされるのでしょうか?これらの質問を念頭に置いて、ChatGPT の利点と、ChatGPT が将来業界にどのような変化をもたらすかを見てみましょう。
OpenAI の創設者であるサム アルトマンは、8 歳でプログラミングができる天才であり、2015 年にテスラの社長マスク、エンジェル投資家のピーター ティール、その他のシリコンバレーの大物たちとともに OpenAI を設立しました。インテリジェンス研究所は、主に営利団体 OpenAI LP と親会社の非営利団体 OpenAI Inc. で構成されています。その目的は、フレンドリーな人工知能を促進および開発し、人工知能が人間の制御から離脱するのを防ぐことです。 OpenAI は、機械学習アルゴリズム、強化学習、自然言語処理など、最先端の人工知能テクノロジーの研究開発に重点を置いています。 OpenAIは2022年11月30日にChatGPTをリリースし、リアルタイムオンライン質疑応答対話サービスを正式に提供した。
ChatGPT とは書籍「知識の境界」には次のような一節があります。
#知識がネットワーク化されると、その場で最も賢い人は、もはや部屋の前に立って私たちに教えている人ではなくなります。 the room ここにいるみんなの知恵の集合体。部屋の中で最も賢い人は部屋そのものです。部屋の中のすべての人々とアイデアを含み、それらを外の世界に接続するネットワークです。
#この文の私の理解は、インターネットには人間のあらゆる知識と経験があり、人工知能の学習に大量のリソースを提供しているということです。データは、この知識と経験が秩序だった方法で編成されている場合、「理解の王様」人工知能アプリケーションをトレーニングするための豊富なデータ土壌も提供します。 ChatGPT は、インターネット上の大量のテキスト データと言語データベース データを入力してトレーニングした後、2 人でチャットするのと同じように、入力したテキストの内容に基づいて対応する回答を生成できます。垣根なくコミュニケーションが取れるだけでなく、チャットボットではなく、知識豊富でちょっと面白い本物の人間と話しているような気分にさせてくれます。これは、これまでのチャットボットでは考えられなかったことでした。
ChatGPT の文字通りの意味を簡単に説明します。これは一般的な自然言語生成モデルです。チャットとは対話を意味し、いわゆる GPT はGenarative Pre-trained Transformer は、生成的な事前トレーニングされた変換モデルを意味しますが、少しわかりにくいように思えます。
さらに、コピーライティング、スクリプトの作成、さらにはコードの直接作成の支援など、いくつかの実践的な作業を完了するのを手伝ってもらうこともできます。コードのバグを見つけるのにも役立ちます。これは、自分の仕事を粉砕して粉々にしたいプログラマーのリズムであり、テキストとコードのレベルでは万能であると言えます。質問を入力し、すぐに回答を返すこのインタラクティブな方法は、従来の検索エンジンを使用して大量のデータから必要なものを見つける経験よりもはるかに優れており、したがって、近い将来、ChatGPT が従来の検索エンジンを覆し、完全に変わることが予見されます。情報検索の方法、使用法。
さらに、ChatGPT はコンテキストに応じて質問に答えることができ、同時に自分自身の質問を積極的に認めることもできます。欠点と課題、合理性。以下は、私の提起した質問を否定する ChatGPT です。
追記: ChatGPT に世界で最も裕福になる方法を尋ねました。その秘密は以下の通りです。
ChartGPT が非常に強力な理解力、学習力、創造力を備えているからこそ、AI 人工知能が誕生しました。その後、C エンド ユーザー向けのスマート アプリケーション製品として最も急速に成長しています。これまで、人工知能の C サイド製品は常に賢くないと考えられたり、「人工知能が遅れている」と揶揄されたりしていました。B サイドであっても、特定のシナリオでのみ使用されていました。一般の人は、AI のパワーを感じることができませんでした。しかし、ChatGPT の出現は、将来、人工知能が一般の人々の生活に統合されることを示しているかもしれません。
追記: 彼が「はい」と答えるかどうか、本当に心配です。
自然言語が人間のコミュニケーションにとって最も重要なツールであることは誰もが知っています。それでは、機械が自然言語を介して人間とコミュニケーションできるようにするにはどうすればよいでしょうか言語 バリアフリーコミュニケーションは、人工知能の分野において常にたゆまぬ追求されてきた目標です。 NLP (自然言語処理) は、コンピューター サイエンスと人工知能の分野における専門的な研究であり、機械が自然言語を理解し、それに基づいて応答できるようにします。# 重要な研究方向です。コンピューターに自然言語を認識させたい場合は、テキストを分析して処理するための対応する言語モデルが必要です。 言語モデルの一般原則は、言語テキストの確率モデリングを実行し、そのモデルを使用して次の出力コンテンツの確率を予測することです。大まかな処理としては、言語モデルを利用して、段落以降に出現確率が最も高い文を出力します。 # 言語モデルは、統計的言語モデルとニューラル ネットワーク言語モデルに分類できます。 ChatGPT はニューラル ネットワーク言語モデルであり、複数のバージョンで繰り返し最適化を行った結果、今日誰もが衝撃を受ける卓越したパフォーマンスを実現しました。 LM (言語モデル) の開発の歴史を簡単に振り返り、言語モデルがどのように段階的に進化してきたかを確認することで、ChatGPT の背後にある技術原則を理解するのに非常に役立ちます。
#RNN
#RNN (リカレント ニューラル ネットワーク、リカレント ニューラル ネットワーク)不良債権分野で幅広い用途があります。上で述べた NLP は、機械に自然言語を理解させるという問題を解決することを目的としているため、機械が文の意味を理解するには、文内の各単語の意味を理解するだけでなく、文を処理する必要があります。接続されたシーケンスによって表現される意味は何か、RNN はサンプル データのシーケンスをモデル化する問題を解決します。 
ただし、RNN には効率の問題があり、言語シーケンスを処理するときはシリアル化によって実行されます。 , 次の単語の処理は前の単語の状態が出力されるまで待ってから処理を進める必要があるほか、勾配爆発や忘却などの問題もあります。したがって、人工知能の専門家はこれに基づいてモデルを最適化し続けています。
Google Brain は、2017 年の論文「Attending Is All You Need」で Transformer モデルを提案しました。これは、主に RNN 問題向けに最適化および設計された、自己注意メカニズムに基づく深層学習モデルです。特に、テキスト シーケンスのシリアル化の問題です。Transformer モデルは、テキスト シーケンス内のすべての単語を同時に処理できます。同時に、シーケンス内の任意の単語の距離は 1 であり、シーケンスが長すぎることによって引き起こされる長距離を回避します。 RNN モデルの長い質問です。その後の有名な BERT モデルや GPT モデルはすべて Transformer モデルに基づいて進化したものであるため、Transformer モデルの導入は NLP 分野の飛躍的な発展の重要な象徴であると言えます。以下の図は、Transformer のモデル構造を示しています。
# #オリジナルの GPT モデルも最新の ChatGPT モデルも、実際には Transformer モデルをコア構造とした言語モデルです。 GPT は、Transformer モデルの Decoder コンポーネントを使用します。これは、上記に基づいて次のシナリオに答えるのにより適しています。
トレーニングの精度を向上させるために、多くの機械学習トレーニング タスクはラベル付きデータセットを使用して完了しますが、実際にはデータのラベル付けは非常に大きな作業負荷です。物事には多くの人手と時間がかかります。したがって、コンピューティング能力が向上し続けるにつれて、実際には手動でラベル付けされていないより多くのデータをトレーニングする必要があります。したがって、GPT は、大量のテキスト データを使用して教師なし学習を実行し、モデルのトレーニングを実現する新しい自然言語トレーニング パラダイムを提案します。これが、GPT が事前トレーニング微調整トレーニング モードを採用する理由です。 GPT のモデル構造は次のとおりであり、これを基に次のことを予測することが学習目標となります。
GPT-3
現時点では、OpenAI は ChatGPT に関する対応する論文をまだ発表していませんが、実際、その中心的なアイデアは OpenAI によって公開されているアイデアと一致しています。 2022 年の論文「人間のフィードバックを使用した指示に従う言語モデルのトレーニング」は基本的に一貫していますが、InstructGPT の最も重要な最適化は、RLHF (Reinforcement Learning from Human Feedback、人間のフィードバックに基づく強化学習) テクノロジーの導入です。元のモデルは、人間の対話のプロセスをモデルに学習させ、人間がモデルの回答結果に注釈を付け、評価し、並べ替えることができるようにすることで微調整され、収束されたモデルが質問に答える際の人間の意図とより一貫性のあるものになります。
なお、本稿で提案する InstructGPT の学習手法は、実は基本的に ChatGPT と同じですが、データの取得方法が若干異なりますので、そのため、InstructGPT は ChatGPT と兄弟モデルであると言えます。 ChatGPT がどのようにトレーニングされるか、そして ChatGPT が問題をどのように解決し、モデルによって回答される答えが人間の意図や好みとより一致するようにするかを詳しく見てみましょう 。
上記のトレーニング プロセスは少し複雑に見えるかもしれませんが、以下の図に示すように、これにより学生は ChatGPT モデルがどのようにトレーニングされるかを理解しやすくなります。公式ウェブサイトに記載されている手順によると、トレーニングの中心となるアイデアは、フィードバック データを収集することです - 「トレーニング報酬モデル」 - PPO 強化学習。
ChatGPT トレーニング プロセスは主に 3 つの段階に分かれています:
フェーズ 1: 教師あり学習による GPT-3.5 初期モデルの微調整実際、LLM (Large Language Model、大規模言語モデル) の場合、ではありません 学習用のサンプルデータは多ければ多いほど良いと言われていますが、なぜそう言えるのでしょうか? ChatGPT のような大規模言語の事前トレーニング モデルは、非常に大きなパラメーターと大量のデータを使用してトレーニングされるため、これらの大量のサンプル データは実際には人工知能の専門家にとって透過的であり、制御できません。したがって、サンプル データに人種差別や暴力などの悪いデータが含まれている場合、事前トレーニングされたモデルにはこれらの悪いコンテンツ属性が含まれる可能性があります。ただし、人工知能の専門家にとって、人工知能が偏見なく客観的かつ公平であることを保証する必要があり、ChatGPT はこの点についてトレーニングされています。
したがって、ChatGPT は教師あり学習によってモデルのトレーニングを行います。いわゆる教師あり学習とは、「答えがある」データセット上で学習することを意味します。この目的を達成するために、OpenAI はデータ ラベル付け作業を行うために 40 人の請負業者を雇いました。まず、これらのラベル付け担当者は、人間とコンピューターの対話を複数回の言語対話でシミュレートするように依頼されました。その過程で、対応する手動の正確なラベル付けデータが生成されました。これらの正確なラベル付けデータは、 GPT-3.5 モデルを微調整して、SFT (Supervised Fine-Tuning) モデルを取得しましょう。
フェーズ 2: 報酬モデルの構築プロンプト データのバッチをランダムに抽出した後、次の最初のステージを使用します。微調整モデルはさまざまな質問に自動的に回答し、ラベル作成者が回答を最良から最悪の順に並べ替えます。並べ替えられた結果データは、報酬モデルのトレーニングに使用されます。そのプロセスでは、並べ替えられた結果がペアで結合され続けます。ソートされたトレーニング データ ペアを形成し、報酬モデルはデータ ペア入力を受け入れて、回答品質のスコアを与えます。この報酬モデルは本質的に、人間の実際の意図を抽象化したものです。この重要なステップにより、報酬モデルは人間の意図に従う方向にモデルを継続的に導き、対応する回答結果を生成することができます。
# #PPO は、更新ステップによって学習プロセスが不安定にならないように勾配制約を使用する信頼領域最適化アルゴリズムです。この段階でプロンプト データのバッチの抽出を続けた後、段階 2 で構築した報酬モデルを使用して、微調整されたトレーニング モデルの応答をスコア化し、事前トレーニングされたパラメーターを更新します。高スコアの回答には報酬モデルを通じて報酬が与えられ、その結果として得られるポリシーの勾配によって PPO モデルのパラメーターが更新されます。モデルが最終的に収束するまで継続的に反復します。
ChatGPT の実際のトレーニング プロセスは、実際には、RLHF テクノロジーと組み合わせた教師あり学習を適用するプロセスであることがわかります。 ChatGPT 実際、RLHF テクノロジーに依存して、人間の期待により近い回答を生成します。
上記のモデル トレーニング プロセスを通じて、ChatGPT の強力なコンテキスト理解能力の主な利点は次のとおりであると結論付けました。強力な基本モデル、高品質のサンプル データ、人間のフィードバックに基づく強化学習の 3 つの側面があります。
ChatGPT がもたらす変化
追記: Microsoft の Bing 検索エンジンが ChatGPT に接続し始めました。
##手動カスタマー サービスを置き換える
#コンテンツ作成を置き換えます##ChatGPT は質問に答えるだけではありません。曲を書いたり、詩を書いたり、イベント計画を書いたりするなどのコンテンツを作成できます。そのため、テキストコンテンツ制作に携わる多くの学生は深刻な危機を感じており、肉体労働者はまずロボットに置き換えられるべきだと考えていたが、ChatGPTの登場によって多くの精神労働者の仕事が直接的になくなるとは誰が想像したでしょうか。 。 ChatGPT の学習データはインターネット世界にある膨大なテキストデータを元にしているため、テキストデータ自体が不正確であったり、何らかのバイアスが含まれていたりすると、現状の ChatGPT ではそれを区別することができないため、質問に答える際には避けられません。この不正確さと偏見を伝えるために。 現時点では、ChatGPT は主に自然言語の質問と回答およびタスクを処理できます。画像認識や音声認識などは必ずしも対応する処理能力があるわけではありませんが、近い将来VoiceGPTやViewGPTなどが登場するのではないかと思います。 ChatGPT は、NPL 分野における非常に大規模なディープ ラーニング モデルです。トレーニング データは非常に膨大であるため、ChatGPT をトレーニングするには、大規模なデータ センターとクラウド コンピューティング リソース、および膨大なトレーニング データを処理するための大量のコンピューティング能力とストレージ スペースを使用する必要があります。 ChatGPT のトレーニングと使用率は依然として非常に高いです。 AI 人工知能については何年も前から話題になっており、開発段階にあります。いくつかの特定の分野での応用実績が得られています。しかし、C エンド ユーザーにとって、使用できる実際の人工知能アプリケーション製品は基本的にありません。しかし、今回の ChatGPT のリリースは画期的な出来事です。一般の人々にとって、AI 人工知能はもはや遠い専門用語ではなく、手の届く真のインテリジェントなアプリケーション ツールであり、一般の人々が AI の力を実感できるからです。 。さらに、私が言いたいのは、おそらく ChatGPT は始まりにすぎないということです。現時点では、人間の指示に従って対応するタスクを完了するだけですが、将来的には、人工知能の自己学習が継続的に繰り返されることで、意識されるようになる可能性があります。その時には、人類が全能の助力者と対峙しているのか、それとも制御不可能な邪悪なドラゴンと対峙しているのかは明らかではないでしょう。 
#ChatGPT の制限事項
トレーニング データの偏り
以上が人々の仕事の 90% を置き換えることができる ChatGPT はどれほど素晴らしいのでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。
![[Web フロントエンド] Node.js クイック スタート](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
