GPT-4の技術的詳細の機密保持が論争を巻き起こし、OpenAIの主任科学者が反論

昨日の早朝、OpenAI は予期せず GPT-4 をリリースしました。

この発表はテクノロジー コミュニティにとって驚きでした。結局のところ、GPT-4 は木曜日に Microsoft の「The Future of Work with AI」イベントで発表されると一般に予想されていました。 。

ChatGPT のデビューからわずか 4 か月で、ChatGPT は「史上最も急成長しているコンシューマー アプリケーション」としての記録を打ち立てました。 GPT-4 がオンラインになったことで、製品の応答能力は新たなレベルに到達しました。

ショックを受けた後、多くの研究者は GPT-4 の技術レポートを注意深く読みましたが、「なぜ技術的な詳細が記載されていないの?」とがっかりしました。

創業精神に反するリリース

発表の中で、OpenAI は多数の GPT-4 ベンチマークとテスト結果、およびいくつかの興味深いデモンストレーションを共有しましたが、提供されたのはシステムのトレーニングに使用されたデータ、コンピューティング能力のコスト、または GPT-4 の作成に使用されたハードウェアや方法などの情報に関する情報がほとんどありません。

たとえば、保存してお読みいただける GPT-4 論文の結論は次のとおりです。「私たちは Python を使用しています。」

「GPT-4 は Transformer アーキテクチャに基づいていると読んだことがあります。」## と冗談を言った人もいます。

# AI コミュニティの多くのメンバーは、この決定が研究ベースの組織としての OpenAI の設立精神を損ない、他の組織を置き去りにするものであると指摘して、この決定を批判しました。その作品を再現するのはさらに困難です。

GPT-4 クローズド モデルに対する最初の反応のほとんどは否定的なものでしたが、もはや怒りによって「ソースを閉じる」という決定を変えることはできないようです:

実のところ、OpenAI はオープンソースではないという批判がしばらく続いています。 OpenAI の創設チームメンバーであるマスク氏でさえ、その「当初の意図からの逸脱」を公に疑問視しています。この件に関してマスク氏は未だに混乱している。「1億米ドル近くを投資した非営利団体がどうやって時価総額300億の営利企業に変わったのか理解できない？」

##Nomic AI の情報デザイン担当バイスプレジデントであるベン・シュミット氏は、「98 ページの論文を『オープン』と呼ぶのはやめてもいいと思う」と述べた。 GPT-4 の導入は、トレーニング セットの内容に関する情報を一切開示しないことを誇らしげに宣言します。"

OpenAI が GPT-4 の詳細を隠していると信じている人もいます。もう 1 つの理由は法的責任です。 AI 言語モデルは巨大なテキスト データセットでトレーニングされ、多くのモデル (初期の GPT システムを含む) は Web から情報を収集しており、そのソースの 1 つに著作権で保護された素材が含まれている場合があります。現在、複数の企業が独立系アーティストや写真サイト「ゲッティイメージズ」から訴訟を起こされている。

さらに重要なのは、GPT-4 によってもたらされる脅威に対する安全策の開発が困難になるという意見もあります。また、Ben Schmidt 氏は、GPT-4 でトレーニングされたデータを見ることができなければ、システムを安全に使用できる場所を知り、修正を提案することは困難であると考えています。

「GPT-4 のようなニューラル ネットワークがブラック ボックスであることはよく知られています。実際、その動作は予測不可能であり、理解するのが困難です。これが、それらを使用すべきかどうか、またどこで使用すべきかについての最も重要な問題です。現在、OpenAI はこの謎をさらに拡張する標準を徐々に開発しています」とベン・シュミット氏は語った。

OpenAI の主任科学者: GPT-4 をオープンソースにするのは賢明ではありません

OpenAI の主任科学者そして共同創設者のIlya Sutskever氏は上記の論争に対して、OpenAIがGPT-4に関するより詳細な情報を共有しない理由は「競争への恐怖とセキュリティへの懸念」であると述べた。 # 「競争環境から見ると、外の世界との競争は非常に激しいようです。GPT-4の開発は簡単ではありません。OpenAIのほぼすべての力を結集したものです。これを作るのに長い時間がかかり、同じことをしたいと考えている企業はたくさんあります。 "

"セキュリティの側面は競争の側面ほど顕著ではありませんが、それも変化するでしょう。これらのモデルは非常に効率的であり、 」

「なぜ OpenAI が研究結果の共有方法を変えたのか」と尋ねられたとき、Sutskever 氏は次のように答えました。「率直に言って、私たちは間違っていました。あなたが私たちと同じように、ある時点で AI または AGI が変わると信じているのであれば、 」 ##ライトニング AI の CEO であり、オープンソース ツール PyTorch Lightning の作成者であるウィリアム・ファルコン氏は、VentureBeat に対し、この決定はビジネスの観点から理解できると語った。「企業として、これを行うあらゆる権利がある」

#しかし、彼はまた、OpenAI の動きはより広範なコミュニティに「悪いテンプレート」を設定しており、有害な影響を与える可能性があるとも述べました。

OpenAI がトレーニング データを共有しない理由について、Sutskever 氏は次のように説明しています。パラメータの数を開示する理由はほぼ同じです。」 OpenAI がそのトレーニング データに偽造素材が含まれていないことを明示できるかとの質問に対し、Sutskever 氏は回答しませんでした。

Sutskever 氏は、オープンソース モデルが安全対策の開発を促進するという OpenAI 批判者に同意します。 「より多くの人がこれらのモデルを研究すれば、より多くのことが分かるようになり、さらに良くなるでしょう」と彼は言う。こうした理由から、OpenAI は特定の学術機関や研究機関にそのシステムへのアクセスを提供しています。

次に何が期待できるでしょうか?

GPT-4 によって引き起こされた激しい議論はしばらく続くと予想されているため、人々は他の開発を無視する可能性があります。

たとえば、昨日の圧倒的な議論のさなか、Google のリリースは静かに見えました。現在、生成 AI は Google Workspace に完全に統合されており、写真、プレゼンテーション、メール、ドキュメントなどの生成などの機能が更新されています。ご想像のとおり、これにより生産性が大幅に向上します。

次に、人々は多くのことを楽しみにしています。まもなく、Microsoft CEO Satya Nadella が直接スピーチを行い、GPT ベースの Office スイートなど、Microsoft と OpenAI のさらなる協力について紹介します。 -4.

出典: https://www.theinformation.com/articles/microsoft-rations-access-to-ai -hardware-for-internal-teams

しばらく様子を見てみましょう。

以上がGPT-4の技術的詳細の機密保持が論争を巻き起こし、OpenAIの主任科学者が反論の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。