GPT-4に関する海外メディアのコメント：人工知能分野の大きな飛躍と技術倫理のもう一つの大きな変化

現地時間 3 月 15 日火曜日のニュース 人工知能 研究所 OpenAI は、大規模言語モデル GPT-4 の最新バージョンをリリースしました。この待望の高度なツールは、テキストを自動的に生成するだけでなく、画像コンテンツを記述および分析することもでき、人工知能の波の技術レベルを押し上げるだけでなく、技術開発の倫理的境界を無視することがますます困難になります。

OpenAI の初期のオンライン チャットボット ChatGPT は、自動的に生成された滑らかなテキストで多くの注目を集めましたが、論文や架空のスクリプトを作成する能力についても世間を不安にさせました。ご存知のとおり、ChatGPT は、1 年以上前に時代遅れになった旧世代のテクノロジである GPT-3 をまだ使用しています。

対照的に、最先端の GPT-4 モデルは、テキストを自動的に生成できるだけでなく、簡単なユーザーのリクエストに基づいて画像を記述することもできます。たとえば、一端にボールが付いた木製のシーソーにぶら下がっているボクシング グローブの写真を GPT-4 に見せ、ユーザーがグローブが落ちたらどうなるかと尋ねると、GPT-4 は、グローブに当たると答えます。シーソー、ボールを飛ばす。

初期のテスターは、GPT-4 は推論して新しいことを学習する能力において非常に高度であると主張しています。

Microsoft は火曜日、先月リリースされた Bing 人工知能チャットボットが GPT-4 を使用していることも明らかにしました。

開発者らは火曜日、この技術は人々の仕事と生活にさらなる革命をもたらすだろうと述べた。しかし同時に、人間がそのような恐ろしく洗練された機械とどうやって競争できるのか、そしてオンラインで見るものをどうやって信頼できるのかについての国民の懸念も引き起こしている。

OpenAI 幹部らは、GPT-4 はテキストと画像にわたる「マルチモダリティ」により、「高度な推論機能」において ChatGPT よりもはるかに優れていると述べました。同社はGPT-4の画像説明機能の悪用を懸念してリリースを延期しており、GPT-4がサポートするChatGPT Plusサービスの加入者はテキスト機能のみを利用できる。

OpenAI ポリシー研究者のサンディニ・アガルワル氏は、同社は潜在的なリスクをより深く理解するためにこの機能をまだリリースしていないと述べた。 OpenAIの広報担当者ニコ・フェリックス氏は、同社が「画像内の個人情報が特定されることを防ぐための安全策を導入する」ことを計画していると述べた。

OpenAIはまた、GPT-4には「幻覚を引き起こす」、ナンセンスなことを言う、社会的偏見を永続させる、不十分なアドバイスを提供するなどのよくある間違いが依然として存在することも認めた。

マイクロソフトは、人工知能テクノロジーが同社のオフィス ソフトウェア、検索エンジン、その他のオンライン製品のキラー機能になることを期待して、OpenAI に数十億ドルを投資しました。同社は、反復的なタスクを処理し、ソフトウェア開発者がチーム全体の作業を完了するのを支援するなど、人々が創造的な作業に集中できるようにする非常に効率的なパートナーとしてこのテクノロジーを推進しています。

しかし、人工知能を懸念する一部の人々は、これらは単なる症状かもしれず、人工知能は誰も予測できないビジネスモデルやリスクにつながる可能性があると述べています。

人工知能の急速な発展と ChatGPT の人気により、業界の企業間で人工知能分野での優位性を競い合い、新しいソフトウェアをリリースするために激しい競争が発生しています。

この流行は多くの批判も集めています。多くの人は、これらの企業がテストも規制もされていない予測不可能なテクノロジーの展開を急ぐことで、ユーザーを欺き、アーティストの作品を損ない、現実世界に損害を与える可能性があると信じています。

人工知能言語モデルは、説得力のある表現を生成するように設計されているため、多くの場合、誤った答えを返します。さらに、これらのモデルはインターネットからの情報と画像を使用してトレーニングされ、人間のバイアスを模倣することを学習します。

OpenAIの研究者らは技術レポートの中で、「GPT-4や同様の人工知能システムが広く採用されるにつれて」「固有の洞察力が強化される」と書いている。

OpenAI の元研究者であり、オープンソースの人工知能企業である Hugging Face のポリシー ディレクターであるアイリーン ソライマンは、この技術進歩のスピードにより、社会全体が潜在的な問題にタイムリーに対応する必要があると考えています。

彼女はさらに、「社会として、モデルによって引き起こされるべきではないいくつかの危害については、すでに広範な合意に達することができている」と述べたが、「危害の多くは微妙であり、主に少数派に影響を与えている」と彼女は付け加えた。これらの有害なバイアスは「AI のパフォーマンスに関して二次的な考慮事項にはなり得ない」と述べています。

最新の GPT-4 は完全に安定しているわけではありません。ユーザーが AI ツールの GPT-4 へのアップグレードを祝福したとき、その反応は「私はまだ GPT-3 モデルです」でした。その後修正された後、このことについて謝罪し、「GPT-4として、お祝いをいただきありがとうございます!」とユーザーが冗談を言い、実際にはまだGPT-3モデルだったとAIは再び謝罪し、こう言った。それは「確かにGPT-4ではなくGPT-3モデルです」。

OpenAIの広報担当フェリックス氏は、同社の研究チームが何が問題だったのか調査中だと述べた。

火曜日、人工知能研究者らはOpenAIが十分な情報を開示していないと批判した。同社はGPT-4のバイアス評価に関するデータを公表していない。熱心なエンジニアも、GPT-4 モデル、データセット、トレーニング方法に関する詳細がほとんど見つからずがっかりしました。 OpenAIは技術報告書の中で、直面する「競争環境とセキュリティへの影響」を理由に、これらの詳細は開示しないと述べた。

GPT-4 が機能する多感覚人工知能分野は競争が激しいです。 Googleの親会社Alphabetが所有する人工知能企業DeepMindは昨年、画像を記述したりビデオゲームをプレイしたりできる「Gato」と呼ばれる万能モデルをリリースした。 Googleは今月、人工知能の視覚と言語分析を単腕ロボットに統合するマルチモーダルシステムであるPaLM-Eをリリースした。たとえば、誰かがチップを取りに行くように頼んだ場合、そのリクエストを理解し、引き出しの方を向いて、適切なオブジェクトを選択することができます。

同様のシステムは、テクノロジーの可能性について際限のない楽観的な見方を引き起こしており、人間とほぼ同じレベルの知能を持っていると考えている人さえいます。しかし、批評家や AI 研究者が主張しているように、これらのシステムは、その意味を明確に理解することなく、反復されたトレーニング データから確立されたパターンと固有の相関関係を見つけるだけです。

GPT-4 は、2018 年の OpenAI の最初のリリース以来 4 番目の「生成事前トレーニング済みトランスフォーマー」であり、2017 年に開発された画期的な ニューラル ネットワーク テクノロジー「コンバーター」に基づいています。このようなシステムは、オンラインでテキストや画像を分析することで「事前学習」されており、人工知能システムによる人間の音声や画像の分析方法が急速に進歩しました。

OpenAI は、長年にわたり、人工知能ツールを大衆にリリースする際の潜在的な社会的リスクを根本的に変えてきました。 2019年、同社はAIの性能は非常に優れているものの、それを利用する「悪意のあるアプリケーション」が懸念されるとして、GPT-2の公開リリースを拒否した。

しかし、昨年 11 月に、OpenAI は GPT-3 に基づいて微調整されたバージョンの ChatGPT を公開しました。リリースからわずか数日でユーザー数が 100 万人を超えました。

ChatGPT と Bing チャットボットを使った公開実験では、このテクノロジーが人間の介入なしでは完璧なパフォーマンスには程遠いことがわかりました。一連の奇妙な会話と不正解が続いた後、マイクロソフト幹部らは、正しい答えを提供するという点ではAIチャットボットがまだ信頼できないことを認めたものの、この問題に対処するための「信頼性指標」を開発中であると述べた。

GPT-4 はいくつかの欠点を改善すると約束しており、テクノロジーブロガーのロバート・スコーブルなどの人工知能支持者は、「GPT-4 は誰もが予想していたよりも優れている」と信じています。

OpenAI CEO のサム・アルトマン氏は試してみましたGPT-4 への期待を和らげるため。同氏は1月、GPT-4の機能についての憶測はありえない高みに達しており、「GPT-4に関する噂はばかばかしい」「彼らは失望するだろう」と述べた

しかしオルト・マン氏は、OpenAIのビジョンも推進している。同氏は先月のブログ投稿で、同社が「全人類」が「人工ユニバーサルエネルギー」（AGI）から恩恵を受けられるようにする方法を計画していると述べた。この業界用語は、人間と同じかそれ以上に賢い超人工知能を実現するという、まだ非現実的なアイデアを指します。

以上がGPT-4に関する海外メディアのコメント：人工知能分野の大きな飛躍と技術倫理のもう一つの大きな変化の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。