OpenAI が ChatGPT プラグインをリリースし、懸念を引き起こす: コンテンツの品質とセキュリティを測定する必要がある

米国現地時間 3 月 24 日の木曜日、人工知能研究会社 OpenAI は、同社の人気チャット ロボット ChatGPT の接続を支援する複数のプラグインをリリースしました。ネットワークに接続してリアルタイムで情報を取得するか、サードパーティのアプリケーションを使用します。

OpenAI のプラグインにより、ChatGPT がインターネットを含むサードパーティの知識ソースやデータベースにアクセスできるようになり、チャットボットの機能が大幅に拡張されると報告されています。 OpenAIは、ChatGPTテストアプリケーションのユーザーと開発者にアルファ版を提供します。一般にアクセスできるようになる前に、最初は少数の開発者と ChatGPT Plus 加入者に優先権が与えられます。

最も魅力的なプラグインは間違いなく OpenAI のファーストパーティ Web ブラウジング プラグインです。このプラグインを使用すると、ChatGPT は Web からデータを見つけて、さまざまな質問に答えることができます。以前は、ChatGPT の情報コンテンツは、2021 年 9 月以前の日付、イベント、人物に限定されていました。新しいプラグインは、Microsoft の Bing 検索 API を使用して Web からコンテンツを取得し、ChatGPT の応答で回答を要約したりソースを引用したりするときに、訪問した Web サイトを表示します。

ただし、OpenAI チームによる以前の調査で判明したように、オンラインで他の情報ソースにアクセスできると、新たなリスクが生じる可能性があります。 OpenAI は 2021 年に WebGPT と呼ばれる実験システムを作成しましたが、このシステムでは信頼性の低いソースからの情報が引用されることがあり、それらのソースが客観的に信頼できない場合でも、ユーザーが信頼できる Web サイトからデータを選択するよう誘導されました。 Meta のその後のオフライン BlenderBot 3.0 もインターネットにアクセスできましたが、当初のビジョンからすぐに逸脱してしまいました。特定のテキストに促されると、陰謀論やその他の攻撃的なコンテンツを投稿します。

ライブ ネットワークは静的トレーニング データ セットよりも精度が低いため、フィルタリングの制限が少なくなります。 Google や Bing などの検索エンジンは、独自のセキュリティ メカニズムを使用して、信頼性の低いコンテンツが検索結果の上位に表示される可能性を減らしていますが、これらの結果は操作される可能性があり、必ずしもネットワーク全体を代表しているわけではありません。以前に報告されたように、Google のアルゴリズムは、暗号化、モバイル サポート、スキーマ マークアップなどの最新の Web テクノロジーを使用するサイトを優先します。したがって、他の高品質コンテンツを含む多くの Web サイトが見逃される傾向があります。 これにより、検索エンジンは、Web 言語モデルに対する答えを提供する可能性のあるデータを厳選するための多くの権限を得ることができます。 Googleは、トリップアドバイザーのようなより豊富でソーシャルな情報源からの情報を集約するのではなく、Googleプレイスのデータを使って旅行に関するクエリに答えるなど、検索において自社サービスを優先していることが判明した。同時に、アルゴリズムによる検索アプローチには抜け穴が発生しやすいものもあります。 2020 年、Pinterest は Google の画像検索アルゴリズムの異常を利用して、Google 画像検索により多くのコンテンツを表示しました。 OpenAI は、インターネット対応の ChatGPT が、詐欺メッセージやスパムメールの送信、セキュリティ制限の回避、そして一般に「欺き、誤解を与え、または他人を虐待する。「悪者の能力」。しかし同社は、こうした事態が起こらないよう社内外に「いくつかの安全策を講じた」とも述べた。

ブラウザ プラグインに加えて、OpenAI は、サンドボックス、ファイアウォール実行環境、一時ディスク領域で動作する Python インタープリターを備えた ChatGPT の背後にあるモデルも提供します。このプラグインは、ChatGPT へのファイルのアップロードと結果のダウンロードをサポートしています。 OpenAIによれば、数学的問題の解決、データ分析の実行、視覚化、ファイル形式間の変換に特に役立つという。

Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram、Zapier など、多くの初期の共同制作者が ChatGPT 用のプラグインを構築してきました。

ほとんどの場合、これらのプラグインの目的は一目瞭然です。たとえば、OpenTable アドオンを使用すると、チャットボットが予約可能なレストランを検索できるようになり、Instacart アドオンを使用すると、ChatGPT が地元の店舗に注文できるようになります。 Zapier は、これまでに作成されたアプリの中で最もスケーラブルなアプリの 1 つで、Google スプレッドシート、Trello、Gmail などのアプリと接続して、生産性関連のさまざまなタスクをトリガーします。

開発者に新しいプラグインの作成を奨励​​するために、OpenAI は、ChatGPT がファイル、メモ、電子メール、公開ドキュメントなどのデータ ソースからドキュメント スニペットにアクセスできるようにする「取得」プラグインをオープンソース化しました。自然言語での質問です。 OpenAI は次のように投稿しました:「私たちはさまざまなプラグインを開発し、より多くのユーザーに提供するために懸命に取り組んでいます。私たちはまだ学ぶことがたくさんありますが、皆さんのご協力を得て、実用的かつ安全なものを作成したいと考えています。」

ChatGPT にとって、プラグインは必須の補足です。 ChatGPT はかつてはトレーニング データからの学習に厳しく制限されていましたが、プラグインの使用により、突然より強力になり、おそらく法的なリスクも軽減されました。多くの専門家は、OpenAI がライセンスのないデータで ChatGPT をトレーニングすることで利益を得ていると非難しています。ChatGPT のデータセットにはさまざまな公開 Web サイトが含まれており、このプラグインにより企業がデータを完全に制御できるようになり、この問題が解決される可能性があります。 (シャオシャオ)

以上がOpenAI が ChatGPT プラグインをリリースし、懸念を引き起こす: コンテンツの品質とセキュリティを測定する必要があるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。