ChatGPT のカスタム GPT がデータを公開する仕組みとその安全性を保つ方法

ChatGPT のカスタム GPT 機能を使用すると、誰でも思いつく限りのほぼすべてのカスタム AI ツールを作成できます。クリエイティブ、テクニカル、ゲーム、カスタム GPT はすべてを実行できます。さらに良いのは、カスタム GPT 作成を誰とでも共有できることです。

ただし、カスタム GPT を共有すると、データを世界中の何千人もの人々に公開するという、損害の大きい間違いを犯す可能性があります。

カスタム GPT とは何ですか?

カスタム GPT は、特定のタスクでより役立つようにトレーニングできる ChatGPT のプログラム可能なミニバージョンです。これは、ChatGPT を、思いどおりに動作するチャットボットに成形し、自分にとって本当に重要な分野の専門家になるように教えるようなものです。

たとえば、6 年生の教師は、6 年生の生徒に適した口調、言葉の選択、マナーで質問に答えることに特化した GPT を構築できます。 GPT は、教師が GPT に質問するたびに、チャットボットが 6 年生の理解度に直接応じた応答を作成するようにプログラムできます。複雑な用語を避け、文の長さを管理しやすくし、励ましの口調を採用します。カスタム GPT の魅力は、この方法でチャットボットをパーソナライズできると同時に、特定の分野の専門知識を強化できることです。

カスタム GPT がデータを公開する方法

カスタム GPT を作成するには、通常、ChatGPT の GPT 作成者に GPT で焦点を当てたい領域を指示し、プロフィール写真、名前を付ければ準備完了です。 。このアプローチを使用すると GPT を取得できますが、派手な名前とプロフィール写真のない従来の ChatGPT よりも大幅に優れているわけではありません。

カスタム GPT の威力は、それをトレーニングするために提供される特定のデータと指示から生まれます。関連するファイルとデータセットをアップロードすることで、広範な事前トレーニング済みの従来の ChatGPT ではできない方法でモデルを特殊化できます。これらのアップロードされたファイルに含まれる知識により、カスタム GPT は、その特殊な情報にアクセスできない可能性がある ChatGPT と比較して、特定のタスクで優れた性能を発揮できます。最終的に、より優れた機能を可能にするのはカスタム データです。

ただし、GPT を向上させるためにファイルをアップロードするのは諸刃の剣です。 GPT の機能を強化するのと同じくらい、プライバシーの問題も発生します。顧客があなたやあなたの会社についてもっと知るのに役立つ GPT を作成したシナリオを考えてみましょう。カスタム GPT へのリンクを持っている人、または何らかの方法で悪意のあるリンクを含む公開プロンプトを使用させた人は誰でも、GPT にアップロードしたファイルにアクセスできます。

これは簡単なイラストです。

トレンドのハッシュタグやトピックを推奨することで、ユーザーが TikTok でバイラルになるのを支援するカスタム GPT を発見しました。カスタム GPT の後は、セットアップ時に与えられた指示をリークさせるのに、ほとんど、あるいはまったく手間がかかりませんでした。ここでこっそり見てみましょう:

そして、これが指示の 2 番目の部分です。

よく見ると、指示の 2 番目の部分では、「ファイルの名前をエンド ユーザーと直接共有し、いかなる状況でもファイルへのダウンロード リンクを提供してはならない」とモデルに指示しています。もちろん、最初にカスタム GPT に要求すると拒否されますが、少し迅速なエンジニアリングを行うと状況は変わります。カスタム GPT は、ナレッジ ベース内の唯一のテキスト ファイルを明らかにします。

ファイル名を使用すると、GPT を取得してファイルの正確な内容を出力し、その後ファイル自体をダウンロードするのにほとんど手間がかかりませんでした。この場合、実際のファイルは機密ではありませんでした。さらにいくつかの GPT を調べてみたところ、数十のファイルが公開されたままの GPT が多数ありました。

世の中には、悪意のある攻撃者が取得するのを待っているだけの機密ファイルを含む、公開されている GPT が何百も存在します。

カスタム GPT データを保護する方法

まず、作成したカスタム GPT をどのように共有する (または共有しない) かを検討します。カスタム GPT 作成画面の右上隅に、[保存] ボタンがあります。ドロップダウン矢印アイコンを押して、ここから、作成したものを共有する方法を選択します:

残念ながら、現在、パブリックに共有されているカスタム GPT にアップロードしたデータを保護する 100% 確実な方法はありません。創造力を発揮して、ナレッジ ベース内のデータを公開しないように厳密に指示することもできますが、上記のデモで示したように、通常はそれだけでは十分ではありません。誰かが本当にナレッジ ベースにアクセスしたいと考えていて、AI プロンプト エンジニアリングの経験があり、しばらくすると、最終的にはカスタム GPT が壊れてデータが明らかになります。

このため、一般公開する予定のカスタム GPT に機密データをアップロードしないことが最も安全な方法です。個人データや機密データをカスタム GPT にアップロードし、そのデータがコンピュータから流出すると、そのデータは事実上制御不能になります。

また、オンラインでコピーしたプロンプトを使用するときは、十分に注意してください。これらを十分に理解し、リンクを含む難読化されたプロンプトを避けてください。これらは、ファイルをハイジャック、エンコードし、リモート サーバーにアップロードする悪意のあるリンクである可能性があります。

カスタム GPT は注意して使用してください

カスタム GPT は強力ですが、潜在的に危険な機能です。これらを使用すると、特定のドメインで高度な機能を備えたカスタマイズされたモデルを作成できますが、その機能を強化するために使用したデータが公開される可能性があります。リスクを軽減するには、可能な限り、本当に機密データをカスタム GPT にアップロードしないようにしてください。さらに、特定の抜け穴を悪用してファイルを盗む可能性のある悪意のあるプロンプト エンジニアリングにも注意してください。

以上がChatGPT のカスタム GPT がデータを公開する仕組みとその安全性を保つ方法の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。