OpenAI、AIモデルのセキュリティ向上を目的に「レッドチームネットワーク」の立ち上げを発表、さまざまな分野の専門家に参加を呼びかける-IT業界-php.cn

OpenAI、AIモデルのセキュリティ向上を目的に「レッドチームネットワーク」の立ち上げを発表、さまざまな分野の専門家に参加を呼びかける

WBOY

リリース： 2023-09-21 08:41:11

転載

1403 人が閲覧しました

米国の人工知能研究会社である OpenAI は 9 月 20 日、「レッドチーミングネットワーク」の立ち上げを発表し、人工知能 (AI) モデルを改善するためにさまざまな分野の専門家を「レッドチーミングネットワーク」に招待しました。安全。

OpenAI 宣布推出“红队网络”并邀请各领域专家加入，旨在提高其 AI 模型安全性

# OpenAI によるこの動きは、人工知能モデルの信頼性とセキュリティを確保するために、外部の専門家との協力を深め、拡大することを目的としています。契約した専門家は、モデルのリスクの評価と軽減を支援することで、OpenAI の人工知能システムの堅牢性を強化する上で重要な役割を果たします。

OpenAI はこれまでバグ報奨金プログラムや研究者アクセスプログラムを通じて外部の専門家と協力してきましたが、新たに開始された「レッドチームネットワーク」はこれらの取り組みを正式なものとします。

OpenAI は、「レッドチームネットワーク」は、企業が大規模なモデル展開に先立って 1 回限りの取り組みとしてではなく、より広範にリスク評価を実施できるよう支援できる、経験豊富で信頼できる専門家のコミュニティであると述べています。

## レポートによると、「レッドチーム」は、人工知能システムのバイアスを特定し、安全フィルターを評価する際に重要な役割を果たしており、人工知能モデルの開発プロセスにおける重要なリンクとなっています。広く使用されています

OpenAI は、言語学、生体認証、金融、ヘルスケアなどの背景を持つ専門家を含む、さまざまな分野の専門家を招待します。同社は、認知科学、法律、サイバーセキュリティ、経済学、ヘルスケアなどの分野をカバーする、人工知能の評価におけるさまざまな専門知識の重要性を強調しました。ハイパーリンク、QR コード、パスワードなどに限定されません) より多くの情報を伝え、選択時間を節約するために使用されます。結果は参照のみを目的としています。このサイトのすべての記事にはこの声明が含まれています。

以上がOpenAI、AIモデルのセキュリティ向上を目的に「レッドチームネットワーク」の立ち上げを発表、さまざまな分野の専門家に参加を呼びかけるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。