権威あるリスト | NetEase Yidun は、中国情報通信技術院によって生成 AI 技術と応用の優れた事例として選ばれました

私たちは、生成人工知能技術に基づいて研究作業をさらに実行し、その応用と産業開発状況を深く調査し、優れた成果を要約して促進し、業界の質の高い発展を促進します。 2023 年 2 月、中国情報通信技術院（以下「CAICT」）は、省人工知能応用評価重点研究所の AI エンジニアリング推進委員会の生成 AI 作業部会に依存しました。 Industry and Information Technology が Generative AI Working Group を正式に発足 AI 技術と応用事例を集めたもの。 5月31日午後、杭州総合人工知能フォーラムの大規模モデル技術応用サブフォーラムで、生成AI技術および応用の優れた事例の第1次選考結果が正式に発表された。 、見事に優秀な事例として選ばれ、中国信用を獲得しました 通園学院は証明書を発行します。

1. コンテンツのリスク管理は依然としてインターネット セキュリティの最優先事項です

近年、インターネットの急速な発展に伴い、ネットワークデータが急激に増加しています。テキスト、画像、音声、動画など、さまざまな形のコンテンツは人々の日常生活や仕事に欠かせないものとなっています。コンテンツ形態の多様化とコンテンツ制作の敷居の大幅な低下により、私たちの生活は利便性と効率性が高まっていますが、それに伴うコンテンツリスク管理の問題はますます顕在化しており、デジタルコンテンツのセキュリティはインターネットセキュリティの最優先事項となっています。

2. 従来のコンテンツ リスク管理は新たな課題に直面しています

デジタル コンテンツのリスク管理と制御には、範囲と種類が広く、粒度が細かく、頻繁に対立し、ニーズと基準が多様であるという特徴があります。これまで、デジタル コンテンツのリスク管理では、通常、識別と保護のために「カスタマイズと認識後の」アプローチが採用されていました。

· 事後ポジショニングとは、有害な種類やデータが出現した後の対象を絞ったソリューションを指します。適時性は事後ポジショニングであることが多く、リスクを事前に認識して防止する明確な能力はありません。

· カスタマイズとは、広範囲にわたる有害な情報の種類と範囲を指します。信頼できる汎用機能が欠如しているため、さまざまな有害な種類に対して継続的なモデルのカスタマイズ トレーニングが必要であり、各カスタマイズでは、専門的な現場能力を一から構築する必要があります。時間と費用がかかり、高い。

· 知覚とは、有害な情報の特定が、シーンのコンテンツ情報を十分に活用せずに、ターゲットの有害な種類のみを対象とした、ターゲットを絞った知覚であることが多いことを意味します。つまり、過去のコンテンツのリスク管理は、コンテンツのリスク管理ではなく、知覚レベルの特定に基づいていました。認知レベルの推論です。

·同時に、有害なタイプの定義には多くの主観的、境界的、詳細な違いが存在することが多く、標準のさまざまな置き換えに基づいてモデルを頻繁に適応させるだけでは、差別化された階層的で正確な保護を真に達成することはできません。

したがって、起こり得るセキュリティ リスクを事前に認識して防止する方法、新たな危険タイプに対するセキュリティ保護機能を迅速に構築する方法、詳細な認知的推論のためにシーン情報を包括的に統合する方法、および階層的な正確な保護を区別する方法が必要です。デジタルコンテンツのセキュリティにおける重要な課題と困難になります。

3. AIGC はコンテンツ リスク管理に新しいアイデアをもたらします

AIGC の現在の開発により、より汎用的で、フロントエンドで、迅速に対応できるデジタル コンテンツのリスク管理機能を提供できるようになります。 AIGC は、より広範な一般的能力、創造的能力、データ認識、知識融合能力を備えるために「世界の知識」を注入します。具体的には： ＃＃＃

· その一般的な機能とさらにカスタマイズされたドメイン セキュリティ機能に基づいて、コンテンツ リスク管理のタイム サイクルとコストが大幅に削減されます。

· コンテンツ リスク コントロールは、クリエイティブな能力に基づいて未知のリスクを事前に感知して防止し、「ポスト ポジション」を「プレ ポジショニング」に変換し、未知の有害な種類の隠れた危険を軽減します。

・豊富な情報注入・融合機能をもとに、シナリオ、背景、知識など有害情報以外の包括的な情報を最大限に活用・統合することで、コンテンツリスク管理のシナリオ理解力と知識伝達力を強化し、より深い認知ロジックを実行します。推論と包括的な予防と制御;

· コンテンツ リスク コントロールは、その迅速なコンテキスト学習パラダイムと思考推論プロセスに基づいて、モデルを更新することなくさまざまな標準により簡単に適応し、差別化された階層的で多層的な正確な防止と制御を提供します。

4. NetEase Yidun: 生成 AI テクノロジーによりコンテンツ リスク管理が強化されます

上記の考えに基づいて、NetEase Yidun は生成 AI テクノロジーを使用して、AIGC ベースの生成対立の防止と制御、少数サンプルの有害情報の識別、きめの細かい適応識別、包括的な情報論理推論、およびその他のソリューションを開発し、最も強力な方法で構築されています。槍 最強の盾。詳細は次のとおりです:

(1) AIGC に基づいて対立の予防および制御計画を作成する

セキュリティ リスクの早期認識と予防を達成するために、NetEase Yidun は AIGC の創造的能力に基づいて、AIGC ベースの衝突予防および制御計画を開発し、当初の「検出、展開、制御」を「検出、生成」に改善しました。 、展開と制御」。このソリューションは、現在のモデルではカバーできない、または識別効果が低い有害なタイプとサンプルを生成し、現在主流のセキュリティ リスクのタイプに基づいて、AIGC 手法を通じてセキュリティ リスクの変化傾向をさらにシミュレーションし、セキュリティの早期認識を実現します。リスク。さらなる導入および制御方法には、AIGC で生成されたサンプルを組み合わせて反復的な予防および制御モデルを共同トレーニングすること、AIGC で生成された固定点防御および制御用の敵対的ライブラリの構築などが含まれます。

(2) AIGC 小規模サンプル有害情報特定スキーム

デジタルリスク管理機能の効率的かつ迅速な構築を実現し、AIGC の一般的な機能に基づいて専門分野の機能をさらに開発するために、私たちは AIGC に基づいた少量の有害情報識別ソリューションを開発しました。 「汎用能力とドメイン能力」をゼロから構築するという当初の計画を、「AIGCユニバーサル能力、ユニバーサル能力補償、ドメイン能力」を構築するステップに改善します。小規模サンプルの一般的能力補償モジュールの設計を通じて、プロフェッショナル シナリオにおける AIGC 一般的能力の適用におけるギャップは、少数のサンプルを犠牲にして埋められ、ドメイン能力構築モジュールに直接リンクされます。 「AIGC ユニバーサル ケイパビリティとユニバーサル ケイパビリティ補償」の方法を使用すると、ユニバーサル ケイパビリティを最初から構築するよりも速く、より効率的で、低コストになります。

(3) AIGC に基づくきめ細かな適応認識スキーム

AIGC プロンプトのコンテキスト学習パラダイムと思考推論機能に基づいて、差別化された階層的で正確な予防と制御を実現するために、AIGC ベースのきめ細かい適応的識別ソリューションを開発し、AIGC プロンプトのアイデアを適用しました。このスキームでは、マルチモーダル プロンプトと推論入力のさまざまな標準との調整を調査することにより、さまざまなプロンプトと推論入力を通じてさまざまな標準がマッピングされます。例えば、以前はセクシージャンルを細かく解体するのが難しかったり、解体コストが非常に高かったのですが、今ではセクシーさなど、より細かく解体できるようになりました。ビーチシーンやナイトクラブシーンのセクシーさなど、ジャンルの基準を洗練させ、シナリオやサンプルについては、さまざまな主観やさまざまな境界基準に適応し、よりきめの細かい階層的な正確な防止と制御を実現できます。

(4) AIGC総合情報論理推論ソリューション

認知論理的推論と包括的な予防と制御を実現するために、AIGC の情報注入と融合および論理的推論の機能に基づいて、AIGC ベースの包括的な情報論理的推論ソリューションを開発しました。有害情報のみを対象とする本来の知覚認識を改善し、有害情報を含むあらゆる情報を統合して認知推論できるようにする。 AIGC の視覚言語モデルは、有害な情報を除く包括的な情報を取得するために使用され、包括的な推論に使用されます。 「ドメイン能力に基づく有害情報の抽出と意思決定」をベースとした当初のソリューションは、「ドメイン能力に基づく有害情報の抽出、AIGCに基づく一般知識の抽出、情報融合と総合的な論理的判断」をベースとしたソリューションに改良-視覚言語モデルに基づいた制作」。

5. 生成 AI はコンテンツ リスク管理に大きなメリットをもたらします

デジタル コンテンツのリスク管理シナリオにおいて、NetEase Yidun は生成 AI 機能を開発および統合し、ドメイン セキュリティ機能の効率的かつ迅速な構築、セキュリティ リスクの早期認識と予防、認知的推論と包括的な予防と制御、正確な区別と格付けを実現します。 . 予防と管理。関連ソリューションの立ち上げにより、Yidun は機能、データ、情報の 3 つのレベルから AIGC 機能を完全に結合し、実際に顧客が適用するデジタル コンテンツのリスク管理シナリオにおける効果、コスト、適時性、多様性、適応性を実現することができ、大きな成果が得られました。安定性やその他の面で。

以上が権威あるリスト | NetEase Yidun は、中国情報通信技術院によって生成 AI 技術と応用の優れた事例として選ばれましたの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。