人工知能ロボットChatGPTが普及して間もなく、管理規制が導入された

先週人気になった人工知能チャット ロボット ChatGPT は、人工知能の質疑応答のトレンドを引き起こし、以前の「時代遅れのインターネット有名人」ディープフェイク深層合成技術は、技術とユーザー エクスペリエンスを改善し、多くのことをもたらしました。みんな、新鮮さ。

しかし、人工知能の質問と回答は真と偽を区別することが難しい場合があり、倫理的なジレンマに陥ることもあります。 ChatGPT の開発者は、ChatGPT には、合理的であるように見えても間違っている回答、長すぎる回答、曖昧な質問に回答する際のユーザーの意図の推測、有害な指示への応答などの問題があると述べています。

ディープフェイク テクノロジーは、一部の悪意のある個人によって、違法で有害な情報を作成、コピー、公開、広めたり、他人の身元になりすまして詐欺を行ったりするために使用されます。ディープフェイク技術の最も一般的な悪用は、一般に「ヘッドスワップビデオ」として知られるビデオ偽造です。これは、模倣オブジェクトのビデオをフレームごとに多数の写真に変換し、ターゲットの模倣オブジェクトの顔をターゲットに置き換えます。オブジェクトの顔を抽出してフェイクビデオに合成します。第 2 深さの合成テクノロジーはこのプロセスを自動化し、違法犯罪の閾値をさらに下げることができます。

最近、中国サイバースペース局とその他の3つの部門は、深層合成技術およびサービスの管理規制を規定する「インターネット情報サービスの深層合成管理規則」を発行しました。

チャイナネットコムの12月11日のニュースによると、中国サイバースペース局、工業情報化部、公安部は最近共同で「ネットワークの徹底した合成管理に関する規定」を公布したという。インターネット インフォメーション サービス」（以下「本規約」といいます。）は、2023 年 1 月 10 日から施行されます。

「規制」では、深層合成サービスの監督および管理単位は国家サイバーセキュリティおよび情報化部門であり、全国の深層合成サービスのガバナンスおよび関連する監督および管理の調整を担当すると述べられています。国務院電気通信部門と公安部門は、それぞれの責任に応じて深層合成サービスの監督と管理を担当する。

「規則」では、深層合成サービス プロバイダーおよびテクニカル サポーターに対する詳細な要件が規定されています。深層合成サービスのプロバイダーは、情報セキュリティに対する主な責任を果たし、法律と契約に従って管理責任を果たし、コンテンツの管理とレビューを強化すると同時に、深層合成サービスのテクニカル サポーターとユーザーに次のことを明確な方法で思い出させる必要があります。情報セキュリティの義務。

また、深層合成サービスの提供者や技術支援者が顔や人の声などの生体情報の編集機能を提供する場合には、深層合成サービスの利用者に対し、法律や法律に従って編集対象者に通知するよう促す必要があります。別途同意を得ます。

インテリジェントなダイアログ ライティング、合成された人間の音声、顔の生成と置換、イマーシブ シミュレーション シーン、および公衆の混乱や誤解を引き起こす可能性のあるその他の深層合成サービスを提供する深層合成サービス プロバイダーは、生成または情報コンテンツの合理的な位置と領域は、詳細な統合を一般の人々に思い出させるために明確にマークされています。

サイバーセキュリティおよび情報化部門および関連管轄当局が、深層合成サービスに比較的大きな情報セキュリティリスクがあることを発見した場合、その職務および法律に従って、深層合成サービスプロバイダーおよび技術者に要求する場合があります。サポーターに対し、情報の更新、ユーザーアカウントの登録の停止等のサービス、その他の措置を講じさせていただきます。

「規程」の原文を添付します。

インターネット情報サービスの徹底した統合管理に関する規定

第 1 章 総則規定

第1条 インターネット情報サービスの徹底した統合管理を強化し、社会主義の核心的価値観を促進し、国家安全保障と社会公共利益を保護し、国民、法人の正当な権利と利益を保護する。 「中華人民共和国サイバーセキュリティ法」および「中華人民共和国データセキュリティ」に従い、本規定は個人情報保護法、個人情報保護法などの法律および行政法規によって制定されます。中華人民共和国、およびインターネット情報サービス管理措置。

第 2 条 この規定は、中華人民共和国の領域内でインターネット情報サービス (以下、深層合成サービスという) を提供するための深層合成技術の適用に適用されます。法律および行政法規に別段の定めがある場合には、その規定が優先するものとします。

第 3 条 国家サイバーセキュリティおよび情報化部門は、全国の深層合成サービスのガバナンスおよび関連する監督および管理を調整する責任を負います。国務院電気通信部門と公安部門は、それぞれの責任に応じて深層合成サービスの監督と管理を担当する。

地方のサイバースペース部門は、それぞれの行政区域内のガバナンスと関連する深層合成サービスの監督と管理を調整する責任があります。地方の電気通信当局と公安部門は、それぞれの責任に応じて、それぞれの行政区域内での深層合成サービスの監督と管理に責任を負います。

第4条 深層合成サービスを提供する場合、当社は法令を遵守し、社会道徳と倫理を尊重し、正しい政治的方向性、世論の指導、価値観を遵守し、深層合成サービスを推進しなければなりません。良い。

第5条は、関連する業界団体が業界の自主規律を強化し、業界標準、業界ガイドライン、自主規律管理システムを確立および改善し、深層合成サービスプロバイダーおよびテクニカルサポーターにビジネス仕様の策定と改善を促すよう促し、指導することを奨励しています。 、法律に従ってビジネスを行い、サービスを受け入れる 社会的監督。

第 2 章 一般規定

第 6 条: いかなる組織または個人も、法律および行政法規で禁止されている情報を作成、コピー、出版、または配布するために深層合成サービスを使用してはなりません。また、深層合成サービスを次の目的で使用してはなりません。国家の安全と利益を危険にさらす活動、国のイメージを損なう活動、社会的および公益的利益を侵害する、経済的および社会的秩序を混乱させる、他者の正当な権利と利益を侵害する、および法律および行政規制によって禁止されているその他の活動に従事すること。

深層合成サービスのプロバイダーおよびユーザーは、深層合成サービスを利用して虚偽のニュース情報を作成、コピー、公開、または流布してはなりません。深層合成サービスに基づいて制作・公開されたニュース情報を転載する場合、インターネットニュース情報源部門が公開したニュース情報は法律に従って転載しなければなりません。

第7条 深層合成サービスプロバイダーは、情報セキュリティ、ユーザー登録の確立と改善、アルゴリズムメカニズムのレビュー、技術倫理のレビュー、情報公開のレビュー、データセキュリティ、個人情報の保護、およびテレコム対策に関する主な責任を実行するものとします。ネットワーク詐欺、緊急対応、その他の管理システムと、安全で制御可能な技術保証手段を備えています。

第8条 深層合成サービス提供者は、管理規定およびプラットフォーム規約を策定・公開し、サービス契約を改善し、法律および契約に従って管理責任を果たし、深層合成サービス技術支援者および利用者に目立つ方法で注意喚起しなければならない情報に関する責任 安全上の義務。

第9条 深層合成サービス提供者は、法律に従い、携帯電話番号、ID番号、統一社会信用コード、または国家網身元認証公共サービスに基づいて、深層合成サービスの利用者の実際の身元情報を認証しなければならない. は、実際の身元情報を認証していない深層合成サービス利用者に対して情報公開サービスを提供しません。

第10条 深層合成サービスプロバイダーは、深層合成コンテンツ管理を強化し、深層合成サービス利用者の入力データと合成結果をレビューする技術的または手動の方法を採用しなければなりません。

深層合成サービスプロバイダーは、違法および有害な情報を特定するための機能データベースを確立および改善し、データベースエントリの標準、規則および手順を改善し、関連するネットワークログを記録および保持する必要があります。

ディープシンセシスサービスプロバイダーは、違法かつ有害な情報を発見した場合、法律に従って廃棄措置を講じ、関連記録を保管し、サイバーセキュリティおよび情報化部門および関連管轄当局に速やかに報告するものとします。総合サービス利用者は、法令および契約に基づく警告、機能制限、サービス停止、アカウント閉鎖等の処分措置を講じるものとします。

第11条 深層合成サービス提供者は、デマに対する反論の仕組みを確立し、改善しなければならず、深層合成サービスが虚偽の情報の作成、複製、出版、流布に利用されていることが判明した場合には、速やかにデマに対する反論の措置を講じなければならない。 、関連記録を保存し、インターネットに報告する 情報部門および関連管轄当局に報告する。

第12条 深層合成サービスプロバイダーは、ユーザーからの苦情や一般の苦情や報告に便利な入り口を設置し、処理手順とフィードバック期限を公開し、結果について速やかに受け入れ、処理し、フィードバックを提供する必要があります。

第 13 条 インターネット アプリケーション ストアおよびその他のアプリケーション配布プラットフォームは、棚レビュー、日常管理、緊急対応などの安全管理責任を実施し、深層合成アプリケーションのセキュリティ評価と提出を検証する必要があります; 関連する規制が満たされている場合、上場廃止、警告、サービスの停止、棚からの撤去などの処分措置を適時に講じる必要があります。

第 3 章 データおよび技術管理仕様

第 14 条 深層合成サービスプロバイダーおよびテクニカルサポートは、トレーニングデータの管理を強化し、トレーニングデータの安全性を確保するために必要な措置を講じるものとします。トレーニングデータには、個人情報が含まれる場合があります。情報を収集する際には、個人情報保護に関する関連規定を遵守するものとします。

深層合成サービスの提供者や技術支援者が顔、音声、その他の生体情報の編集機能を提供する場合、深層合成サービスの利用者に対し、編集対象者に法に従って通知し、別途同意を得るように促す必要があります。 。

第15条 深層合成サービスプロバイダーおよび技術支援者は、技術管理を強化し、合成アルゴリズムを生成するメカニズムを定期的にレビュー、評価、検証する必要があります。

深層合成サービスプロバイダーおよび以下の機能を備えたモデル、テンプレート、その他のツールを提供するテクニカルサポーターは、法律に基づき、自らセキュリティ評価を実施するか、専門機関にセキュリティ評価を委託する必要があります。 (1) 顔や声などの生体情報の生成または編集;

(2) 国家安全保障、国家イメージ、国益、社会公共に関わる可能性のある特別な物体や場面などの非生体情報の生成または編集興味のあること。

第16条 深層合成サービスプロバイダーは、法律、行政法規および関連国の法令に従って、自社のサービスを利用して生成または編集された情報内容にユーザーの利用に影響を及ぼさない識別情報を付加し、ログを保存するための技術的措置を講じなければなりません。規制や情報など。

第17条 深層合成サービスプロバイダーが、公衆の混乱または誤解を引き起こす可能性のある以下の深層合成サービスを提供する場合、公衆に思い出させるために、生成または編集された情報コンテンツを合理的な場所または領域に目立つように表示しなければなりません。合成状況:

(1) インテリジェントな対話、インテリジェントなライティングなど、テキスト生成または編集サービスのために自然人をシミュレートします;

(2) 合成人間の音声、模倣およびその他の音声生成または重要な音声変更 個人識別特性の編集サービス;

(3) 顔生成、顔置換、顔操作、姿勢操作、その他のキャラクター画像およびビデオの生成または個人識別特性の重大な変更の編集サービス;

(4) イマーシブ シミュレーション シーンの生成または編集サービス;

(5) その他、情報内容を生成または大幅に変更する機能を有するサービス。

深層合成サービス提供者が前項に定める深層合成サービス以外の深層合成サービスを提供する場合には、顕在化識別機能を提供し、深層合成サービスの利用者に顕在化識別の実施を促すものとします。

第 18 条 いかなる組織または個人も、本規則の第 16 条および第 17 条に規定されているディープ合成ロゴを削除、改ざん、または隠蔽するために技術的手段を使用することはできません。

第4章 監督、検査および法的責任

第19条 世論属性または社会動員能力を備えた詳細な総合サービスプロバイダーは、「インターネット情報サービスアルゴリズム勧告」に従って職務を遂行するものとする管理規程」の届出および変更・取消届出手続きを行います。

ディープシンセシスサービスのテクニカルサポーターは、前項の規定に従い、登録および登録変更・抹消手続きを行うものとします。

登録を完了した深層合成サービス プロバイダーおよびテクニカル サポーターは、登録番号を示し、外部関係者にサービスを提供する Web サイトやアプリケーションの目立つ位置に公開情報リンクを提供する必要があります。

第 20 条 深層合成サービスプロバイダーが世論属性または社会動員機能を備えた新製品、新アプリケーション、または新機能を開発および発売する場合、関連する国内規制に従ってセキュリティ評価を実施するものとします。

第 21 条: ネットワーク情報部門、電気通信当局、公安部門は、その任務に応じて深層合成サービスの監督と検査を実施します。深層合成サービスプロバイダーとテクニカルサポーターは法律に従って協力し、必要な技術的、データ的およびその他のサポートと支援を提供するものとします。

サイバーセキュリティおよび情報化部門および関連管轄当局が、深層合成サービスに比較的大きな情報セキュリティリスクがあることを発見した場合、その職務および法律に従って、深層合成サービスプロバイダーおよび技術者に要求する場合があります。サポーターに対し、情報の更新、ユーザーアカウントの登録の停止等のサービス、その他の措置を講じさせていただきます。深層合成サービスプロバイダーとテクニカルサポートは、修正を加えて隠れた危険を排除するために、必要に応じて措置を講じる必要があります。

第22条 深層合成サービス提供者および技術支援者が本規定に違反した場合、関連法律および行政法規に従って処罰され、重大な結果が生じた場合には法律に従って厳罰に処せられる。

公安管理違反に該当する場合、公安機関は法律に基づき治安管理処罰を課し、犯罪に該当する場合には法律に基づき刑事責任を追及する。

第5章 附則

第23条 この規程における次の用語の意義

深層合成技術とは、深層学習、仮想現実等の利用をいう。合成を生成するための技術 テキスト、画像、オーディオ、ビデオ、仮想シーンおよびその他のネットワーク情報を生成するためのアルゴリズムに似た技術。以下を含むがこれらに限定されない。

(1) チャプター生成などのテキスト コンテンツを生成または編集する技術、テキストスタイル変換、質疑応答ダイアログなど;

(2) テキスト読み上げ、音声変換、音声属性編集および音声コンテンツを生成または編集するその他の技術;

(3) 非音声コンテンツを生成・編集する音楽生成、シーン音声編集等 コンテンツ技術;

(4) 顔生成、顔置換、キャラクタ属性編集、顔操作、姿勢操作等の技術画像およびビデオコンテンツ内の生体特徴を生成または編集するため;

(5) 画像およびビデオコンテンツ内の非生物学的特徴を生成または編集する画像生成、画像強調、画像復元およびその他のテクノロジー;

(6) デジタルキャラクターや仮想シーンを生成・編集する三次元再構築、デジタルシミュレーション等の技術。

深層合成サービスプロバイダーとは、深層合成サービスを提供する組織および個人を指します。

深層合成サービスのテクニカル サポーターとは、深層合成サービスの技術サポートを提供する組織および個人を指します。

深層合成サービスのユーザーとは、深層合成サービスを使用して情報を作成、コピー、公開、配布する組織および個人を指します。

トレーニング データは、機械学習モデルのトレーニングに使用されるアノテーションまたはベンチマーク データ セットを指します。

没入型イマーシブ シーンとは、深層合成テクノロジーを使用して生成または編集され、参加者が体験または対話できる、非常に現実的な仮想シーンを指します。

第 24 条 オンライン出版サービス、オンライン文化活動、オンライン視聴覚プログラム サービスに従事する深層合成サービス プロバイダーおよびテクニカル サポーターは、報道と出版、文化と観光、ラジオとテレビの要件にも従わなければなりません当局の規制。

第25条 この規程は、2023年1月10日から施行する。

以上が人工知能ロボットChatGPTが普及して間もなく、管理規制が導入されたの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。