Tidak lama selepas robot kecerdasan buatan ChatGPT menjadi popular, peraturan pengurusan diperkenalkan

ChatGPT, bot sembang kecerdasan buatan yang menjadi popular minggu lalu, telah mencetuskan trend soal jawab kecerdasan buatan dan teknologi sintesis mendalam Deepfake "selebriti Internet ketinggalan zaman" telah meningkatkan teknologi dan pengalaman pengguna serta membawa banyak perkara; kepada semua orang.

Walau bagaimanapun, soalan dan jawapan kecerdasan buatan kadangkala sukar untuk dibezakan antara benar dan palsu, dan kadangkala ia jatuh ke dalam dilema etika. Pembangun ChatGPT telah menyatakan bahawa ChatGPT mempunyai masalah seperti jawapan yang kelihatan munasabah tetapi tidak betul, jawapan yang terlalu panjang, meneka niat pengguna semasa menjawab soalan yang samar-samar dan bertindak balas kepada arahan yang berbahaya.

Teknologi Deepfake digunakan oleh sesetengah orang yang tidak bertanggungjawab untuk menghasilkan, menyalin, menerbitkan, menyebarkan maklumat yang menyalahi undang-undang dan berbahaya, malah menyamar sebagai identiti orang lain untuk melakukan penipuan. Penyalahgunaan teknologi Deepfake yang paling biasa ialah pemalsuan video, biasanya dikenali sebagai "video pertukaran kepala", yang menukarkan video objek tiruan kepada sejumlah besar bingkai gambar demi bingkai, dan kemudian menggantikan wajah objek tiruan sasaran dengan sasaran muka objek dan mensintesiskannya menjadi video palsu. Teknologi sintesis kedua mendalam boleh mengautomasikan proses ini dan seterusnya mengurangkan ambang untuk jenayah haram.

Baru-baru ini, Pentadbiran Ruang Siber China dan tiga jabatan lain mengeluarkan "Peraturan Mengenai Pengurusan Sintesis Dalam Perkhidmatan Maklumat Internet" untuk menyediakan peraturan pengurusan bagi teknologi dan perkhidmatan sintesis mendalam.

Menurut berita dari China Netcom pada 11 Disember, Pentadbiran Ruang Siber China, Kementerian Industri dan Teknologi Maklumat, dan Kementerian Keselamatan Awam baru-baru ini telah bersama-sama mengeluarkan "Peraturan Mengenai Pengurusan Sintesis Mendalam Perkhidmatan Maklumat Internet" (selepas ini dirujuk sebagai "Peraturan"). Berkuat kuasa mulai 10 Januari 2023.

"Peraturan" menyebut bahawa unit penyeliaan dan pengurusan perkhidmatan sintesis dalam ialah jabatan ruang siber negara, yang bertanggungjawab menyelaraskan tadbir urus dan penyeliaan dan pengurusan perkhidmatan sintesis mendalam di seluruh negara. Jabatan telekomunikasi di bawah Majlis Negeri dan jabatan keselamatan awam bertanggungjawab untuk penyeliaan dan pengurusan perkhidmatan sintetik mendalam mengikut tanggungjawab masing-masing.

"Peraturan" menetapkan keperluan terperinci untuk pembekal perkhidmatan sintesis mendalam dan penyokong teknikal. Penyedia perkhidmatan sintesis mendalam perlu melaksanakan tanggungjawab utama untuk keselamatan maklumat, melaksanakan tanggungjawab pengurusan mengikut undang-undang dan kontrak, mengukuhkan pengurusan dan semakan kandungan, dan pada masa yang sama mengingatkan penyokong teknikal perkhidmatan sintesis mendalam dan pengguna dengan cara yang mudah dilihat untuk menganggap kewajipan keselamatan maklumat.

Selain itu, penyedia perkhidmatan sintesis mendalam dan penyokong teknikal yang menyediakan fungsi pengeditan maklumat muka, suara dan biometrik lain harus menggesa pengguna perkhidmatan sintesis mendalam untuk memberitahu individu yang diedit mengikut undang-undang dan mendapatkan persetujuan berasingan mereka.

Penyedia perkhidmatan sintesis mendalam yang menyediakan penulisan dialog pintar, suara manusia yang disintesis, penjanaan dan penggantian wajah, adegan simulasi imersif dan perkhidmatan sintesis mendalam lain, yang boleh menyebabkan kekeliruan atau salah faham orang ramai, hendaklah dalam proses penjanaan atau penyuntingan. Lokasi dan kawasan kandungan maklumat yang munasabah ditandakan dengan jelas untuk mengingatkan orang ramai tentang sintesis yang mendalam.

Jika jabatan keselamatan siber dan maklumat serta pihak berkuasa kompeten yang berkaitan mendapati perkhidmatan sintesis mendalam mempunyai risiko keselamatan maklumat yang agak besar, mereka mungkin memerlukan penyedia perkhidmatan sintesis mendalam dan penyokong teknikal untuk menggantung kemas kini maklumat, pendaftaran akaun pengguna atau lain-lain yang berkaitan langkah-langkah mengikut tugas mereka dan mengikut undang-undang dan langkah-langkah lain.

Dilampirkan teks asal "Peraturan":

Peruntukan Mengenai Penyepaduan Mendalam Perkhidmatan Maklumat Internet

Bab 1 Peruntukan Umum

Perkara 1 Untuk mengukuhkan pengurusan bersepadu yang mendalam bagi perkhidmatan maklumat Internet, menggalakkan nilai teras sosialis, melindungi keselamatan negara dan kepentingan awam sosial, dan melindungi hak dan kepentingan sah warganegara, orang undang-undang dan organisasi lain, selaras dengan "Undang-undang Keselamatan Rangkaian Republik Rakyat China" dan Undang-undang "Undang-undang Keselamatan Data Republik Rakyat China", "Undang-undang Perlindungan Maklumat Peribadi Republik Rakyat China", "Perkhidmatan Maklumat Internet Langkah Pengurusan" dan undang-undang dan peraturan pentadbiran lain digubal untuk merumuskan peraturan ini.

Perkara 2 Peraturan ini hendaklah terpakai bagi penggunaan teknologi sintesis dalam untuk menyediakan perkhidmatan maklumat Internet (selepas ini dirujuk sebagai perkhidmatan sintesis dalam) dalam wilayah Republik Rakyat China. Jika undang-undang dan peraturan pentadbiran memperuntukkan sebaliknya, peruntukan tersebut akan diguna pakai.

Perkara 3 Jabatan keselamatan siber dan maklumat negara bertanggungjawab untuk menyelaraskan tadbir urus dan penyeliaan serta pengurusan perkhidmatan sintetik mendalam di seluruh negara. Jabatan telekomunikasi di bawah Majlis Negeri dan jabatan keselamatan awam bertanggungjawab untuk penyeliaan dan pengurusan perkhidmatan sintetik mendalam mengikut tanggungjawab masing-masing.

Jabatan ruang siber tempatan bertanggungjawab untuk menyelaraskan tadbir urus dan penyeliaan dan pengurusan perkhidmatan sintetik mendalam dalam wilayah pentadbiran masing-masing. Pihak berkuasa telekomunikasi tempatan dan jabatan keselamatan awam bertanggungjawab untuk penyeliaan dan pengurusan perkhidmatan sintetik mendalam dalam wilayah pentadbiran masing-masing mengikut tanggungjawab masing-masing.

Perkara 4: Menyediakan perkhidmatan sintesis mendalam hendaklah mematuhi undang-undang dan peraturan, menghormati moral dan etika sosial, mematuhi hala tuju politik yang betul, orientasi pendapat awam, dan orientasi nilai, dan menggalakkan perkhidmatan sintesis mendalam menjadi baik.

Perkara 5 menggalakkan organisasi industri yang berkaitan untuk mengukuhkan disiplin diri industri, mewujudkan dan menambah baik piawaian industri, garis panduan industri dan sistem pengurusan disiplin diri, dan menggesa dan membimbing penyedia perkhidmatan sintesis mendalam dan penyokong teknikal untuk merumus dan menambah baik perniagaan spesifikasi, menjalankan perniagaan dan menerima mengikut undang-undang pengawasan sosial.

Bab 2 Peruntukan Am

Perkara 6: Tiada organisasi atau individu boleh menggunakan perkhidmatan sintesis mendalam untuk menghasilkan, menyalin, menerbitkan atau menyebarkan maklumat yang dilarang oleh undang-undang dan peraturan pentadbiran, dan tidak boleh menggunakan perkhidmatan sintesis mendalam untuk terlibat dalam aktiviti yang membahayakan keselamatan dan kepentingan negara, merosakkan imej negara, melanggar kepentingan sosial dan awam, mengganggu ketenteraman ekonomi dan sosial, melanggar hak sah dan kepentingan orang lain, dan aktiviti lain yang dilarang oleh undang-undang dan peraturan pentadbiran.

Pembekal perkhidmatan sintesis mendalam dan pengguna tidak boleh menggunakan perkhidmatan sintesis mendalam untuk menghasilkan, menyalin, menerbitkan atau menyebarkan maklumat berita palsu. Jika maklumat berita yang dihasilkan dan dikeluarkan berdasarkan perkhidmatan sintesis mendalam dicetak semula, maklumat berita yang dikeluarkan oleh unit sumber maklumat berita Internet hendaklah dicetak semula mengikut undang-undang.

Perkara 7 Penyedia perkhidmatan sintesis mendalam harus melaksanakan tanggungjawab utama untuk keselamatan maklumat, mewujudkan dan menambah baik pendaftaran pengguna, semakan mekanisme algoritma, semakan etika teknologi, semakan pelepasan maklumat, keselamatan data, perlindungan maklumat peribadi dan anti-telekom penipuan rangkaian, tindak balas kecemasan dan sistem pengurusan lain, dengan langkah jaminan teknikal yang selamat dan boleh dikawal.

Perkara 8 Penyedia perkhidmatan sintesis mendalam harus merumus dan mendedahkan peraturan pengurusan dan konvensyen platform, menambah baik perjanjian perkhidmatan, melaksanakan tanggungjawab pengurusan mengikut undang-undang dan kontrak, dan mengingatkan penyokong dan pengguna teknologi perkhidmatan sintesis mendalam dengan cara yang mudah dilihat tanggungjawab maklumat Kewajipan keselamatan.

Perkara 9 Penyedia perkhidmatan deep synthesis hendaklah mengesahkan maklumat identiti sebenar pengguna perkhidmatan deep synthesis mengikut undang-undang berdasarkan nombor telefon mudah alih, nombor ID, kod kredit sosial bersatu atau perkhidmatan awam pengesahan identiti rangkaian nasional. , tidak akan menyediakan perkhidmatan pelepasan maklumat kepada pengguna perkhidmatan sintesis mendalam yang belum mengesahkan maklumat identiti sebenar mereka.

Perkara 10 Penyedia perkhidmatan sintesis mendalam harus mengukuhkan pengurusan kandungan sintesis mendalam dan menggunakan kaedah teknikal atau manual untuk menyemak data input dan hasil sintesis pengguna perkhidmatan sintesis mendalam.

Penyedia perkhidmatan sintesis mendalam harus mewujudkan dan menambah baik perpustakaan ciri untuk mengenal pasti maklumat yang menyalahi undang-undang dan berbahaya, menambah baik piawaian, peraturan dan prosedur pergudangan serta merekod dan menyimpan log rangkaian yang berkaitan.

Jika pembekal perkhidmatan sintesis mendalam menemui maklumat yang menyalahi undang-undang dan berbahaya, mereka hendaklah mengambil langkah pelupusan mengikut undang-undang, menyimpan rekod yang berkaitan dan melaporkan kepada jabatan keselamatan siber dan maklumat serta pihak berkuasa kompeten yang berkaitan dengan tepat pada masanya; pengguna perkhidmatan sintesis mendalam hendaklah mengambil langkah mengikut undang-undang dan kontrak Langkah pelupusan seperti amaran, menyekat fungsi, menggantung perkhidmatan, menutup akaun, dsb.

Perkara 11 Penyedia perkhidmatan sintesis mendalam hendaklah mewujudkan dan menambah baik mekanisme penolakan khabar angin Jika mereka mendapati perkhidmatan sintesis mendalam digunakan untuk menghasilkan, menyalin, menerbitkan atau menyebarkan maklumat palsu, mereka hendaklah segera mengambil langkah untuk menyangkal khabar angin. , simpan rekod yang berkaitan, dan laporkan kepada Internet Laporkan kepada jabatan maklumat dan pihak berkuasa kompeten yang berkaitan.

Perkara 12 Penyedia perkhidmatan sintesis mendalam harus menyediakan pintu masuk yang mudah untuk aduan pengguna dan aduan dan laporan awam, menerbitkan prosedur pemprosesan dan had masa maklum balas, serta menerima, memproses dan maklum balas keputusan dengan segera.

Perkara 13 Kedai aplikasi Internet dan platform pengedaran aplikasi lain hendaklah melaksanakan tanggungjawab pengurusan keselamatan seperti penyemakan penyenaraian, pengurusan harian, dan tindak balas kecemasan, dan mengesahkan penilaian keselamatan dan pemfailan aplikasi sintesis mendalam jika peraturan yang berkaitan dipenuhi , langkah pelupusan seperti nyahsenarai, amaran, penggantungan perkhidmatan atau pengalihan keluar dari rak hendaklah diambil tepat pada masanya.

Spesifikasi Pengurusan Data dan Teknikal Bab 3

Perkara 14 Penyedia perkhidmatan sintesis mendalam dan penyokong teknikal harus mengukuhkan pengurusan data latihan dan mengambil langkah yang perlu untuk memastikan keselamatan data latihan termasuk Jika peribadi maklumat dikumpul, peraturan berkaitan perlindungan maklumat peribadi hendaklah dipatuhi.

Jika pembekal perkhidmatan deep synthesis dan penyokong teknikal menyediakan muka, suara dan fungsi pengeditan maklumat biometrik yang lain, mereka harus menggesa pengguna perkhidmatan deep synthesis untuk memberitahu individu yang diedit mengikut undang-undang dan mendapatkan persetujuan berasingan mereka .

Perkara 15 Penyedia perkhidmatan sintesis mendalam dan penyokong teknikal harus mengukuhkan pengurusan teknikal dan sentiasa menyemak, menilai dan mengesahkan mekanisme algoritma sintesis yang dihasilkan.

Jika penyedia perkhidmatan sintesis mendalam dan penyokong teknikal menyediakan model, templat dan alatan lain dengan fungsi berikut, mereka hendaklah menjalankan penilaian keselamatan sendiri atau mengamanahkan institusi profesional untuk menjalankan penilaian keselamatan mengikut undang-undang:

(1) Menjana atau mengedit maklumat biometrik seperti muka dan suara;

(2) Menjana atau mengedit maklumat bukan biometrik seperti objek dan adegan khas yang mungkin melibatkan keselamatan negara, imej negara, kepentingan negara dan kepentingan awam sosial.

Perkara 16 Penyedia perkhidmatan sintesis mendalam hendaklah mengambil langkah teknikal untuk menambah logo yang tidak menjejaskan penggunaan pengguna terhadap kandungan maklumat yang dijana atau diedit dengan menggunakan perkhidmatan mereka, dan menyimpan log mengikut undang-undang, peraturan pentadbiran dan negara yang berkaitan maklumat peraturan.

Perkara 17 Jika penyedia perkhidmatan sintesis mendalam menyediakan perkhidmatan sintesis mendalam berikut yang boleh menyebabkan kekeliruan atau salah faham awam, ia hendaklah menandakan kandungan maklumat yang dijana atau diedit dengan jelas di lokasi atau kawasan yang munasabah untuk mengingatkan orang ramai -situasi sintesis mendalam:

(1) Dialog pintar, penulisan pintar dan simulasi lain orang semula jadi untuk penjanaan teks atau perkhidmatan penyuntingan; (2) Suara manusia sintetik, tiruan dan penjanaan pertuturan lain atau perubahan ketara Perkhidmatan penyuntingan ciri identiti peribadi;

(3) Perkhidmatan penyuntingan penjanaan wajah, penggantian muka, manipulasi muka, manipulasi postur dan penjanaan imej dan video watak lain atau perubahan ketara dalam ciri identiti peribadi; >

(4) Perkhidmatan penjanaan atau penyuntingan adegan simulasi yang mendalam;

(5) Perkhidmatan lain yang mempunyai fungsi menjana atau mengubah kandungan maklumat dengan ketara.

Jika pembekal perkhidmatan deep synthesis menyediakan perkhidmatan deep synthesis selain daripada yang dinyatakan dalam perenggan sebelumnya, ia hendaklah menyediakan fungsi pengenalan yang menonjol dan menggesa pengguna perkhidmatan deep synthesis untuk menjalankan pengenalan yang ketara.

Perkara 18: Tiada organisasi atau individu boleh menggunakan cara teknikal untuk memadam, mengusik atau menyembunyikan logo sintetik dalam yang dinyatakan dalam Perkara 16 dan 17 peraturan ini.

Bab 4 Penyeliaan, Pemeriksaan dan Tanggungjawab Undang-undang

Perkara 19 Penyedia perkhidmatan sintesis mendalam dengan sifat pendapat umum atau keupayaan mobilisasi sosial hendaklah melaksanakan tugas mereka mengikut "Peraturan Pengurusan Syor Algoritma Perkhidmatan Maklumat Internet " Pemfailan dan perubahan dan prosedur pemfailan pembatalan.

Penyokong teknikal perkhidmatan deep synthesis hendaklah melaksanakan pendaftaran dan perubahan dan prosedur pendaftaran pembatalan mengikut peruntukan perenggan sebelumnya.

Penyedia perkhidmatan sintesis mendalam dan penyokong teknikal yang telah melengkapkan pendaftaran harus menunjukkan nombor pendaftaran mereka dan menyediakan pautan maklumat awam dalam kedudukan yang menonjol di tapak web, aplikasi, dsb. yang menyediakan perkhidmatan luaran.

Perkara 20: Penyedia perkhidmatan sintesis mendalam yang membangunkan dan melancarkan produk baharu, aplikasi baharu atau fungsi baharu yang mempunyai sifat pendapat umum atau keupayaan mobilisasi sosial mesti menjalankan penilaian keselamatan mengikut peraturan negara yang berkaitan.

Perkara 21: Jabatan ruang siber, pihak berkuasa telekomunikasi, dan jabatan keselamatan awam menjalankan penyeliaan dan pemeriksaan perkhidmatan sintesis mendalam selaras dengan tugas mereka. Penyedia perkhidmatan sintesis mendalam dan penyokong teknikal hendaklah bekerjasama mengikut undang-undang dan menyediakan sokongan dan bantuan teknikal, data dan lain-lain yang diperlukan.

Jika jabatan keselamatan siber dan maklumat serta pihak berkuasa kompeten yang berkaitan mendapati perkhidmatan sintesis mendalam mempunyai risiko keselamatan maklumat yang agak besar, mereka mungkin memerlukan penyedia perkhidmatan sintesis mendalam dan penyokong teknikal untuk menggantung kemas kini maklumat, pendaftaran akaun pengguna atau lain-lain yang berkaitan langkah-langkah mengikut tugas mereka dan mengikut undang-undang dan langkah-langkah lain. Penyedia perkhidmatan sintesis mendalam dan penyokong teknikal harus mengambil langkah seperti yang diperlukan untuk membuat pembetulan dan menghapuskan bahaya tersembunyi.

Perkara 22 Jika penyedia perkhidmatan sintesis mendalam dan penyokong teknikal melanggar peraturan ini, mereka hendaklah dihukum mengikut undang-undang dan peraturan pentadbiran yang berkaitan jika akibat yang serius berlaku, mereka hendaklah dihukum seberat-beratnya mengikut undang-undang.

Jika ia merupakan pelanggaran pengurusan keselamatan awam, organ keselamatan awam akan mengenakan hukuman pengurusan keselamatan awam mengikut undang-undang jika ia merupakan jenayah, tanggungjawab jenayah akan diteruskan mengikut undang-undang;

Bab 5 Peruntukan Tambahan

Perkara 23 Maksud istilah berikut dalam peraturan ini:

Teknologi sintesis mendalam merujuk kepada penggunaan pembelajaran mendalam, realiti maya, dsb. untuk menjana sintesis teknologi seperti Algoritma untuk menghasilkan teks, imej, audio, video, pemandangan maya dan maklumat rangkaian lain, termasuk tetapi tidak terhad kepada:

(1) Teknologi untuk menjana atau mengedit kandungan teks seperti penjanaan bab , penukaran gaya teks, dialog soal jawab, dsb.

(2) Teks ke pertuturan, penukaran suara, penyuntingan atribut suara dan teknologi lain untuk menjana atau mengedit kandungan suara; (3) Penjanaan muzik, penyuntingan bunyi adegan, dsb. untuk menjana atau mengedit kandungan bukan suara Teknologi kandungan

(4) Penjanaan wajah, penggantian muka, penyuntingan atribut watak, manipulasi muka, manipulasi postur dan teknologi lain; untuk menjana atau mengedit ciri biometrik dalam imej dan kandungan video;

(5) Penjanaan imej, peningkatan imej, pemulihan imej, dsb., teknologi untuk menjana atau mengedit ciri bukan biologi dalam imej dan kandungan video; >

(6) Pembinaan semula tiga dimensi, simulasi digital, dsb. untuk menjana atau mengedit aksara digital dan teknologi adegan maya.

Pembekal perkhidmatan sintesis mendalam merujuk kepada organisasi dan individu yang menyediakan perkhidmatan sintesis mendalam.

Penyokong teknikal perkhidmatan sintesis mendalam merujuk kepada organisasi dan individu yang menyediakan sokongan teknikal untuk perkhidmatan sintesis mendalam.

Pengguna perkhidmatan deep synthesis merujuk kepada organisasi dan individu yang menggunakan perkhidmatan deep synthesis untuk menghasilkan, menyalin, menerbitkan dan menyebarkan maklumat.

Data latihan merujuk kepada set data anotasi atau penanda aras yang digunakan untuk melatih model pembelajaran mesin.

Adegan realistik yang mengasyikkan merujuk kepada adegan maya yang sangat realistik yang dijana atau diedit menggunakan teknologi sintesis mendalam dan boleh dialami atau berinteraksi oleh peserta.

Perkara 24 Penyedia perkhidmatan sintesis mendalam dan penyokong teknikal yang terlibat dalam perkhidmatan penerbitan dalam talian, aktiviti kebudayaan dalam talian dan perkhidmatan program audio-visual dalam talian juga hendaklah mematuhi keperluan akhbar dan penerbitan, budaya dan pelancongan, radio dan televisyen pihak berkuasa Peraturan.

Perkara 25 Peraturan ini akan berkuat kuasa pada 10 Januari 2023.

Atas ialah kandungan terperinci Tidak lama selepas robot kecerdasan buatan ChatGPT menjadi popular, peraturan pengurusan diperkenalkan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!