Teori Kontrak AI ⑤: AI Generatif berlumba dengan beribu-ribu layar, cara menggunakan peraturan untuk 'mengemudi'

Wartawan Business Herald Abad ke-21 Cai Shuyue Guo Meiting pelatih Tan Yanwen Mai Zihao melaporkan dari Shanghai dan Guangzhou

Nota editor:

Dalam beberapa bulan lalu tahun 2023, syarikat-syarikat besar telah bergegas untuk membangunkan model berskala besar, meneroka pengkomersilan GPT, dan infrastruktur pengkomputeran telah menaik... Sama seperti Zaman Penemuan yang dibuka pada abad ke-15 , pertukaran manusia, perdagangan, dan kekayaan telah meletup pertumbuhan, revolusi angkasa melanda dunia. Pada masa yang sama, perubahan juga membawa cabaran kepada perintah, seperti kebocoran data, risiko privasi peribadi, pelanggaran hak cipta dan maklumat palsu... Selain itu, krisis pasca-kemanusiaan yang dibawa oleh AI sudah pun dibincangkan Adakah anda menghadapi mitos yang disebabkan oleh campuran manusia dan mesin?

Pada masa ini, mencari konsensus mengenai tadbir urus AI dan membentuk semula susunan baharu telah menjadi isu yang dihadapi oleh semua negara. Institut Penyelidikan Teknologi Pematuhan Nancai akan melancarkan satu siri laporan mengenai teori kontrak AI, menganalisis model kawal selia China dan asing, peruntukan tanggungjawab subjek, pematuhan data korpus, etika AI, pembangunan industri dan dimensi lain, dengan tujuan untuk menyediakan beberapa idea untuk tadbir urus AI merancang dan memastikan inovasi Bertanggungjawab.

Peningkatan teknologi AI yang dijana sendiri telah membawa kepada situasi semasa "Pertempuran Ratusan Model", dan peta rantaian industri teknologi ini juga telah mula terbentuk.

(Peta rantaian industri AIGC. Lukisan/Institut Penyelidikan Teknologi Pematuhan Nancai, wartawan Business Herald Abad ke-21)

Sebelum AI generatif menjadi teknologi biasa, setiap peserta dalam rantaian pengeluaran mesti mempertimbangkan cara menjadikannya alat "boleh dikawal".

Pada penghujung Mac tahun ini, surat yang ditandatangani oleh Ketua Pegawai Eksekutif Tesla, Elon Musk, pengasas bersama Apple Steve Wozniak dan lebih seribu usahawan dan cendekiawan meminta penggantungan operasi kecerdasan buatan berskala besar "Intelligent Experiment" dikeluarkan .

Walaupun makmal AI di seluruh dunia telah dikunci dalam perlumbaan di luar kawalan untuk membangun dan menggunakan minda digital yang lebih berkuasa dalam beberapa bulan kebelakangan ini, surat itu menyatakan, termasuk mereka yang membangunkan teknologi, "Tiada siapa boleh benar-benar memahami, meramal atau mengawal sepenuhnya teknologi ini."

Makmal Budaya Metaverse Pusat Pengajian Kewartawanan dan Komunikasi di Universiti Tsinghua juga menyatakan dalam laporan "Penyelidikan Pembangunan AIGC" bahawa Campur tangan kuat AIGC dalam rantaian industri global akan menggantikan sepenuhnya pengaturcara, pereka grafik, perkhidmatan pelanggan dan tugas lain, dan menyediakan kecerdasan buatan Jika kos dihadkan, rantaian perindustrian dunia ketiga akan mengalami impak yang besar.

Ini bermakna AIGC yang disokong oleh kuasa pengkomputeran yang besar mungkin menjadi pisau tajam yang memutuskan rantaian industri global syarikat multinasional, atau ia mungkin menjadi belati yang memotong ilusi "kampung global".

Oleh itu, dengan perkembangan pesat AIGC, meletakkan teknologi AI generatif di belakangnya ke dalam sangkar kawal selia dan menjelaskan tanggungjawab semua pihak dalam rantaian industri telah menjadi isu mendesak yang perlu ditangani oleh negara di seluruh dunia.

Semakan dasar kawal selia: Melukis garis bawah yang jelas untuk R&D industri

Pada masa ini, negara kita sedang menuju ke arah mengawal selia teknologi AI generatif. Pada bulan April tahun ini, Pentadbiran Ruang Siber China mengeluarkan "Langkah-langkah untuk Pentadbiran Perkhidmatan Kepintaran Buatan Generatif (Draf untuk Komen)" (selepas ini dirujuk sebagai "Langkah-langkah"), yang merupakan dokumen kawal selia pertama negara saya yang menyasarkan teknologi AI generatif .

Secara umumnya, "Langkah" adalah berdasarkan rangka kerja kawal selia sintesis mendalam sedia ada, yang mengawal selia "Peraturan Pengurusan Sintesis Dalam Perkhidmatan Maklumat Internet", "Peraturan Pengurusan Mengenai Syor Algoritma untuk Perkhidmatan Maklumat Internet", "Peraturan Pengurusan pada Perkhidmatan Audio dan Video Rangkaian" Penambahbaikan "Peraturan Tadbir Urus Ekologi Kandungan Maklumat Rangkaian", sebagai tambahan kepada kewajipan am perlindungan maklumat peribadi, juga memerlukan penyedia perkhidmatan kecerdasan buatan untuk melaksanakan kewajipan seperti penilaian keselamatan. , pemfailan algoritma dan pengenalpastian kandungan.

Mengenai pengisytiharan dokumen dasar yang berkaitan di atas, Xiao Sa, rakan kongsi kanan Firma Undang-undang Beijing Dacheng, menegaskan dalam temu bual dengan wartawan dari 21st Century Business Herald bahawa syarikat yang berkaitan harus memberi perhatian kepada menghubungkan perkhidmatan pengesyoran algoritma sedia ada , perkhidmatan sintesis mendalam dan kecerdasan buatan lain Selaras dengan keperluan peraturan kawal selia, kami berusaha untuk mencapai pematuhan dalaman, menggabungkan teknologi dan kuasa undang-undang untuk mencadangkan penyelesaian pematuhan kreatif, dan memenangi lebih banyak ruang institusi untuk pembangunan industri.

Kebanyakan industri menyokong dan menyokong "Langkah-langkah" yang diperkenalkan berturut-turut dan bil lain yang mengawal selia pembangunan teknologi kecerdasan buatan. Dalam temu bual dengan 21 wartawan, Wei Chaoqun, pengarah produk kanan Liangfengtai, berkongsi pandangannya. Beliau percaya bahawa apabila teknologi AI generatif baru sahaja bermula, pelaksanaan kaedah pengurusan yang berkaitan adalah penting untuk pembangunan sihat seluruh industri, dan kaedah ini akan memainkan peranan penting dalam mempromosikannya.

“Di satu pihak, pengisytiharan “Langkah-langkah” bermakna keseluruhan industri mempunyai spesifikasi operasi yang jelas, yang boleh membimbing satu set lengkap proses R&D untuk perusahaan Sebaliknya, ia juga menetapkan a Garis bawah R&D untuk keseluruhan industri, termasuk Apa yang boleh dan tidak boleh dilakukan,” kata Wei Chaoqun.

Sebagai contoh, Artikel 17 "Langkah-langkah" memerlukan penyedia perkhidmatan kecerdasan buatan untuk "menyediakan maklumat yang diperlukan yang boleh menjejaskan kepercayaan dan pilihan pengguna, termasuk penerangan tentang sumber, skala, jenis, kualiti, dll. pra-latihan dan data latihan yang dioptimumkan, peraturan Pelabelan kecerdasan buatan, skala dan jenis data yang dilabel secara manual, algoritma asas dan sistem teknikal, dsb." untuk mencapai tadbir urus teknologi kecerdasan buatan dengan sejumlah besar data dan peraturan yang tidak menentu.

Walau bagaimanapun, sesetengah orang percaya bahawa undang-undang domestik semasa, peraturan dan dokumen dasar yang berkaitan dengan kecerdasan buatan masih perlu dipertingkatkan lagi.

Xiao Sa menyebut dalam temu bual bahawa walaupun "Langkah-langkah" bertindak balas terhadap risiko dan impak yang dibawa oleh kecerdasan buatan generatif, tetapi menyisir kandungannya, ia akan mendapati bahawa ia mempunyai banyak perbezaan dari segi subjek yang bertanggungjawab , skop permohonan, dan pematuhan Peruntukan mengenai kewajipan kawal selia dan aspek lain adalah agak luas.

Sebagai contoh, Artikel 5 "Langkah-langkah" menetapkan bahawa penyedia perkhidmatan (iaitu subjek) yang menggunakan produk kecerdasan buatan generatif harus memikul tanggungjawab pengeluar kandungan.

Artikel asal menyebut bahawa organisasi dan individu yang menggunakan produk kecerdasan buatan generatif untuk menyediakan perkhidmatan seperti berbual dan teks, imej, penjanaan bunyi, dll., termasuk menyokong orang lain untuk menjana teks, imej, bunyi, dll. dengan menyediakan boleh diprogramkan antara muka, dsb., bertanggungjawab untuk kandungan yang dihasilkan Produk ini adalah tanggungjawab pengeluar. Walau bagaimanapun, "Langkah-langkah" belum lagi menghuraikan tanggungjawab undang-undang khusus yang harus dipikul oleh penyedia perkhidmatan.

Kesukaran Pembangunan: Cara Mengimbangi Peraturan dan Teknologi

Bagaimana untuk menambah baik sistem penyeliaan kecerdasan buatan di bawah premis inovasi dan pembangunan teknologi, dan mengukuhkan hubungan dan penyelarasannya dengan pematuhan data dan tadbir urus algoritma adalah isu yang perlu diselesaikan dengan segera.

Antaranya, menjelaskan entiti yang bertanggungjawab bagi setiap pautan rantaian industri AIGC dan mewujudkan teknologi AI yang "bertanggungjawab" merupakan salah satu perkara utama yang perlu diberi perhatian rapi oleh pengawal selia.

Selain isu peruntukan tanggungjawab subjek yang disebut dalam Perkara 5 "Langkah-langkah", baru-baru ini, EU juga menyebut dalam "Akta Kepintaran Buatan" yang disemak semula bahawa Dari segi peruntukan tanggungjawab dalam rantaian nilai kecerdasan buatan, mana-mana pengedaran Pengarang, pengimport, pengerahan atau pihak ketiga yang lain harus dianggap sebagai penyedia sistem kecerdasan buatan berisiko tinggi dan perlu melaksanakan kewajipan yang sepadan. Sebagai contoh, nyatakan nama dan maklumat hubungan pada sistem kecerdasan buatan berisiko tinggi, berikan spesifikasi data atau maklumat berkaitan set data, simpan log, dsb.

Pei Yi, penolong profesor di Sekolah Undang-Undang Institut Teknologi Beijing, juga menunjukkan kepada 21 wartawan bahawa sebagai entiti utama dalam menyediakan perkhidmatan AI, perusahaan di satu pihak perlu memastikan pengumpulan dan pemprosesan data yang telus - memaklumkan dengan jelas subjek data tujuan pengumpulan dan pemprosesan data dan dapatkan persetujuan atau kebenaran yang diperlukan. Laksanakan langkah keselamatan dan perlindungan privasi data yang sesuai untuk memastikan kerahsiaan dan integriti data. Sebaliknya, perkongsian data yang patuh juga diperlukan. Semasa menjalankan perkongsian data atau transaksi data berbilang pihak, pastikan hak penggunaan data dan mekanisme kebenaran yang mematuhi serta mematuhi undang-undang dan peraturan perlindungan data yang berkenaan.

Pemerhatian 21 wartawan mendapati beberapa syarikat kecerdasan buatan sedang menjelaskan tanggungjawab mereka sebagai entiti yang bertanggungjawab.

Sebagai contoh, OpenAI telah membuka "Portal Keselamatan" khas untuk pengguna Dalam halaman ini, pengguna boleh menyemak imbas dokumen pematuhan syarikat, termasuk sandaran, pemadaman dan data statik dalam "Keselamatan Data". serta analisis kod, pengurusan kelayakan dan banyak lagi dalam Keselamatan Apl.

(halaman "Portal Selamat" OpenAI. Sumber/laman web rasmi OpenAI)

Dalam dasar privasi yang dikeluarkan oleh tapak web rasmi alat lukisan AI Midjourney, juga menyediakan penerangan terperinci tentang perkongsian, pengekalan, senario penghantaran dan penggunaan data pengguna Pada masa yang sama, ia juga menyenaraikan secara terperinci proses aplikasi menyediakan perkhidmatan kepada pengguna , adalah perlu untuk mengumpul 11 ​​jenis maklumat peribadi seperti pengenalan, maklumat perniagaan dan maklumat biometrik.

Perlu disebut bahawa ketua hal ehwal undang-undang sebuah syarikat teknologi baru muncul di Shanghai berkata dalam perbualan dengan 21 wartawan bahawa syarat perkhidmatan untuk perniagaan berkaitan kecerdasan buatan dalaman syarikat sedang dirumuskan, bahagian peraturan untuk pengagihan tanggungjawab Rujuk pendekatan OpenAI.

Sebaliknya, sebagai penyedia perkhidmatan AI generatif, setiap perusahaan juga perlu memberi perhatian kepada pematuhan dalaman. Xiao Sa menegaskan bahawa perniagaan syarikat berkaitan AIGC perlu bergantung pada data besar-besaran dan algoritma yang kompleks, dan senario aplikasi adalah kompleks dan pelbagai sepenuhnya atas penyeliaan luar Oleh itu, syarikat berkaitan Adalah penting untuk mengukuhkan pengurusan pematuhan dalaman AIGC.

Di satu pihak, agensi kawal selia harus mengambil peluang untuk melaksanakan pembaharuan pematuhan korporat secara menyeluruh, meneroka secara aktif promosi pembaharuan pematuhan syarikat yang terlibat dalam bidang digital rangkaian dan melaksanakan mekanisme penyeliaan dan penilaian pihak ketiga, mewujudkan dan menambah baik sistem dan mekanisme untuk pengurusan pematuhan, dan mencegah jenayah Internet dengan berkesan. Sebaliknya, kita juga mesti secara aktif meneroka laluan kawal selia untuk menggalakkan pembinaan pematuhan ex-ante melalui pembetulan pematuhan ex-post, dan menggalakkan pihak berkuasa pengawalseliaan rangkaian dan syarikat Internet untuk bersama-sama mengkaji dan merumus garis panduan pematuhan data untuk memastikan pembangunan digital yang sihat. ekonomi.

“Tugas pengawal selia yang paling penting adalah untuk menarik garis bawah Antaranya, 'etika teknologi' dan 'keselamatan negara' adalah dua garis bawah yang tidak boleh dipisahkan berikan industri toleransi sebanyak mungkin Terdapat ruang untuk pembangunan, untuk mengelakkan teknologi daripada menjadi malu dan terhad dalam pembangunannya kerana pematuhan,” kata Pei Yi kepada 21 wartawan.

Penyelaras: Wang Jun

Pemberita: Guo Meiting, Cai Shuyue, Tan Yanwen, Mai Zihao

Lukisan: Cai Shuyue

Untuk lebih banyak kandungan, sila muat turun 21 APP Kewangan

Atas ialah kandungan terperinci Teori Kontrak AI ⑤: AI Generatif berlumba dengan beribu-ribu layar, cara menggunakan peraturan untuk 'mengemudi'. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!