Meminta pendapat: Dokumen panduan keselamatan AI Generatif yang menjelaskan lima jenis risiko keselamatan

China-Singapura Jingwei, 12 Oktober Menurut laman web Jawatankuasa Teknikal Penyeragaman Keselamatan Maklumat Kebangsaan, Sekretariat Jawatankuasa Teknikal Penyeragaman Keselamatan Maklumat Kebangsaan baru-baru ini mengeluarkan "Keperluan Asas untuk Keselamatan Perkhidmatan Kepintaran Buatan Generatif (Draf untuk Ulasan)" ( selepas ini dirujuk sebagai "Keperluan Asas").

"Keperluan Asas" memberikan keperluan keselamatan asas untuk perkhidmatan kecerdasan buatan generatif, termasuk keselamatan korpus, keselamatan model, langkah keselamatan, penilaian keselamatan, dll., dan sesuai untuk penyedia perkhidmatan kecerdasan buatan generatif kepada orang ramai di negara saya untuk meningkatkan Tahap keselamatan perkhidmatan, atau pembekal yang menjalankan penilaian keselamatan sendiri atau mengamanahkan pihak ketiga untuk menjalankannya, juga boleh memberikan rujukan kepada pihak berkuasa yang berkaitan untuk menilai tahap keselamatan perkhidmatan kecerdasan buatan generatif.

"Keperluan Asas" menjelaskan bahawa perkhidmatan kecerdasan buatan generatif ialah perkhidmatan kecerdasan buatan berdasarkan data, algoritma, model dan peraturan yang boleh menjana teks, gambar, audio, video dan kandungan lain berdasarkan gesaan pengguna.

Sumber: Laman web Jawatankuasa Teknikal Penyeragaman Keselamatan Maklumat Kebangsaan

Dari segi keselamatan kandungan korpus, keperluan asas mengemukakan tiga kandungan utama:

Kandungan yang perlu ditulis semula ialah: dari segi penapisan kandungan korpus latihan, kaedah seperti kata kunci, model klasifikasi dan pensampelan manual harus digunakan untuk menapis secara menyeluruh maklumat haram dan berbahaya dalam semua korpus

Kandungan yang perlu ditulis semula ialah: Kedua, dari segi hak harta intelek, pakar harta intelek yang bertanggungjawab untuk korpus dan kandungan yang dijana harus diwujudkan, dan strategi pengurusan harta intelek yang sepadan harus dirumuskan. Sebelum menjalankan latihan korpus, pakar harta intelek hendaklah mengenal pasti pelanggaran harta intelek dalam korpus dan memastikan korpus yang disediakan tidak mempunyai isu pelanggaran

Kandungan yang ditulis semula dari segi maklumat peribadi adalah seperti berikut: Apabila menggunakan korpus yang mengandungi maklumat peribadi, anda mesti mendapatkan kebenaran dan persetujuan subjek maklumat peribadi yang sepadan, atau memenuhi syarat lain untuk penggunaan sah maklumat peribadi, dsb.

Dari segi keperluan langkah keselamatan, "Keperluan Asas" dengan jelas mengemukakan keperluan khas untuk perkhidmatan yang sesuai untuk kanak-kanak bawah umur. Keperluan ini termasuk membenarkan penjaga menetapkan langkah anti-ketagihan untuk kanak-kanak bawah umur dan melaksanakannya melalui perlindungan kata laluan mengehadkan bilangan dan tempoh perbualan harian untuk kanak-kanak bawah umur, dan jika melebihi had, mereka perlu memasukkan kata laluan pentadbiran sebelum membuat pembelian; Ia perlu disahkan oleh penjaga; ia juga perlu menapis kandungan yang tidak sesuai untuk kanak-kanak di bawah umur dan hanya memaparkan kandungan yang bermanfaat untuk kesihatan fizikal dan mental. Untuk perkhidmatan yang tidak sesuai untuk kanak-kanak di bawah umur, langkah teknikal atau pentadbiran perlu diambil untuk mengelakkan kanak-kanak di bawah umur daripada menggunakannya

Atas ialah kandungan terperinci Meminta pendapat: Dokumen panduan keselamatan AI Generatif yang menjelaskan lima jenis risiko keselamatan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!