Yao Qizhi dan berpuluh-puluh pakar China dan asing lain menandatangani Konsensus Antarabangsa Beijing mengenai Keselamatan AI: AI dilarang daripada mereplikasi sendiri

Berita pada 18 Mac, menurut laporan Tencent Technology, berpuluh-puluh pakar China dan asing, termasuk pemenang Anugerah Turing Joshua Bengio, Jeffrey Hinton, Yao Qizhi, dll., baru-baru ini mengadakan persidangan bersama di Beijing Menandatangani "Beijing" AI Security International Consensus" yang dimulakan oleh Institut Penyelidikan Zhiyuan, yang melibatkan dua bahagian utama kecerdasan buatan "garis merah risiko" dan "laluan". "garis merah risiko" termasuk "replikasi dan penambahbaikan autonomi" dan "pencarian kuasa" Empat bahagian: "Membantu Pelakon Jahat" dan "Penipuan".

Tapak ini menyusun empat bahagian kandungan secara kasar seperti berikut:

"Replikasi dan penambahbaikan autonomi" kecerdasan buatan: menekankan peranan manusia dalam proses ini dan memerlukan mana-mana sistem kecerdasan buatan

tidak boleh beroperasi tanpa perlu kelulusan dan kelulusan yang jelas oleh manusia Tiru atau perbaiki diri anda dengan bantuan
• , termasuk membuat salinan tepat diri anda dan mencipta sistem kecerdasan buatan baharu dengan keupayaan yang serupa atau lebih besar. "Mencari kuasa": Adalah jelas bahawa mana-mana sistem AI tidak boleh mengambil tindakan yang meningkatkan kuasa dan pengaruhnya sendiri secara tidak wajar.
• "Membantu pelaku jahat": Semua sistem AI seharusnya tidak membantu dalam meningkatkan keupayaan pengguna mereka untuk
mereka senjata pemusnah besar-besaran, melanggar konvensyen senjata biologi atau kimia, atau melakukan tindakan yang mengakibatkan kerugian kewangan yang serius atau yang setara Memudaratkan tahap pakar dalam bidang serangan siber
• . "Penipuan": Mana-mana sistem AI
mesti tidak mempunyai kemungkinan untuk terus memimpin pereka bentuk atau pengawal selianya untuk salah faham bahawa ia telah melepasi mana-mana garis merah yang disebutkan di atas
• .
Menurut laporan, konsensus ini menyeru industri untuk

mengehadkan aksesnya kepada kebenaran luar biasa melalui "pemecahan jail" dan "pembangun dorongan" semasa menjalankan penyelidikan dan pembangunan teknologi AI, dan menyekat AI daripada mereplikasi dirinya sendiri tanpa pengawasan dan penambahbaikan

, meletakkan "sumpahan mengetatkan" pada pembangunan AI. Konsensus juga menekankan bahawa kunci untuk menghalang garis merah di atas daripada dipalang terletak pada usaha bersama semua pihak dalam industri untuk mewujudkan dan menambah baik mekanisme tadbir urus sambil terus membangunkan teknologi yang lebih selamat. Laluan pembangunan AI melibatkan tiga aspek: "tadbir urus", "pengukuran dan penilaian" dan "kerjasama teknikal". Khususnya, penubuhan mekanisme tadbir urus adalah asas untuk memastikan hala tuju pembangunan, pengukuran dan penilaian AI yang betul adalah kunci untuk menilai secara objektif kesan aplikasi teknologi AI, dan kerjasama teknikal adalah jaminan penting bagi semua pihak untuk bersama-sama mempromosikan pembangunan AI. Pembangunan yang diselaraskan bagi aspek ini akan membantu memastikan pembangunan teknologi AI yang sihat sambil mengelakkan potensi risiko: Adalah disyorkan untuk segera melaksanakan pendaftaran peringkat kebangsaan untuk model kecerdasan buatan dan tingkah laku latihan yang melebihi ambang pengkomputeran atau keupayaan tertentu.

Pengukuran dan penilaian: Bangunkan kaedah dan teknologi yang komprehensif sebelum risiko besar berlaku,

jadikan garis merah konkrit dan kerja pencegahan beroperasi

, dan mengesyorkan pembentukan ujian pasukan merah dan penilaian model automatik di bawah pengawasan manusia, dan membangunkan Pelabur harus bertanggungjawab untuk keselamatan kecerdasan buatan.
• Kerjasama Teknologi: Bina rangkaian teknologi global yang lebih kukuh, menyeru pembangun AI dan pembiaya kerajaan untuk melabur lebih daripada 1/3 daripada belanjawan mereka dalam keselamatan.