Terokai perjanjian EU tentang peraturan kecerdasan buatan

Tiga hari rundingan "marathon" telah mencapai kesimpulan yang berjaya Pengerusi Majlis dan perunding baru sahaja mencapai persetujuan mengenai peraturan penyelarasan kecerdasan buatan, yang dijangka akhirnya menjadi "Rang Undang-undang Kepintaran Buatan untuk Peraturan Kepintaran Buatan. ". Draf peraturan memfokuskan pada penyediaan rangka kerja pematuhan yang mengutamakan penggunaan sistem AI yang selamat dan menghormati hak asasi manusia di EU. Peraturan kecerdasan buatan ini melangkaui inspirasi negara Eropah untuk melabur dan berinovasi dalam bidang kecerdasan buatan.

Rang Undang-undang Kepintaran Buatan ialah perundangan penting yang boleh mewujudkan persekitaran yang membolehkan penggunaan kecerdasan buatan akan menjadi Alat keselamatan dan amanah yang lebih baik untuk memastikan penyertaan pihak berkepentingan institusi awam dan swasta di seluruh EU. Idea utama adalah mengikuti pendekatan "berasaskan risiko" untuk mengawal selia AI berdasarkan keupayaannya untuk menyebabkan kemudaratan kepada masyarakat: lebih berbahaya risiko, lebih banyak sekatan perlu dilaksanakan. Undang-undang menetapkan preseden global untuk pengawalan kecerdasan buatan dalam bidang kuasa lain. Sebaliknya, GDPR mencapai ini dengan cara yang sama dari segi melindungi data peribadi, dengan itu mempromosikan pendekatan EU terhadap peraturan teknologi secara global.

Elemen utama perjanjian interim

Berbanding dengan cadangan awal Suruhanjaya Eropah, elemen baharu utama perjanjian interim mengenai pengawalseliaan kecerdasan buatan boleh diringkaskan seperti berikut:

Mengenai impak tinggi
• kecerdasan buatan am dengan risiko sistemik masa hadapan Kelaskan model pintar dan sistem kecerdasan buatan berisiko tinggi yang mengawal sistem.
• Memperbaiki sistem tadbir urus dengan kuasa penyelarasan di peringkat EU atau merombak dasar ekonomi.
• Senarai barang larangan telah diperluaskan, tetapi pegawai polis boleh menggunakan pengenalan biometrik jauh di tempat awam namun, ini tertakluk kepada syarat yang menghalang penyalahgunaan.
• Penguatkuasaan hak yang lebih baik dengan menghendaki pelaku AI menggunakan sistem yang berpotensi berisiko untuk memahami implikasi hak asasi sistem ini sebelum menggunakannya.

Secara lebih khusus, perjanjian interim merangkumi aspek berikut:

• Definisi dan Skop

Di bawah Perjanjian Pemilihan, takrifan sistem kecerdasan buatan yang ingin memilih tempat perlindungan OECD sepadan dengan prosedur yang dicadangkan. Dengan cara ini, piawaian untuk sistem kecerdasan buatan membantu membezakan sistem perisian mudah dengan lebih jelas.

Di samping itu, perjanjian interim menjelaskan dengan lebih terperinci bahawa peraturan Peraturan tidak termasuk sektor yang termasuk dalam bidang undang-undang EU dan tidak boleh sama sekali melemahkan keupayaan Negara Anggota dalam bidang keselamatan negara atau perkongsian pihak. tanggungjawab dalam bidang keselamatan negara. Bukan itu sahaja, malah Akta Kepintaran Buatan tidak akan dilanjutkan kepada sistem kecerdasan buatan yang digunakan semata-mata untuk tujuan ketenteraan atau pertahanan. Pada masa yang sama, perjanjian itu juga menyatakan bahawa undang-undang hendaklah terpakai kepada sistem kecerdasan buatan apabila ia digunakan bukan sahaja untuk tujuan saintifik dan penyelidikan, tetapi juga untuk sebab bukan saintifik dan bukan inovatif, termasuk oleh juruteknik bukan kecerdasan buatan atau pakar.

• Mengklasifikasikan sistem AI sebagai amalan AI yang berisiko tinggi dan terlarang

Ia mewujudkan halangan keselamatan mendatar yang merangkumi Tahap 1.1 "Kemungkinan Kerosakan Serius/Sangat Terhadap Hak" untuk mengecualikan akibat yang tidak diduga. Ancaman ini kepada sistem kecerdasan buatan. Sistem AI yang menimbulkan sedikit risiko bahaya kepada pengguna akan mempunyai keperluan ketelusan yang minimum. Sebagai contoh, ia harus memberitahu pengguna bahawa kandungan itu dihasilkan oleh kecerdasan buatan supaya keputusan boleh dibuat sama ada untuk menggunakan kandungan atau melakukan tindakan selanjutnya.

Pelbagai sistem berasaskan AI yang beroperasi di wilayah EU akan diluluskan. Walau bagaimanapun, terdapat keperluan dan tanggungjawab untuk memasuki pasaran EU yang mesti dipenuhi. Penggubal undang-undang bersama ini menambah dan menyemak beberapa peruntukan untuk menjadikannya lebih mudah dan jelas dari segi teknikal, meringankan beban pihak berkepentingan, contohnya, mengenai penyediaan kualiti data dan dokumentasi teknikal yang perlu disediakan oleh PKS untuk memperakui kecerdasan buatan mereka. dibina dengan selamat dan mematuhi peraturan semasa.

Memandangkan sistem AI dicipta dan disampaikan dalam persekitaran rantaian nilai yang menuntut, susunan kompromi akan memerlukan, antara lain, semakan semula tingkah laku perusahaan untuk mencerminkan kesan pelbagai aktor dalam rantaian (iaitu Penjelasan teknologi mengenai skop tanggungjawab/pengaruh penyedia dan pengguna sistem). Ia juga menetapkan cara obligasi khusus AI yang diperoleh daripada Rang Undang-undang AI berinteraksi dan bercanggah dengan kewajipan yang ditetapkan dalam undang-undang lain, seperti perundangan data EU dan perundangan sektor.

Aplikasi kecerdasan buatan akan ditolak kerana berisiko tinggi, yang dilarang untuk kegunaan tertentu kecerdasan buatan. Oleh itu, peranti ini tidak akan diperkenalkan ke EU. Menurut perjanjian awal, aktiviti yang dilarang termasuk teknologi kognitif untuk kawalan tingkah laku, pengumpulan imej wajah tanpa tujuan daripada Internet, pengiktirafan emosi dalam institusi dan pendidikan, pemarkahan sosial, dan kaedah biometrik untuk menentukan orientasi seksual atau kepercayaan agama dan beberapa silsilah peribadi untuk tujuan kepolisan.

• Pengecualian Penguatkuasaan Undang-undang

Mengambil kira keistimewaan organisasi penguatkuasa undang-undang dan keperluan penggunaan komputer mereka dalam melaksanakan tugas mereka, beberapa pengubahsuaian telah dibuat kepada cadangan Suruhanjaya mengenai peraturan AI untuk penguatkuasaan undang-undang , yang kritikal. Selagi langkah berhati-hati dilaksanakan, perubahan ini akan diterjemahkan kepada keperluan bagi pengendali untuk melindungi privasi maklumat. Satu contoh perkara ini ialah memulakan prosedur kecemasan untuk pelaksanaan AI berisiko tinggi, tetapi tidak termasuk menjalankan penilaian pematuhan dalam situasi kecemasan. Di samping itu, tindakan khusus telah dirumuskan untuk memberikan kuasa untuk melindungi hak asasi manusia dan mencegah penyalahgunaan aplikasi kecerdasan buatan.

Tambahan pula, teks perjanjian interim dengan jelas menyatakan sebab penggunaan sistem pengenalan biometrik jarak jauh masa nyata di tempat awam, tetapi hanya atas sebab penguatkuasaan undang-undang, dan pihak berkuasa hanya akan dibenarkan berbuat demikian dalam keadaan luar biasa. Perjanjian kompromi menyediakan perlindungan tambahan dan mengehadkan pengecualian ini kepada kes pembunuhan suspek, memastikan bahawa pencarian hanya dilakukan dalam kes ancaman sebenar dan mencegah serangan dan pencarian pengganas apabila orang disyaki melakukan jenayah yang paling serius.

• Sistem Kepintaran Buatan Umum dan Model Asas

Peraturan baharu telah dirumuskan untuk senario di mana sistem kecerdasan buatan digunakan untuk pelbagai tujuan, iaitu kecerdasan buatan am dan sistem bebas. Satu lagi sistem berisiko tinggi, kereta pandu sendiri, disepadukan dengan kecerdasan buatan am. Perjanjian Peralihan juga termasuk GPA (GPAI). Penyeliaan GPA adalah bahagian teras perjanjian.

Model asas, yang digambarkan sebagai sistem yang mampu menunjukkan keupayaan dalam aktiviti kompleks seperti penjanaan teks, pembahagian video, pemprosesan bahasa semula jadi, kod rendering dan banyak lagi tugas komputer, juga telah disimpulkan. Susunan sementara memerlukan model asas untuk memenuhi keperluan penyahcemaran sebelum dipasarkan. Dasar yang diperlukan untuk membina model asas "impak tinggi" adalah lebih ketat. Model data purata ini, dengan skala besar dan kerumitan, keupayaan dan keupayaan yang sangat maju, boleh mencipta risiko sistemik merentas rantaian nilai perniagaan, risiko ini dikongsi oleh semua perniagaan yang mengambil bahagian.

• Struktur tadbir urus baharu

Selaras dengan sekatan ke atas model GPAI baharu dan keperluan untuk pemantauan piawai di peringkat EU, Suruhanjaya telah menubuhkan Pejabat Kepintaran Buatan yang unik untuk menyelia tercanggih ini. Model AI, yang menggalakkan penubuhan spesifikasi dan prosedur ujian dan penguatkuasaan peraturan utama di semua negara anggota. Sekumpulan pakar teknikal saintifik bebas akan memberikan nasihat kepada Pejabat GPAIAI mengenai saiz model dengan membangunkan kaedah untuk menilai model asas dan keupayaan teknikal, menjalankan penilaian status GPAI dan model asas sebagai persediaan untuk pelancaran pasaran, dan berpotensi memantau isu yang berkaitan dengan model asas Keselamatan material.

Untuk tujuan ini, Jawatankuasa Kepintaran Buatan yang terdiri daripada negara anggota sebagai ahlinya dan sebagai platform penyelarasan jawatankuasa dan badan penasihat hendaklah membolehkan negara anggota memainkan peranan penting dan penting dalam pelaksanaan peraturan dalam bidangnya sebagai Kod latihan untuk model asas. Akhir sekali, satu forum akan diwujudkan dengan pihak berkepentingan individu yang diwakili oleh pemain industri, PKS, syarikat baharu, masyarakat sivil dan universiti. Ini boleh memberikan pengetahuan teknikal yang boleh digunakan oleh Suruhanjaya AI.

• Penalti

Perusahaan yang melanggar Undang-undang Kecerdasan Buatan akan dihukum dan dikenakan sanksi Jumlah denda minimum adalah jumlah tertentu dan jumlah maksimum boleh menjadi peratusan pusing ganti tahunan global pada tahun fiskal sebelumnya. Pelanggaran terhadap aplikasi kecerdasan buatan yang disebutkan di atas akan dihukum denda sebanyak 35 juta euro (7%), pelanggaran kewajipan di bawah Akta Kepintaran Buatan akan dihukum denda sebanyak 15 juta euro (3%), dan memberikan maklumat yang mengelirukan akan dihukum denda sebanyak 7.5 juta euro (1.5 %) penalti. Namun begitu, perjanjian interim itu termasuk denda khas yang akan memberi kesan yang lebih kecil kepada perusahaan kecil dan sederhana serta syarikat baharu apabila mereka komited untuk mematuhi peruntukan Akta Kepintaran Buatan.

Perjanjian ringkas dengan Undang-undang Kepintaran Buatan memperuntukkan bahawa orang asli atau undang-undang mempunyai hak untuk membuat aduan rasmi kepada entiti pengawasan pasaran yang berkaitan. Tambahan pula, Agensi hendaklah mengikut prosedur khusus dan ditetapkan dalam mengendalikan aduan tersebut.

• Ketelusan dan perlindungan hak asasi

Terutamanya, perjanjian interim memerlukan pengatur sistem AI untuk menjalankan penilaian kesan hak terhadap perlindungan pengguna akhir sebelum meletakkan sistem berisiko tinggi di pasaran. Perjanjian interim ini juga menyediakan titik permulaan yang baik untuk penggunaan meluas kecerdasan buatan yang canggih dan sistem pengesanan kebenaran automatik. Ia akan memberikan kejelasan tentang skop pelaksanaan sistem. Terutama, beberapa peraturan Suruhanjaya yang dicadangkan telah diubah suai untuk merujuk kepada pelbagai pengguna kerajaan sekali-sekala sistem AI berisiko tinggi yang juga telah mendaftarkan sistem pembelajaran mesin AI berisiko tinggi dalam pangkalan data EU. Di samping itu, barisan produk yang dikemas kini juga akan menghantar mesej kepada pengguna yang mengendalikan sistem pengecaman emosi untuk memberitahu mereka apabila mereka terdedah kepada sistem.

• Langkah-langkah untuk menyokong inovasi

Bahagian peraturan ini telah disemak dengan ketara untuk menggalakkan inovasi, yang merupakan aspek penting dalam cadangan Suruhanjaya untuk mewujudkan rangka kerja inovasi yang lebih saintifik yang sentiasa menyesuaikan diri untuk memastikan inovasi EU mewujudkan persekitaran kawal selia yang mampan dalam skop.

Kotak pasir kawal selia AI atas permintaan, direka untuk memastikan persekitaran terkawal untuk pembangunan, ujian dan pengesahan sistem AI baharu, juga membenarkan agensi ujian di bawah keadaan dunia sebenar. Selain itu, apabila sistem AI diuji dalam persekitaran dunia sebenar, sekatan baharu telah didayakan untuk membolehkan sistem digunakan dalam keadaan tertentu. Perjanjian sementara ini adalah untuk mengurangkan beban pentadbiran kepada perusahaan kecil dan sederhana dan mewujudkan pelan sokongan untuk perusahaan kecil dan sederhana berpendapatan rendah. Dalam kes sedemikian, pengurangan dibenarkan jika ia terhad dari segi undang-undang dan khusus. .