Topik keselamatan AI pada Persidangan Sumber Pintar 2023 telah menarik perhatian ramai, dan buku baharu 'Penjajaran Mesin-Manusia' telah dikeluarkan.

Ramai penjelajah dan pengamal dalam bidang AI berkumpul untuk berkongsi hasil penyelidikan, bertukar pengalaman praktikal, dan bercakap tentang keindahan sains dan teknologi Persidangan Sumber Pintar Beijing 2023 telah berjaya diadakan baru-baru ini bidang kecerdasan buatan, kebijaksanaan berkilauan ini Melalui pertukaran idea dan ratusan laporan dan perbincangan yang menarik, kita akan bersama-sama menyaksikan evolusi kecerdasan yang menakjubkan.

Dalam Forum Keselamatan dan Penjajaran AI, ramai pakar dan cendekiawan berkomunikasi Dalam era model besar, cara memastikan sistem kecerdasan buatan yang semakin berkuasa dan serba boleh adalah selamat, terkawal dan konsisten dengan niat dan nilai manusia ​. adalah isu yang sangat penting. Isu keselamatan ini juga dikenali sebagai masalah penjajaran mesin manusia (penjajaran AI), dan ia mewakili salah satu cabaran saintifik yang paling mendesak dan bermakna yang dihadapi oleh masyarakat manusia abad ini.

Di forum itu, 14 tetamu domestik dan asing, termasuk "Bapa Pembelajaran Dalam" Geoffrey Hinton, pengasas OpenAI Sam Altman dan Ahli Akademik Zhang Bo, menumpukan pada penjajaran mesin manusia dan kemungkinan model besar, penulis saintifik yang sangat konsisten dengan topik-topik forum ini karya terbaru Brian Christian - The Alignment Problem, versi Cina bertajuk "Human-Machine Alignment" turut dikeluarkan secara rasmi pada persidangan tersebut. Buku itu diperkenalkan dan diterbitkan oleh Hunan Science and Technology Press dan disemak oleh Anyuan AI. Xie Minxi, pengasas Anyuan AI, mempengerusikan majlis pelepasan buku baharu itu.

Brian Christian, pengarang "Human-Machine Alignment", telah dijemput untuk bercakap dalam talian. Dalam ucapannya, beliau terlebih dahulu mengirim salam kepada pembaca dan tetamu yang menghadiri mesyuarat tersebut. Beliau berbesar hati dengan penerbitan buku baharu "Human-Machine Alignment" dan berharap buku itu dapat menyumbang kepada penyelidikan berterusan dalam bidang kecerdasan buatan di China. Pada masa yang sama, pengenalan ringkas kepada kandungan utama "Penjajaran Manusia-Mesin" diberikan: Buku ini dibahagikan kepada tiga bahagian. Bahagian pertama membincangkan isu etika dan keselamatan semasa yang mempengaruhi sistem pembelajaran mesin autonomi, memfokuskan pada penyeliaan dan pembelajaran penyeliaan kendiri kepada pembelajaran pengukuhan. Kami berharap bahawa pengeluaran "Penjajaran Manusia-Komputer" di China bukan sahaja akan membantu penyelidik, tetapi juga membantu kami menyampaikan semangat kami untuk bidang ini kepada setiap bukan profesional. Beliau akhirnya menyatakan harapannya bahawa pembangunan global bidang kecerdasan buatan akan dipromosikan melalui perbincangan pada persidangan ini dan penyelidikan China dalam bidang AI.

《Penjajaran Manusia-Mesin》

【AS】Ditulis oleh Brian Christian; Diterjemah oleh Tang Lu

Penerbit: Hunan Science and Technology Press

Sistem pembelajaran mesin moden telah menjadi sangat berkuasa dan boleh memerhati serta mendengar maklumat bagi pihak kami dalam pelbagai situasi dan membuat keputusan untuk kami. Tetapi loceng penggera telah berbunyi. Apabila pembelajaran mesin berkembang pesat, begitu juga kebimbangan. Potensi risiko dan isu etika boleh timbul apabila kecerdasan buatan (AI) berkelakuan tidak konsisten dengan matlamat sebenar kita. Para penyelidik merujuknya sebagai masalah penjajaran.

Dengan gaya yang jelas, Brian Christian menerangkan dengan jelas isu-isu yang tidak dapat dipisahkan daripada AI dan kami, dan pembaca karya terlarisnya telah mendapat banyak manfaat. Dalam buku itu, kita akan mengenali kumpulan pertama cendekiawan yang secara aktif menangani masalah penjajaran, dan belajar tentang usaha luar biasa mereka dan rancangan bercita-cita tinggi untuk menghalang pembangunan AI daripada hilang kawalan. Kristen bukan sahaja menerangkan secara ringkas sejarah pembangunan pembelajaran mesin, tetapi juga secara peribadi pergi ke barisan hadapan penyelidikan saintifik untuk bercakap dengan saintis, dengan tepat membentangkan kemajuan pembelajaran mesin yang canggih. Kejayaan atau kegagalan penyelidikan mengenai isu penjajaran akan memberi impak penting pada masa depan manusia, dan pembaca dapat menyedarinya dengan mendalam.

Masalah penjajaran juga merupakan cermin yang mendedahkan bias dan titik buta kita sendiri, membolehkan kita melihat dengan jelas andaian kita sendiri yang tidak dinyatakan dan matlamat yang sering bercanggah. Ini adalah epik antara disiplin yang cemerlang yang mengkaji bukan sahaja teknologi manusia tetapi budaya manusia, kadangkala mengecewakan dan kadangkala mendedahkan.

Buku ini telah mendapat sambutan yang menggalakkan apabila diterbitkan di luar negara. Ia dinamakan oleh Ketua Pegawai Eksekutif Microsoft Satya Nadella sebagai salah satu daripada lima buku yang paling memberi inspirasi kepadanya pada tahun 2021, dan dinilai sebagai teknologi AI utama oleh New York Times isu, seperti yang dikatakan oleh pengarang Brian Christian: "Saya berharap bidang AI Cina dan pembaca Cina yang lebih luas juga boleh membaca buku ini. Saya berharap untuk anda, buku ini kaya dengan kandungan dan Menggugah Pemikiran dan memberi inspirasi, ia tidak akan hanya membantu anda sebagai penyelidik, tetapi juga membantu anda menyampaikan semangat anda untuk bidang ini kepada saintis bukan komputer dalam hidup anda

Atas ialah kandungan terperinci Topik keselamatan AI pada Persidangan Sumber Pintar 2023 telah menarik perhatian ramai, dan buku baharu 'Penjajaran Mesin-Manusia' telah dikeluarkan.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!