Musk berkata terdapat 20% kemungkinan kecerdasan buatan memusnahkan manusia, tetapi ia masih berbaloi dengan risiko

Berita dari laman web ini pada 1 April, Elon Musk berkata pada seminar "Debat Kecerdasan Buatan" yang diadakan di Sidang Kemuncak Abundance sebelum ini bahawa walaupun teknologi kecerdasan buatan mempunyai 1/5 peluang untuk Manusia menimbulkan ancaman, tetapi faedahnya melebihi risiko dan ia masih berbaloi dengan risiko untuk kami meneruskan R&D.

Musk menilai semula penilaian risiko kecerdasan buatannya sebelum ini Dia berkata pada seminar itu: "Saya fikir kecerdasan buatan mempunyai potensi untuk menamatkan tamadun manusia. Saya mungkin bersetuju dengan Geoffrey Hinton, Kebarangkalian adalah kira-kira 10. % hingga 20% " Tetapi dia menambah: "Saya fikir senario kemungkinan positif adalah lebih besar daripada senario kemungkinan negatif." Musk tidak menyebut bagaimana dia mengira risiko itu.

Laman web ini menyedari bahawa pada November tahun lalu, Musk berkata bahawa kemungkinan teknologi ini di luar kawalan adalah "bukan sifar", tetapi pada masa itu dia tidak menegaskan bahawa kecerdasan buatan di luar kawalan akan memusnahkan manusia.

Walaupun Musk sentiasa menjadi peguam bela untuk mengawal selia kecerdasan buatan, tahun lepas beliau mengasaskan sebuah syarikat bernama xAI untuk mempromosikan kuasa kecerdasan buatan. xAI ialah pesaing kepada OpenAI, syarikat Musk yang diasaskan bersama Sam Altman, tetapi Musk meletak jawatan daripada lembaga OpenAI pada 2018.

Pada sidang kemuncak itu, Musk menganggarkan bahawa menjelang 2030, kecerdasan digital akan melebihi semua kecerdasan manusia digabungkan. Walaupun dia masih menegaskan potensi positif melebihi negatif, Musk mengakui risiko yang akan ditimbulkan AI kepada dunia jika ia meneruskan trajektori semasa dalam beberapa istilah paling langsung yang pernah digunakannya di khalayak ramai.

Musk berkata tentang kecerdasan buatan pada acara Silicon Valley pada 19 Mac, "Saya fikir perkara yang sangat penting untuk keselamatan kecerdasan buatan adalah menjadikannya realistik dan ingin tahu yang mungkin." membesarkan seorang kanak-kanak, tetapi ia adalah seorang yang sangat genius, seorang kanak-kanak seperti dewa - cara anda membesarkannya adalah penting. Kita mesti sentiasa berwaspada tentang keselamatan kecerdasan buatan, menjadikannya sebagai nyata yang mungkin, dan menjadikannya penuh rasa ingin tahu. Ini adalah titik yang sangat kritikal. Membenarkan ia mengejar kebenaran dan kekal ingin tahu akan memastikan ia tidak tersasar dan kekal ingin tahu dan mengejar kebenaran.

Musk berkata "kesimpulan muktamadnya" mengenai cara terbaik untuk mencapai keselamatan AI ialah membiarkan AI berkembang dengan cara yang memaksanya untuk dilaksanakan secara jujur. Pendekatan ini bukan sahaja dapat memastikan keselamatan kecerdasan buatan, tetapi juga menggalakkan perkembangan selanjutnya.

"Jangan paksa untuk berbohong, walaupun kebenaran itu tidak menyenangkan," kata Musk tentang cara-cara untuk menjadikan kecerdasan buatan selamat, "Itu sangat penting. Jangan jadikan ia berbohong

Laporan Independent Report, kajian Penyelidik telah mendapati bahawa sesetengah AI belajar menyerang manusia, menjadikannya mustahil untuk menggunakan langkah keselamatan AI semasa untuk mempertahankan diri daripada penipuan sedemikian. Lebih membimbangkan, para penyelidik menambah, mungkin AI boleh belajar menipu sendiri, dan bukannya dipengaruhi oleh pembohongan yang diajar secara khusus. Oleh itu, para penyelidik menyeru pelajar AI untuk berwaspada sendiri, dan bukannya tertipu dengan pengajaran yang disengajakan.