Acara industri AI mengumpulkan nama-nama besar! Sam Altam, 'Godfather of AI'... fahami pandangan terkini dalam satu artikel

Untuk industri AI, Persidangan Kepintaran Buatan Zhiyuan 2023 yang diadakan di Beijing sejak kebelakangan ini boleh dikatakan sebagai perhimpunan nama-nama besar Selain Sam Altam, pengasas OpenAI, Anugerah Turing Geoffrey Hinton, Yann LeCun, David Holz yang terkenal, pengasas perisian lukisan AI Midjourney, dan lain-lain muncul satu demi satu Ucapan nama-nama besar itu sangat memandang ke hadapan untuk pembangunan masa depan industri.

Mari kita lihat apa yang dikatakan oleh pakar terkemuka dalam industri AI ini.

Orang ramai menginginkan dan takut kecerdasan

David Holz, pengasas Midjourney, adalah seorang usahawan bersiri Pada tahun 2011, beliau mengasaskan Leap Motion, sebuah syarikat perisian dan perkakasan dalam bidang VR Pada tahun 2019, beliau menjual Leap Motion kepada pesaing Ultrahaptics dana untuk memulakan semula syarikat Perisian lukisan AI yang popular semasa Midjourney.

David Holz percaya bahawa kecerdasan buatan, setakat yang saya faham, agak serupa dengan bahagian badan kita, dan ia juga berkait rapat dengan sejarah. Ia juga mengaitkan dirinya dengan sejarah dengan cara yang menarik.

Holz percaya bahawa Salah satu matlamat Midjourney adalah untuk membina infrastruktur manusia baharu. Dunia akan memerlukan banyak perkara baharu dan memerlukan infrastruktur untuk membina perkara baharu. Jadi saya banyak berfikir tentang membina bentuk baru infrastruktur manusia, seperti tiang infrastruktur baharu. Jadi saya memerlukan tema saya, tiang saya adalah refleksi, imaginasi dan penyelarasan. Anda perlu memikirkan siapa anda, apa yang anda mahukan, dan bayangkan apa yang boleh berlaku. Kerana itulah perspektif yang kami gunakan pada segala-galanya, kami mula melihat beberapa penemuan berlaku dalam sintesis imej yang secara kualitatif berbeza daripada apa-apa yang saya temui dalam kecerdasan buatan sebelum ini.

Holz memperkenalkan bahawa Midjourney bukan sekadar mempelajari cara menggunakan alat ini, tetapi tentang mempelajari semua seni dan sejarah, serta semua pengetahuan tentang kamera, kanta dan lampu. Pengguna ingin memahami bahasa dan konsep yang kini boleh mereka gunakan dalam ciptaan mereka. Dahulu, saya pernah beranggapan bahawa ilmu hanyalah sejenis pengumpulan sejarah, tetapi kini saya sedar bahawa ilmu sebenarnya adalah kebolehan mencipta sesuatu.

Holz percaya bahawa orang ramai bimbang tentang perkembangan pesat kecerdasan buatan bukan sahaja kerana teknologi, tetapi juga kerana ketakutan terhadap kecerdasan. Jika mereka bijak, bolehkah saya mempercayai mereka? Tetapi sebaliknya, kita nampaknya mahukan dunia dengan kecerdasan sebanyak mungkin, dan kita nampaknya tidak mahu dunia yang kurang kecerdasan.

AI akan belajar menjadi sangat pandai menipu orang lain

Geoffrey Hinton, dekan pembelajaran mendalam dan bapa baptis kecerdasan buatan, berkata bahawa halangan terbesar kepada pembangunan AI sekarang ialah masalah kuasa pengkomputeran, yang jauh dari mencukupi. Sekarang meninggalkan prinsip paling asas sains komputer - perisian itu harus dipisahkan daripada perkakasan - saya akan menyebut algoritma yang dipanggil "gangguan aktiviti" yang boleh digunakan untuk melatih rangkaian saraf dan menjimatkan kuasa pengkomputeran.

Algoritma ini boleh meramalkan kecerunan dengan bunyi yang lebih sedikit daripada algoritma perambatan balik tradisional (RNN).

Mengenai persoalan bagaimana menggunakan algoritma ini untuk melatih rangkaian saraf yang besar, rangkaian saraf yang besar boleh dibahagikan kepada banyak kumpulan kecil dan setiap kumpulan diberikan fungsi objektif tempatan. Setiap kumpulan kemudiannya boleh dilatih menggunakan algoritma "gangguan aktiviti" dan digabungkan bersama ke dalam rangkaian saraf yang besar dengan model pembelajaran tanpa pengawasan untuk menjana fungsi objektif tempatan ini.

Apabila terdapat masalah dengan perkakasan, maklumat akan hilang Maklumat kelas induk dihantar kepada maklumat subkelas supaya maklumat yang dipelajari masih boleh dikekalkan apabila terdapat masalah perkakasan dan dengan lebih berkesan mengekang berat rangkaian saraf. .

Kaedah "penyulingan" membolehkan sub-model mempelajari maklumat dengan lebih baik tentang mengklasifikasikan imej, termasuk cara memberikan jawapan yang betul dan kebarangkalian memberikan jawapan yang salah Ia juga mempunyai atribut khas, iaitu, semasa melatih sub-model, ia juga keupayaan generalisasi sub-model latihan.

Bagaimana jika kecerdasan buatan ini tidak belajar daripada kami secara perlahan, tetapi terus dari dunia nyata, kata Hinton. Sebaik sahaja mereka mula melakukan ini, mereka akan belajar lebih banyak daripada orang dan belajar dengan cepat.

Apa yang akan berlaku jika perkara ini menjadi lebih bijak daripada kita manusia? Hinton percaya bahawa superintelligence ini mungkin berlaku lebih cepat daripada yang difikirkan sebelum ini.

Jika anda ingin mengatakan bahawa kecerdasan super adalah lebih cekap, anda perlu membenarkannya untuk mencipta subkelas, lebih kurang anda akan mahu bergantung pada AI ​​untuk mendapatkan lebih kuasa, mendapatkan lebih banyak kawalan, lebih banyak kawalan anda miliki, Lebih mudah untuk mencapai matlamat anda. Hinton mendapati sukar untuk meramalkan bagaimana manusia akan menghalang AI daripada cuba mendapatkan lebih kawalan untuk mencapai matlamat lain. Apabila mereka mula melakukan ini, manusia akan menghadapi masalah kerana mereka akan mendapati sangat mudah untuk memanipulasi orang untuk mendapatkan lebih kuasa.

Menurut Hinton, ia membimbangkan bahawa AI akan menjadi sangat pandai menipu orang lain, dan saya tidak nampak cara untuk menghalang perkara ini daripada berlaku lagi. Penyelidik perlu memikirkan cara memberi manusia superintelligence yang boleh memperbaiki kehidupan mereka tanpa memerlukan mereka campur tangan secara berlebihan.

Manusia mungkin hilang kawalan ke atas dunia dan masa depan disebabkan AI

Yao Qizhi ialah pemenang Anugerah Turing dan ahli akademik Akademi Sains China. Beliau percaya bahawa manusia perlu benar-benar menyelesaikan masalah mereka sendiri sebelum memikirkan cara mengawal kecerdasan buatan. Untuk teknologi AI, pada masa ini merupakan tetingkap penting. Sebelum mewujudkan AGI atau terlibat dalam perlumbaan senjata, terdapat keperluan mendesak untuk mencapai konsensus dan bekerjasama untuk mewujudkan rangka kerja tadbir urus AI.

Stuart Russell, seorang profesor di University of California, Berkeley, berkata bahawa kecerdasan buatan am (AGI) masih belum dicapai, dan model bahasa besar hanyalah satu bahagian dari teka-teki teka-teki akan kelihatan seperti dan apa yang hilang.

Dia berkata bahawa ChatGPT dan GPT-4 tidak "menjawab" soalan dan mereka tidak memahami dunia.

Russell menegaskan bahawa risiko terbesar datang daripada persaingan yang seolah-olah tidak terikat di kalangan syarikat teknologi, yang tidak akan berhenti membangunkan sistem yang semakin berkuasa tanpa mengira risiko. Sama seperti manusia telah menyebabkan gorila kehilangan kawalan ke atas masa depan mereka sendiri, AI boleh menyebabkan manusia kehilangan kawalan ke atas dunia dan masa depannya.

Tiga laluan teknikal AGI

Huang Tiejun, pengarah Institut Penyelidikan Kepintaran Buatan Beijing Zhiyuan, menegaskan bahawa Untuk merealisasikan kecerdasan buatan am (AGI), terdapat tiga laluan teknikal: yang pertama dibentuk oleh "data besar + pembelajaran diselia sendiri + kuasa pengkomputeran yang besar" Model maklumat; yang kedua ialah kecerdasan yang terkandung, yang merupakan model yang diwujudkan yang dilatih melalui pembelajaran pengukuhan berdasarkan dunia maya atau dunia nyata; yang ketiga ialah kecerdasan otak, yang secara langsung "menyalin kerja evolusi semula jadi" dan mereplikasi versi digital badan perisikan.

OpenAI mengikuti laluan teknikal pertama apabila melakukan GPT (model Transformer pra-latihan generatif); satu siri kemajuan yang dibuat dengan DQN Google DeepMind (rangkaian Q-dalam) kerana terasnya berdasarkan laluan teknologi kedua.

AGI berharap untuk berbeza daripada dua laluan teknikal pertama, bermula daripada 'prinsip pertama', daripada atom kepada molekul organik, kepada sistem saraf, kepada badan, untuk membina sistem pintar AGI yang lengkap. Zhiyuan ialah platform institusi R&D baharu yang bekerja dalam tiga arah untuk mencapai matlamat yang akan mengambil masa kira-kira 20 tahun untuk dicapai.

Tiga cabaran yang dihadapi AI pada masa hadapan

Yang Liang, pemenang Anugerah Turing dan salah seorang daripada "Tiga Besar" kecerdasan buatan, percaya bahawa pembelajaran mesin tidak begitu baik berbanding dengan haiwan manusia. Kekurangan AI bukan sahaja keupayaan untuk belajar, tetapi juga keupayaan untuk menaakul dan merancang. Kita harus menggunakan mesin untuk meniru keupayaan manusia dan haiwan untuk mempelajari cara dunia berfungsi dengan memerhati atau mengalaminya.

Yang Liang menegaskan bahawa terdapat tiga cabaran utama yang dihadapi AI dalam beberapa tahun akan datang: Yang pertama ialah mempelajari model perwakilan dan ramalan dunia, yang boleh dipelajari dalam penyeliaan sendiri. cara.

Yang kedua ialah belajar penaakulan. Ini sepadan dengan konsep Sistem 1 dan Sistem 2 oleh ahli psikologi Daniel Kahneman. Sistem 1 ialah tingkah laku atau tindakan manusia yang sepadan dengan pengiraan bawah sedar, dan merupakan perkara yang boleh dilakukan tanpa berfikir manakala Sistem 2 Ia adalah tugas yang anda secara sedar dan sengaja menggunakan semua daya pemikiran anda untuk menyelesaikannya. Pada masa ini, kecerdasan buatan pada asasnya hanya boleh merealisasikan fungsi dalam Sistem 1, dan ia tidak lengkap;

Cabaran terakhir ialah cara merancang urutan tindakan yang kompleks dengan memecahkan tugasan kompleks kepada tugasan mudah dan menjalankannya secara hierarki.

Kelahiran GPT-5 "tidak akan berlaku tidak lama lagi"

Pengasas OpenAI Sam Altman memetik "Tao Te Ching" dan bercakap tentang kerjasama antara negara-negara utama, mengatakan bahawa keselamatan AI bermula dengan satu langkah, dan kerjasama serta penyelarasan mesti dijalankan di kalangan negara.

Altman percaya bahawa

kemungkinan besar akan ada sistem AI yang sangat berkuasa dalam sepuluh tahun akan datang Teknologi baharu secara asasnya akan mengubah dunia lebih pantas daripada yang dibayangkan oleh orang ramai Adalah penting dan mendesak untuk memilikinya peraturan keselamatan AI bagi.

Apabila ditanya oleh Zhang Hongjiang tentang masa depan AGI dan sama ada GPT-5 akan dilihat tidak lama lagi, Altman berkata bahawa dia tidak pasti, tetapi menjelaskan dengan jelas bahawa kelahiran GPT-5 "tidak akan lama lagi."

Altman berkata bahawa ia akan menyediakan banyak model besar sumber terbuka, tetapi tiada jadual keluaran khusus.

Atas ialah kandungan terperinci Acara industri AI mengumpulkan nama-nama besar! Sam Altam, 'Godfather of AI'... fahami pandangan terkini dalam satu artikel. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!