Masa depan meramalkan letupan kecerdasan besar -besaran di jalan dari AI ke AGI

Mari kita bercakap mengenainya.

Analisis terobosan AI yang inovatif ini adalah sebahagian daripada liputan lajur Forbes yang berterusan pada AI terkini, termasuk mengenal pasti dan menerangkan pelbagai kerumitan AI yang memberi kesan (lihat pautan di sini). Bagi pembaca yang telah mengikuti siri khas saya mengenai laluan AGI, sila ambil perhatian bahawa saya menyediakan aspek latar belakang yang sama pada permulaan bahagian ini seperti yang saya lakukan sebelum ini, menetapkan panggung untuk pembaca baru.

Menuju ke Agi dan ASI

Pertama, beberapa asas diperlukan untuk menetapkan peringkat untuk perbincangan berat ini.

Terdapat banyak penyelidikan yang berlaku untuk memajukan AI. Matlamat umum adalah sama ada mencapai kecerdasan umum buatan (AGI) atau mungkin juga kemungkinan terulur untuk mencapai superintelligence buatan (ASI).

AGI adalah AI yang dianggap setanding dengan akal manusia dan nampaknya sepadan dengan kecerdasan kita. ASI adalah AI yang telah melampaui akal manusia dan akan menjadi lebih baik dalam banyak jika tidak semua cara yang boleh dilaksanakan. Idea ini ialah ASI akan dapat mengendalikan bulatan di sekitar manusia dengan menghancurkan kita pada setiap masa. Untuk maklumat lanjut mengenai sifat AI konvensional berbanding AGI dan ASI, lihat analisis saya di pautan di sini.

Kami belum mencapai AGI.

Malah, tidak diketahui sama ada kita akan sampai ke AGI, atau mungkin AGI akan dapat dicapai dalam beberapa dekad atau mungkin berabad -abad dari sekarang. Tarikh pencapaian AGI yang terapung di sekitar adalah sangat berbeza -beza dan tidak berasas oleh sebarang bukti yang boleh dipercayai atau logik ironclad. ASI lebih melampaui pucat ketika datang ke mana kita sedang dengan AI konvensional.

Konsensus pakar AI pada tarikh AGI

Sekarang, usaha untuk meramalkan apabila AGI akan dicapai terdiri daripada dua laluan.

Pertama, terdapat luminair AI yang sangat bersuara yang membuat ramalan brazen individu. Kepala mereka membuat tajuk utama media outsized. Nubuatan -nubuatan itu seolah -olah bersatu pada tahun 2030 sebagai tarikh sasaran untuk AGI. Laluan yang lebih tenang adalah kemunculan tinjauan berkala atau pemilihan pakar AI. Kebijaksanaan pendekatan orang ramai ini adalah satu bentuk konsensus saintifik. Seperti yang saya bincangkan di pautan di sini, pemilihan terkini seolah -olah mencadangkan bahawa pakar AI umumnya percaya bahawa kita akan mencapai AGI menjelang tahun 2040.

Sekiranya anda terpengaruh oleh pencahayaan AI atau lebih banyak oleh pakar AI dan konsensus saintifik mereka?

Dari segi sejarah, penggunaan konsensus saintifik sebagai kaedah memahami postur saintifik telah agak popular dan ditafsirkan sebagai cara standard untuk melakukan sesuatu. Sekiranya anda bergantung pada saintis individu, mereka mungkin mempunyai pandangan mereka sendiri yang unik. Keindahan konsensus adalah bahawa majoriti atau lebih daripada mereka yang berada di alam yang diberikan meletakkan berat kolektif mereka di belakang kedudukan apa pun yang disokong.

Pepatah lama adalah bahawa dua kepala lebih baik daripada satu. Dalam kes konsensus saintifik, ia mungkin berpuluh -puluh, beratus -ratus, atau beribu -ribu kepala yang lebih baik daripada satu. Untuk perbincangan ini mengenai pelbagai laluan ke AGI, saya akan meneruskan tahun 2040 sebagai tarikh sasaran yang dijangkakan konsensus.

Selain konsensus saintifik pakar AI, satu lagi pendekatan yang lebih baru dan lebih luas untuk mengukur apabila AGI akan dicapai dikenali sebagai Konvergensi AGI-of-Evidence atau AGI Konsilience, yang saya bincangkan di pautan di sini.

Tujuh laluan utama

Seperti yang disebutkan, dalam posting sebelumnya saya mengenal pasti tujuh laluan utama yang AI akan maju untuk menjadi AGI (lihat pautan di sini). Inilah senarai saya semua tujuh laluan utama yang membawa kita dari AI kontemporari ke AGI yang berharga:

• (1) Laluan linear (perlahan dan mantap): Laluan AGI ini menangkap pandangan yang beransur-ansur, di mana kemajuan AI mengumpul satu langkah pada masa melalui skala, kejuruteraan, dan lelaran, akhirnya tiba di AGI.
• (2) Laluan S-Curve (dataran tinggi dan kebangkitan): Laluan AGI ini mencerminkan trend sejarah dalam kemajuan AI (contohnya, musim sejuk AI awal), dan membolehkan meratakan melalui terobosan selepas genangan.
• (3) Laluan tongkat hoki (permulaan yang perlahan, kemudian pertumbuhan pesat): Laluan AGI ini menekankan kesan titik infleksi utama yang penting yang menghidupkan semula dan mengalihkan kemajuan AI, yang mungkin timbul melalui keupayaan AI yang muncul.
• (4) Laluan yang bertele-tele (turun naik yang tidak menentu): Laluan AGI ini menyumbang ketidakpastian dalam memajukan AI, termasuk kitaran overhype-disillusionment, dan juga boleh diselingi oleh gangguan luaran (teknikal, politik, sosial).
• (5) Laluan moonshot (lonjakan tiba-tiba): merangkumi ketidakpastian radikal dan tidak dijangka dalam kemajuan AI, seperti letupan kecerdasan yang terkenal atau penumpuan besar yang sama secara spontan dan hampir segera tiba di AGI (untuk perbincangan saya yang mendalam mengenai letupan kecerdasan, lihat pautan di sini).
• (6) Laluan yang tidak pernah berakhir (Muddling kekal): Ini mewakili pandangan yang ragu-ragu bahawa AGI mungkin tidak dapat dicapai oleh manusia, tetapi kita terus mencuba, memasuki harapan dan kepercayaan yang kekal bahawa AGI berada di sudut seterusnya.
• (7) Laluan mati (AGI tidak dapat dicapai): Ini menunjukkan bahawa ada kemungkinan bahawa manusia mungkin tiba di mati dalam mengejar AGI, yang mungkin kebuntuan sementara atau boleh menjadi satu yang tetap sehingga AGI tidak akan dapat dicapai tidak kira apa yang kita lakukan.

Anda boleh memohon tujuh laluan yang mungkin untuk apa sahaja garis masa AGI yang anda mahu tampil.

Ramalan niaga hadapan

Mari kita lakukan pendekatan yang membahagikan dan menonjol untuk mengenal pasti apa yang mesti berlaku untuk mendapatkan dari AI semasa ke AGI.

Kami hidup pada tahun 2025 dan entah bagaimana sepatutnya tiba di AGI menjelang tahun 2040. Itu pada dasarnya 15 tahun berlalu. Idea ini adalah untuk memetakan lima belas tahun yang akan datang dan membuat spekulasi apa yang akan berlaku dengan AI semasa perjalanan itu.

Ini boleh dilakukan dalam mod berpandangan ke hadapan dan juga mod yang berpandangan ke belakang. Yang berpandangan ke hadapan memerlukan pemikiran tentang kemajuan AI pada tahun demi tahun, bermula sekarang dan memuncak pada tiba di AGI pada tahun 2040. Mod yang berpandangan mundur melibatkan bermula dengan 2040 sebagai tarikh akhir untuk AGI dan kemudian bekerja dari pencapaian itu pada tahun demi tahun untuk tiba pada tahun 2025 (pertandingan AI secara bersamaan). Gabungan ini membayangkan ke hadapan dan ke belakang adalah ciri khas futurecasting.

Adakah ini jenis ramalan Ironclad masa depan?

Nope.

Sekiranya ada orang yang boleh meletakkan lima belas tahun yang akan berlaku di AI, mereka mungkin akan menjadi seperti Warren Buffett ketika meramalkan pasaran saham. Orang seperti itu dengan mudah boleh diberikan Hadiah Nobel dan sepatutnya menjadi salah satu daripada orang terkaya yang pernah ada.

Segala -galanya, jerami yang saya tunjukkan di sini terutamanya dimaksudkan untuk mendapatkan jus yang mengalir pada bagaimana kita dapat meramalkan masa depan keadaan AI. Ia adalah satu ramalan. Ia adalah spekulatif. Tetapi sekurang -kurangnya ia mempunyai asas yang munasabah dan tidak sepenuhnya sewenang -wenang atau benar -benar buatan.

Saya pergi ke hadapan dan menggunakan lima belas tahun mencapai AGI pada tahun 2040 sebagai contoh ilustrasi. Mungkin 2050 adalah tarikh AGI sebaliknya, dan dengan itu perjalanan ini akan dimainkan lebih dari 25 tahun. Garis masa dan pemetaan akan mempunyai 25 tahun untuk menangani bukannya lima belas tahun. Jika 2030 akan menjadi tahun ketibaan AGI, laluan itu perlu dimampatkan dengan ketara.

Ledakan perisikan dalam perjalanan ke AGI

Laluan moonshot melibatkan kejayaan radikal yang tiba -tiba dan tidak dijangka yang cepat mengubah AI konvensional ke AGI. Semua jenis spekulasi liar wujud mengenai apa yang dapat ditarik balik seperti itu, lihat perbincangan saya di pautan di sini.

Salah satu kejayaan yang paling terkenal adalah kemunculan letupan kecerdasan. Idea ini ialah apabila letupan kecerdasan berlaku, dengan mengandaikan bahawa fenomena seperti itu berlaku, AI akan dalam perkembangan pesat terus mempercepatkan menjadi AGI.

Laluan jenis ini sangat berbeza dengan laluan linear. Dalam laluan linear, perkembangan AI ke AGI agak sama setiap tahun dan terdiri daripada pendakian tambahan secara beransur -ansur dari AI konvensional ke AGI. Saya meletakkan butiran laluan linear dalam posting terdahulu, lihat pautan di sini.

Bilakah letupan perisikan berlaku?

Memandangkan kita menganggap garis masa lima belas tahun dan ramalannya adalah bahawa AGI akan dicapai pada tahun 2040, tempat logik yang letupan perisikan akan berlaku tepat pada tarikh 2040, mungkin berlaku pada tahun 2039 atau 2038. Sebagai contoh, katakan letupan perisikan berlaku pada tahun 2032. Jika sesungguhnya letupan perisikan menjatuhkan kami AGI, kami akan mengisytiharkan 2032 atau 2033 sebagai tarikh AGI daripada 2040.

Mari kita gunakan ini sebagai garis masa yang dirumuskan dalam konteks ini:

• Tahun 2025-2038: AI semakin maju tetapi belum di AGI.
• Tahun 2038-2039: Letupan perisikan berlaku.
• Tahun 2039-2040: AGI dicapai.

Menentukan letupan perisikan

Anda mungkin ingin tahu apa letupan kecerdasan akan terdiri dan mengapa ia semestinya kelihatan mencapai AGI.

Cara terbaik untuk membayangkan letupan kecerdasan adalah terlebih dahulu mencerminkan reaksi rantai seperti apa yang berlaku dalam bom atom atau reaktor nuklear. Kita semua pada masa kini tahu bahawa zarah -zarah atom boleh dipaksa atau didorong untuk memantul satu sama lain, dengan pesat berkembang sehingga letupan besar atau pecah hasil tenaga. Ini biasanya diajar di sekolah sebagai prinsip fizik asas, dan banyak filem blockbuster secara dramatik mempamerkan aktiviti ini (seperti filem Oppenheimer yang terkenal di Christopher Nolan).

Teori dalam komuniti AI adalah bahawa kecerdasan juga boleh berbuat demikian. Ia seperti ini. Anda mengumpulkan sekumpulan kecerdasan dan mendapatkan kecerdasan itu untuk memakan koleksi di tangan. Hampir seperti menangkap api, pada satu ketika, kecerdasan akan bercampur dengan dan pada dasarnya memancarkan penciptaan kecerdasan tambahan. Perisikan mendapat kumpulkan secara berturut -turut.

Boom, reaksi rantaian kecerdasan berlaku, yang dicipta sebagai letupan kecerdasan.

Masyarakat AI cenderung untuk mengaitkan idea yang dirumuskan pada awalnya tentang letupan perisikan AI ke kertas penyelidikan yang diterbitkan pada tahun 1965 oleh John Good Irving bertajuk "Spekulasi mengenai Mesin Ultrainteligin Pertama" ( Kemajuan dalam Komputer , Jilid 6). Irving membuat ramalan ini dalam artikelnya:

• "Ia lebih mungkin daripada tidak, dalam abad kedua puluh, mesin ultra-bijak akan dibina dan ia akan menjadi ciptaan terakhir yang perlu dibuat oleh manusia kerana ia akan membawa kepada 'letupan perisikan'. Ini akan mengubah masyarakat dengan cara yang tidak dapat dibayangkan. "

Kontroversi mengenai letupan perisikan

Mari kita pertimbangkan beberapa kontroversi yang patut diberi perhatian mengenai letupan perisikan.

Pertama, kita tidak mempunyai bukti yang boleh dipercayai bahawa letupan perisikan per se adalah fenomena sebenar. Untuk menjelaskan, ya, ia mungkin mudah dilihat bahawa jika anda mempunyai beberapa kecerdasan yang dikumpulkan dan menggabungkannya dengan kecerdasan yang dikumpulkan lain, kemungkinannya adalah bahawa anda akan mempunyai lebih banyak kecerdasan yang dikumpulkan daripada yang anda harus mulakan. Terdapat sinergi kecerdasan yang berpotensi yang memicu lebih banyak kecerdasan.

Tetapi konsep bahawa kecerdasan akan bebas dengan kecerdasan lain dalam beberapa persekitaran pengkomputeran dan mencetuskan beban kecerdasan, baiklah, ini adalah teori yang menarik, dan kita masih belum melihat ini berlaku pada skala yang bermakna. Saya tidak mengatakan ia tidak boleh berlaku. Tidak pernah mengatakan tidak pernah.

Kedua, kadar letupan kecerdasan juga merupakan perdebatan yang hebat. Pandangan yang berlaku adalah bahawa apabila kecerdasan mula memberi makan kecerdasan lain, tindak balas rantai yang cepat akan timbul. Kecerdasan tiba -tiba dan dengan kemarahan yang besar melimpah ke dalam kecerdasan tambahan kecerdasan tambahan.

Satu kepercayaan ialah ini akan berlaku dalam sekelip mata. Manusia tidak akan dapat melihatnya berlaku dan sebaliknya hanya akan menjadi saksi selepas fakta kepada hasil yang luar biasa. Tidak semua orang pergi bersama -sama dengan tekaan letupan kecerdasan seketika. Ada yang mengatakan ia mungkin mengambil masa beberapa minit, jam, hari, minggu, atau mungkin bulan. Orang lain mengatakan ia boleh mengambil masa bertahun -tahun, dekad, atau berabad -abad.

Tiada siapa yang tahu.

Memulakan dan menghentikan letupan kecerdasan

Terdapat kontroversi tambahan dalam bakul yang membimbangkan ini.

Bagaimanakah kita dapat memulakan letupan kecerdasan?

Dalam erti kata lain, anggap bahawa manusia mahu mengalami letupan kecerdasan. Kaedah mendapatkan ini berlaku tidak diketahui. Sesuatu mesti mencetuskan kecerdasan untuk bercampur dengan kecerdasan yang lain. Algoritma apa ini berlaku?

Satu pandangan adalah bahawa manusia tidak akan mencari cara untuk membuatnya berlaku, dan sebaliknya, ia hanya akan berlaku secara semulajadi. Bayangkan bahawa kita telah melemparkan banyak kecerdasan ke dalam beberapa jenis sistem pengkomputeran. Mengejutkan kami, dari biru, kecerdasan mula mencampurkan dengan kecerdasan yang lain. Menarik.

Ini membawa kita kepada satu lagi soalan yang jelas, iaitu bagaimana kita akan menghentikan letupan kecerdasan?

Mungkin kita tidak boleh menghentikannya, dan kecerdasan akan tumbuh tanpa henti. Adakah itu hasil yang baik atau hasil yang buruk? Mungkin kita boleh menghentikannya, tetapi kita tidak boleh menghidupkannya. Oops, jika kita menghentikan letupan kecerdasan terlalu lama, kita mungkin telah menembak kaki kita sendiri kerana kita tidak mendapat kecerdasan baru seperti yang kita dapat.

Saga popular yang mendapat banyak permainan media adalah bahawa letupan kecerdasan akan berjalan amok. Perkara berlaku dengan cara ini. Sekumpulan pemaju AI duduk di sekeliling dengan AI konvensional apabila tiba -tiba letupan kecerdasan didorong (pemaju AI tidak membuatnya berlaku, mereka adalah orang yang berpengalaman). AI dengan cepat menjadi AGI. Hebat. Tetapi letupan perisikan terus berjalan, dan kita tidak tahu bagaimana untuk menghentikannya.

Perkara seterusnya yang kita tahu, ASI telah dicapai.

Qualm adalah bahawa ASI akan memutuskan ia tidak memerlukan manusia di sekitar atau bahawa ASI mungkin juga memperbudak kita. Anda lihat, kami secara tidak sengaja menyelinap melewati AGI dan secara tidak sengaja mendarat di ASI. Risiko eksistensi AISI timbul, ASI clobbers kami, dan kami ditangkap sepenuhnya flatfooted.

Garis masa ke AGI dengan letupan perisikan

Sekarang saya telah meletakkan inti dari apa yang letupan kecerdasan, mari kita anggap bahawa kita bertuah dan mempunyai letupan kecerdasan yang agak selamat yang mengubah AI konvensional ke AGI. Kami akan mengetepikan tergelincir dan meluncur ke ASI.

Nasib baik, seperti di Goldilocks, bubur tidak akan terlalu panas atau terlalu sejuk. Ledakan perisikan akan membawa kita terus ke jumlah kecerdasan yang tepat yang cukup untuk AGI. Tempoh, akhir cerita. Di sini adalah pelan hala tuju niaga hadapan Strawman dari 2025 hingga 2040 yang merangkumi letupan perisikan yang membawa kita ke AGI:

Tahun 2025-2038 (sebelum letupan perisikan):

• Model multi-modal AI akhirnya menjadi mantap dan terintegrasi sepenuhnya ke dalam LLM. Penambahbaikan yang ketara dalam penalaran masa nyata AI, integrasi sensorimotor, dan pemahaman bahasa yang berasaskan berlaku.
• Agentic AI mula berkembang dan menjadi praktikal dan meluas. Sistem AI dengan keupayaan memori dan perancangan mencapai kecekapan dalam tugas terbuka dalam persekitaran simulasi.
• Penggunaan model dunia berskala besar AI memancarkan keupayaan AI yang lebih baik. AI kini boleh diperbaiki dari contoh yang lebih sedikit melalui kemajuan dalam meta-pembelajaran AI.
• Ejen AI secara beransur-ansur mendapat penerimaan yang luas dan mampu melaksanakan tugas pelbagai langkah secara separa autonomi dalam domain digital dan fizikal, termasuk robotik.
• AI maju dengan cukup untuk mempunyai pemahaman umum tentang kausalitas fizikal dan kekangan dunia nyata melalui pembelajaran yang terkandung.
• Tetapi tidak ada persamaan AGI yang kelihatan kelihatan dan banyak di dalam AI dan di luar AI yang mengendalikan AI tidak akan menjadi AGI.

Tahun 2038-2039 (letupan perisikan):

• Letupan perisikan AI menghasilkan banyak kecerdasan baru.
• Sistem AI yang memperbaiki diri mula mengubahsuai kod mereka sendiri di bawah keadaan terkawal.
• Ejen AI mencapai prestasi peringkat manusia di semua tanda aras kognitif, termasuk abstraksi, teori minda (TOM), dan pembelajaran silang domain.
• Sistem AI mempamerkan tanda-tanda refleksi diri, bukan hanya meniru atau parroting. Kemajuan dalam AI mempamerkan kesesuaian dan inovasi keadaan seperti manusia.
• Sistem AI kini merangkumi identiti berterusan, dapat mencerminkan pengalaman sepanjang masa. Beberapa halangan terakhir untuk menerima AI sebagai AGI diatasi apabila AI menunjukkan kreativiti, nuansa emosi, dan penalaran abstrak dalam konteks yang pelbagai.

Tahun 2039-2040 (AGI dicapai):

• Terdapat perjanjian umum yang meluas pada tahun 2040 bahawa AGI kini telah dicapai, walaupun masih hari -hari awal AGI. Ledakan perisikan membawa kami AGI.

Merenungkan garis masa

Saya akan meminta anda untuk merenungkan garis masa Strawman dan mempertimbangkan di mana anda akan berada dan apa yang akan anda lakukan jika letupan perisikan berlaku pada tahun 2038 atau 2039.

Dalai Lama membuat kenyataan yang terkenal ini: "Adalah penting untuk mengarahkan kecerdasan kita dengan niat yang baik. Tanpa kecerdasan, kita tidak dapat mencapai sangat. Tanpa niat baik, cara kita menjalankan kecerdasan kita mungkin mempunyai hasil yang merosakkan."

Anda mempunyai peranan yang berpotensi dalam membimbing di mana kita pergi jika garis masa di atas bermain. Adakah AGI akan disemai dengan niat baik? Adakah kita dapat bekerja dengan AGI dan mencapai niat baik? Terpulang kepada anda. Sila pertimbangkan untuk melakukan apa sahaja yang anda boleh untuk memanfaatkan letupan perisikan berharga untuk memberi manfaat kepada manusia.

Atas ialah kandungan terperinci Masa depan meramalkan letupan kecerdasan besar -besaran di jalan dari AI ke AGI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!