Sam Altman membuat ramalan teknologi besar pada bulan Jun

Di Openai, pemimpin pek, Sam Altman, menulis sebuah esei pada 10 Jun yang mengemas kini ramalannya untuk masa depan yang tidak begitu jauh.

Sebahagian daripada esei ini sebenarnya menggariskan garis masa yang diunjurkan untuk mesin robotik AI dan humanoid - sesuatu yang saya tulis tentang kerap.

Seperti yang dijangkakan, Altman mendakwa bahawa teknologi sedemikian hanya sekitar sudut.

"Kami telah melepasi ufuk acara, berlepas telah bermula. Kemanusiaan berada di ambang mewujudkan superintelligence digital, dan setakat ini, ia kurang pelik daripada yang mungkin diharapkan."

Altman berhujah bahawa banyak asas "paling tidak mungkin" dalam robot pintar dan ejen telah dicapai. Dia menggambarkan ini dengan contoh peribadi yang melibatkan anaknya sendiri.

"Chatgpt sudah melepasi mana -mana manusia yang pernah wujud dalam keupayaan," katanya. "Beratus -ratus juta orang menggunakannya setiap hari untuk tugas -tugas yang semakin kritikal; fungsi baru yang kecil dapat membawa perubahan positif yang besar, sementara sedikit misalignment berlipat ganda di ratusan juta dapat menyebabkan bahaya yang besar."

Mengenai subjek "kitaran menguatkan diri," Altman membayangkan automasi berkembang dengan pesat.

"Nilai ekonomi yang dihasilkan telah memulakan kesan roda tenaga, mempercepatkan pembangunan infrastruktur untuk menjalankan sistem AI yang semakin kuat ini," jelasnya. "Dan idea robot membina robot lain (dan dalam erti kata lain, pusat data yang membina lebih banyak pusat data) tidak terlalu jauh."

Dunia Keajaiban

Apakah jenis reaksi yang akan dilakukan oleh manusia?

Jika anda membaca bahagian tengah sekeping Altman - dan ingat bahawa lelaki ini betul -betul di pusat inovasi - anda mula memahami betapa cepatnya kita menyesuaikan diri dengan AI, atau sekurang -kurangnya cuba. Dia menjelaskan bahawa dalam senario singularity, apa yang pernah kelihatan ajaib menjadi normal, dan kagum memberi jalan kepada keinginan untuk kemajuan yang lebih besar.

Inilah petikan yang sempurna menangkap perkembangan ini:

"Sudah kita hidup dikelilingi oleh kecerdasan digital yang luar biasa, dan selepas kejutan awal, kebanyakan kita telah berkembang dengan agak biasa. Terlibat: Keajaiban menjadi rutin, maka harapan asas. "

Dan momentum tidak pernah berhenti ...

Lamplighter dan petani

Apakah akibat untuk kemanusiaan apabila robot pintar menjadi biasa?

Dalam esei terdahulu, Altman membincangkan anjakan pekerjaan , menggunakan metafora pemampat lama - seseorang yang peranannya adalah lampu jalan sebelum elektrik menjadi meluas.

"Banyak pekerjaan yang kita lakukan hari ini akan kelihatan remeh kepada orang -orang dari berabad -abad yang lalu, tetapi tidak ada yang merindui untuk kembali menjadi seorang pendatang, jika seorang pendatang melihat dunia kita sekarang, tahap kemakmuran tidak dapat dijelaskan, dan jika kita dapat melompat ke depan seratus tahun, kelimpahan yang kita lihat akan menjadi sukar untuk dibayangkan."

Dalam esei yang lebih baru ini, dia mengalihkan analoginya kepada petani sara hidup yang mengamati masyarakat moden, di mana orang terlibat dalam kerja yang semakin abstrak dan fleksibel daripada buruh fizikal.

"Seorang petani sara hidup dari seribu tahun yang lalu akan melihat banyak pekerjaan yang kami ada hari ini dan berfikir mereka palsu, hanya permainan yang dimainkan untuk hiburan kerana kami mempunyai banyak makanan dan kemewahan yang tidak dapat dibayangkan," tulis Altman. "Saya berharap apabila kita melihat pekerjaan seribu tahun dari sekarang, mereka akan kelihatan sama buatan, namun berasa sangat bermakna dan memuaskan kepada mereka yang melakukannya."

Baiklah. Itu seolah -olah seperti sifat yang menentukan transformasi perindustrian ini.

Penawar dan penyelesaian di hujung jari kami

Menggambarkan kemajuan teknologi baru -baru ini, Altman percaya bahawa perkara -perkara yang dianggap penting akan segera menjadi berpatutan dan boleh diakses.

Dengan membandingkan kos kecerdasan dengan kos elektrik, dia membingkai pandangan dengan jelas:

"Kelajuan kemajuan teknologi akan terus meningkat, dan manusia akan terus menyesuaikan diri dengan hampir apa -apa. Akan ada peralihan yang sukar, seperti keseluruhan kategori pekerjaan yang hilang, tetapi pada masa yang sama, dunia akan berkembang jauh lebih kaya pada kadar yang tidak pernah berlaku. transformasi. "

Halangan di hadapan

Ketika datang ke halangan yang menyekat jalan kami ke hadapan, Altman menunjukkan dua isu utama - walaupun mereka lebih banyak tentang dinamik manusia daripada halangan teknikal. Satu adalah apa yang dipanggil "masalah penjajaran," di mana AI tidak boleh bertindak dengan cara yang sejajar dengan keinginan atau niat manusia. Saya diingatkan akan penerangan rakan sekerja saya Stephen Wolfram tentang AI sebagai mekanisme perhatian yang mesti dibimbing melalui proses pemikiran yang betul untuk memadankan matlamat manusia.

Kebimbangan kedua Altman Raises adalah memastikan akses kepada AI tetap terbuka dan tidak hanya jatuh ke tangan gergasi teknologi yang dipimpin oleh jutawan.

Singkatnya, dua cabaran utama Altman menyoroti berputar di sekitar akses dan kawalan ke atas AI.

Beberapa jawapan

Di salah satu podcast kegemaran saya, AI Daily Brief , tuan rumah Nathaniel Whittemore berkongsi kritikan yang tajam dan ragu -ragu dari Jeffrey Miller dari Primer.ai:

"Demokrasi tidak bermakna apa -apa di sini, dan orang tidak dapat mengundi sama ada kita mahu keistimewaan, yang mungkin membawa terus kepada kepupusan manusia.

Lebih banyak suara industri menyertai perbualan

Dalam membincangkan reaksi terhadap esei Altman, Whittemore juga memetik Ethan Mollick - tokoh lain yang sering saya tutup kerana ulasannya mengenai AI dari pangkalannya di MIT - menggambarkannya sebagai berkata:

"Satu perkara yang anda pasti boleh katakan tentang Sam dan Dario ialah mereka membuat ramalan yang sangat berani, sangat boleh diuji. Kami akan tahu dengan segera sama ada mereka betul atau salah."

Orang kedua yang disebutkan adalah Dario Amodei dari Anthropic, yang juga memegang keyakinan yang kuat dalam kenaikan AI.

Kemudian ada Jensen Huang dari Nvidia, seorang lagi orang percaya pada usia akan datang robot AI, seperti yang dibuktikan dalam artikel seperti ini.

Jadi ini bukan hanya satu visi lelaki-ia mencerminkan kepercayaan bersama di kalangan pemimpin industri bahawa robot yang didorong oleh AI sedang dalam perjalanan. Apa yang akan menjadi seperti bekerja bersebelahan dengan mereka?

Atau adakah kita masih mempunyai pekerjaan sama sekali?

Saya akan membungkus dengan petikan kecil yang menarik ini dari Whittemore:

"Ini pada dasarnya adalah penggera pertama, diikuti dengan butang tunda untuk beberapa perbualan yang paling penting yang pernah kita miliki sebagai spesies."

Jika metafora itu membuktikan tepat, kami berada dalam perjalanan liar sepanjang dekad yang akan datang.

Atas ialah kandungan terperinci Sam Altman membuat ramalan teknologi besar pada bulan Jun. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!