Bapa ChatGPT menjadi ahli keseimbangan: Saya mahukan kedua-dua wang dan keselamatan teknologi AI

Menurut berita pada 3 April, matlamat utama OpenAI adalah untuk membangunkan kecerdasan buatan am yang selamat. Ketua Pegawai Eksekutif syarikat, Sam Altman, perlu menggunakan hasil teknologi untuk memacu kemajuan berterusan kecerdasan buatan dan menggunakan bukan keuntungan untuk memastikan keselamatan teknologi kecerdasan buatan. Rakan-rakan rapatnya berkata ia adalah seni keseimbangan.

Altman, CEO OpenAI yang berusia 37 tahun, sentiasa bermimpi bahawa komputer boleh berkomunikasi dan belajar antara satu sama lain seperti manusia. Dia dibawa ke barisan hadapan kegilaan kecerdasan buatan dengan ChatGPT. Altman berkata bahawa apa yang paling diingatinya ialah berjaga malam semasa kecil di bilik tidurnya bermain Macintosh LC II, yang dia dapat sebagai hadiah hari jadi kelapan. Pada masa itu, Altman tiba-tiba menyedari: "Suatu hari nanti, komputer akan belajar berfikir."

Dalam beberapa bulan kebelakangan ini, Altman bukan sahaja membina masa depan kecerdasan buatan, tetapi juga bekerja keras untuk pengkomersilannya. Pada November tahun lalu, syarikat OpenAI yang dipimpinnya mengeluarkan ChatGPT, sebuah bot sembang yang boleh menulis artikel seperti manusia dan telah menjadi salah satu produk paling viral dalam sejarah teknologi. Dokumen pelabur menunjukkan bahawa apabila ChatGPT menjadi popular di seluruh Internet, OpenAI berkembang daripada sebuah organisasi bukan untung kecil kepada syarikat berbilion dolar pada kelajuan hampir rekod. Ini sebahagiannya disebabkan OpenAI menubuhkan unit untung dan menerima pembiayaan $13 bilion daripada Microsoft.

Kejayaan sedemikian juga merupakan sebahagian daripada tindakan pengimbangan yang halus. Altman berkata dia juga bimbang tentang apa yang akan berlaku jika kecerdasan buatan diperkenalkan ke dalam masyarakat tanpa melulu. Dia dan yang lain mengasaskan OpenAI, sebuah organisasi penyelidikan bukan untung, lapan tahun lalu apabila Altman berhujah bahawa menggunakan keuntungan untuk memacu pembangunan model berkuasa untuk kecerdasan buatan adalah berbahaya.

Altman sangat berhati-hati menggunakan keuntungan untuk memberi insentif kepada pembangunan AI. Dia berkata dia tidak secara langsung memegang saham dalam OpenAI, yang jarang berlaku di Silicon Valley. Anda tahu, pengasas syarikat permulaan Silicon Valley yang berjaya biasanya menjadi kaya melalui ekuiti yang mereka pegang.

Altman berkata tentang faedah ekonomi: "Seperti kebanyakan orang, saya suka melihat jumlah kekayaan meningkat, tetapi saya tidak mahu itu menjadi faktor penuh OpenAI berkata Altman Gajinya adalah " sederhana", tetapi tiada angka khusus didedahkan. Altman mendedahkan bahawa dia memegang kepentingan kecil dalam dana teroka yang melabur dalam OpenAI, tetapi ia adalah "tidak penting."

Altman membuat banyak wang pada tahun-tahun awalnya dengan melabur dalam syarikat permulaan, "menjana lebih daripada yang saya perlukan." Dia memiliki tiga hartanah, termasuk rumah agam di kawasan kejiranan San Francisco dan rumah percutian di Lembah Napa. Dia mengupah berpuluh-puluh orang untuk menguruskan hartanah dan pelaburan keluarga.

Matlamat Altman adalah untuk mewujudkan susunan baharu dan menggunakan mesin untuk membebaskan orang ramai supaya mereka boleh terlibat secara bebas dalam kerja yang lebih kreatif. Dalam visi Altman, setiap orang akan menerima pendapatan asas untuk mengimbangi pekerjaan yang digantikan oleh kecerdasan buatan. Dia juga percaya bahawa manusia akan sangat menyukai kecerdasan buatan, dan chatbots lanjutan boleh menjadi "lanjutan daripada kehendak orang."

Altman berkata dalam jangka panjang, beliau berharap dapat mewujudkan struktur tadbir urus global untuk mengawasi keputusan tentang kecerdasan buatan masa depan dan secara beransur-ansur mengurangkan pengaruh pasukan eksekutif OpenAI terhadap teknologi kecerdasan buatan.

Penyokong mengatakan Altman ialah calon yang ideal untuk menerajui OpenAI. Tetapi ramai orang mengatakan bahawa kepintaran perniagaan Altman terlalu maju dan dia sentiasa tenggelam dalam pemikiran Lembah Silikon, tidak dapat menanggung revolusi teknologi yang membentuk semula perniagaan dan kehidupan sosial.

Dokumen pelabur menunjukkan bahawa OpenAI dan Microsoft menandatangani perjanjian bernilai $10 bilion pada bulan Januari tahun ini, dan Microsoft akan memiliki 49% unit untuk keuntungan OpenAI. Perkongsian korporat ini, ditambah dengan dorongan agresif Altman untuk mengkomersialkan teknologi kecerdasan buatan, mengecewakan pemimpin awal OpenAI. Mereka berpendapat bahawa keputusan ini melanggar janji awal untuk membangunkan AI di luar pengaruh pemegang saham.

Ketua Pegawai Eksekutif Tesla Elon Musk turut mengkritik OpenAI. Musk mengambil bahagian dalam pengasas OpenAI pada 2015, tetapi meninggalkan pada 2018 kerana pertikaian mengenai kawalan dan hala tuju pembangunan. Pada Februari tahun ini, Musk berkata di Twitter bahawa OpenAI pada asalnya ditubuhkan sebagai organisasi bukan untung sumber terbuka "untuk menyemak dan mengimbangi Google, tetapi kini ia telah menjadi sebuah syarikat dengan sumber tertutup, mengejar keuntungan maksimum, dan sebenarnya dikawal oleh Microsoft. ." syarikat. Itu bukan niat saya sama sekali."

Altman berhenti seketika apabila ditanya tentang kritikan Musk. "Saya suka Musk," akhirnya dia menjawab, "dan saya memberi perhatian kepada apa yang dia katakan

Dalam surat terbuka yang dikeluarkan minggu lalu, termasuk Musk, pengasas bersama Apple Steve Wozniak Silicon Valley termasuk Steve Wozniak." telah menyeru seluruh industri untuk menggantung pembangunan kecerdasan buatan yang lebih maju daripada teknologi terkini OpenAI GPT-4 dalam tempoh enam bulan untuk mengelakkan situasi di mana persaingan teknologi mungkin tidak terkawal.

Orang ramai telah lama membayangkan kecerdasan buatan am yang bukan sahaja pandai menghasilkan teks atau imej, tetapi boleh memahami dan belajar serta manusia, malah berprestasi lebih baik daripada manusia. Altman berkata OpenAI tidak semestinya perlu menjadi pasukan pertama untuk membangunkan kecerdasan buatan am, tetapi misi utama mereka adalah untuk membangunkan kecerdasan buatan am yang selamat.

Menurut dokumen pelabur, OpenAI telah menetapkan had keuntungan untuk pelabur, dan sebarang pendapatan yang melebihi tahap tertentu akan mengalir kepada organisasi bukan untung yang menjadi miliknya. Nilai khusus siling keuntungan adalah antara 7 kali ganda hingga 100 kali ganda modal yang dilaburkan, bergantung pada masa pelaburan. OpenAI dan Microsoft juga telah membentuk jawatankuasa keselamatan bersama yang merangkumi Altman dan Ketua Pegawai Teknologi Microsoft Kevin Scott. Jika jawatankuasa percaya bahawa produk yang dikeluarkan oleh Microsoft dan OpenAI terlalu berbahaya, ia mempunyai kuasa untuk menarik baliknya.

Jutawan pemodal teroka Peter Thiel, penderma awal kepada OpenAI, ialah kawan rapat Altman. Beliau berkata kemungkinan kecerdasan buatan am memberi Altman idea bahawa beberapa teknologi serupa mencipta alam semesta. Thiel telah lama menyokong idea bahawa manusia dan mesin suatu hari nanti akan bergabung antara satu sama lain.

Selepas keluaran ChatGPT, satu siri sistem kecerdasan buatan yang bersaing turut muncul. Pada Februari tahun ini, Google mengumumkan bahawa ia sedang menguji chatbot Bardnya sendiri dan akan membukanya kepada umum pada bulan Mac.

" Mereka berlumba-lumba mengeluarkan kenyataan akhbar, Altman berkata mengenai pesaingnya, "Jelas sekali, mereka sudah ketinggalan sekarang. "

OpenAI berjanji dalam piagam pengasasnya bahawa ia akan meninggalkan usaha penyelidikan sedia ada jika projek lain lebih hampir untuk membangunkan kecerdasan buatan umum daripada yang dilakukannya. Syarikat itu berkata ini adalah untuk mengutamakan keselamatan manusia, mengelakkan perlumbaan untuk membina sistem kecerdasan buatan yang berbahaya.

Pejabat OpenAI di Daerah Misi San Francisco dipenuhi dengan air pancut batu, succulents dan paku-pakis, dan Altman menyembur tentang tangga tengah yang dia reka, supaya 400 pekerja syarikat itu berpeluang Bertemu berdekatan setiap hari Dari hari Isnin hingga Rabu, pekerja juga mesti bekerja secara bersemuka di bangunan ini juga mempunyai kafetaria gaya universiti, bar layan diri dan perpustakaan yang direka oleh Alter, kedai buku kegemaran Mann inspirasi reka bentuk Bilik Bender, ruang belajar yang tenang di tingkat atas Perpustakaan Universiti Stanford

Altman memakai pakaian CEO syarikat teknologi biasa: baju peluh kelabu, seluar jeans dan kemeja putih berkilat berkata didikannya sederhana

Altman dibesarkan di pinggir bandar St. Louis, anak sulung daripada empat anak ibunya seorang pakar dermatologi dan bapanya merupakan seorang peguam yang bekerja sebagai bapa Altman ahli berkata, menjalankan organisasi bukan untung rumah mampu milik dan menghabiskan masa bertahun-tahun mencuba untuk menghidupkan semula pusat bandar St. Louis, kata Altman, satu pengajaran yang diajar oleh bapanya ialah, “Anda harus berusaha sedaya upaya untuk membantu orang lain. Walaupun anda tidak mempunyai masa, anda perlu mencari jalan. "

Ibu Altman berkata bahawa anaknya mula menggunakan perakam video rumah ketika dia berumur 2 tahun, dan ketika dia berumur 13 tahun, dia menukar tiket pulang dari kem musim panas. Dia berkata bahawa ketika Altman belajar di In third darjah, dia mula membantu guru sekolah awam tempatan dengan masalah komputer mereka Di sekolah menengah, dia berpindah ke Sekolah John Burroughs swasta "Guru-guru menyukainya kerana dia benar-benar baik. Pintar dan rajin, tetapi juga sangat sosial ," kata pengetua ketika itu Andy Abbott. "Dia seronok dan mempunyai personaliti yang hebat. ”

Altman kemudiannya pergi ke Universiti Stanford untuk melakukan penyelidikan di makmal kecerdasan buatan Sebagai pelajar tahun kedua, beliau mengasaskan Loopt, sebuah syarikat perkhidmatan rangkaian sosial berasaskan lokasi, yang kemudiannya menjadi pemecut permulaan Y Bahagian. Kelas pertama Combinator kemudiannya meninggalkan sekolah

Loopt tidak pernah dijual pada harga $434 juta pada tahun 2012, hampir dengan pelaburan seperti Sequoia Capital

Seterusnya, Altman mengasaskan dana teroka dan berkawan seperti Thiel dan Y Combinator pengasas bersama Paul Graham yang membantu membawa Altman bersama-sama membina syarikatnya menjadi pembrokeran yang berpengaruh di Silicon Valley dan menggunakan wangnya sendiri untuk berjaya melabur dalam berpuluh-puluh syarikat, termasuk awan. syarikat perisian Asana dan laman web papan mesej Reddit Semasa berada di Y Combinator, Altman menjadi semakin bimbang bahawa makmal penyelidikan besar seperti DeepMind sedang membangunkan teknologi kecerdasan buatan yang berpotensi berbahaya daripada mata awam Musk juga bimbang tentang mesin kecerdasan buatan yang berkuasa masyarakat manusia.

Kedua-dua Altman dan Musk memutuskan sudah tiba masanya untuk membina makmal mereka sendiri, dan pasukan yang akhirnya mereka komited dalam pembiayaan pengasas $1 bilion kepada OpenAI >OpenAI goyah pada mulanya dan mencuba beberapa projek kecil, seperti mengajar robot cara menyelesaikan kiub Rubik Pada tahun 2017, OpenAI memberhentikan sebilangan besar pekerja

Penyelidik OpenAI dengan cepat menyimpulkan bahawa, Jalan yang paling mungkin untuk mencapai kecerdasan buatan umum adalah besar. model bahasa, iaitu program komputer yang meniru cara manusia membaca dan menulis Model sedemikian memerlukan latihan berdasarkan jumlah teks yang banyak dan memerlukan banyak kuasa pengkomputeran, OpenAI tidak mempunyai syarat untuk besar-. pembiayaan berskala

"Kami tidak menyedari betapa mahalnya projek ini," kata Altman "Kami tidak tahu pada masa itu

Altman berkata pada tahun itu dia meneroka Terdapat beberapa pilihan untuk dibangkitkan lebih banyak pembiayaan untuk OpenAI, seperti mencari pembiayaan kerajaan atau melancarkan mata wang kripto baharu. Dia berkata: "Tiada sesiapa yang bersedia untuk membiayai penyelidikan, dan ia adalah masa yang sangat sukar."

Sumber yang dimaklumkan mendedahkan bahawa ketegangan antara Altman dan Musk terus meningkat. Musk kecewa dengan kemajuan penyelidikan yang perlahan dan ingin mendapatkan lebih banyak kawalan ke atas OpenAI.

Para eksekutif OpenAI akhirnya menghasilkan idea yang sama sekali berbeza, mewujudkan bahagian untung, OpenAI LP, melaporkan kepada organisasi induk bukan untung.

Reid Hoffman, pengasas bersama platform pengambilan LinkedIn, adalah penasihat kepada OpenAI pada masa itu dan kemudiannya menjadi ahli lembaga pengarah syarikat. Beliau berkata idea itu adalah untuk menarik pelabur yang tidak sabar-sabar untuk mendapat manfaat daripada pengkomersilan teknologi OpenAI dan mempercepatkan pembangunan OpenAI.

"Anda mahu menjadi yang pertama mencapai sesuatu, anda mahu menetapkan standard," kata Hoffman "Itulah sebabnya kelajuan pembangunan menjadi sebahagian daripada isu moral dan etika." sumber berkata bahawa keputusan ini mengasingkan lagi falsafah operasi Musk daripada OpenAI. Pada Februari 2018, beliau berpisah dengan OpenAI.

Bekas pekerja yang menghadiri mesyuarat itu berkata Musk mengumumkan pemergiannya pada mesyuarat semua kakitangan. Musk menjelaskan pada masa itu bahawa dia fikir dia akan mempunyai peluang yang lebih baik untuk membangunkan kecerdasan buatan am melalui Tesla, di mana dia akan mempunyai akses kepada lebih banyak sumber.

Bekas pekerja berkata seorang penyelidik muda mempersoalkan sama ada Musk telah mempertimbangkan isu keselamatan pada masa itu. Mereka berkata Musk menjadi jelas kecewa dan menggelar pelatih itu "bodoh", membuatkan pekerja terpegun. Ia adalah kali terakhir ramai daripada mereka melihat Musk secara peribadi.

Tidak lama selepas itu, seorang eksekutif OpenAI memberikan trofi "Fool" untuk penyelidik muda itu dan kemudian memberikannya kepadanya di atas bantal. "Anda perlu berseronok," kata Altman. “Ini adalah sebahagian daripada budaya syarikat.”

Pemergian Musk menjadi titik perubahan untuk OpenAI. Kemudian pada tahun itu, kepimpinan OpenAI memaklumkan kepada pekerja bahawa Altman akan menerajui syarikat itu. Beliau secara rasmi menjadi CEO OpenAI dan membantu mewujudkan unit untung pada awal 2019.

Daripada $1 bilion yang pada asalnya dicagarkan dalam bentuk derma, OpenAI berkata ia menerima kira-kira $130 juta. Dengan cabang keuntungan ditubuhkan, OpenAI tidak lagi memerlukan sumbangan lanjut. Musk berkata di Twitter bahawa dia menderma kira-kira $100 juta kepada OpenAI.

Menurut bekas pekerja yang menghadiri mesyuarat itu, Musk mengumumkan peletakan jawatannya pada mesyuarat semua kakitangan. Musk menjelaskan pada masa itu bahawa dia percaya bahawa melalui Tesla, dia akan mempunyai akses kepada lebih banyak sumber dan dengan itu mempunyai peluang yang lebih baik untuk membangunkan kecerdasan buatan am.

Bekas pekerja berkata bahawa seorang penyelidik muda pernah bertanya kepada Musk sama ada dia telah mempertimbangkan isu keselamatan. Mereka berkata Musk kelihatan kecewa dan mengejutkan pekerja dengan menggelar pelatih itu sebagai "orang bodoh." Ia adalah kali terakhir ramai daripada mereka melihat Musk secara peribadi.

Tidak lama selepas itu, eksekutif OpenAI menugaskan trofi "Fool" dan meletakkannya di atas bantal penyelidik sebagai hadiah. Altman berkata: "Anda perlu berseronok, yang juga merupakan sebahagian daripada budaya syarikat."

Pemergian Musk menjadi titik perubahan untuk OpenAI. Kemudian pada tahun itu, kepimpinan OpenAI memaklumkan kepada pekerja bahawa Altman akan menerajui syarikat. Beliau secara rasmi menjadi CEO OpenAI dan mula mencipta unit untung pada 2019.

Daripada derma $1 bilion yang diumumkan pada mulanya, OpenAI berkata ia telah menerima kira-kira $130 juta. Selepas mencipta cabang untung, OpenAI tidak lagi memerlukan sumbangan lanjut. Musk berkata di Twitter bahawa dia menderma kira-kira $100 juta kepada OpenAI.

Sementara itu, Altman mula mencari pelabur. Pada musim panas 2018, dia menghadiri mesyuarat tahunan Allen & Co. di Sun Valley, Idaho, dan kebetulan terserempak dengan CEO Microsoft Satya Nadella di tangga. Altman memperkenalkan Nadella kepada OpenAI dan mendapat minatnya. Musim sejuk itu, perbincangan rasmi bermula.

"Saya ingat kembali kemudian dan berkata, ini satu-satunya pasangan yang sesuai," kata Altman. "Mereka mendapat sesuatu yang selamat, mereka mendapat kecerdasan buatan. Dan mereka mempunyai modal dan banyak kuasa pengkomputeran

Bekas pekerja OpenAI berkata bahawa Altman segera mengumumkan kandungan kontrak semasa proses rundingan." kakitangan penuh bertugas untuk meredakan kebimbangan bahawa perkongsian itu akan dilihat sebagai bercanggah dengan janji asal OpenAI untuk membangunkan kecerdasan buatan di luar dunia perusahaan.

Namun, sesetengah pekerja masih menganggap ini adalah perjanjian dengan syaitan. Dario Amodei, ketua penyelidik keselamatan OpenAI, dan timbalannya bimbang perjanjian itu akan membolehkan Microsoft menjual teknologi OpenAI sebelum ia melepasi ujian keselamatan yang mencukupi. Mereka percaya bahawa teknologi OpenAI masih jauh dari bersedia untuk keluaran berskala besar, apatah lagi bekerja dengan salah satu syarikat perisian terbesar di dunia. Mereka bimbang teknologi mungkin tidak berfungsi atau disalahgunakan, menyebabkan kemudaratan yang tidak dapat diramalkan.

Beberapa bekas pekerja berkata Amodei juga bimbang bahawa perjanjian itu akan mengikat OpenAI dengan Microsoft dan menyukarkan OpenAI untuk memenuhi janji piagam pengasasnya untuk mencapai kecerdasan buatan am terlebih dahulu Akan berpatah balik dan membantu projek lain.

Microsoft pada mulanya melabur $1 bilion dalam OpenAI. Perjanjian itu membawa pembiayaan yang diperlukan kepada OpenAI, tetapi juga datang dengan beberapa batasan. OpenAI bersetuju untuk menggunakan pelayan gergasi Microsoft untuk melatih model kecerdasan buatan hanya melalui perkhidmatan awan Azure, dan teknologi OpenAI berlesen kepada produk Microsoft untuk digunakan.

Nadella berkata dalam temu bual baru-baru ini: "Apabila anda berdiri di tepi tebing, satu-satunya perkara yang anda boleh lakukan ialah melompat dan berharap anda boleh mendarat dengan stabil." .

Gary Marcus, profesor emeritus psikologi dan neurosains di Universiti New York dan pengasas bersama syarikat pembelajaran mesin, berkata: “Perjanjian ini melemahkan usaha OpenAI untuk mendapatkan status bukan untung >

Marcus percaya bahawa Altman "membuat pusingan 180 darjah yang, pada pendapat saya, hanya memberi perhatian terhadap keselamatan manusia."

Altman tidak bersetuju "Apa yang luar biasa tentang Microsoft sebagai rakan kongsi ialah ia membolehkan kami mengekalkan semua prinsip yang kami fikirkan penting untuk misi itu,” katanya, termasuk pelaburan menghadkan pendapatan dan janji untuk berpatah balik dan membantu projek lain jika kecerdasan buatan umum dicapai terlebih dahulu, dan sebagainya pada.

Pembiayaan ini sudah pasti telah mempercepatkan kemajuan penyelidikan dan pembangunan OpenAI, membolehkan penyelidik memperoleh kuasa pengkomputeran kritikal yang diperlukan untuk menambah baik model bahasa yang besar. OpenAI dengan pantas membangunkan model bahasa yang lebih berkuasa, GPT-3, dan menjual teknologi itu kepada pembangun melalui antara muka pengaturcaraan aplikasi (API) pada Jun 2020.

Menurut bekas pekerja, Altman dan Amodei bertelagah sekali lagi berhubung isu keluaran API. Amodei percaya bahawa keluaran produk harus dihadkan kepada kumpulan pengguna yang lebih kecil dan dijalankan secara berperingkat untuk mengurangkan perhatian orang ramai dan memberi pasukan keselamatan lebih banyak masa untuk menguji.

Beberapa bulan kemudian, Amodei meninggalkan OpenAI bersama orang lain untuk memulakan makmal kecerdasan buatan yang bersaing, Anthropic. Altman berkata: "Mereka tidak bersetuju dengan kami tentang cara mendapatkan kecerdasan buatan am yang selamat

Anthropic telah menerima lebih daripada $300 juta dalam pelaburan daripada Google dan mengeluarkan kecerdasan buatan pada bulan Mac tahun ini. pembangun boleh memanggil robot ini melalui API.

Laporan pelabur baru-baru ini menunjukkan bahawa Anthropic menyatakan bahawa ia "komited untuk pengkomersilan berskala besar" untuk membangunkan kecerdasan buatan am yang selamat, dan merancang untuk mengeluarkan kaedah pengkomersialan pada bulan September yang "selaras dengan komitmen". Anthropic diasaskan sebagai syarikat keselamatan dan penyelidikan kecerdasan buatan dengan rancangan untuk berpotensi mencipta nilai perniagaan daripada produk tersebut.

Dalam tempoh tiga tahun sejak perjanjian asal, Microsoft melabur sejumlah $3 bilion dalam OpenAI, menurut pemfailan pelabur.

Pada November tahun lalu, ChatGPT memperoleh lebih daripada 1 juta pengguna berdaftar dalam masa lima hari sahaja selepas dikeluarkan Kelajuan ini malah mengejutkan Altman. Sebelum ini, OpenAI melancarkan DALL-E 2, yang boleh menjana imej kompleks berdasarkan gesaan teks.

Selepas ChatGPT tersebar, orang ramai menggunakan chatbot ini untuk pelbagai aplikasi menarik, seperti menulis puisi atau merancang majlis hari jadi, yang membangkitkan perbincangan hangat di Internet.

Menurut penganalisis UBS, menjelang Februari tahun ini, bilangan pengguna aktif ChatGPT telah mencecah 100 juta, yang merupakan pempopularan aplikasi pengguna terpantas dalam sejarah.

Rakan rapat Altman memuji keupayaannya untuk mengimbangi keutamaan OpenAI. Thiel berkata tiada siapa yang lebih sesuai untuk mencapai keseimbangan antara "idealisme" dan "realiti."

Altman berkata bahawa untuk menjalankan lebih banyak ujian keselamatan, beliau menangguhkan pengeluaran versi terkini GPT-4 sehingga Mac tahun ini. Ramai pengguna telah melaporkan beberapa masalah apabila menggunakan model GPT-4 Contohnya, apabila disepadukan ke dalam carian Bing Microsoft, GPT-4 akan membuat beberapa jawapan yang salah.

"Pendekatan yang betul ialah melibatkan orang ramai, meneroka sistem ini, mengkajinya dan belajar cara menjadikannya lebih selamat," kata Altman

Menurut dokumen, dalam Selepas memulihkan pelaburan awal, Microsoft akan menerima kira-kira 49% daripada keuntungan sebelum OpenAI mencapai siling pendapatan, yang lebih tinggi daripada 21% yang disusun sebelum ini. Syarikat induk bukan untung OpenAI akan menerima sisa hasil.

Selain OpenAI, Altman telah melabur dalam projek lain, termasuk Worldcoin, sebuah syarikat yang diasaskannya bersama, dengan matlamat menyediakan perkhidmatan mata wang kripto kepada semua orang.

Dalam beberapa tahun kebelakangan ini, Altman telah melabur hampir semua modal kerjanya dalam dua syarikat. Altman berkata pelaburan $375 juta beliau dalam Helion Energy, yang sedang meneliti cara mencipta tenaga bebas karbon daripada gabungan nuklear, hampir "mencipta keuntungan tenaga bersih dalam demonstrasi sebenar."

Selain itu, beliau melabur AS$180 juta dalam Retro, dengan matlamat memanjangkan hayat manusia selama 10 tahun melalui teknologi inovatif seperti "pemrograman semula sel, terapi plasma dan autophagy".

Secara etika, masalah ini lebih mudah daripada kecerdasan buatan, kata Altman. "Jika anda sedang mengusahakan gabungan, ia pasti satu faedah. Ia satu perkara yang baik," katanya "Jika anda membangunkan kecerdasan buatan, ia boleh menjadi sangat baik atau ia boleh menjadi sangat buruk."

Atas ialah kandungan terperinci Bapa ChatGPT menjadi ahli keseimbangan: Saya mahukan kedua-dua wang dan keselamatan teknologi AI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!