Kerahsiaan butiran teknikal GPT-4 menyebabkan kontroversi, dan ketua saintis OpenAI menjawab

Awal pagi semalam, OpenAI secara tidak dijangka mengeluarkan GPT-4.

Pengumuman ini mengejutkan komuniti teknologi Lagipun, secara umumnya dijangka GPT-4 akan diumumkan pada acara "Masa Depan Kerja dengan AI" Microsoft pada hari Khamis. .

Hanya empat bulan selepas ChatGPT debut, ia telah mencatat rekod sebagai "aplikasi pengguna yang paling pesat berkembang dalam sejarah." Kini GPT-4 berada dalam talian, keupayaan tindak balas produk telah mencapai tahap baharu.

Selepas terkejut, ramai penyelidik membaca dengan teliti laporan teknikal GPT-4, tetapi kecewa: Mengapa tiada butiran teknikal?

Keluaran yang bertentangan dengan semangat pengasas

Dalam pengumuman itu, OpenAI berkongsi sejumlah besar penanda aras GPT-4 dan keputusan ujian serta beberapa demo yang menarik, tetapi disediakan sedikit tentang Maklumat seperti data yang digunakan untuk melatih sistem, kos kuasa pengkomputeran, atau perkakasan atau kaedah yang digunakan untuk mencipta GPT-4.

Sebagai contoh, kesimpulan bacaan penjimatan buruh kertas GPT-4 ialah: "Kami menggunakan Python ."

Seseorang malah bergurau: "Saya membaca bahawa GPT-4 adalah berdasarkan seni bina Transformer."

Ramai ahli komuniti AI mengkritik keputusan itu, dengan menyatakan bahawa ia menjejaskan etos pengasas OpenAI sebagai organisasi berasaskan penyelidikan dan meninggalkan orang lain Lebih sukar untuk menghasilkan semula kerjanya.

Kebanyakan reaksi awal terhadap model tertutup GPT-4 adalah negatif, tetapi nampaknya kemarahan tidak lagi dapat mengubah keputusannya untuk "tertutup":

Malah, kritikan terhadap OpenAI kerana tidak menjadi sumber terbuka telah berlarutan sejak sekian lama. Malah Musk, ahli pasukan pengasas OpenAI, telah mempersoalkan secara terbuka "penyimpangan daripada niat asal":

Dihidupkan perkara ini, Musk masih keliru: "Saya tidak faham bagaimana organisasi bukan untung dengan hampir AS$100 juta yang dilaburkan di dalamnya bertukar menjadi sebuah syarikat komersial dengan nilai pasaran 30 bilion?"

Ben Schmidt, naib presiden reka bentuk maklumat di Nomic AI, berkata: "Saya rasa sudah tiba masanya untuk berhenti memanggilnya 'Buka' - 98 halaman kertas yang memperkenalkan GPT-4 dengan bangganya mengisytiharkan bahawa mereka tidak Mendedahkan sebarang maklumat tentang kandungan set latihan 》

Sesetengah orang juga percaya bahawa OpenAI menyembunyikan butiran GPT-4 Sebab lain ialah liabiliti undang-undang. Model bahasa AI dilatih pada set data teks yang besar, dan banyak model (termasuk sistem GPT awal) mengikis maklumat daripada web, salah satunya sumber mungkin termasuk bahan berhak cipta. Beberapa syarikat sedang disaman oleh artis bebas dan laman foto Getty Images.

Lebih penting lagi, ada yang berkata, ia akan menyukarkan untuk membangunkan perlindungan terhadap ancaman yang ditimbulkan oleh GPT-4. Ben Schmidt juga percaya bahawa tanpa dapat melihat data yang dilatih pada GPT-4, adalah sukar untuk mengetahui di mana sistem boleh digunakan dengan selamat dan mencadangkan pembaikan.

"Adalah diketahui umum bahawa rangkaian saraf seperti GPT-4 adalah kotak hitam. Malah, operasinya tidak dapat diramalkan dan sukar untuk difahami, yang merupakan soalan yang paling tidak jelas tentang sama ada dan di mana ia harus digunakan. Satu soalan-soalan penting Kini OpenAI secara beransur-ansur membangunkan piawaian yang mengembangkan lagi misteri ini," kata Ben Schmidt.

Ketua saintis OpenAI: Sumber terbuka GPT-4 tidak bijak

Ketua saintis OpenAI dan Co- pengasas Ilya Sutskever menjawab kontroversi di atas, dengan mengatakan bahawa sebab OpenAI tidak berkongsi maklumat yang lebih terperinci tentang GPT-4 ialah "takut persaingan dan kebimbangan tentang keselamatan":

"Daripada landskap kompetitif Nampaknya persaingan dari dunia luar adalah sengit Pembangunan GPT-4 tidak mudah untuk menghasilkan semua usaha OpenAI, dan terdapat banyak syarikat yang ingin melakukan perkara yang sama. "

"Aspek keselamatan tidak begitu menonjol seperti aspek persaingan, tetapi model ini juga akan berubah sangat cekap, dan ia akan menjadi lebih cekap menjadi agak mudah untuk melakukan kerosakan besar dengan model ini jika seseorang mahu kerana kebolehan ini menjadi lebih maju, masuk akal untuk tidak mendedahkannya." Ditanya "mengapa OpenAI mengubah cara ia berkongsi hasil penyelidikan," Sutskever menjawab: "Terus-terang, kami salah. Jika anda percaya, seperti yang kami lakukan, bahawa pada satu ketika, AI atau AGI akan menjadi sangat hebat dan menarik, maka sumber terbuka tidak masuk akal, dan saya percaya sepenuhnya beberapa tahun, ia akan menjadi jelas kepada semua orang bahawa AI sumber terbuka adalah tidak bijak."

Kilat. William Falcon, Ketua Pegawai Eksekutif AI dan pencipta alat sumber terbuka PyTorch Lightning, memberitahu VentureBeat bahawa dia boleh memahami keputusan ini dari perspektif perniagaan: "Sebagai sebuah syarikat, anda mempunyai hak untuk melakukan ini

Tetapi dia juga berkata bahawa langkah OpenAI menetapkan "templat buruk" untuk. masyarakat yang lebih luas dan mungkin mempunyai kesan yang berbahaya.

Berkenaan sebab OpenAI tidak berkongsi data latihannya, penjelasan Sutskever ialah: “Pandangan saya mengenai ini ialah data latihan ialah teknologi bahawa kita tidak Alasan untuk mendedahkan bilangan parameter adalah sama." Apabila ditanya sama ada OpenAI boleh menyatakan dengan jelas bahawa data latihannya tidak mengandungi bahan palsu, Sutskever tidak menjawab.

Sutskever bersetuju dengan pengkritik OpenAI bahawa model sumber terbuka membantu dalam pembangunan perlindungan. "Jika lebih ramai orang mengkaji model ini, kita akan tahu lebih banyak, dan itu akan menjadi lebih baik," katanya. Atas sebab ini, OpenAI menyediakan institusi akademik dan penyelidikan tertentu dengan akses kepada sistemnya.

Apa yang boleh kita jangkakan seterusnya?

Sebagai contoh, di tengah-tengah perbincangan hangat semalam, pengumuman Google kelihatan senyap. Pada masa ini, AI generatif telah disepadukan sepenuhnya ke dalam Google Workspace dan fungsi seperti menjana gambar, pembentangan, e-mel, dokumen, dsb. telah dikemas kini. Seperti yang anda boleh bayangkan, ini akan menjadi peningkatan produktiviti yang besar.

Seterusnya, orang ramai boleh menantikan banyak perkara: tidak lama lagi, Ketua Pegawai Eksekutif Microsoft Satya Nadella akan memberikan ucapan secara peribadi untuk memperkenalkan lebih banyak kerjasama antara Microsoft dan OpenAI, seperti suite Office berdasarkan GPT -4.

Sumber: https://www.theinformation.com/articles/microsoft-rations-access-to- ai -perkakasan-untuk-pasukan-dalaman

Mari tunggu dan lihat.

Atas ialah kandungan terperinci Kerahsiaan butiran teknikal GPT-4 menyebabkan kontroversi, dan ketua saintis OpenAI menjawab. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!