ChatGPT popular, tetapi 10 kelemahan AI generatif membimbangkan.

Selepas berdekad-dekad usaha tanpa henti oleh kakitangan saintifik dan teknologi, kecerdasan buatan di dunia nyata akhirnya telah mencapai tahap kritikal. Prestasi menakjubkan model AI seperti ChatGPT dan DALL-E telah membuatkan ramai orang merasakan bahawa sistem AI yang semakin pintar mengejar manusia.

Keupayaan AI generatif sangat pelbagai dan unik sehingga sukar untuk mempercayai ia datang daripada mesin. Tetapi apabila rasa hairan hilang, kuasa bintang AI generatif akan hilang. AI juga telah menunjukkan batasan persepsi pemandangan atau akal sehatnya dalam beberapa aplikasi Pada masa kini, ramai orang memberi perhatian atau bimbang tentang kekurangan atau kelemahan AI generatif.

Berikut ialah 10 kekurangan atau kelemahan AI generatif yang dibimbangkan oleh orang ramai.

1. Kandungan plagiat

Apabila penyelidik mencipta model AI generatif seperti DALL-E dan ChatGPT, ini sebenarnya hanya berjuta-juta contoh daripada set latihan Skema baharu yang dicipta dalam contoh. Hasilnya ialah gabungan pengekstrakan potong dan tampal daripada pelbagai sumber data, amalan manusia yang dikenali sebagai "plagiarisme."

Sudah tentu manusia juga belajar melalui peniruan, tetapi dalam beberapa kes, plagiarisme seperti ini adalah tidak diingini malah menyalahi undang-undang. Kandungan yang dijana oleh AI generatif terdiri daripada sejumlah besar teks, dan sesetengah kandungan lebih kurang diciplak. Walau bagaimanapun, kadangkala terdapat cukup pencampuran atau sintesis yang terlibat sehingga seorang profesor kolej mungkin mengalami kesukaran untuk mengesan sumber sebenar. Apapun, kekurangan kandungan yang dihasilkannya ialah keunikan. Walaupun mereka kelihatan berkuasa, mereka tidak menghasilkan produk yang benar-benar inovatif.

2. Isu hak cipta

Walaupun plagiarisme merupakan masalah yang cuba dielakkan oleh sekolah, undang-undang hak cipta terpakai kepada pasaran. Apabila seseorang mencuri harta intelek atau kerja orang lain, mereka boleh disaman atau didenda berjuta-juta dolar. Tetapi bagaimana pula dengan sistem AI? Adakah peraturan yang sama dikenakan kepada mereka? Tetapi apa yang perlu diingat ialah apabila AI mula menggantikan beberapa pekerjaan manusia, maka akan ada tindakan undang-undang di bawah peraturan hak cipta.

3. Mendapatkan buruh manusia secara percuma

Isu undang-undang yang disebabkan oleh AI generatif bukan sahaja plagiarisme dan pelanggaran hak cipta, beberapa peguam telah melancarkan tindakan undang-undang terhadap etika yang disebabkan oleh AI. Sebagai contoh, adakah syarikat yang membuat program lukisan mengumpul data tentang tingkah laku lukisan pengguna dan kemudian menggunakan data tersebut untuk tujuan latihan AI Patutkah manusia diberi pampasan untuk penggunaan tenaga kreatif ini? Kebanyakan kejayaan AI berpunca daripada pemahaman Data? akses. Jadi apa yang berlaku apabila manusia yang menjana data ingin mendapat keuntungan daripadanya. Jadi apakah yang adil? AI pandai meniru jenis kecerdasan yang mengambil masa bertahun-tahun untuk manusia berkembang. Apabila ahli antropologi memperkenalkan artis abad ke-17 yang tidak dikenali, atau artis mengarang muzik baharu dalam nada Renaissance yang hampir dilupakan, orang ramai mengagumi pengetahuan dan kemahiran lanjutan mereka, kerana ia memerlukan pembelajaran dan latihan selama bertahun-tahun. Apabila AI boleh melakukan perkara yang sama selepas hanya beberapa bulan latihan, hasilnya boleh menjadi sangat tepat dan betul, tetapi ia sentiasa berasa seperti ada sesuatu yang hilang.

Mesin sistem AI yang terlatih boleh memahami sesuatu perkara dengan mendapatkan sejumlah besar maklumat, malah boleh mentafsir hieroglif Maya. AI nampaknya meniru sisi kreativiti manusia yang menyeronokkan dan tidak dapat diramalkan, tetapi mereka tidak boleh melakukannya. Pada masa yang sama, ketidakpastian adalah pemacu inovasi kreatif. Industri seperti fesyen bukan sahaja taksub dengan perubahan, tetapi ditakrifkan olehnya. Malah, kedua-dua AI dan manusia mempunyai bidang kepakaran mereka sendiri.

5. Pertumbuhan kecerdasan adalah terhad

Mengenai perisikan, AI sememangnya mekanikal dan berasaskan peraturan. Sebaik sahaja sistem AI dilatih pada set data, model dicipta yang tidak benar-benar berubah. Sesetengah jurutera dan saintis data membayangkan melatih semula model AI secara beransur-ansur dari semasa ke semasa supaya AI belajar menyesuaikan diri.

Tetapi, dalam kebanyakan kes, ideanya adalah untuk mencipta set neuron kompleks yang mengekod pengetahuan khusus dalam bentuk tetap. Ini mungkin terpakai kepada sesetengah industri. Bahaya AI ialah pertumbuhan kecerdasannya akan sentiasa terperangkap oleh batasan data latihannya. Apakah yang akan berlaku apabila manusia menjadi sangat bergantung pada AI generatif sehingga mereka tidak dapat menyediakan bahan baharu untuk model latihan

6 Privasi dan keselamatan perlu dipertingkatkan

Latihan AI memerlukan sejumlah besar data, dan manusia tidak selalu pasti keputusan rangkaian saraf. Bagaimana jika AI membocorkan maklumat peribadi daripada data latihan. Lebih teruk, mengawal AI adalah lebih sukar kerana ia direka untuk menjadi sangat fleksibel. Pangkalan data perhubungan boleh menyekat akses kepada jadual tertentu dengan maklumat peribadi. Walau bagaimanapun, AI boleh membuat pertanyaan dalam berpuluh-puluh cara yang berbeza.

Penyerang siber akan cepat belajar cara bertanya soalan yang betul dengan cara yang betul untuk mendapatkan data sensitif yang mereka inginkan. Dengan mengandaikan penyerang siber telah menyasarkan latitud dan longitud kemudahan tertentu, sistem AI mungkin diminta untuk masa yang tepat di lokasi tersebut, dan sistem AI yang teliti mungkin dapat menjawab soalan itu. Oleh itu, cara melatih AI untuk melindungi data peribadi juga merupakan perkara yang sukar.

7. Menjana Bias

Malah pengaturcara kerangka utama awal memahami inti masalah komputer dan mereka mencipta "sampah masuk, sampah keluar" (GIGO) konsep ini. Banyak masalah dengan AI datang daripada data latihan yang lemah. Jika set data tidak tepat atau berat sebelah, ia akan ditunjukkan dalam outputnya.

Perkakasan teras AI generatif didorong oleh logik, tetapi manusia yang membina dan melatih mesin tidak. Bias dan ralat telah ditunjukkan untuk mencari laluan mereka ke dalam model AI. Mungkin seseorang menggunakan data berat sebelah untuk mencipta model, mungkin mereka hanya mengatasi AI untuk menghalangnya daripada menjawab soalan panas tertentu, mungkin mereka memberi beberapa jawapan dalam tin yang akan berat sebelah sistem AI.

8 AI juga melakukan kesilapan

Adalah mudah untuk memaafkan model AI atas kesilapan kerana mereka melakukan banyak perkara lain dengan baik, cuma banyak kesilapan Sukar untuk melakukannya. meramal kerana AI berfikir secara berbeza daripada manusia. Sebagai contoh, ramai pengguna ciri teks ke imej mendapati bahawa AI membuat kesilapan dalam perkara yang agak mudah, seperti mengira.

Manusia mula mempelajari asas aritmetik di sekolah rendah dan kemudian menggunakan kemahiran ini dalam pelbagai cara. Sebagai contoh, jika kanak-kanak berumur 10 tahun diminta melukis sotong, dia biasanya akan menentukan bahawa ia mempunyai lapan kaki. Versi semasa model AI cenderung terganggu apabila melibatkan abstraksi matematik dan aplikasi kontekstual. Keadaan ini boleh diubah dengan mudah jika pembina model memberi perhatian kepada ralat ini, tetapi terdapat ralat lain. Kepintaran mesin adalah berbeza daripada kecerdasan manusia, yang bermaksud kesilapan yang dilakukan oleh mesin akan berbeza.

9. Menipu Manusia

Kadang-kadang, manusia cenderung untuk ditipu oleh sistem AI tanpa menyedari kesilapannya. Sebagai contoh, jika AI memberitahu manusia bahawa Raja Henry VIII dari England membunuh isterinya, mereka biasanya akan mempercayainya kerana mereka mungkin tidak memahami sejarah ini juga. Orang ramai cenderung menganggap bahawa jawapan yang diberikan oleh AI adalah benar dan betul.

Bagi pengguna AI generatif, masalah paling sukar ialah mengetahui apabila sistem AI menjadi salah. Mesin dianggap kurang mampu berbohong berbanding manusia, menjadikannya lebih berbahaya. Sistem AI boleh menulis beberapa data yang sangat tepat dan kemudian beralih kepada tekaan atau pembohongan, selalunya tanpa manusia mengetahui apa yang berlaku. Pengedar kereta terpakai atau pemain poker cenderung mengetahui bila mereka berbohong, dan kebanyakannya akan memberitahu di mana, tetapi AI tidak boleh berbuat demikian.

10 Kebolehulangan tanpa had

Kandungan digital boleh ditiru secara tidak terhingga, yang mengatasi banyak model AI yang dibina berdasarkan kekurangan. AI Generatif akan mematahkan lagi corak ini. AI Generatif akan menyebabkan beberapa penulis dan artis tidak bekerja, dan ia akan membatalkan banyak peraturan ekonomi yang kami ikuti.

Adakah kandungan yang disokong iklan masih berkesan apabila iklan dan kandungan boleh sentiasa diadun semula dan dikemas kini Adakah bahagian percuma internet akan jatuh ke dalam dunia "bot mengklik iklan web", semuanya didorong oleh Generative AI? dijana dan boleh ditiru tanpa had? Sebagai contoh, jika token yang tidak boleh digunakan boleh disalin, adakah orang akan terus membayar untuk mereka Jika mencipta seni adalah sangat mudah, adakah ia masih akan menjadi unik apabila segala-galanya dianggap remeh? ?

Jangan cuba jawab sendiri soalan ini, lihat AI generatif untuk jawapan yang menyeronokkan dan pelik.

Atas ialah kandungan terperinci ChatGPT popular, tetapi 10 kelemahan AI generatif membimbangkan.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!