Berhati-hati dengan empat penipuan AI baharu! Seseorang telah ditipu sebanyak 4.3 juta dalam masa 10 minit

Pengarang |

Dalam beberapa hari kebelakangan ini, penipuan AI baharu telah meletup di seluruh negara.

Pada masa lalu, terdapat kertas dan berita AI yang dipalsukan Kemudian, Yang Mi dan Dilraba, yang disyaki telah menukar wajah mereka oleh AI, muncul di bilik siaran langsung untuk menjual barangan. Semalam, "penipuan telekomunikasi AI telah menipu 4.3 juta yuan dalam masa 10 minit" di Baotou, Mongolia Dalam, sedang menjadi sohor kini di Weibo dan menarik perhatian negara.

Baru pagi tadi, satu set gambar letupan Pentagon yang menyebabkan pasaran saham A.S. menjunam secara rasminya disahkan palsu dan disyaki telah disintesis oleh AI.

Memandangkan teknologi AI mencetuskan gelombang pelaksanaan baharu, kandungan deepfake AI tersebar secara viral di seluruh dunia, menyebabkan kebimbangan kuat dalam industri.

Seawal 2019, Zhidongxi telah menyiasat dan melaporkan tentang produk hitam yang menukar wajah AI palsu yang mendalam ("Produk hitam menukar wajah AI: 100 yuan untuk membungkus 200 filem erotik menukar muka, dan anda boleh menyesuaikan video dengan 5 photos") dalam beberapa tahun kebelakangan ini , permainan antara teknologi pemalsuan mendalam dan teknologi pemalsuan anti-dalam berterusan, dan jabatan berkaitan sedang menambah baik undang-undang dan peraturan kawal selia secara beransur-ansur. Pada masa ini, dengan evolusi lelaran teknologi model besar AI yang diwakili oleh GPT-4, kandungan palsu mendalam akan kembali, menyebabkan gangguan yang lebih besar di seluruh dunia.

Dari artikel kepada gambar, dari suara manusia kepada kesan dinamik video, kesan dinamik boleh dipulihkan ke tahap yang paling besar, dan orang ramai boleh ditipu melalui semua jenis helah Terdapat juga pelbagai skim penipuan yang tidak berkesudahan dan sukar untuk dikesan. Sukar bagi ramai orang muda untuk membezakan ketulenan kandungan palsu AI ini, manakala orang tua dan kanak-kanak lebih cenderung untuk ditipu. Dan apabila kepercayaan mereka digunakan oleh penjenayah untuk melakukan jenayah, akibatnya akan menjadi bencana.

Seorang pakar teknologi kecerdasan buatan memberitahu Zhidongzhi bahawa amat sukar bagi orang biasa untuk mengenal pasti kandungan audio dan video yang dijana oleh teknologi pemalsuan mendalam AI semasa ini dengan mata kasar.

Penipuan tradisional telah digantikan dengan "kot baru" yang dibalut dengan AI, menjadikannya lebih tersembunyi dan lebih sukar untuk dikesan. Bagaimanakah penipuan AI baharu ini berfungsi? Bagaimana untuk mengesan kandungan AI palsu yang sukar dibezakan? Apakah penyelesaian kepada kekacauan perindustrian? Dengan menyusun dan menganalisis pelbagai penipuan AI baharu di pasaran, artikel ini menjalankan perbincangan mendalam tentang isu ini.

Pada bulan Mac tahun ini, surat terbuka bertajuk "Penggantungan Penyelidikan Kepintaran Buatan Berskala Besar" telah dikeluarkan di laman web rasmi Future Life Institute, termasuk CEO Tesla Elon Musk, pengasas bersama Apple Shi Thousands of scientists and business eksekutif, termasuk Steve Wozniak dan lain-lain, telah menandatangani petisyen yang menyeru agar moratorium pembangunan versi di atas GPT-4 Mereka semua menunjukkan kemungkinan penggunaan negatif teknologi AI yang berkuasa.

Penggunaan negatif AI meletup lebih cepat daripada yang kita bayangkan. Memandangkan keupayaan teknologi AI mempercepatkan lelaran dan pelaksanaan, pemalsuan AI menjadi lebih mudah dan kandungan menjadi lebih realistik, diikuti dengan aliran berita palsu dan gambar palsu yang tidak berkesudahan Insiden jahat yang disebabkan oleh perubahan suara dan wajah telah menyebabkan kebimbangan sosial. Ramai orang merasakan bahawa akal sehat "gambar dan kebenaran" dan "melihat adalah mempercayai" nampaknya telah menerima kesan yang paling ganas dalam sejarah.

Mungkin banyak insiden ganas yang disebabkan oleh perubahan wajah AI telah berlaku di sekeliling kita, tetapi kita masih belum menyedarinya.

Baru-baru ini, Jabatan Penyiasatan Internet Biro Keselamatan Awam Wilayah Autonomi Perbandaran Baotou di Mongolia Dalam mengesan kes penipuan telekomunikasi menggunakan AI Penjenayah itu berpura-pura menjadi rakan dan mendakwa bahawa dia memerlukan wang dengan segera memanggil mangsa Encik Guo melalui video WeChat.

Kerana mempercayai rakannya, dan setelah mengesahkan identiti pihak lain melalui sembang video, Encik Guo melonggarkan kewaspadaannya dan memindahkan 4.3 juta ke kad bank penjenayah dalam dua kiriman wang, tetapi dia tidak pernah menjangka bahawa apa yang dipanggil "Rakan" dalam panggilan video WeChat dibuat oleh teknologi AI yang mengubah wajah. Penjenayah menggunakan teknologi AI mengubah wajah untuk berpura-pura menjadi kawan dan melakukan penipuan telekomunikasi terhadapnya. Pada masa ini, 3.3684 juta yuan telah ditemui selepas dipintas oleh polis, dan 931,600 yuan telah dipindahkan.

Penukaran wajah AI ialah jenis kaedah penipuan yang paling mudah untuk mendapatkan kepercayaan pihak yang satu lagi Penipu sering menggunakan teknologi AI untuk menukar wajah seseorang yang biasa kepada mangsa, dan kemudian menghubungi pihak yang satu lagi untuk mengesahkan maklumat.

Dalam menghadapi jenis penipuan baharu ini, pertama, anda perlu melindungi maklumat peribadi anda, jangan mudah memberikan sebarang maklumat yang melibatkan privasi peribadi kepada orang lain, dan jangan klik pada pautan yang tidak dikenali atau memuat turun perisian yang tidak dikenali sesuka hati; , anda mesti mengesahkan melalui pelbagai saluran mengenal pasti pihak lain dan sentiasa berwaspada terhadap potensi risiko.

Fungsi yang hampir sama dengan fungsi "mengubah wajah AI" ialah "membuka pakaian AI". Seawal Mac tahun ini, sekeping berita bahawa "foto kereta bawah tanah wanita disebarkan oleh AI dengan satu klik pada pakaiannya ditanggalkan" melanda carian hangat menggunakan perisian AI dan dikritik Penyebaran berniat jahat, penjenayah juga menyebarkan maklumat palsu secara meluas untuk memfitnah wanita itu.

Teknologi "membuka pakaian sekali klik" sedemikian telah muncul di luar negara seawal 2019, tetapi disebabkan kontroversi dan kutukan awam yang meluas, projek itu segera ditutup dan dikeluarkan dari rak. Aliran buruk ini sekali lagi merebak ke China semasa kegilaan AI tahun ini Apabila mencari di Internet dengan kombinasi kata kunci seperti "AI", "berdandan", dan "perisian", banyak perisian berkaitan yang tersembunyi masih boleh ditemui. Mereka yang berminat mungkin menggunakannya untuk menghasilkan dan menyebarkan video lucah dan lucah perkhidmatan silang video AI telah menjadi industri hitam dengan rangkaian lengkap.

"AI face-changer" telah digunakan secara meluas dalam penciptaan sekunder filem dan drama televisyen, video palsu yang menyeronokkan, dan pengeluaran pek ekspresi, tetapi risiko undang-undang yang tersembunyi dan pertikaian pelanggaran tidak boleh diabaikan. Baru-baru ini, menurut maklumat di laman web rasmi Qichacha, Shanghai Houttuynia Information Technology Co., Ltd. telah disaman oleh ramai blogger selebriti Internet untuk salah satu apl mudah alih bertukar wajahnya.

▲Terdapat hampir seratus aplikasi "mengubah wajah AI" di App Store

Terdahulu, seorang blogger video bernama "Special Effects Compositor Hong Liang" menggantikan wajah pelakon utama lelaki Yang Yang dalam siri TV "You Are My Glory" dengan teknologi AI mengubah wajah dalam videonya Dia kehilangan wajahnya dan akhirnya dikejar dan dibelasah oleh peminat pelakon utama yang menarik perhatian ramai netizen.

▲ Beberapa video menukar wajah yang disintesis AI yang dimuat naik oleh akaun "Special Effects Synthesizer Hong Liang"

Blogger video ini menggunakan pertukaran muka selebriti lelaki sebagai gimik, tetapi sebenarnya ia adalah untuk menarik trafik ke kursus berbayarnya dalam produksi kesan khas filem dan televisyen Namun, tingkah lakunya telah menyebabkan pelanggaran kepada pelakon seperti Dilraba dan Yang Yang yang muncul dalam siri TV. Selepas "Kurst" menjadi popular, ramai peminat juga menciptanya semula dengan menukar klip plot dengan versi siri TV "Journey to the West", yang menyumbang kepada populariti siri TV dari segi populariti dan perbincangan topik, tetapi mereka tidak berpuas hati dengan siri TV Pelakon itu menyebabkan beberapa masalah.

Tingkah laku menyedut lalu lintas telah memberi kesan dan masalah yang negatif kepada selebriti yang wajahnya telah diubah dan kepada orang ramai yang ingin tahu tentang teknologi Sempadan antara hiburan dan teknologi tidak seharusnya dikaburkan hingga ke tahap ini.

2. Sintesis bunyi: mereplikasi suara manusia untuk menyembunyikan kebenaran

Pada masa lalu, "AI Stefanie Sun" menjadi popular, dan kemudiannya, pengklonan suara manusia AI menceroboh kalangan teknologi sintesis suara AI telah digembar-gemburkan, dan ia juga telah mencetuskan banyak insiden ganas dan mangsa yang berkaitan.

Seorang netizen menggunakan klip lagu oleh penyanyi terkenal Amerika Frank Ocean untuk melatih lagu-lagu yang meniru gaya muziknya, dan menyiarkan "karya muzik" ini di forum muzik bawah tanah, dan juga memalsukan lagu-lagu ini menjadi Ia adalah versi yang telah dibocorkan secara tidak sengaja semasa rakaman. Ia akhirnya diserahkan dan dijual pada harga hampir $970 (bersamaan dengan 6,700 yuan).

Tidak lama dahulu, Peabody Films, sebuah syarikat penerbitan filem di Sepanyol, juga mengalami penipuan telefon AI Penipu itu berpura-pura menjadi pelakon terkenal "Benedict Cumberbatch" dan mendakwa bahawa dia sangat berminat dengan syarikat itu filem dan mempunyai niat untuk bekerjasama, tetapi syarikat itu perlu memindahkan deposit sebanyak 200,000 paun (bersamaan dengan kira-kira 1.7 juta yuan) terlebih dahulu, dan kemudian membincangkan butiran kerjasama khusus.

Syarikat filem menyedari bahawa ada sesuatu yang tidak kena, dan selepas menyemak dengan agensi pelakon itu, mereka mendapati ia adalah penipuan AI dari awal hingga akhir.

Terdapat banyak berita di luar negara tentang penggunaan suara klon AI untuk melakukan penipuan dan peras ugut Beberapa kes melibatkan jumlah yang mengejutkan sehingga satu juta dolar AS. Penipu jenis ini sering mengeluarkan suara seseorang daripada rakaman telefon dan bahan lain untuk sintesis suara, dan kemudian menggunakan suara palsu untuk menipu kenalan. Ini memerlukan orang ramai berwaspada terhadap panggilan pelik.

Dalam episod terbaharunya pada 22 Mei, program majalah berita TV CBS Amerika 60 Minutes menunjukkan secara langsung cara penggodam mengklonkan suara untuk menipu rakan sekerja dan berjaya mencuri maklumat pasport.

▲60 Minit memuat naik video penuh di Twitter

Hanya dalam masa 5 minit, penggodam itu menyalin suara Sharyn melalui pengklonan AI, dan menggunakan alat untuk menggantikan nama pada ID pemanggil pada telefon itu, dia berjaya memperdaya rakan sekerjanya dan dengan mudah mendapatkan nama dan nombor pasportnya maklumat.

3 Foto palsu: Trump "ditangkap" dan Pope memakai jaket bawah di pentas peragaan

Dengan video AI yang menukar wajah yang tersebar secara meluas, foto palsu AI telah menjadi lebih meluas.

Pada 22 Mei, Waktu Timur, gambar letupan berhampiran Pentagon telah tular di media sosial. Peredaran meluas gambar palsu ini malah menyebabkan indeks S&P 500 jatuh kira-kira 0.3% dalam jangka pendek kepada paras rendah harian, bertukar daripada kenaikan kepada kejatuhan.

Jurucakap Jabatan Pertahanan AS segera mengesahkan bahawa ini juga adalah gambar palsu yang dihasilkan oleh AI Gambar ini mempunyai ciri-ciri yang dijana AI yang jelas, seperti lampu jalan yang sedikit bengkok dan pagar yang tumbuh di kaki lima.

Gambar pasangan pada tahun 1990-an yang dijana oleh Midjourney telah menyukarkan netizen untuk mengetahui sama ada mereka benar atau palsu Pada bulan Mac, beberapa gambar bekas Presiden AS Trump ditahan menjadi tular di Twitter.

Dalam foto itu, Trump dikepung oleh polis dan ditolak ke tanah, kelihatan malu dan panik. Semasa perbicaraan, dia menyembunyikan mukanya dan menangis dengan sedih, dan juga memakai seragam penjara di dalam sel yang lembap dan gelap. Imej-imej itu dicipta menggunakan Midjounrney oleh Eliot Higgins, pengasas laman web kewartawanan warga Bellingcat. Selepas gambar itu disiarkan, akaunnya turut disekat.

▲Satu set imej Trump "ditahan" yang dihasilkan oleh Midjounrney

Tidak lama selepas "Trump Arrest Picture" dikeluarkan, gambar Pope Francis yang memakai jaket bawah Paris World menyebabkan kegemparan di Internet Tidak lama selepas ia dikeluarkan, ia telah mendapat lebih daripada 28 juta tontonan, membuat ramai netizen percaya ia adalah benar.

▲Paus berjalan di pertunjukan dengan memakai jaket bawah Balenciaga

Pencipta Pablo Xavier berkata bahawa dia tidak tahu set gambar ini akan menjadi popular. Dia tiba-tiba terfikir tentang jaket bawah Balenciaga, jalan-jalan di Paris atau Rom, dsb.

Di bahagian Midjourney forum Reddit, sekumpulan "Gempa bumi 9.1 magnitud Cascadia 2001 menyebabkan tsunami yang memusnahkan Oregon" telah disebarkan secara meluas Adegan bencana dalam foto itu dalam keadaan huru-hara, dengan pekerja bantuan, Wartawan, kerajaan pegawai dan yang lain muncul satu demi satu, dan orang ramai kelihatan bimbang, takut dan panik. Tetapi sebenarnya, ini benar-benar "bencana" yang disebabkan oleh AI, dan ia tidak wujud dalam sejarah. Gambar dan adegan dengan elemen lengkap dan warna yang realistik ini menyukarkan untuk mengetahui keasliannya.

4. Menyusun berita: AI menjadi kilang khabar angin

Pada 7 Mei, Briged Keselamatan Siber Biro Keselamatan Awam Bandar Pingliang, Wilayah Gansu telah mengesan kes AI mengada-adakan maklumat palsu.

Dilaporkan bahawa penjenayah menggunakan ChatGPT untuk mengubah suai dan mengedit berita sosial hangat yang mereka kumpulkan dari seluruh Internet, dan menyusun berita palsu bahawa "kereta api melanggar seorang pekerja pembinaan jalan di Gansu pagi ini, membunuh 9 orang", di untuk Mendapatkan trafik rangkaian dan perhatian untuk mengewangkan.

Berita ini mendapat lebih daripada 15,000 tontonan sebaik sahaja ia dikeluarkan. Nasib baik, polis campur tangan dalam siasatan sebelum pendapat umum semakin diperam, dan mengesahkan bahawa suspek menggunakan teknologi AI untuk mereka berita.

Bukan sahaja pembaca perlu mengenal pasti berita palsu AI dalam tapak web pancingan data, malah media yang mantap kadangkala tertipu oleh berita palsu AI.

The British "Daily Mail" (The Daily Mail) menerbitkan berita pada 24 April, mengatakan bahawa "seorang lelaki Kanada berusia 22 tahun telah menjalani 12 pembedahan plastik untuk membuat debut sebagai idola di Korea Selatan dan akhirnya meninggal dunia. " .

▲ Menurut laporan, untuk memainkan watak Jimin dari kumpulan bintang K-pop BTS dalam drama Amerika yang akan datang, pelakon Kanada berusia 22 tahun itu membelanjakan AS$22,000 untuk 12 pembedahan plastik dan akhirnya meninggal dunia

Berita itu menarik perhatian banyak media di seluruh dunia seperti Saluran Berita YTN Korea Selatan dengan pantas menindaklanjuti laporan tersebut.

▲Netizen melahirkan rasa kesal dengan berita kematiannya

Bagaimanapun, keadaan berubah sepenuhnya selepas seorang wartawan di Korea Selatan dan stesen radio Amerika iHeartRadio menimbulkan persoalan: Lelaki itu mungkin tidak wujud sama sekali. Netizen mengambil gambar mereka ke laman web pengesanan kandungan AI untuk pengesahan dan mendapati terdapat 75% kemungkinan bahawa gambar itu dihasilkan oleh AI Selepas stesen TV MBC Korea Selatan menyemak dengan polis, mereka juga menerima jawapan bahawa "tidak laporan kes kematian serupa telah diterima." Berita ini Ia serta-merta disahkan sebagai "berita palsu AI."

Tetapi perkara itu belum selesai pada awal bulan ini, keluarga lelaki itu memutuskan untuk menyaman media yang melaporkan “berita palsu” dan agensi milik lelaki itu, serta wartawan pertama yang mengumumkannya. lelaki itu telah mati. Implikasinya ialah foto itu tidak dihasilkan oleh AI, dan lelaki itu mati akibat komplikasi pembedahan yang disebabkan oleh pembedahan plastik yang berlebihan.

Tanpa mengesahkan identitinya dan tidak memegang bukti substantif, banyak media mendakwa bahawa identiti dan maklumat lelaki itu telah disusun, menjadikan sandiwara yang disebabkan oleh AI menjadi tragedi.

Berita yang disusun oleh AI ini bukan sahaja mengelirukan orang ramai, tetapi juga membuatkan orang yang lalu-lalang yang tidak mempunyai masa dan kesabaran untuk melihat keseluruhan cerita kehilangan keupayaan untuk membezakan kebenaran.

2. Selebriti yang pernah menjadi "AI": "AI Stefanie Sun" menjadi popular dengan muka depannya, "AI Yang Mi" menukar wajahnya untuk menjual barang

Apabila teknologi AI menjadi berleluasa, bintang hiburan menjadi orang pertama yang paling teruk terjejas.

Stefanie Sun, yang menjadi popular baru-baru ini, menyiarkan siaran panjang malam tadi sebagai tindak balas kepada kemunculan "AI Stefanie Sun".

▲ Stefanie Sun membalas kemunculan "AI Stefanie Sun" (versi terjemahan bahasa Cina)

Dia mengamalkan sikap yang lebih bertolak ansur terhadap kemunculan "AI Stefanie Sun" dan tidak meneruskan langkah undang-undang. Dia berkata: "Adalah mustahil untuk dibandingkan dengan 'manusia' yang boleh mengeluarkan album baharu dalam masa beberapa minit sahaja, dia percaya bahawa walaupun ia (AI) tidak mempunyai emosi mahupun perubahan dalam nada, tidak kira seberapa pantas manusia boleh Pergi." melampauinya.

Tidak sukar untuk melihat daripada respons bahawa walaupun Stefanie Sun tidak menghargai muzik yang dihasilkan oleh AI, sememangnya sukar bagi manusia untuk mengejar keupayaan pembelajaran robot dalam tempoh yang singkat melayan video-video cover lagu panas ini dengan acuh tak acuh.

Penyanyi Stefanie Sun adalah orang pertama yang kembali dikenali ramai kerana cover AI Kerana gaya nada dan gaya nyanyiannya yang unik, dia mempunyai tahap kebolehsuaian yang tinggi kepada banyak lagu popular dengan bantuan teknologi AI netizen , dia "melindungi" Lagu-lagu seperti "Hair Like Snow", "Rainy Day" dan "I Remember" semuanya mempunyai lebih daripada satu juta tontonan.

▲Lagu "AI Stefanie Sun" yang paling banyak dimainkan

Stefanie Sun bukan satu-satunya penyanyi yang "dicover" oleh AI, AI Jay Chou, AI Cyndi Wang, AI Tengger dan lain-lain telah muncul satu demi satu.

Walaupun Stefanie Sun memilih untuk tidak meneruskan tanggungjawab undang-undang, apabila teknologi AI telah disalahgunakan sehingga menjejaskan kepentingan komersial dan menyentuh garis merah undang-undang, dia masih perlu melindungi hak dan kepentingan sahnya tepat pada masanya.

Menurut China News Network, baru-baru ini, banyak bilik siaran langsung telah mula menggunakan AI untuk menukar wajah selebriti untuk menjalankan siaran langsung dan menjual barangan Selebriti wanita seperti Yang Mi, Dilraba, Anglebaby dan lain-lain telah menjadi kunci Sasaran bertukar wajah. Penambat dengan wajah selebriti boleh mencapai kesan penyaliran trafik yang lebih baik dan menjimatkan kos pengiklanan Pengguna atau peminat selebriti mungkin tertipu dengan mengambil berdasarkan kesan selebriti.

Menurut laman web yang menyediakan perkhidmatan tukar muka, jika anda membeli model siap pakai dan mempunyai bahan yang mencukupi, anda boleh terus mensintesis video selama beberapa jam dengan hanya setengah jam hingga beberapa jam acara harga set penuh model ialah 3.5 10,000 yuan, jauh lebih rendah daripada harga yang disebut untuk menjemput seorang selebriti untuk menyiarkan secara langsung barangan tersebut.

Dalam beberapa platform e-dagang utama, kata kunci seperti "AI face-changer" dan "video face-changer" disekat oleh platform, tetapi banyak produk berkaitan masih boleh ditemui dengan menukar kata kunci carian dan kaedah lain.

Teknologi pengubah wajah AI bukanlah perkembangan terkini. Seawal 2017, seorang netizen bernama DeepFake menukar wajah heroin dalam filem erotik menjadi bintang Hollywood Gal Gadot Ini adalah kali pertama teknologi mengubah wajah AI muncul di mata umum. Kemudian, disebabkan ketidakpuasan hati sebilangan besar pengadu, akaunnya telah diharamkan secara rasmi, dan teknologi AI yang mengubah wajah kemudiannya dinamakan "DeepFake" sempena namanya.

Penukaran wajah AI benar-benar menjadi popular di China pada awal tahun 2019. Video di mana wajah Zhu Yin, pelakon Huang Rong dalam "The Legend of the Condor Heroes" telah digantikan oleh Yang Mi melalui teknologi AI , menjadi viral di Internet Beberapa netizen menyatakan bahawa ia bukan masalah besar Beberapa netizen juga mencadangkan bahawa ia mungkin melanggar hak potret pelakon asal kerana rasa melanggar terutamanya sesuai untuk pertukaran teknikal dan tidak akan digunakan untuk aktiviti mengaut keuntungan.

▲Netizen menggantikan peranan "Huang Rong" yang dimainkan oleh pelakon Zhu Yin dalam "The Legend of the Condor Heroes" dengan wajah pelakon Yang Mi

Ini juga telah menjadi permulaan awal penggunaan AI untuk penciptaan sekunder filem dan drama televisyen di China.

Teknologi AI telah lama menjadi sasaran penjenayah dan digunakan dalam pelbagai helah mengubah wajah Bukan sahaja selebriti dalam industri hiburan, tetapi juga ramai orang biasa telah diperas oleh apa yang dipanggil "foto peribadi". Beberapa pegawai polis dari jabatan keselamatan rangkaian berkata bahawa kekurangan penyeliaan teknologi sintesis mendalam AI menyebabkan banyak risiko keselamatan maklumat dan huru-hara dalam komunikasi rangkaian, malah secara tidak langsung menyebabkan berlakunya kes jenayah.

3. Pergerakan popularisasi undang-undang AI berskala besar telah muncul. Apakah tingkah laku yang melanggar dan menyalahi undang-undang?

Ramai potret dan suara orang telah disebarkan tanpa kebenaran, produk audio dan video telah digunakan untuk mengaut keuntungan tanpa membincangkan hak cipta, dan lebih teruk lagi, penjenayah telah menggunakan maklumat palsu untuk melakukan penipuan harta benda atau bahkan menculik dan memeras ugut, memudaratkan peribadi orang dan hak milik.

Berdepan dengan situasi yang lebih teruk ini, orang ramai perlu menggunakan senjata undang-undang untuk melindungi diri mereka, dan apa yang akan berlaku ialah gerakan popularisasi undang-undang AI berskala besar yang kondusif untuk pembangunan perindustrian.

Pemalsuan muka dan suara berleluasa, dan masalah pertama yang dihadapi ialah pelanggaran privasi peribadi. Menurut Perkara 1019 Kanun Sivil: "Tiada organisasi atau individu boleh melanggar hak potret orang lain dengan memfitnah, mencemarkan, atau menggunakan cara teknologi maklumat untuk memalsukan Tanpa persetujuan pemegang hak potret, tiada organisasi atau individu boleh menghasilkan atau melanggar hak potret orang lain Menggunakan dan mendedahkan potret orang yang mempunyai hak untuk potret, kecuali sebagaimana yang diperuntukkan sebaliknya oleh undang-undang, "untuk perlindungan suara orang asli, rujuk kepada yang berkaitan peruntukan mengenai perlindungan hak potret." Apa yang membuatkan orang ramai lebih bimbang ialah jika maklumat itu dipalsukan. Jika ia tidak berada di tangan anasir-anasir, kepercayaan mungkin akan terus dieksploitasi untuk mencabul hak harta orang dan juga hak kesihatan mereka.

Selain hak peribadi, isu pelanggaran hak cipta bahan audio dan video yang terlibat dalam kandungan palsu AI juga telah menarik perhatian ramai. Baru-baru ini, penyanyi Stefanie Sun menyiarkan artikel yang menyatakan bahawa dia tidak peduli dengan "AI Stefanie", tetapi lebih ramai orang yang telah dipalsukan telah memilih untuk menggunakan senjata undang-undang untuk melindungi diri mereka Sebagai contoh, menurut laporan media, Shanghai Houttuynia Information Technology Co., Ltd. terlibat dalam penggantian model tertentu APP mudah alih Face telah disaman oleh ramai blogger selebriti Internet.

You Yunting, rakan kongsi kanan dan peguam harta intelek di Firma Undang-undang Shanghai Dabang, menulis bahawa mengikut undang-undang harta intelek, menggunakan suara orang sebenar untuk melatih kecerdasan buatan dan menjana lagu kemungkinan besar tidak akan melanggar jika ia tidak digunakan untuk komersial tujuan, tetapi ia masih akan diterbitkan dalam talian Anda harus terlebih dahulu mendapatkan kebenaran untuk hak cipta lagu dan lagu yang berkaitan, muzik iringan dan bahan video. Karya yang dihasilkan oleh kecerdasan buatan mempunyai kecacatan hak cipta yang wujud dan tidak seharusnya menikmati hak cipta dan mengenakan yuran pelesenan. Jika karya yang dihasilkan oleh pengguna menggunakan kecerdasan buatan dilanggar oleh orang lain, mereka boleh melindungi hak mereka mengikut Undang-undang Anti Persaingan Tidak Adil.

Malah, beberapa peraturan khas dalam bidang kecerdasan buatan di negara kita juga telah ditetapkan. Pentadbiran Ruang Siber China dan jabatan lain telah mengisytiharkan "Peraturan Mengenai Pengurusan Sintesis Dalam Perkhidmatan Maklumat Internet" pada Disember 2022, menggunakan 25 peraturan untuk menggambarkan spesifikasi penggunaan teknologi sintesis dalam, termasuk undang-undang dan aplikasi seperti larangan menggunakan perkhidmatan sintesis mendalam untuk melanggar hak sah dan kepentingan orang lain Platform pengedaran harus melaksanakan peraturan seperti semakan rak, penyediaan perkhidmatan dan penyokong teknikal harus mengukuhkan pengurusan teknikal.

Pada 11 April, Pentadbiran Ruang Siber China dengan cepat merangka "Langkah-langkah Pengurusan Perkhidmatan Kepintaran Buatan Generatif (Draf untuk Komen)". . , bunyi, video, kod dan teknologi kandungan lain, boleh dikatakan bahawa pemalsuan AI semasa telah dikawal secara menyeluruh. ("Berita Baru! Dokumen kawal selia AIGC kebangsaan pertama, Langkah Pengurusan Perkhidmatan Generatif AI Dikeluarkan untuk Ulasan")

Selain itu, "Undang-undang Keselamatan Rangkaian Republik Rakyat negara saya", "Undang-undang Keselamatan Data Republik Rakyat China", "Undang-undang Perlindungan Maklumat Peribadi Republik Rakyat China", "Pengurusan Perkhidmatan Maklumat Internet Langkah-langkah" dan undang-undang lain serta undang-undang dan peraturan pentadbiran yang diisytiharkan oleh negara kita semuanya Terdapat peruntukan mengenai perkara ini, yang boleh menjadi asas yang relevan untuk melindungi hak dan kepentingan yang sah.

4 Orang biasa mempunyai "teknik pertahanan" untuk pengecaman kandungan AI, dan platform mesti bertanggungjawab

"Pemalsuan" dan "anti-pemalsuan" bukan disebabkan oleh AI, tetapi teknologi AI hari ini menjadikan "pemalsuan" lebih mudah dan sukar untuk dibezakan. Dalam menghadapi kandungan palsu AI yang datang dari pasaran, adakah orang ramai mempunyai kemahiran untuk mengenal pastinya sendiri?

Xiao Zihao, pengasas bersama dan saintis algoritma RealAI, sebuah syarikat keselamatan terkenal, memberitahu Zhidongzhi bahawa teknologi deepfake sentiasa berkembang, dan bunyi serta video yang dihasilkan menjadi lebih realistik, menjadikannya sangat sukar untuk orang biasa. orang untuk mengenal pasti dengan mata kasar.

“Jika orang biasa menghadapi situasi seperti ini, mereka secara sedar boleh membimbing orang lain untuk melakukan beberapa tindakan semasa video, seperti menggelengkan kepala atau membuka mulut Jika cara teknikal penipu itu lemah, maka kita mungkin dapati tepi muka orang lain Atau kecacatan gigi, untuk mengenal pasti perubahan wajah AI Walau bagaimanapun, kaedah ini masih sukar untuk mengenal pasti penipu "peringkat tinggi" Di samping itu, anda juga boleh meminta beberapa maklumat peribadi itu sahaja anda dan peminjam tahu , untuk mengesahkan identiti pihak yang satu lagi.”

“Sambil menghalang diri anda daripada ditipu, anda juga harus memberi perhatian untuk melindungi imej peribadi anda dan cuba mengelak daripada menyiarkan sejumlah besar gambar dan video anda di platform awam untuk memberikan kemudahan kepada penjenayah Kerana bahan mentah untuk membuat deep video palsu ialah gambar peribadi, video, lebih banyak data ini dilatih, lebih realistik dan sukar dikenal pasti,” tambah Xiao Zihao.

AI menjadikan penipuan dan maklumat salah lebih sukar untuk dikesan, menjadikan pengauditan syarikat teknologi dan platform pengedaran kandungan lebih penting.

Pengasas bersama Apple Steve Wozniak baru-baru ini memberi amaran dalam temu bual bahawa kandungan AI harus dilabel dengan jelas dan industri perlu dikawal selia. Sebarang kandungan yang dijana oleh AI harus dipertanggungjawabkan oleh penerbit, tetapi ini tidak bermakna syarikat teknologi besar boleh terlepas daripada sekatan undang-undang Wozniak percaya bahawa agensi kawal selia harus mempertanggungjawabkan syarikat teknologi besar.

Menurut "Peraturan Pengurusan Sintesis Dalam Perkhidmatan Maklumat Internet" yang diisytiharkan oleh negara kita, penyedia kandungan perlu melabelkan imej, video dan kandungan lain yang dijana mengikut peraturan. Malah, kami telah pun melihat platform sosial domestik seperti bendera Xiaohongshu yang disyaki kandungan dijana AI, yang boleh memainkan peranan pencegahan tertentu. Tetapi halangan terakhir untuk kandungan yang dijana AI terletak pada pengguna itu sendiri, dan platform media hanya boleh memainkan peranan penapisan.

Kesimpulan: Tahan aplikasi negatif, pertempuran serangan AI dan pertahanan bermula

Teknologi AI yang berkembang telah menjadikannya lebih mudah dan realistik untuk menjana teks, imej dan video Pada masa yang sama, kandungan palsu yang mendalam juga telah berleluasa. Kandungan palsu yang mendalam sekurang-kurangnya boleh mengelirukan orang ramai dan digunakan untuk keuntungan, atau paling teruk, ia boleh digunakan oleh penjenayah untuk melakukan penipuan atau jenayah pemerasan, yang telah menarik perhatian segera mengenai penyeliaan kandungan yang dijana AI.

Memandangkan kaedah baharu penipuan AI menyebabkan masalah sosial, pengguna, penyedia dan pengendali teknologi, platform pengedaran kandungan dan pengeluar kandungan dalam industri semuanya perlu mengukuhkan disiplin diri. Malah, negara kita telah mengumumkan beberapa siri undang-undang dan peraturan yang berkaitan lebih awal Pendedahan isu aplikasi AI negatif dijangka membawa kepada pergerakan pengesahan teknologi di seluruh negara, sekali gus menggalakkan pembangunan industri yang lebih sihat.

Atas ialah kandungan terperinci Berhati-hati dengan empat penipuan AI baharu! Seseorang telah ditipu sebanyak 4.3 juta dalam masa 10 minit. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!