Kesukaran untuk membezakan adalah setanding dengan 'Raja Monyet yang sebenar dan palsu', dan yang sukar untuk dicegah 'AI perubahan muka + AI onomatopoeia'

Kesukaran membezakan adalah setanding dengan "Raja Monyet sebenar dan palsu" dan "wajah AI berubah + AI onomatopoeia" yang tidak dapat diramalkan

Gambar kreatif mengubah wajah AI mengikut CFP

Tangkapan skrin banyak lagu yang dinyanyikan oleh "AI Stefanie" di Internet

Tukar penampilan anda dalam satu saat - Di bawah gelombang AI, "perubahan wajah" juga telah mula merealisasikan lelaran teknologi. Pada masa kini, dalam bilik siaran langsung dan video pendek, sauh kadang-kadang kelihatan seperti Dilmurat Dilraba, kadang-kadang seperti Yi Yang Qianxi Nama-nama selebriti yang anda boleh namakan, tidak kira lelaki, wanita, tua atau muda, sauh yang bertindak sebagai bintang untuk dibawa. barang semua boleh ditutup dengan tangan mereka. Muka di belakang dilaksanakan di belakang skrin.

Video AI mengubah wajah merujuk kepada penggunaan teknologi data besar kecerdasan buatan untuk menggantikan wajah watak dalam video dengan wajah orang lain melalui cara teknikal berdasarkan keperluan pengguna. Pada masa ini, teknologi AI mengubah wajah telah digunakan secara meluas dalam video pendek, iklan, filem dan bidang lain, membawa banyak kesan kreatif.

Bagaimanapun, teknologi ini juga telah digunakan oleh beberapa penjenayah untuk aktiviti haram dan jenayah, iaitu penipuan AI face-changer. Berdepan dengan "AI face-changer + AI onomatopoeia", adalah sama sukarnya dengan meminta anda mengenal pasti "Raja Monyet yang sebenar dan palsu" di hadapan skrin Anda tidak boleh dengan mudah mengetahui sama ada Sun Dasheng itu asli atau palsu.

“Penipuan AI” telah menjadi topik sohor kini di Weibo

Menurut akaun awam WeChat "Safe Baotou", baru-baru ini, Biro Siasatan Jenayah Siber Telekomunikasi Biro Keselamatan Awam Bandar Baotou mengumumkan satu kes menggunakan teknologi AI pintar untuk melakukan penipuan telekom, wakil sah sebuah teknologi syarikat di Fuzhou City, telah ditangkap dalam masa 10 minit Dia telah ditipu sebanyak 4.3 juta yuan, dan kemudian topik #AIfraudisbreakingout menjadi carian hangat di Weibo.

Bagaimanakah AI, yang telah menimbulkan ancaman kepada kepentingan awam, melakukan penipuan?

Secara khusus, penjenayah akan menggunakan teknologi AI mengubah wajah untuk mencipta video atau gambar palsu untuk melakukan penipuan. Contohnya, dengan menggantikan wajah watak atau selebriti tertentu dalam video lucah untuk mencipta peristiwa palsu, atau dengan menggantikan wajah mangsa dalam beberapa video tidak senonoh atau haram untuk pemerasan. Aktiviti penipuan ini bukan sahaja melanggar privasi peribadi dan hak undang-undang mangsa, tetapi juga boleh menyebabkan kecederaan mental yang besar dan kerugian harta benda kepada mangsa.

Malah, penipuan AI telah banyak kali berlaku di negara kita sebelum ini. Menurut laporan siasatan sebelum ini oleh West China Metropolis Daily dan wartawan berita liputan, Biro Keselamatan Awam Wenzhou di Wilayah Zhejiang mengumumkan bahawa pada 2021, Balai Polis Gongchenqiao menerima panggilan mangsa, Xiao Chen, berkata bahawa dia telah diperas oleh wanita itu netizen selepas video berbual dengannya. Menurut penyiasatan polis, pihak lain menggunakan teknologi kecerdasan buatan menukar wajah untuk mensintesis wajah Xiao Chen menjadi video tidak senonoh, dan kemudian menggunakan video ini untuk memeras ugutnya.

Pada tahun 2020, seorang eksekutif sebuah syarikat di Shanghai telah ditipu sebanyak 1.5 juta yuan kerana pihak yang satu lagi menggunakan teknologi suara AI yang mengubah wajah dan dijana secara buatan untuk membuat wajah pemimpin syarikat itu dan meminta eksekutif memindahkan wang.

“Apabila pengguna menggunakan teknologi AI mengubah wajah untuk menyamar, menyebabkan hak potret dan hak lain orang yang menyamar dilanggar, atau menyebabkan banyak kerosakan pada perasaan dan harta orang lain, platform gagal memenuhinya. obligasi semakan yang munasabah dan gagal mengawal selia dengan berkesan Apabila tingkah laku sedemikian berlaku, anda perlu menanggung liabiliti undang-undang tertentu untuk membantu pelanggaran atau pelanggaran langsung." Liu Qing, seorang peguam di Firma Undang-undang Tahota, memberitahu pemberita bahawa melainkan platform itu dengan sengaja melakukannya atau membantu penipu dalam melakukan penipuan, adalah sukar untuk menentukan apakah platform itu.

“Apabila menggunakan perisian atau produk Internet yang melibatkan teknologi AI, di satu pihak, pengguna harus berhati-hati untuk tidak menggunakan teknologi AI secara berniat jahat untuk melakukan tindakan yang menyalahi undang-undang Sebaliknya, mereka juga harus memberi perhatian untuk mengenal pasti dan mengesahkan perkara yang benar identiti pihak yang berkomunikasi, dan jangan percaya pada penampilan Fikirkan dengan teliti apabila anda perlu memindahkan wang atau membuat pembelian." Liu Qing menegaskan bahawa jika orang ramai menghadapi penipuan, mereka harus menghubungi polis dan mendapatkan bantuan daripada polis sebaik sahaja. mungkin, dan beri perhatian untuk mengekalkan bahan-bahan yang berkaitan supaya polis dapat memahami kes itu secepat mungkin dan menghukum penjenayah dengan berat. "Selain itu, sebaik sahaja anda mendapati rupa anda telah dicuri atau 'diubah muka', anda harus mengekalkan bukti secepat mungkin untuk perlindungan hak berikutnya; anda juga boleh memfailkan aduan dengan pengendali platform rangkaian dan meminta gambar yang melanggar atau video dipaksa untuk dialih keluar akhirnya, Anda juga boleh memfailkan tuntutan hak keperibadian dan menggunakan senjata undang-undang untuk melindungi hak dan kepentingan sah anda.”

Baru-baru ini, Persatuan Internet China mengeluarkan kenyataan menyeru orang ramai supaya lebih berwaspada dan memperkukuh langkah pencegahan terhadap penipuan baharu yang menggunakan teknologi kecerdasan buatan. Dalam era AI, teks, bunyi, imej dan video semuanya boleh disintesis secara mendalam Dalam senario biasa seperti pemindahan, kiriman wang dan pertukaran modal, kaedah komunikasi tambahan seperti menghubungi semula nombor telefon mudah alih pihak lain harus digunakan untuk mengesahkan. dan sahkan, dan bukannya bergantung semata-mata pada saluran komunikasi tunggal Pindahkan wang secara langsung tanpa pengesahan, tidak kira siapa pihak lain.

Selebriti tidak dapat lari daripada "keajaiban" AI

Baru-baru ini, selepas AI Stefanie Sun menjadi popular di Internet, penyanyi Stefanie Sun menerbitkan artikel "My AI" di tapak web, membalas pandangannya tentang teknologi AI buat kali pertama. Stefanie Sun menggambarkan dirinya sebagai penonton yang duduk di tempat duduk terbaik panggung wayang, menikmati popcorn, menghadapi teknologi AI yang berkuasa. "Dalam lautan kewujudan yang tiada sempadan ini, segala-galanya mungkin dan semuanya tidak penting. Saya rasa cukup untuk berfikiran murni dan menjadi diri sendiri

Tetapi sebenarnya, jika teknologi "AI" menggunakan maklumat suara selebriti, ia mungkin melanggar hak privasi mereka. Menurut Artikel 1034 Kanun Sivil negara saya, maklumat peribadi orang asli dilindungi oleh undang-undang. Maklumat peribadi ialah pelbagai maklumat yang direkodkan secara elektronik atau melalui cara lain yang boleh mengenal pasti orang asli tertentu sahaja atau digabungkan dengan maklumat lain. Jika teknologi "AI face-changer" atau "AI voice-changer" digunakan dalam bilik siaran langsung selebriti tanpa kebenarannya, hak privasinya mungkin dicabuli.

Seseorang telah menyiarkan beberapa tutorial "siaran langsung mengubah wajah" di Internet, mendakwa bahawa menggunakan perisian yang sepadan boleh menggantikan wajah anda sendiri dengan lebih baik dengan wajah selebriti dalam siaran langsung. Dalam hal ini, Liu Qing berkata mengikut Perkara 1024 Kanun Sivil negara saya, tiada organisasi atau individu boleh melanggar hak reputasi orang lain dengan menghina, memfitnah, dsb. Tingkah laku seperti ini mungkin melanggar hak artis untuk potret dan reputasi, dan jika digunakan untuk tujuan komersial, ia juga mungkin disyaki sebagai publisiti palsu.

Apabila wartawan bertanya tentang Kanun Sivil, mereka mendapati bahawa teknologi AI yang mengubah wajah melibatkan pelbagai hak, termasuk hak potret, hak reputasi dan hak privasi. Menurut Artikel 1019 Kanun Sivil negara saya, tiada organisasi atau individu boleh mencipta, menggunakan atau memaparkan potret orang lain dengan cara yang memfitnah, mencemarkan atau menggunakan teknologi maklumat untuk melanggar hak potret orang lain. Menggunakan teknologi perubahan wajah kecerdasan buatan untuk mencipta potret palsu akan melanggar hak potret orang lain dan boleh membawa kepada pertikaian pelanggaran.

Siapakah yang membuka kotak Pandora AI yang menukar wajah?

Sejarah pembangunan siaran langsung AI yang menukar wajah boleh dikesan kembali ke 2018, apabila keluaran alatan seperti DeepFaceLab memulakan pembangunan teknologi menukar wajah AI. Platform siaran langsung utama telah mula menggunakan teknologi siaran langsung yang mengubah wajah AI, dan teknologi ini sentiasa dioptimumkan dan dinaik taraf.

Pada tahun 2020, syarikat Amerika Genelec (Zoom) melancarkan fungsi penggantian muka AI, membolehkan pengguna menggantikan wajah mereka sendiri dengan wajah orang lain dalam persidangan video Zoom. Pembangunan dan aplikasi teknologi AI yang mengubah wajah telah mendapat perhatian dan perbincangan yang meluas, dan fungsi ini turut menyumbang kepada perkara ini.

Pada tahun 2021, apabila teknologi AI mengubah wajah terus matang dan bertambah baik, skop aplikasi siaran langsung AI mengubah wajah juga akan terus berkembang. Semakin banyak platform dan syarikat telah melancarkan perkhidmatan menukar wajah masa nyata AI mereka sendiri, seperti "Faceu" dan "Perfect" Douyin. Aplikasi ini bukan sahaja dapat merealisasikan penggantian muka, tetapi juga merealisasikan penggantian dan sintesis bunyi, pergerakan, ekspresi dan dimensi lain, menjadikan siaran langsung AI mengubah wajah lebih nyata dan jelas.

Namun, dengan populariti dan aplikasi siaran langsung AI yang mengubah wajah, banyak kontroversi dan masalah turut timbul. Sesetengah orang percaya bahawa siaran langsung AI yang menukar wajah mungkin melanggar privasi peribadi dan hak potret, manakala yang lain bimbang bahawa siaran langsung AI yang menukar wajah mungkin digunakan untuk tujuan yang menyalahi undang-undang seperti propaganda palsu dan kandungan lucah. Oleh itu, banyak negara dan wilayah telah mula menggubal dasar dan peraturan yang berkaitan untuk mengawal selia aplikasi dan pembangunan siaran langsung yang mengubah wajah kecerdasan buatan.

Pada tahun 2021, platform e-dagang yang terkenal di negara saya mula menggunakan teknologi menukar wajah AI dalam siaran langsung Pengguna boleh menggunakan fungsi ini untuk menggantikan wajah mereka sendiri dengan wajah selebriti atau selebriti Internet, dengan itu mencapai satu. kesan paparan yang lebih jelas dan realistik. Selain itu, platform e-dagang juga telah melancarkan perkhidmatan siaran langsung AI yang mengubah wajahnya sendiri, yang melaluinya jenama boleh menggunakan kesan paparan yang lebih realistik dan jelas dalam siaran langsung.

Masa depan teknologi AI yang mengubah wajah akan terjejas oleh banyak pihak

Pada masa ini, siaran langsung mengubah wajah AI telah menjadi trend dalam industri siaran langsung negara saya Semakin banyak platform dan syarikat telah mula menggunakan teknologi perubahan wajah AI dalam siaran langsung. Pada masa yang sama, dengan pembangunan dan aplikasi teknologi yang berterusan, prospek aplikasi siaran langsung AI yang mengubah wajah di negara saya akan menjadi lebih meluas dan pelbagai, tetapi ia masih dipengaruhi oleh banyak faktor.

Zhang Lei (nama samaran), seorang kakitangan platform siaran langsung terkemuka, mendedahkan kepada pemberita bahawa berdasarkan pengalamannya dalam industri, pembangunan teknologi AI akan mempromosikan kemajuan siaran langsung AI yang mengubah wajah. Dengan pengoptimuman berterusan dan peningkatan algoritma AI, siaran langsung AI yang mengubah wajah akan menjadi lebih tepat dan realistik, sekali gus memenuhi keperluan jenama dengan lebih baik. "Permintaan pasaran dan gelagat pengguna juga akan menjejaskan pembangunan siaran langsung AI yang mengubah wajah. Jika permintaan pasaran terus meningkat, pembangunan siaran langsung yang mengubah wajah AI akan lebih digalakkan. Arah pembangunan AI yang mengubah wajah secara langsung siaran akan dipengaruhi oleh tingkah laku pengguna dan Pengaruh pilihan, seperti jenis kandungan langsung yang disukai pengguna untuk menonton ”

Apabila Zhang Lei menjawab wartawan tentang kesan dasar dan peraturan terhadap perubahan wajah AI, dia mengakui bahawa dasar dan peraturan mempunyai impak yang besar pada pembangunan masa depan siaran langsung AI yang mengubah wajah. "Jika dasar dan peraturan mempunyai sikap positif terhadap pembangunan siaran langsung AI yang mengubah wajah, maka perkembangan siaran langsung AI yang mengubah wajah mungkin lebih pantas dan meluas, tetapi semuanya masih tidak diketahui."

Atas ialah kandungan terperinci Kesukaran untuk membezakan adalah setanding dengan 'Raja Monyet yang sebenar dan palsu', dan yang sukar untuk dicegah 'AI perubahan muka + AI onomatopoeia'. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!