berjaga-jaga! AI boleh membawa kepada percambahan maklumat palsu

Menurut Science and Technology Daily, selepas kemunculan kecerdasan buatan (AI), selain menjejaskan beberapa jawatan profesional dan menimbulkan cabaran baharu kepada sistem hak cipta sedia ada, ia juga boleh digunakan dalam aktiviti maklumat palsu bukan sahaja mencipta bahaya baru, tetapi juga menguatkan bahaya sedia ada, sekali gus membahayakan kestabilan ekonomi dan sosial.

Berdasarkan ramalan munasabah berdasarkan situasi sebenar, aktiviti disinformasi yang disokong oleh AI mungkin digunakan terutamanya dalam empat aspek berikut:

①Buat berita palsu.

Tujuan utama di sini adalah untuk memutarbelitkan dan mengganggu berita media rasmi, menghapuskan kaedah pengeluaran kandungan mundur "bermula dengan gambar, dan bergantung pada pengeditan untuk selebihnya", dan sebaliknya menetapkan keperluan - memasukkan beberapa bahan - menjana secara automatik gambar Mod automatik sepenuhnya untuk teks/video.

②.

Berita palsu boleh dibuat dengan cepat, dan penyebaran automatik dan berkelompok boleh tersebar dengan cepat Jika ditambah dengan fakta bahawa ia dikendalikan oleh "profesional" yang mahir dalam media baharu, mekanisme nada media sosial dan mahir dalam. komunikasi atau teori kewartawanan, ia akan menjadi mudah untuk Ia boleh mencapai kesan "jika pembohongan diulang seribu kali, ia akan menjadi kebenaran". Di samping itu, kerana khabar angin juga sangat gimik, mereka secara semulajadi mudah mendapat perhatian dan perbincangan yang hebat apabila disebarkan di Internet Sebaliknya, menyangkal khabar angin bukan sahaja memerlukan "patah kaki", tetapi juga kerana "terlalu betul". Dan tiada siapa yang memerhati.

③ Gabungkan ciri AI generatif dan media sosial untuk melaksanakan taktik "laut spam".

Menyuntik berita hiburan, maklumat gosip dan kandungan "keseronokan puting" yang lain ke dalam keseluruhan rangkaian, menduduki seluruh bidang penglihatan pengguna, untuk mengusir berita dan maklumat yang serius, dan mengawal sepenuhnya maklumat yang beredar dalam media sosial. Melalui kerjasama yang mendalam dengan syarikat hiburan, mereka yang berada di belakang tabir boleh mencapai faedah tambahan sambil melengkapkan matlamat taktikal yang ditetapkan.

④ Gunakan teknologi sintesis mendalam untuk memalsukan akaun dan mengganggu susunan biasa media sosial.

Merangkak maklumat daripada akaun rasmi dan akaun peribadi agensi, perusahaan, institusi, organisasi sosial, selebriti/pemimpin besar Vs/pendapat, dsb., termasuk tetapi tidak terhad kepada gambar dan teks, imej muka, suara, dsb., dan menggunakan korpus dan bahan ini untuk menjana maklumat palsu Kandungan ini bukan sahaja boleh membawa masalah kepada pelaku, tetapi juga boleh mencetuskan masalah, mencetuskan masalah, dan mengelirukan kepalsuan dengan kebenaran.

Apa yang lebih penting ialah, sama ada untuk keuntungan atau untuk mencapai motif tersembunyi mereka, tindakan pengeluar dan penyebar maklumat palsu sememangnya menyalahi undang-undang, dan mereka secara semula jadi akan mengabaikan kekangan undang-undang, peraturan, peraturan platform, dll., yang membawa kepada kemunculan Tiga kesukaran utama - sukar untuk disemak, sukar untuk diselia, dan sukar untuk mengenakan penalti.

① Sukar untuk disemak.

Keperluan semasa pelbagai platform untuk kandungan AI generatif boleh diringkaskan sebagai "disiplin diri pemuat naik", iaitu, pengguna secara proaktif membuat pengenalan yang menarik untuk menunjukkan dengan jelas kepada penonton bahawa kandungannya dihasilkan oleh AI menetapkan bahawa "berhati-hati dengan tuan-tuan tetapi bukan orang lain" penjahat". Sudah tentu, pengguna biasa akan bertindak mengikut peraturan, tetapi pengguna yang menyalahi undang-undang boleh mengelak sepenuhnya pembidaan, memperlahankan pembidaan atau mengurangkan pembidaan.

②Penyeliaan adalah sukar.

Sebelum AI digunakan dalam bidang penjanaan kandungan, diketahui umum bahawa berita palsu di Internet telah tumbuh seperti rumpai dan sukar untuk dihapuskan. Dalam hal ini, kaedah pengurusan tradisional ialah gabungan penyaringan data besar + menerima laporan, memfokuskan pada tindakan keras terhadap akaun yang menyalahi undang-undang dan memfokuskan pada menandai akaun berkaitan mereka. Ini adalah cara yang betul dan tidak boleh dicela untuk menanganinya. Tetapi masalahnya ialah selepas pengguna yang tidak bertanggungjawab memperkenalkan AI, jika keadaan sebelumnya dianggap sebagai kebakaran hutan sporadis dan seperti spot, maka maklumat palsu yang perlu diproses dan diperbetulkan akan menjadi kebakaran besar, dan pengurusan akan memakan banyak tenaga kerja, sumber material, Kesukaran meningkat secara eksponen.

③Hukuman adalah sukar.

Akhirnya, terdapat dua masalah dengan hukuman Satu ialah undang-undang dan peraturan yang menyokong tidak cukup lengkap, dan satu lagi adalah sukar untuk ditangkap kerana kerahsiaan. Bagaimanapun, tidak lama dahulu, pendapat mengenai peruntukan undang-undang yang terpakai terhadap keganasan siber telah dikumpulkan daripada orang ramai, dan dipercayai ia akan dilaksanakan secara terperinci tidak lama lagi. Dijangkakan bahawa apabila tadbir urus maklumat palsu yang dihasilkan oleh AI semakin maju, pembinaan undang-undang yang berkaitan akan mengikutinya.

Azhi telah menyebut berkali-kali dalam soalan tentang AI generatif bahawa AI pada asasnya tidak berbeza daripada teknologi baharu yang telah muncul dalam sejarah Ia tiada kaitan dengan betul atau salah, baik atau jahat ia digunakan. Tidak ada keraguan tentang peranannya sebagai enjin baharu dalam industri Internet dan takungan baharu dalam pasaran kewangan Walau bagaimanapun, penekanan secara membabi buta dan berat sebelah terhadap keunggulan teknologinya kebanyakannya dilakukan oleh oportunis dan hanya untuk keuntungan. Kita mesti melihat teknologi inovatif AI generatif secara objektif dan menyeluruh, dan mengambil langkah pencegahan untuk mengelakkan risiko yang disebabkan oleh penyalahgunaannya.

Atas ialah kandungan terperinci berjaga-jaga! AI boleh membawa kepada percambahan maklumat palsu. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!