本文轉自【央視新聞】；
近日，因「AI換臉」導致的詐騙案件引發關注。伴隨著AI大模型的發展，「換臉技術」的應用範圍越來越廣，技術的突破也使得換臉後的人物表情、動作細節更為逼真，一旦被不法分子利用，可能帶來嚴重危害。
總台記者經調查發現，網路上「AI換臉」軟體的取得非常容易。利用此類軟體的法律邊界在哪裡？如何做好事前監理？
網路上出現「AI換臉」付費軟體
套餐價格從499元至2888元不等
在網路上，示範換臉軟體使用方法及效果的教學比比皆是，其中不少「AI換臉」軟體需要高價付費使用。
記者根據搜尋結果聯繫到一名開發者，他向記者提供一段使用其軟體實現換臉的示範視頻——雙視窗頁面左側是換臉之前的原始視頻，右側則是換臉之後的視頻，肉眼來看，換臉之後的「數字人」口型、表情、微小的動作幾乎毫無破綻。
在其銷售的網站上，該軟體開發者還展示瞭如何將兩位知名女星的眼睛和嘴巴「拼接」到一起，產生全新「數位人」的影片。
這款收費軟體提供了不同版本，從LV1（初級）到LV4（超級），再到LV5（全部功能）。以初級套餐來說，499元提供軟體介面、視訊指導、換臉模型等，如果花2888元，則可得到全套（LV5）等級的視訊換臉模型。
「想換什麼臉都可以」
AI大模型可整合多種功能打造「數字人」記者發現，該網站 底部沒有任何文字顯示其已經過備案。賣家也十分謹慎，全程僅用文字溝通。他表示，與初級（LV1）至超級（LV4）套餐相比，全套（LV5）版本迭代更多，能力更強，也可以理解為換臉效果更為逼真，同時，不僅可以實現視頻換臉，還支援直播換臉。
記者進一步詢問能否依照自己的需求換臉時，軟體開發者表示：「想換什麼樣的臉拿素材訓練就可以。」
根據一位從事人工智慧開發的技術人員所述，這意味著可能會出現更多難以管理的風險。 「整合文生圖、文生文，文生音頻、文生視頻、換臉，這樣的功能結合起來，就可以打造出一個完全嶄新的'數字人'或者叫'AI人'，監管成本和難度高了好幾個數量級。 ”
專家：有效的識別監管系統
#能提前釐清「AI換臉」所帶來的模糊邊界
#北京嘉維律師事務所律師、IT法律專家趙佔領表示，從事後打擊的角度講，刑法中有關於詐欺罪的規定；民法典明確，公民享有肖像權、姓名權、名譽權等相應的民事權利。換句話說，如果發生使用他人肖像進行詐騙的案件，不法分子將受到法律制裁和約束。但在人工智慧技術快速發展的當下，也應探討如何能做到有效的事前防範。
例如，在《網路資訊服務深度合成管理規定》中要求，深度合成服務可能導致公眾混淆或誤認的，深度合成服務提供者應在產生或編輯的資訊內容的合理位置、區域進行顯著標識。
《生成式人工智慧服務管理辦法（徵求意見稿）》要求，利用生成式人工智慧產品向公眾提供服務前，應依照相關規定向國家網信部門申報安全評估；要尊重他人合法利益；產品提供者應為生成式人工智慧產品的預訓練資料、優化訓練資料來源的合法性負責等。
浙江大學國際聯合商學院數位經濟與金融創新研究中心聯席主任盤和林認為，從目前來說，如果能夠有效落實標識的要求，形成有效的監管體系，可以在很大程度上提前釐清「AI換臉」所帶來的模糊邊界。
盤和林：當前「AI換臉」的標識監管體系還沒有形成，要針對不標註的內容，透過技術的手段來辨別，並且對不標註的個人或者是單位組織要有具體的處罰措施、標準以及製度。
北京嘉維律師事務所律師、IT法律專家趙佔領認為，從長遠來看，監管與處罰措施還需要隨著技術發展不斷“迭代”，才能形成立體有效的治理方案。
以上是「AI換臉」軟體公開網售，幾百至數千元不等！法律邊界在哪裡？的詳細內容。更多資訊請關注PHP中文網其他相關文章！
