調查動機

　　浙江杭州檢察機關(guan) 曝光了一個(ge) “女神群”，群裏發送的淫穢視頻有不少是犯罪嫌疑人使用“AI換臉”技術合成的，還可以根據顧客需要“私人定製”；河北高陽警方破獲了一起製作、販賣、傳(chuan) 播淫穢物品牟利案，犯罪嫌疑人通過社交群自學“AI換臉”技術，用明星形象製作淫穢視頻在網上以每10分鍾300元的價(jia) 格售賣……近期，有關(guan) “AI換臉”的案件和新聞引發社會(hui) 關(guan) 注和擔憂。

　　隨著人工智能的發展，“AI換臉”技術門檻逐漸降低，應用場景越來越多，在滿足人們(men) 獵奇、美顏、社交等需求的同時，因“AI換臉”引發的爭(zheng) 議乃至違法犯罪行為(wei) 屢見不鮮，其背後隱藏的黑灰產(chan) 業(ye) 鏈也逐漸浮出水麵。

　　“AI換臉”存在哪些亂(luan) 象？用明星形象“AI換臉”是否合法？技術應用的邊界在哪裏？圍繞這些問題，記者進行了調查采訪。

　　□ 本報記者　　趙麗(li)

　　□ 本報實習(xi) 生 胡淼

　　“能教教我這個(ge) 怎麽(me) 拍嗎？”

　　“視頻左下角點擊進入有全套教程。”

　　“豈不是想親(qin) 誰就親(qin) 誰？”

　　“學會(hui) 我的教程就可以。”

　　這是一名短視頻平台博主與(yu) 粉絲(si) 的對話。這位號稱特效師的博主，發布了多個(ge) 影視劇親(qin) 熱畫麵的短視頻，並把男主角“換”成了自己，引來不少流量。麵對粉絲(si) 的討教，博主稱提供“手機版影視合拍教程”，售價(jia) 99.99元。

　　類似出售“AI換臉”技術的博主，以及提供“AI換臉”技術的App和小程序不在少數。《法治日報》記者近日調查發現，目前在網絡平台上，教授“AI換臉”技術、提供視頻定製“換臉”服務乃至售賣明星“換臉”的淫穢視頻等已經成為(wei) 一門生意。

　　受訪專(zhuan) 家認為(wei) ，技術發展是不可阻擋的趨勢，技術應用也往往超前於(yu) 風險應對手段的產(chan) 生，要遏製“AI換臉”等人工智能領域的深度合成技術應用亂(luan) 象，還得監管部門、平台、網民多方形成合力，多管齊下。此外，針對技術研究與(yu) 應用的法律規製和執行效能還需進一步完善。

　　相關(guan) 應用下載便捷

　　提供肖像即可定製

　　在電商平台，記者以“人臉替換”“deepfake”“專(zhuan) 業(ye) 定製換臉”等作為(wei) 關(guan) 鍵詞搜索看到，不少商家宣稱可以提供影視劇“換臉”、“AI換臉”等服務，售價(jia) 基本在10元至200元之間。

　　關(guan) 於(yu) “AI換臉”的用途，電商平台上某商家這樣表述：“您可以成為(wei) 《倚天屠龍記》中的張無忌，也可以成為(wei) 《陳情令》中的藍忘機，抑或成為(wei) 《紅樓夢》中的林黛玉……您隻需錄製一個(ge) 短視頻發給客服，這邊就可以為(wei) 您合成同款視頻，為(wei) 您的青春，增添一份風采。”此項服務，領券購買(mai) 隻需23.8元起。

　　在手機應用商城，記者以“AI換臉”作為(wei) 關(guan) 鍵詞搜索看到，多款“AI換臉”App映入眼簾。在某社交平台上，記者搜索“換臉”，也看到了不少關(guan) 於(yu) “AI換臉”的小程序。

　　記者下載了熱度最高的一款App。該App有多款“換臉”模板可供選擇，包括AI繪畫、影視劇、氣質美女、男士專(zhuan) 屬等，一鍵上傳(chuan) 照片便可生成“換臉”視頻。

　　如果想在這些App和小程序上使用“AI換臉”功能，則需要付費。以記者試用的這款App為(wei) 例，周會(hui) 員17元、年會(hui) 員398元。記者購買(mai) 了17元的周會(hui) 員，在登記手機號碼並表示同意遵守相關(guan) 合成規定後，導入視頻素材，按“點擊製作”和“開始製作”鍵，就可以將視頻素材中的人臉進行互換。

　　一些賣家不僅(jin) 提供“AI換臉”服務，還提供“換臉”技術教學服務，進一步降低這類技術的應用門檻。

　　在某電商平台，記者聯係了一個(ge) 經營“AI換臉”業(ye) 務的商家，在其“智能換臉”的商品詳情麵有這樣一段描述：“你可以花費最低的成本，來優(you) 化工作簡曆的展示……讓你初出江湖就有大佬一般豐(feng) 厚的資曆，在就業(ye) 的競爭(zheng) 對手中一騎絕塵。”

　　據該商家客服介紹，想要“換臉”，隻需準備兩(liang) 部分素材，即包含麵部信息的人臉素材以及提供身體(ti) 、背景的內(nei) 容素材，商家操作後，最終“兩(liang) 者結合形成成品”。至於(yu) 價(jia) 格，商家將根據工作量和難度進行最終定價(jia) ，參考價(jia) 格是1分鍾以內(nei) 60元，超過1分鍾則根據區間按秒計算，如3分鍾以上每秒0.9元、10分鍾以上每秒0.7元。

　　同時，該商家還為(wei) “有心”學習(xi) 的客戶提供“AI換臉”教學套餐：一份自學套餐180元、輔導套餐360元、教學套餐則需720元。根據消費者的需求，商家提供相應等級和價(jia) 格的教學服務。

　　教學內(nei) 容百元到手

　　技術傳(chuan) 播或涉侵權

　　“AI換臉”技術教學服務具體(ti) 包括哪些？記者花99.99元在那名號稱特效師的博主處購買(mai) 了相關(guan) 套餐，共7節課，每節課程時長在1分9秒至3分45秒，課程總時長在20分鍾以內(nei) ，核心課程包括“擦除視頻中的人物、如何運用蒙版、如何摳出人物合成”，這些課程均為(wei) 手機屏幕錄製。

　　據授課者介紹，製作一條“換臉”視頻，需要用到多個(ge) 手機端應用，但並不複雜——從(cong) 影視劇片段中截取一幀人物畫麵，用消除筆把想要替換的人物塗抹掉，將照片保存後便可進行剪輯。不過，在正式剪輯前還需要再準備一段素材，那就是本人在綠幕中錄製好相關(guan) 片段中人物的動作、台詞。

　　經過這一係列操作，特效師可以代替周星馳與(yu) 《賭俠(xia) 》中的女主角張敏欲語還休；成為(wei) 《狂飆》中的徐江與(yu) 高啟強在公路飆戲；取代周潤發成為(wei) 《英雄本色》中的小馬哥；在一條19秒的影視劇片段中，甚至取代郭京飛被迪麗(li) 熱巴親(qin) 了一口。

　　購買(mai) 完課程，特效師邀請記者加入課程群聊，與(yu) 其宣稱的上萬(wan) 人參與(yu) 學習(xi) 的盛況不同，群裏加上群主隻有18人。群內(nei) 無人發言，隻顯示一位普通群友被管理員“禁言30天”。

　　特效師告訴記者，課程學習(xi) 完就可以去製作了。電腦端可以製作更加豐(feng) 富的“換臉”視頻，不過價(jia) 格比手機端貴4倍。

　　記者注意到，評論區有用戶提出疑問：“換臉”技術教學服務是否涉嫌侵權？博主不置可否。

　　對此，武漢大學法學院副教授申晨說：“通過網絡平台賣課、社交平台教學等形式傳(chuan) 播‘AI換臉’技術，如果技術傳(chuan) 播者明顯知道這個(ge) 技術很可能被用於(yu) 製作淫穢物品，這樣的情境是可以判斷其構成幫助侵權的。”

　　申晨進一步分析，民法典第1169條規定了教唆、幫助他人實施侵權行為(wei) 的，承擔連帶侵權責任。相較於(yu) 幫助侵權，教唆侵權的主觀惡性更嚴(yan) 重，如果一些人利用網絡平台主動誘導他人學習(xi) “AI換臉”技術去實施侵權，可以認定為(wei) 教唆侵權行為(wei) 。

　　換臉背後暗藏風險

　　應用邊界亟待厘清

　　還有一個(ge) 問題是：擅自使用他人肖像製作“換臉”視頻，背後暗藏什麽(me) 法律風險和侵權糾紛？

　　記者就此谘詢前述特效師博主，對方回複稱“視頻‘換臉’不涉及侵權，因為(wei) 影視劇都是公開的，如果侵權，那麽(me) 那些影視剪輯和影視解說都侵權了”，並稱自己從(cong) 業(ye) 以來沒有遇到過相關(guan) 糾紛。

　　然而，受訪專(zhuan) 家給出的法律分析正好相反。

　　中國傳(chuan) 媒大學文化產(chan) 業(ye) 管理學院法律係主任鄭寧告訴記者，擅自使用他人肖像製作“換臉”視頻，可能會(hui) 涉嫌構成侵犯他人肖像權、名譽權等。無論是“換臉”App的經營者還是普通網友，凡未經影視劇著作權人的授權和許可，擅自將“換臉”後的影視片段通過網絡提供給公眾(zhong) ，使公眾(zhong) 可以在其個(ge) 人選定的時間和地點進行在線播放甚至下載等，都可能涉嫌侵害影視劇著作權人的信息網絡傳(chuan) 播權。同時，如果“換臉”後對原影視劇片段的主旨進行歪曲篡改，最常見的形式就是惡搞，還有可能侵害影視劇著作權人的保護作品完整權等。

　　鄭寧認為(wei) ，如果“AI換臉”技術被不法分子利用，被用於(yu) 詐騙、色情、盜竊、惡搞、非法逐利等，則會(hui) 產(chan) 生極大危害，不僅(jin) 侵害他人合法權益，還可能危害社會(hui) 公共安全。

　　鄭寧介紹，目前沒有相關(guan) 行業(ye) 規範明確“AI換臉”的特定應用場合，但規定了“AI換臉”行為(wei) 應當遵守的邊界。《互聯網信息服務深度合成管理規定》（以下簡稱《規定》）明確，任何組織和個(ge) 人不得利用深度合成服務製作、複製、發布、傳(chuan) 播法律、行政法規禁止的信息，並要求深度合成服務提供者應當建立健全辟謠機製。這為(wei) 深度合成服務的技術應用劃定了“底線”和“紅線”。

　　“《規定》出台，表明有關(guan) 部門已經在有意識地規製包括‘AI換臉’在內(nei) 的人工智能深度合成技術，但該文件並未針對人臉更換技術的應用範圍、目的進行限製。”在申晨看來，“AI換臉”涉及人的肖像，其相對於(yu) 其他個(ge) 人信息更具特殊性，也更為(wei) 敏感。“AI換臉”技術會(hui) 導致對個(ge) 人身份信息識別的混淆，繼而導致信息傳(chuan) 播秩序混亂(luan) 。所以，需要對這種潛在的危害進行使用範圍的限製。

　　那麽(me) ，“AI換臉”技術的應用邊界在哪裏？

　　申晨認為(wei) ，可以從(cong) 兩(liang) 個(ge) 應用場景考慮：專(zhuan) 業(ye) 的影視製作，在獲得演員授權的前提下，可以合法應用該技術；網民娛樂(le) 性的使用，例如熟人之間做一些“換臉”視頻進行娛樂(le) 等。

　　“這就涉及如何理解其中的授權問題，根據相關(guan) 規定，‘AI換臉’需要獲得對方的肖像權授權。肖像權授權形式可以有兩(liang) 種理解：第一種，隻要不反對你使用我的肖像，就完成了知情同意的過程；第二種，必須由肖像本人實施明示的意思表示，才能得到製作‘AI換臉’視頻的授權。”申晨說，對授權形式的兩(liang) 種理解可能要做一個(ge) 價(jia) 值判斷，通過主動同意的方式獲得“AI換臉”的權限，雖然有利於(yu) 保護肖像權，但不太符合社會(hui) 交往中的觀念，但若采用第一種理解，可能會(hui) 帶來事後規製的成本，因此“AI換臉”的應用邊界還需要通過社會(hui) 實踐進一步摸索。

　　建立安全評估係統

　　完善監管防範體(ti) 係

　　針對“AI換臉”亂(luan) 象，近年來，國家網信辦、各地網警、檢察機關(guan) 等協調配合，加大整治打擊力度，辦理了不少民事和刑事案件，出台了多項政策法規加強治理。

　　我國刑法、民法典以及國家有關(guan) 部門出台的《網絡音視頻信息服務管理規定》《網絡信息內(nei) 容生態治理規定》等多部法律法規及政策規定，均涉及深度合成應用的規範、侵權責任等內(nei) 容。

　　4月11日，國家網信辦發布《生成式人工智能服務管理辦法（征求意見稿）》，對生成式人工智能產(chan) 業(ye) 給出較為(wei) 詳盡的規定，其中包括定義(yi) 、準入資格、責任義(yi) 務和處罰措施等。

　　“尤其是《規定》對防範深度合成技術所帶來的社會(hui) 危害和法律風險，邁出了非常重要的一步，實現了從(cong) 無到有，讓深度合成技術的應用有了專(zhuan) 門的監督體(ti) 係。”申晨說，不過一些具體(ti) 措施還有待細化，比如《規定》要求的安全評估體(ti) 係怎麽(me) 做，誰來做評估，評估的標準是什麽(me) ？這些需要結合產(chan) 業(ye) 發展、技術背景和專(zhuan) 業(ye) 知識進行細化。

　　在鄭寧看來，我國缺乏對人工智能的總體(ti) 立法以及人工智能倫(lun) 理的行業(ye) 規範，雖然目前的相關(guan) 法律對於(yu) “AI換臉”可能侵犯隱私權、名譽權、肖像權、個(ge) 人信息、著作權，以及對網絡安全、數據安全的危害也有相應規定，網信辦的相關(guan) 規定對於(yu) 算法、深度合成技術、安全評估也有規範，但是如何在AI產(chan) 業(ye) 創新以及國家安全、個(ge) 人權益保護之間實現平衡，如何劃定各方主體(ti) 的權利義(yi) 務責任邊界，仍有一些模糊不清的地方。

　　“‘AI換臉’技術侵犯的權益十分敏感，經由網絡傳(chuan) 播速度快、範圍大、影響廣，讓人防不勝防，僅(jin) 通過事後的責任追究很難達到理想的規製效果。因此，應該從(cong) 技術開發者、網絡服務提供者、用戶三個(ge) 層麵，設計一套獨特的監管體(ti) 係。”申晨說。

　　申晨建議，對“AI換臉”技術的開發者以及相應的科技公司建立嚴(yan) 格的備案手續和安全評估係統。目前“AI換臉”技術還比較粗糙，但通過優(you) 化迭代，未來肯定會(hui) 高效且逼真，因此一定要合理限製傳(chuan) 播範圍。未來的監管體(ti) 係要控製住技術源頭，可以嚐試要求技術開發者在技術中預留一個(ge) “技術水印”，即用戶如果應用該技術製作視頻，視頻文件中會(hui) 留下痕跡，那麽(me) 網絡平台可以迅速識別出該視頻是使用“AI換臉”技術進行製作的。

　　對於(yu) 網絡服務平台，申晨建議對使用上傳(chuan) 視頻服務的用戶信息進行審核，即要把握AI合成視頻製作者的身份，以便在後期產(chan) 生法律風險時確定責任人。平台還要通過技術方法審核視頻內(nei) 容，識別其中是否有人工合成的要素，並進行標注。同時，平台在接到人工合成視頻存在法律風險的通知時，需根據民法典規定的網絡服務提供者義(yi) 務，建立一套完善的應對機製。此外，用戶在使用網絡平台服務的過程中，如果發現有“AI換臉”視頻涉嫌存在法律風險，一定要有舉(ju) 報意識。

　　“當上述三個(ge) 環節都建立起監管機製，再結合對違法者法律責任的追究，將會(hui) 形成一個(ge) 較為(wei) 有效的、應對‘AI換臉’技術法律風險的防範體(ti) 係。”申晨說。

　　曾參與(yu) 電子商務法立法工作的浙江墾丁律師事務所主任張延來提出，治理“AI換臉”技術濫用現象，除了法律途徑，還需引入社會(hui) 力量尤其是商業(ye) 力量，就像計算機病毒需要引入殺毒軟件來遏製一樣。不過，更應該關(guan) 注技術本身所帶來的有利效果，對於(yu) 濫用行為(wei) 可以依法打擊，不必過於(yu) 恐懼技術本身，而是應該學習(xi) 和擁抱新技術。

　　“任何技術都是雙刃劍，還是取決(jue) 於(yu) 誰來用、怎麽(me) 用、用了違法怎麽(me) 追責。‘AI換臉’在一些場景具有積極意義(yi) ，比如影視製作、廣告等，不應全盤否定，但是也要對其風險有充分認識。”鄭寧總結說。