兩(liang) 元就能P不雅照，打包售賣持續更新

　　警惕AI黑色產(chan) 業(ye) 鏈批量“造黃謠”

　　6月27日，中央網信辦下發《關(guan) 於(yu) 開展“清朗·2023年暑期未成年人網絡環境整治”專(zhuan) 項行動的通知》，開展為(wei) 期兩(liang) 個(ge) 月的“清朗·2023年暑期未成年人網絡環境整治”專(zhuan) 項行動(以下簡稱“專(zhuan) 項行動”)。其中特別指出要關(guan) 注新技術新應用風險問題，如對“AI換臉”等技術生成涉未成年人低俗色情圖片視頻等，要予以重點整治。

　　——————————

　　如今，“AI脫衣”技術已生成一條黑色產(chan) 業(ye) 鏈。上遊不法分子通過AI技術生成圖片，並對這些圖片進行整合，打包成圖集，通過成套售賣的方式出售給下遊買(mai) 家，有的人為(wei) 此建立起“付費會(hui) 員群”，使一些無辜人士、甚至未成年人陷入“黃謠”漩渦。中青報·中青網記者對此進行了調查采訪。

　　“AI脫衣”圖被公開叫賣

　　“圖片中確實是我的臉，但這裏的我……怎麽(me) 沒穿衣服？”

　　今年5月，還在讀大學的李亦(化名)收到一名網友給她發來的圖片，看後，她又氣憤又害怕。

　　李亦是一名Cosplay(角色扮演)博主，常在社交媒體(ti) 分享自己扮演各種動漫角色的照片。後來，她和網友找到了製作裸照的洛粉(網名)。洛粉承認，他將照片放入一款AI(人工智能)軟件中，不到幾分鍾就能將李亦穿好的衣服“脫下”。在網上，洛粉以5元一張的價(jia) 格公開叫賣圖片，聲稱60元能打包買(mai) 到60多名博主的“裸照”，其中甚至還有未成年人的照片。

　　“我從(cong) 來沒有拍過這種照片！”氣憤的李亦著手收集對方利用AI進行不法行為(wei) 的證據，意圖追究其法律責任，於(yu) 是，她以買(mai) 家的身份與(yu) 洛粉加上了好友。

　　洛粉並非直白地以“AI脫衣”字眼兒(er) 招攬生意，而是隱晦地表示自己在“改圖”，“小姐姐，這裏接Cosplay的‘改圖’，5元一張。”當李亦進一步詢問其如何“改圖”時，洛粉含糊不清地表示，自己是采用AI技術生成了各種Cosplay的圖片。

　　李亦從(cong) 洛粉組建的一個(ge) 群聊中發現了端倪。在這裏，洛粉不僅(jin) 繼續提供“改圖”的服務，更發布了大量帶有暗示挑逗意味的圖片，以圖集形式公開叫賣，稱60元可以買(mai) 到65張，“預計還有總共300張會(hui) 通過群聊慢慢更新”。

　　“這是誰？”李亦從(cong) 中找到了自己的“裸照”，去找洛粉問個(ge) 明白。“這是克羅托(角色名)不穿衣服，博主本人讓這麽(me) 拍攝的。”洛粉答道，並諱莫如深地提示，“可別亂(luan) 轉亂(luan) 發，因為(wei) 套圖中涉及到的60多名博主本人不同意”。

　　“他這麽(me) 說像是我們(men) 這些博主自己去拍了大尺度照片！”李亦十分氣憤，亮明身份，與(yu) 洛粉對質。

　　“對不起姐姐！”洛粉承認自己“二次創作”了李亦的圖片。李亦表示，這並非正常的“二次創作”範圍，而是侵犯了她的人格權。

　　洛粉辯稱，這些係列圖並非出自他手，“是請別人做的”，洛粉並沒有意識到這件事情的嚴(yan) 重性，和李亦商量，“我的卡裏餘(yu) 額隻有1200元，能不能賠償(chang) 你650元私了？”

　　“這不是錢的問題，你已經違法了。”李亦和其他博主選擇報警。

　　黑色產(chan) 業(ye) 鏈禍及未成年人

　　李亦的遭遇並非個(ge) 例。AI技術被濫用，一條黑色產(chan) 業(ye) 鏈正在形成。

　　在網絡上，隻要輸入關(guan) 鍵詞，就能輕易找到提供“AI脫衣”相關(guan) 技術或服務的商家。他們(men) 打著“AI繪畫”“AI改圖”的旗號在社交媒體(ti) 上招攬生意，引導顧客添加其聯係方式，待到一對一溝通或加入私密群聊後，就拿出具有暗示意味的圖片，誘導網友購買(mai) 。

　　“AI脫衣”的受害者眾(zhong) 多，甚至禍及未成年人。一名賣家聲稱自己“資源眾(zhong) 多”，發來了一整套價(jia) 目表，詳細地將圖集分為(wei) “明星”“網紅”“模特”“漫畫”等多個(ge) 種類，在他發來的樣張圖片中，甚至還出現了穿著校服的高中生。他聲稱，如果沒有喜愛的類型，顧客可以發照片“單圖定製”，兩(liang) 元一張，“網絡上的圖都可以作為(wei) 素材”。

　　另一名賣家也采用會(hui) 員製方式邀請顧客進群，稱目前“群裏已經有兩(liang) 三百個(ge) 圖集”，隻要花30元進群就可以享受免費持續更新。當中青報·中青網記者進一步追問其圖集來源時，他支支吾吾地表示自己的資源是從(cong) 某網站下載來的，“不是我自己做的”。

　　“其實隻要掌握了相關(guan) 技術，人們(men) 都可以利用AI製作這些圖片。”資深算法工程師藍天告訴中青報·中青網記者，“AI脫衣”算法稱作“DeepNude”，因為(wei) 倫(lun) 理問題，目前在美國已被下架，但不排除有人通過其他AI算法訓練機器，以達到同樣的效果。

　　在某通訊軟件上，一個(ge) AI機器人收獲了眾(zhong) 多用戶。它不需要使用者掌握複雜的算法知識，隻需要按照其提示，就能完成給照片“換臉”“去衣”等操作。這一機器人還有詳細的精細化設置，能像美顏相機一樣調整圖片的各項參數。

　　這款機器人需要付費使用，點擊“充值”按鈕後，用戶會(hui) 被引導到一個(ge) 點卡充值網站當中進行網上支付。不過，用戶並非付費給商家，而是個(ge) 人，因此很難追蹤該機器人的運營主體(ti) 。根據其價(jia) 目表，最低兩(liang) 元就能生成一張脫衣照。

　　“機器是中立的，隻要給它‘喂’了足夠多的人體(ti) 構造圖，機器就能在之後輸入圖片時，通過識別麵部、身體(ti) 等特征重繪全圖，生成一張‘脫衣照’。”藍天稱，機器“隻管照片的生成”，不會(hui) 顧及照片中人的意願，以及是否成年等倫(lun) 理、法律問題。

　　“按照技術工具論的視角，技術是中性且無害的，但這樣的認識忽略了技術本應具有的道德相關(guan) 性問題。”西南政法大學刑事偵(zhen) 查學院副教授、碩士生導師謝玲認為(wei) ，技術之間是有差別的，有一些新技術如深度偽(wei) 造技術等被濫用所產(chan) 生的後果很難預料，其道德倫(lun) 理及法律問題更為(wei) 複雜。

　　從(cong) “最有利於(yu) 未成年人”原則構建網絡安全規則

　　北京市京師律師事務所合夥(huo) 人姚誌鬥律師接觸過多起因新技術濫用侵害未成年人權益的案例。在一起案件中，一不法分子利用“AI換臉”軟件，將從(cong) 互聯網渠道收集到的大批未成年學生的麵部信息進行替換，製作生成虛假的換臉淫穢視頻，再將視頻有償(chang) 銷售。“這不僅(jin) 侵害未成年學生的肖像權及心理健康，同時這一行為(wei) 涉嫌傳(chuan) 播淫穢物品牟利犯罪。”

　　“應對新技術新應用風險，需要從(cong) ‘最有利於(yu) 未成年人’原則和‘兒(er) 童權利’的視角來構建安全規則。”中國青少年研究中心青少年法律研究專(zhuan) 家郭開元認為(wei) ，針對新技術新應用帶來的風險，要把握好未成年人的特殊保護和新技術應用的動態平衡。有關(guan) 部門應盡快設立保護兒(er) 童、尊重隱私、設置特殊保護的規則，尤其要建立按照年齡標準進行分級管理規則、監護人的知情同意規則等。

　　謝玲呼籲，對新技術的應用風險進行分類和評估，建立針對新技術規製的製度屏障，明確技術合理運用的界限。如果沒有針對技術濫用設立屏障，應嚴(yan) 格規製這一類高風險新技術的聯網應用，因為(wei) “新技術極有可能導致未來新型不法行為(wei) 的產(chan) 生”。

　　姚誌鬥稱，對網絡犯罪監管存在一定難度。網絡犯罪證據主要存儲(chu) 在網絡服務器中，麵對複雜、形式多樣的電子數據，取證存在一定困難。此外，違法行為(wei) 人的身份確定難度較大，有的犯罪分子身在國外，給案件管轄帶來挑戰。

　　事實上，針對網絡新技術新應用帶來的風險，有關(guan) 部門已加大力度重拳整治。

　　此次中央網信辦專(zhuan) 項行動聚焦的七大重點之一，即劍指新技術新應用風險問題，包括利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術生成涉未成年人低俗色情圖片視頻；利用所謂“閱後即焚”的密聊軟件誘騙未成年人提供個(ge) 人信息，誘導實施違法行為(wei) ；利用生成式人工智能技術製作發布涉未成年人有害信息。

　　“這釋放了國家加大力度整治網絡環境，切實加強對未成年人網絡保護的信號。”謝玲指出，這一專(zhuan) 項行動針對未成年人身心易受影響的特點，意在預防未成年人不良上網用網行為(wei) ，避免其成為(wei) 新型網絡違法犯罪活動的“工具人”，也是落實未成年人保護法、預防未成年人犯罪法相關(guan) 法律保護措施的具體(ti) 體(ti) 現。

　　如今，李亦已走出心理陰影，她說：“不能因為(wei) 這些事情而停止我對生活的熱愛。”

　　中青報·中青網見習(xi) 記者 劉胤衡 記者 先藕潔 來源：中國青年報