前不久，“AI孫燕姿”“AI王菲”們(men) 爆火出圈，成為(wei) 短視頻平台新一輪的流量密碼。與(yu) 此同時，能以假亂(luan) 真、掩人耳目的AI技術也在頻頻觸及法律紅線。近日，北京市通州區人民法院調研發現，平台流量背後有人正在利用AI換臉擬聲實施不法行為(wei) ，如偽(wei) 造不雅視頻、換臉詐騙等。

　　AI違法行為(wei) 防不勝防，民事方麵易引發肖像權等侵權行為(wei) ，刑事方麵易引發詐騙罪、侵犯公民個(ge) 人信息罪等犯罪行為(wei) 。據此，通州法院法官通過兩(liang) 起典型案例揭示AI技術亂(luan) 象背後的法律問題，以能動司法擊敗“AI魔法”，提醒公眾(zhong) 提高維權和反詐意識。　

　　案例1

　　利用AI技術使用他人形象視頻

　　涉事公司構成肖像侵權被判賠

　　陳某在某網絡平台注冊(ce) 賬號，發表諸多唯美造型視頻，有粉絲(si) 上萬(wan) 人。某公司利用AI技術運營某款APP，該APP向用戶提供拍攝視頻時的提詞功能以及提供麵部替換的視頻模板。某公司未經陳某許可在該APP中使用陳某發布在其賬號中的多個(ge) 唯美視頻作為(wei) 視頻模板，供軟件用戶進行麵部替換。陳某發現後提起訴訟，某公司刪除相關(guan) 視頻。

　　法院經審理認為(wei) ，某公司運營的該款APP具有明顯的商業(ye) 屬性，其未經陳某許可使用陳某個(ge) 人形象視頻進行運營，並非法律規定的合理使用，對陳某構成肖像侵權，應承擔相應的侵權責任。判令被告某公司在該APP首頁置頂處刊登道歉聲明向原告陳某賠禮道歉，並賠償(chang) 陳某1000元。

　　法院調研發現，AI換臉擬聲技術用於(yu) 商業(ye) 盈利時極易引發肖像權、姓名權等人格權糾紛，一些營銷短視頻、音頻的商家經常在未經當事人許可和同意的情況下進行換臉、換聲操作，以此獲利。這種行為(wei) 屬於(yu) 侵權行為(wei) 。

　　法官介紹，人格權是民事主體(ti) 享有的生命權、身體(ti) 權、健康權、姓名權、名稱權、肖像權、名譽權、榮譽權、隱私權等權利。自然人享有肖像權，有權依法製作、使用、公開或者許可他人使用自己的肖像。肖像是通過影像、雕塑、繪畫等方式，在一定載體(ti) 上所反映的特定自然人可以被識別的外部形象。任何組織或者個(ge) 人不得以醜(chou) 化、汙損，或者利用信息技術手段偽(wei) 造等方式侵害他人的肖像權。未經肖像權人同意，不得製作、使用、公開肖像權人的肖像，但是法律另有規定的除外。未經肖像權人同意，肖像作品權利人不得以發表、複製、發行、出租、展覽等方式使用或者公開肖像權人的肖像。

　　法官提示

　　如遭遇被換臉、換聲的民事侵權行為(wei) ，要有主動維權意識，要關(guan) 注侵權方相關(guan) 作品發布時間、數量、範圍，主動搜集網站/APP截圖、音頻、視頻等作為(wei) 證據，向侵權方提出嚴(yan) 正交涉，積極運用法律途徑維護自身合法權益。如在本案中，法院經審理查明某公司的行為(wei) 構成肖像侵權，不僅(jin) 判令某公司公開賠禮道歉，並且要求某公司賠償(chang) 損失。擊敗“AI魔法”，交出公正答卷，人民法院隨時嚴(yan) 陣以待。

　　案例2

　　用AI智能軟件詐騙近百萬(wan) 四被告人獲刑

　　2022年2月，被告人郭某在A省某區成立未經審批登記的“公司”，並雇用被告人黃某、江某、田某等人通過某AI智能軟件篩選有意向炒股的股民“資源”（被害人），用於(yu) 出售給下遊公司獲利。郭某負責將其員工篩選、添加好的股民微信提供給其他同夥(huo) 的“公司”進行電信網絡詐騙活動；其他同夥(huo) 負責用微信小號進行角色扮演，對所謂的炒股資深專(zhuan) 家“王某”進行吹捧以取得被害人信任，誘導添加了微信的被害人在虛假投資平台上投資，以此騙取被害人的投資款。至2022年7月，郭某等人共騙取投資款人民幣近百萬(wan) 元。法院經審理認為(wei) ，被告人郭某構成詐騙罪、侵犯公民個(ge) 人信息罪；黃某、江某、田某等人構成非法利用信息網絡罪。

　　法官指出，AI犯罪手段越發高明，犯罪分子通常會(hui) 通過AI技術進行聲音合成和換臉，並用AI程序篩選受害人，再用盜號或角色扮演等方式騙取信任，甚至生產(chan) 出定製化的犯罪腳本，進一步實施不法行為(wei) ，受害人往往難以在第一時間分辨出真偽(wei) ，落入違法者圈套。這種違法犯罪形式往往構成多種罪名，最終被數罪並罰。

　　法官表示，違反國家有關(guan) 規定，向他人出售或者提供公民個(ge) 人信息，情節嚴(yan) 重的，處三年以下有期徒刑或者拘役，並處或者單處罰金；情節特別嚴(yan) 重的，處三年以上七年以下有期徒刑，並處罰金。詐騙公私財物，數額較大的，處三年以下有期徒刑、拘役或者管製，並處或者單處罰金；數額巨大或者有其他嚴(yan) 重情節的，處三年以上十年以下有期徒刑，並處罰金；數額特別巨大或者有其他特別嚴(yan) 重情節的，處十年以上有期徒刑或者無期徒刑，並處罰金或者沒收財產(chan) 。

　　法官提示

　　警惕此類AI犯罪行為(wei) ，如遇“微信好友通過視頻借款”情形，切記多渠道核實“好友”身份，勿輕易轉賬，如您已經轉賬，及時報警或撥打反詐中心電話96110；如遇“低風險高回報的投資理財”情形，莫存在僥(jiao) 幸和投機心理，為(wei) 了所謂高回報的收益，輕易將錢款轉賬至不明來路的“投資平台”。理財要通過正當合法手段進行；如遇“×××邀請您進入群聊/視頻會(hui) 議/直播間”情形，不要輕易加入全是陌生人的微信群聊、視頻會(hui) 議，容易陷入犯罪分子提前製作好的角色扮演和犯罪劇本之中，成為(wei) 待宰羔羊。

　　新京報記者 薄其雨（來源：新京報）