用AI“複活”逝者,倫理和法律的邊界在哪?專家解讀
AI數字“複活”,您聽說過嗎?當然,這裏的複活是加引號的,簡單來說,就是指用逝者生前的照片、視頻、文字記錄等曆史數據,使用人工智能技術、數字化模擬再現已故人物的聲音、影像、行為(wei) 等。
那麽(me) ,目前AI“複活”技術發展到什麽(me) 程度?一個(ge) 人的“數字複活權”歸誰擁有?未經授權AI“複活”明星是否觸犯法律?使用逝者數據生成數字人,倫(lun) 理和法律的邊界在哪裏?我們(men) 現有的法律是如何規定的? 首先來認識一位金女士,不久前,她借用AI技術、數字“複活”了一名已故的小女孩,她的女兒(er) ,小睿睿。
跨越時空的對話 媽媽的小女兒(er) “回來了”
屏幕裏懂事乖巧的小女孩名叫小睿睿,時隔近三年,再次以這樣特殊的方式與(yu) 女兒(er) 對話,金女士難掩激動。這個(ge) 和自己女兒(er) 有著同樣外表和聲音的數字形象是金女士委托南京的一家AI工作室定製而成。抱著試試看的心態提供了女兒(er) 的視頻和文字介紹等資料後,金女士沒有想到僅(jin) 僅(jin) 一個(ge) 月時間,她就可以和女兒(er) 隔著屏幕進行對話。
小睿睿媽媽 金女士:我感覺好像她又回到我身邊一樣,而且聲音和性格完全符合,跟她生前幾乎是一模一樣的。
2021年,年僅(jin) 9歲的小睿睿因患膠質母細胞瘤不幸去世,在她離世後,她的家人對女兒(er) 的思念與(yu) 日俱增,在看到網絡上有人為(wei) 自己去世的親(qin) 人用人工智能手段進行數字重生後,金女士也動了心。
小睿睿媽媽 金女士:我一個(ge) 人,比如說在家裏的時候,平時就拿個(ge) 照片看,不能產(chan) 生互動,不能聊天。然後數字人可以根據她的性格,還有她的聲音來模仿,我就可以跟她進行互動,能夠感覺到她的存在感。我覺得這是延續了孩子對我的愛,還有我對孩子的愛,這是兩(liang) 個(ge) 愛的相互延續。
從(cong) AI換臉到“複活” 記者探訪數字人工作室
在南京高新技術開發區的某產(chan) 業(ye) 園,記者找到了這家名為(wei) “超級頭腦”的AI工作室,負責人張澤偉(wei) 告訴我們(men) ,成立之初他們(men) 從(cong) 事的是AI培訓和教育的相關(guan) 業(ye) 務,而真正開始接收“AI複活”逝者的訂單,是緣於(yu) 朋友的一個(ge) 請求。
“超級頭腦”工作室創始人 張澤偉(wei) :我的一個(ge) 朋友,他父親(qin) 因為(wei) 意外離世了,然後他們(men) 全家人一直瞞著他的奶奶。因為(wei) 時間有點長了,老人家就是一直在問,所以說大家也看是瞞不下去了。所以說我朋友才找到我,問我可不可以有這項技術去複刻一下他父親(qin) 的聲音跟形象,跟老人進行一個(ge) 實時的通話,給老人報一個(ge) 平安。
出於(yu) 好友的請求,張澤偉(wei) 的團隊接下了這個(ge) 任務,利用AI換臉換聲技術,張澤偉(wei) 扮演了朋友去世的父親(qin) 與(yu) 老人進行了視頻通話,視頻裏張澤偉(wei) 並沒有太多的言語,僅(jin) 僅(jin) 隻是點點頭微笑,而對於(yu) 聽力不太好的老人而言,這已經足以讓她相信視頻裏的人是她許久未見的兒(er) 子。自這以後,越來越多的人找到他,希望以各種形式幫助他們(men) “複活”親(qin) 人。從(cong) 去年三月份到現在,張澤偉(wei) 已經接到了一千多個(ge) 訂單。
在已經建構好的模型裏,隻要攝像頭能夠捕捉到扮演者的臉部圖像,隻需動動鼠標,換臉僅(jin) 僅(jin) 是一瞬間的事情。用AI技術換臉變聲去為(wei) 不知親(qin) 人離世的老人們(men) 編織一場善意的謊言,而對於(yu) 不得不接受這個(ge) 消息的人而言,讓逝者的數字分身成為(wei) 自己偶爾的陪伴和慰藉,成了另一部分人的選擇。
家住南京的王先生在去年委托張澤偉(wei) 利用AI技術扮演去世的舅舅與(yu) 自己的外婆視頻聊天,暫時瞞住了舅舅意外去世的消息。但王先生也意識到,這樣善意的謊言也許不可能一直編織下去,看到張澤偉(wei) 的工作室有數字生命的服務,他也在考慮為(wei) 去世的親(qin) 人訂製一個(ge) 。
采訪中張澤偉(wei) 告訴記者,甚至有一些殯葬行業(ye) 機構也主動找到工作室,希望能與(yu) 他合作,為(wei) 客戶推出逝者數字生命的訂製服務。
“超級頭腦”工作室創始人 張澤偉(wei) :比如說後人去祭奠他、去看他,其實你並沒有特別直接的印象。一個(ge) 人他代表可能一段曆史,可能是這個(ge) 家族的一些重大事跡。當他的後人再去祭奠他,不管他的碑、墓地以後還在不在,至少他的數字生命是永遠都在的。
AI“複活”已逝公眾(zhong) 人物是否觸犯法律?
近日,複活已故明星李玟的視頻在網絡上引起了廣泛關(guan) 注,記者發現,除了李玟外,還有包括張國榮、喬(qiao) 任梁等去世公眾(zhong) 人物也被網友進行了AI數字“複活”,一些網友利用這些已逝明星生前的影像資料讓他們(men) 重新對粉絲(si) 說話。
北京航空航天大學法學院副教授 趙精武:在沒有取得近親(qin) 屬同意的情況下,就對逝者的信息進行商業(ye) 化利用或者其他目的,顯然構成了對死者以及近親(qin) 屬合法權益的侵犯。因為(wei) 在我們(men) 看來,死者的複活並非真正意義(yi) 上的複活,更多的是對於(yu) 死者的一種消費。
而對這類網絡上大量出現的“複活”視頻,這些名人的家屬表達了強烈的不滿。
3月16日,對於(yu) 網上傳(chuan) 播開的“喬(qiao) 任梁被複活”影像,他的父親(qin) 公開表示,不能接受,希望對方盡快下架。
3月28日,已故知名歌手李玟的母親(qin) 公開發布了一則律師聲明。該聲明稱,近期部分網絡用戶未經李玟女士近親(qin) 屬同意,利用李玟肖像製作、發布“AI複活李玟”係列短視頻,此類視頻的廣泛傳(chuan) 播已經對李玟母親(qin) 及其家人的工作和生活造成了嚴(yan) 重幹擾,同時也給本就深陷痛苦的李玟母親(qin) 及家人帶來了巨大的心理衝(chong) 擊和二次傷(shang) 害。要求涉嫌侵權責任人,於(yu) 聲明發布之日起7日內(nei) 下架、刪除含有上述侵權內(nei) 容的相關(guan) 圖片、視頻及文章,立即停止實施相應侵權行為(wei) 。
北京航空航天大學法學院副教授 趙精武:這種合法性取決(jue) 於(yu) 是否取得了死者近親(qin) 屬的同意。如果近親(qin) 屬已經同意,那麽(me) 這樣的行為(wei) 可能能夠豁免他的法律責任。我們(men) 國家的民法典第994條也做出了非常明確的規定,對於(yu) 死者的肖像隱私這些相關(guan) 的信息,由父母、子女、配偶請求相應的權利救濟,如果沒有這些相應的主體(ti) ,則由其他近親(qin) 屬來行使合法權益。
如何避免逝者數字人侵權或用於(yu) 不法用途?
采訪中“超級頭腦”工作室團隊告訴我們(men) , 近年來利用人工智能技術從(cong) 事電詐等不法活動的案例屢見不鮮,如何避免數字人或者換臉換聲服務成為(wei) 某些人非法逐利或從(cong) 事其他違法行為(wei) 的工具是他們(men) 一直在著力解決(jue) 的難題。
張澤偉(wei) 告訴記者,僅(jin) 僅(jin) 從(cong) 溝通上判斷客戶的意圖顯然並不夠,團隊成員正在從(cong) 合同和證明文件中慢慢摸索出一套法律流程。
“超級頭腦”工作室創始人 張澤偉(wei) :從(cong) 協議跟合同上去做約束,就是去做數字生命這一塊,是不可以用於(yu) 任何違法違規的途徑的,一旦知道我們(men) 立刻會(hui) 報警或者是向相關(guan) 機構進行舉(ju) 報。然後再一塊就是說會(hui) 從(cong) 他的一個(ge) 授權,對授權和關(guan) 係證明上去做證明跟約束,比如說你要給自己做,你必須自己授權給我們(men) 。你要給別人做,你需要得到別人的授權。如果是別人已經去世了,你必須要得到逝者的直係親(qin) 屬的授權來做。
使用逝者數據 倫(lun) 理和法律的邊界在哪裏?
據記者了解,自去年1月10日起施行的《互聯網信息服務深度合成管理規定》要求,“深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的,應當提示深度合成服務使用者依法告知被編輯的個(ge) 人,並取得其單獨同意。”我國民法典第994條規定,死者的肖像等受到侵害的,其配偶、子女、父母有權依法請求行為(wei) 人承擔民事責任。
中國人民大學未來法治研究院執行院長 張吉豫:特別在民法典製作的編纂的過程之中,就已經非常明確地考慮到了,當時就已經產(chan) 生的像深度合成這樣的一些技術可能帶來的風險。任何人都不能夠用信息技術來去偽(wei) 造這樣的方式去侵害他人的肖像權,而且也特別關(guan) 注到對於(yu) 聲音也可以去進行合成,所以在民法典裏麵也規定了那聲音相關(guan) 的權利也是參照著肖像權一起來去進行保護的。
專(zhuan) 家表示,目前的人工智能在麵對如此複雜的人文關(guan) 懷時,還存在諸多的技術限製以及難以解決(jue) 的倫(lun) 理道德問題,對於(yu) 我國目前已出台或者正在研究製定出台的法律法規和管理辦法,尊重人格尊嚴(yan) ,防止侵害他人受保護權益是最基本的倫(lun) 理和法律底線。
北京航空航天大學法學院副教授 趙精武:為(wei) 了解決(jue) 這類問題,科技部也在2023年9月發布了科技倫(lun) 理審查辦法,那麽(me) 通過建立一個(ge) 科技倫(lun) 理審查製度來預防科技倫(lun) 理層麵的風險,那AI逝者“複活”也在被規製的對象裏邊。近期也有專(zhuan) 家學者推出了人工智能法學者建議稿,其中基本的原則就是建立人工智能領域的科技倫(lun) 理審查,強調人工智能技術必須以人為(wei) 本,尊重人身自由和人格尊嚴(yan) 。
中國科學院自動化研究所人工智能倫(lun) 理與(yu) 治理中心主任 曾毅:我們(men) 可以想象到有些人是希望采用這樣的數字逝者來達到慰藉自己心靈的目的。但是它還有很多的隱患,比如說擁有數字逝者的時候,會(hui) 不會(hui) 使得人長期沉迷於(yu) 與(yu) 數字逝者之間的交互,從(cong) 而對心理產(chan) 生非常負麵的影響。這個(ge) 是數字逝者的這項人工智能的應用技術,可能給社會(hui) 帶來的長期潛在的隱患,也是我們(men) 是否應當開發這樣的人工智能技術必須去思考的倫(lun) 理道德的問題。
除了出台人工智能監管相關(guan) 的法律法規以外,不少專(zhuan) 家也表示,我們(men) 還需要采用人工智能的技術手段去治理人工智能發展。
中國科學院自動化研究所人工智能倫(lun) 理與(yu) 治理中心主任 曾毅:未來我們(men) 人工智能的產(chan) 品和服務在推向市場的時候,經過人工智能倫(lun) 理安全的檢測,我們(men) 給人工智能的產(chan) 品和服務去打分,讓它符合人工智能和我們(men) 的社會(hui) 對於(yu) 人工智能的期待。在產(chan) 品和服務發布之前,避免當中的可能的潛在的倫(lun) 理安全的隱患。
(總台央視記者 李可婧 石熠龍 蘇州台)
版權聲明:凡注明“來源:新利平台”或“新利平台文”的所有作品,版權歸高原(北京)文化傳(chuan) 播有限公司。任何媒體(ti) 轉載、摘編、引用,須注明來源新利平台和署著作者名,否則將追究相關(guan) 法律責任。