據美國媒體(ti) 日前披露，上周，很多人接到了通過一家人工智能初創公司的技術“深度偽(wei) 造”的美國總統拜登電話呼叫，“假拜登來電”迅速成為(wei) 美國多家媒體(ti) 的熱門話題，也再度引發了美國社會(hui) 關(guan) 於(yu) 人工智能“深度偽(wei) 造”可能影響大選的討論。

　　冒充拜登的機器人語音電話錄音：把你們(men) 的選票留在11月份再投很重要。在這周二(23日)投票，隻會(hui) 讓共和黨(dang) 人得逞，讓特朗普再次當選為(wei) 共和黨(dang) 候選人。

　　上周美國總統大選共和黨(dang) 黨(dang) 內(nei) 初選在新罕布什爾州舉(ju) 行前，部分選民接到了這樣一通來電。白宮新聞秘書(shu) 卡裏娜·讓-皮埃爾22日證實，這一來電是“偽(wei) 造，不是由總統錄製”。

　　美國媒體(ti) 日前援引消息人士的話報道稱，美國人工智能初創公司“十一實驗室”暫時關(guan) 閉了一名用戶的賬戶。美國語音欺詐檢測公司——“靜默”公司稱，分析發現，“十一實驗室”公司的科技被用於(yu) 製作冒充拜登的機器人語音電話錄音。“十一實驗室”公司在一份聲明中稱將嚴(yan) 肅對待人工智能技術被濫用的情況，但對近日引發關(guan) 注的“假拜登來電”事件不予置評。

　　新罕布什爾州總檢察長表示，正在調查這一事件，並呼籲選民忽視這類假消息。

　　OpenAI停總統參選人仿真聊天機器人賬戶

　　事實上，人工智能已經滲入美國總統競選活動。

　　不久前，矽穀的科技開發者為(wei) 民主黨(dang) 總統參選人迪恩·菲利普斯創造了一個(ge) 仿真聊天機器人，稱用戶可以與(yu) 模仿菲利普斯的人工智能產(chan) 品對話。本月20日，美國人工智能公司OpenAI表示，已經停用了該開發者賬戶，稱這一做法違反了該公司禁止在競選活動中濫用人工智能技術的政策。

　　“深度偽(wei) 造”模仿競選人士 欺騙選民

　　此前，人工智能生成的虛假信息也已多次幹擾美國政治活動。

　　在去年2月舉(ju) 行的芝加哥市長選舉(ju) 第一輪投票前夕，社交媒體(ti) 上出現了一段關(guan) 於(yu) 候選人保羅·瓦拉斯的視頻，偽(wei) 造瓦拉斯的聲音發表言論，聲稱“警察隨隨便便就可以射殺嫌疑人”，並呼籲削減警察經費。

　　冒充瓦拉斯的機器人語音錄音：人們(men) 卻對這些情況視而不見。

　　在瓦拉斯向社交媒體(ti) 平台發出投訴之後，社交媒體(ti) 刪除了這段視頻，但該視頻在下架前已經被瀏覽了數千次。

　　人工智能帶來“深度偽(wei) 造”

　　立法慢引擔憂

　　當前，人工智能的興(xing) 起推動了各行業(ye) 的變革創新，但同時也引發了人們(men) 的不少擔憂。其中，基於(yu) 人工智能技術的“深度偽(wei) 造”現象受到廣泛關(guan) 注。“深度偽(wei) 造”是指對一個(ge) 人的聲音或圖像進行數字更改並意圖造成傷(shang) 害。這種行為(wei) 目前不僅(jin) 出現在美國政治中，也波及美國娛樂(le) 圈乃至人們(men) 生活的方方麵麵，引發美國輿論的擔憂和批評。

　　美國媒體(ti) “微軟—全國廣播公司”在報道中提出疑問，2024年將是“深度偽(wei) 造”的大選年嗎？

　　冒充拜登的機器人語音電話錄音：把你們(men) 的選票留在11月份再投很重要。

　　美國網絡安全專(zhuan) 家 克裏斯·克雷布斯：生成這類內(nei) 容非常容易，這就是所謂的20秒規則。隻需要一個(ge) 人20秒的聲紋，就能生成這樣的內(nei) 容。我認為(wei) 執法部門、聯邦調查局和司法部長辦公室將麵臨(lin) 一些挑戰。不幸的是，我認為(wei) 這隻是我們(men) 將在選舉(ju) 季看到的冰山一角。

　　美國政府監管組織“捍衛公眾(zhong) 利益組織”負責人羅伯特·韋斯曼批評稱，政治“深度偽(wei) 造”時刻已經到來，政策製定者必須盡快采取保護措施，否則將麵臨(lin) 選舉(ju) 混亂(luan) 。“深度偽(wei) 造”會(hui) 播下混亂(luan) 的種子，使欺詐行為(wei) 永久化。

　　近日，美國流行樂(le) 歌手泰勒·斯威夫特也成為(wei) “深度偽(wei) 造”技術的又一受害者，虛假合成的不雅照在社交網絡瘋狂傳(chuan) 播，引發美國媒體(ti) 對人工智能技術被濫用的質疑。

　　記者：對這種技術被濫用的情況白宮有多擔心？

　　白宮發言人 卡裏娜·讓－皮埃爾：雖然社交媒體(ti) 公司在內(nei) 容管理方麵有獨立決(jue) 策權。但我們(men) 認為(wei) ，它們(men) 在嚴(yan) 格落實其監管製度上應起到重要作用，以防止錯誤信息和未經本人允許的私密圖像傳(chuan) 播。令人遺憾的是，我們(men) 都知道，執法不嚴(yan) 對婦女和女孩的影響更為(wei) 惡劣。

　　人工智能技術飛速發展，但美國相關(guan) 的監管政策和立法卻跟進遲緩。業(ye) 內(nei) 人士指出，科技發展的雙刃劍僅(jin) 靠企業(ye) 的自律是無法掌控的，人工智能技術的濫用迫切需要政府監管。

　　美國消費者技術協會(hui) 首席執行官 夏皮羅：政府需要在人工智能領域扮演重要角色，確保設置安全屏障和護欄，讓產(chan) 業(ye) 內(nei) 人士知道，哪些能做，哪些不能做。

　　2023年10月，美國總統拜登簽署行政令，為(wei) 本國人工智能安全製定新標準，要求美國人工智能係統的研發人員與(yu) 政府分享其安全測試結果及其他關(guan) 鍵信息、完善相關(guan) 標準和測試工具等，但該行政令缺乏強製執行效能。

　　密爾沃基工程學院計算機科學項目主任 德裏克·賴利：我們(men) 的政府行動不夠快，跟不上正在發生的變化。所以我認為(wei) ，我們(men) 不太可能看到有效的監管。(央視新聞客戶端)