繼ChatGPT後，近日，美國OpenAI公司發布了首個(ge) 視頻生成模型“Sora”。您隻要輸入一段文本指令，就可以生成一段逼真的視頻。然而，視頻生成模型在推進人工智能技術發展的同時，也引發了人們(men) 對人工智能深度偽(wei) 造視頻可能加劇錯誤信息和虛假信息傳(chuan) 播的擔憂。

　　您現在看到的視頻，就是視頻生成模型“Sora”製作而成。據美國OpenAI官網介紹，此次發布的文字轉視頻模型可以依據用戶輸入的指令，生成一段時長可達一分鍾的視頻。比如根據文本：“一位時尚女性走在東(dong) 京街頭，街道滿是霓虹燈和城市標誌。她穿著紅色長裙、黑色皮夾克和黑色靴子，戴著太陽鏡、塗著紅色口紅。”就可以生成眼前這樣的視頻。模型也能獲取現有的靜態圖像並從(cong) 中生成視頻，還能獲取現有視頻，進行擴展或填充缺失內(nei) 容。

　　在“Sora”誕生之前，美國人工智能初創公司Runway就曾推出過類似的技術，但是製作的視頻時長較短。

　　美國Runway公司創始人 巴倫(lun) 蘇埃拉：讓我們(men) 做一個(ge) 有雲(yun) 的天空，我可以選擇電影風格或預覽角度。我真的很喜歡這張，它看起來就像光是從(cong) 雲(yun) 裏出來的。人工智能正在掃描圖片，並由此生成一段視頻。你現在可以看到雲(yun) 正在移動，天空正在變暗，暴風雨就要來了。

　　當前，包括穀歌和Runway在內(nei) 的多家公司，都在積極研發此類人工智能項目。但OpenAI強調，“Sora”的突出之處在於(yu) 其圖像的真實感，以及能夠生成比其他模型更長的視頻片段。不過目前，“Sora”仍然存在缺陷，例如可能混淆一些文本指令中的空間細節，例如左右方向等。

　　人工智能產(chan) 品開發者 莫斯塔克：我認為(wei) 這是自互聯網出現以來，我們(men) 在技術上取得的最大飛躍之一，它將創造全新的行業(ye) ，將使媒體(ti) 更加令人興(xing) 奮和有趣。我認為(wei) 這將不可避免地創造大量新的工作崗位，我認為(wei) 它將改變一切。

　　不過人工智能技術帶來許多新機遇的同時，也不可避免地造成了前所未有的挑戰和隱患。其中，人工智能生成欺騙性內(nei) 容幹擾選舉(ju) 被認為(wei) 是全球麵臨(lin) 的重要挑戰。

　　當地時間1月23日，2024年美國總統選舉(ju) 共和黨(dang) 黨(dang) 內(nei) 初選在新罕布什爾州舉(ju) 行。在此之前，很多美國選民都表示，自己接到了一通“來自美國總統拜登的電話”。

　　人工智能生成的虛假電話錄音：真是一派胡言，當選票作數的時候，我們(men) 就能知道民主投票的價(jia) 值了。你要把選票留到11月再投。

　　很快，白宮新聞秘書(shu) 皮埃爾就澄清說，這是一則偽(wei) 造的電話錄音。

　　意大利《共和國報》報道說，視頻生成模型可以讓“名人或政客說從(cong) 未說過的話、做從(cong) 未做過的事”，如果有人利用模型克隆拜登、特朗普或其他競選美國總統或2024年歐洲議會(hui) 席位的人，可能會(hui) 加劇錯誤信息和虛假信息的傳(chuan) 播。斯坦福大學研究員巴西勒·西蒙擔心，這些工具會(hui) 在選舉(ju) 中被濫用，並擔心公眾(zhong) 將“不再知道該相信什麽(me) ”。

　　視頻生成模型也讓靠製作視頻謀生的人以及電影從(cong) 業(ye) 者感到擔憂。Runway公司創始人巴倫(lun) 蘇埃拉直言，未來電影製作的門檻和成本將大大降低。

　　美國Runway公司創始人 巴倫(lun) 蘇埃拉：用手機就能拍一部被數億(yi) 人觀看的電影，這將改變電影業(ye) 的格局。

　　有網友坦言：“幸好人工智能視頻和真實視頻目前不算太難區分。”

　　但也有網友擔心道：“真是受夠了，我要失去我的工作了。”“捏造的政治宣傳(chuan) 將遍布互聯網。”

　　還有網友質疑：“我好奇生成這些視頻的學習(xi) 材料來源，為(wei) 了生成有效視頻，它需要大量不同的視頻數據”“人工智能的發展就像無人駕駛的汽車，不知道會(hui) 走向何方。”

　　專(zhuan) 家解讀：生成式人工智能技術進步明顯

　　全球生成式人工智能技術發展迅猛，廣泛應用於(yu) 越來越多的行業(ye) 中。如何看待人工智能的發展？來聽聽中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專(zhuan) 家曾毅的解讀。

　　中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專(zhuan) 家 曾毅：人工智能“Sora”在生成數據的真實性、連續性上的進步應該說是非常明顯的。最新的進展，將視覺和聽覺的數據跨模態的生成，產(chan) 生的用戶體(ti) 驗可以說是更上一層樓的。

　　現階段人工智能仍存在違反常識性錯誤

　　中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專(zhuan) 家 曾毅：一方麵，我們(men) 國家的人工智能相關(guan) 的研究和產(chan) 業(ye) 有能力，而且一定要盡快趕上。因為(wei) “Sora”相關(guan) 的生成式人工智能技術，可以降低人工影視娛樂(le) 文化產(chan) 品等相關(guan) 的開發的成本和門檻。另一方麵，也需要指出，這並不意味著生成式人工智能已經真正理解了我們(men) 的物理世界，並可以完全替代這些產(chan) 業(ye) 當中傳(chuan) 統需要人類來完成的工作。比如說現在的“Sora”係統生成的視頻，還有很多違反生活和物理常識的錯誤。

　　AI快速發展 監管麵臨(lin) 挑戰

　　中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專(zhuan) 家 曾毅：未來，應當在積極探索這些技術潛在的應用和對人類工作的互補的同時，充分地關(guan) 注生成式人工智能給社會(hui) 帶來的潛在的負麵影響。比如說“Sora”在連續的高精度的視頻生成方麵，它所采用的這個(ge) 技術，使產(chan) 生的人工智能造假的水平，可以說達到了一個(ge) 前所未有的高度，給眼見為(wei) 實帶來了更大的挑戰。

　　中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專(zhuan) 家 曾毅：而對於(yu) 公眾(zhong) 而言，區分虛假信息可以說是難上加難，對於(yu) 視覺取證、執法等等帶來的挑戰也可以說是非常顯著的。一方麵，人工智能治理相關(guan) 政策的發展和落實一定要跟上；但另外一方麵，生成式人工智能技術發展，它的研發機構、企業(ye) 要同步地發展和推廣更高水平的自動化鑒偽(wei) 技術。隻有這樣，生成式人工智能技術才能被更健康地研發和使用。