中新社北京7月19日電 題：AI永遠是人類的附屬品

　　——專(zhuan) 訪美國加州理工學院電氣工程和計算機科學教授亞(ya) 瑟·阿布-穆斯塔法

　　《中國新聞周刊》記者 霍思伊

　　由ChatGPT和GPT-4引發的“人工智能狂潮”遠比人們(men) 預想的持續更久，伴隨而來的爭(zheng) 議與(yu) 憂慮也在不斷發酵。回歸科學，反思以GPT-4為(wei) 代表的AI能力的邊界：它能做什麽(me) ？不能做什麽(me) ？最重要的是，人類現在必須采取什麽(me) 行動來實現“有益的AI”？《中國新聞周刊》近日就以上問題專(zhuan) 訪美國加州理工學院電氣工程和計算機科學教授亞(ya) 瑟·阿布-穆斯塔法(Yaser S. Abu-Mostafa)。他是人工智能領域的知名專(zhuan) 家，同時也是IEEE神經網絡委員會(hui) 的創始人之一，曾在多家科技公司擔任機器學習(xi) 顧問。

　　現將訪談實錄摘要如下：

　　AI的應用遠比設計更複雜和危險

　　記者：此前，埃隆·馬斯克等人簽署了聯名公開信，業(ye) 內(nei) 形成了對人工智能發展的兩(liang) 種截然不同的看法，你更認同哪方？

　　阿布-穆斯塔法：聯名公開信意圖是好的，但無法起到任何實質效果，因為(wei) 不會(hui) 真的有公司遵守並暫停六個(ge) 月的AI研發。我認為(wei) 這是對人工智能“過於(yu) 快速發展”的下意識反應，是沒有經過深思熟慮的行為(wei) 。我個(ge) 人不讚同暫停更強大AI模型的研發。現在要做的不是暫停，而是如何更好阻止其“不良使用”。所以我沒有簽署公開信。

　　如何推動更強有力的人工智能監督？政府需要通過立法對如何“合理地使用”AI進行約束或限製，歐盟《人工智能法案》是一個(ge) 開始。立法必須經過謹慎考量，而不是短期內(nei) 出於(yu) 對人工智能的恐懼或為(wei) 了應對想象中的風險而匆忙製定。目前為(wei) 止，我還沒有看到任何提議或法案經過了深思熟慮，並可以得到有效執行。

　　2023年7月6日，上海，2023世界人工智能大會(hui) 上，特斯拉“擎天柱”Tesla Bot人形機器人。陳玉宇攝

　　記者：如何使AI真正符合人類的價(jia) 值觀和道德準則？

　　阿布-穆斯塔法：這完全取決(jue) 於(yu) AI係統的開發者和使用者。人工智能沒有內(nei) 在的道德或惡意，它隻是服從(cong) 命令，做人類訓練它去做的事情。如果人類給它的是充滿偏見的數據，就會(hui) 誕生一個(ge) 充滿偏見的AI。因此OpenAI需要不斷調整，選擇一些好的數據或讓ChatGPT不回答惡意問題。但複雜之處在於(yu) ，即使開發者把整個(ge) AI係統設計得很“符合人類價(jia) 值觀”，仍會(hui) 有用戶從(cong) 不同角度使用它，這是開發者控製不了的。因此，AI應用遠比設計更複雜和危險。

　　人類社會(hui) 中，好壞標準是不明確的。訓練一個(ge) AI下棋，如AlphaGo，規則是明確的，AI經過訓練後很清楚如何界定“好的行為(wei) ”——隻要能贏就是一步好棋。但更多時候，要訓練AI去完成一些缺乏客觀好壞規則的任務，讓係統自身去理解什麽(me) 是“好的行為(wei) ”非常困難。

　　韓國當地時間2016年3月9日，韓國職業(ye) 9段李世石與(yu) 穀歌人工智能係統“阿爾法圍棋”(AlphaGo)進行了一場“人機大戰”。李世石在五番棋首戰中執黑186手中盤告負。圖為(wei) 媒體(ti) 觀看區。吳旭攝

　　記者：聯名公開信指出，最近幾個(ge) 月，人工智能實驗室正陷入一場失控的競賽(out-of-control race)，這是否真的在發生？

　　阿布-穆斯塔法：這是一種非常情緒化的表述。不過可以預料到，在短期未來AI產(chan) 業(ye) 格局中，世界範圍內(nei) 很可能隻有兩(liang) 到三個(ge) 非常強大的類似ChatGPT的人工智能工具占領整個(ge) 全球市場，因為(wei) 開發這樣的大模型成本巨大，需要數千個(ge) GPU(圖形處理器)核心運行2個(ge) 月，以及海量的數據和算力。這也是為(wei) 什麽(me) 目前所有最新的大模型進展都來自科技公司，而不是大學。

　　五年後是否可能誕生一種能節省大量計算資源的新模型，還未可知。如果以後真的出現一種完全不同的模型，可以讓成本從(cong) 10億(yi) 美元降至1000萬(wan) 美元，這就改變了遊戲規則，屆時將會(hui) 有大量玩家出現。

　　記者：大模型時代的到來，也和基於(yu) “預訓練+微調”這種自然語言處理(NLP)的主流範式有關(guan) 。2018年後，這種模式幾乎重塑了人工智能的商業(ye) 形態，你如何看待這種趨勢？

　　阿布-穆斯塔法：“預訓練+微調”是一種分而治之的巧妙方式，一次訓練AI專(zhuan) 注於(yu) 一個(ge) 問題並完善它。這使人們(men) 能在目前成就基礎上再接再厲，而非從(cong) 頭開始。

　　OpenAI將其對公眾(zhong) 開放的這個(ge) 主意很聰明，現在他們(men) 獲得了大量的數據和反饋，可用來訓練新一代係統，而且這些資源是獨家的，因為(wei) 公眾(zhong) 不會(hui) 對下一個(ge) 類似產(chan) 品產(chan) 生同樣多的興(xing) 趣。

　　2023世界人工智能大會(hui) 在上海舉(ju) 辦，展會(hui) 上微創機器人展示5G遠程手術技術。陳玉宇攝

　　AI隻是在複製人類的“外觀”

　　記者：如何理性客觀認知當下的人工智能水平和ChatGPT的能力邊界？

　　阿布-穆斯塔法：我有個(ge) 朋友問ChatGPT：“關(guan) 於(yu) 阿布-穆斯塔法，你知道什麽(me) ？”ChatGPT列出了關(guan) 於(yu) 我的一份詳細履曆和人物小傳(chuan) ，首段看起來非常專(zhuan) 業(ye) ，但接下來就有不少錯誤，比如搞錯了我的大學。這充分說明了ChatGPT的本質：某種意義(yi) 上，它隻是把所有信息以一種非常特殊的彼此相關(guan) 的方式放在一起。

　　人工智能使用了一種類似人類大腦的結構，這種結構以一種高效方式存儲(chu) 信息，看到新情況後推理判斷什麽(me) 是“最接近它的東(dong) 西”。這就是深度神經網絡所做的，已持續幾十年。

　　目前，人工智能整體(ti) 發展水平令人振奮。但即使在業(ye) 內(nei) ，真正了解所有技術細節的人很少，隻有OpenAI、Google這些參與(yu) 了大模型訓練的人才能說清楚，但他們(men) 對外分享信息有限。我推測，下一步最重要的突破可能集中在AI係統如何用更少資源達到相同的性能水平。

　　記者：沿這條路繼續走，AI是否能進化到理解“概念”和“常識”？有專(zhuan) 家認為(wei) GPT-4已初具“自我反思”能力，你怎麽(me) 看？

　　阿布-穆斯塔法：如果說人工智能已發展出自我反思能力，那一定是數量巨大的任務訓練帶來的，是通過合並足夠數量的“分散而零碎的智能任務”實現的。比如說做1000個(ge) ChatGPT，其中一個(ge) 對語言感興(xing) 趣，一個(ge) 處理數學問題，一個(ge) 負責視覺識別……直到其“能力”覆蓋幾乎人類所有領域，再合並為(wei) 一，它一定能表現出一種“通用的智能”，這就是“多模態機器學習(xi) ”的本質。

　　但這隻是表象，隻是看起來具備自我反思能力和通用智能。某種意義(yi) 上，這個(ge) 巨大係統隻是試圖複製人類的“外觀”。

　　2022世界人工智能大會(hui) 在上海拉開帷幕。中新社記者湯彥俊攝

　　記者：怎麽(me) 理解微軟研究人員稱，GPT-4已經顯示出接近人類智能或通用人工智能的“火花”？

　　阿布-穆斯塔法：問題的關(guan) 鍵是，“通用人工智能”(Artificial General Intelligence，AGI)到底是什麽(me) ？對於(yu) 通用人工智能，人類想追求的是：AI突然之間學會(hui) 了以上所有，能舉(ju) 一反三，而不是一次次學會(hui) 某個(ge) 特定任務。但這是一個(ge) 非常模糊的描述。

　　現在迫切需要就“通用人工智能”概念達成共識，用精確的計算機語言界定它，製定明確的檢驗規則。遵照這些規則，人類才能知道AGI是否已經實現、潛在的危險是什麽(me) 。

　　人類為(wei) 什麽(me) 這麽(me) 關(guan) 心“通用人工智能”，因為(wei) 它觸及了人性中最根本的東(dong) 西，侵犯了人類的自我(Ego)，即人類是不是最獨一無二的存在。對如何實現AGI，目前所有想法都隻是推測，人們(men) 隻能針對已看到的技術範式進行突破；但真實情況是，我們(men) 根本難以想象會(hui) 走上一條怎樣的路徑。

　　當人們(men) 談論“通用人工智能”時，承載了太多情感，有時甚至是不切實際的期望和恐懼，但這種恐懼把智能和“自我”混為(wei) 一談。人們(men) 必須冷靜下來，理性地把AGI視作一個(ge) 科學目標。

　　記者：人工智能是否能產(chan) 生“自我意識”？

　　阿布-穆斯塔法：我認為(wei) AI領域的任何技術進步都不可能產(chan) 生一個(ge) “有意識的實體(ti) ”。意識和情緒的“顯現”很容易做到，AI未來能“看起來像擁有了情感或意識”，就像電影裏有一個(ge) 演員表達出了某種強烈的情緒，但這隻是表演，是純粹的行為(wei) 表象。

　　對人類意識的定義(yi) 在科學上都是不確定的，客觀上也不可測量。我知道我有意識，你有意識，你知道愛是什麽(me) ，情感是什麽(me) ，悲傷(shang) 是什麽(me) ，因為(wei) 你能感覺到，你能與(yu) 它們(men) 聯係起來。但這些都是人類經驗。為(wei) 什麽(me) 會(hui) 這樣？我們(men) 不知道。

　　我認為(wei) AI始終是一個(ge) 無生命的機器，背後有嚴(yan) 密的齒輪在驅動它，這些齒輪就是參數。複雜的輸出可能會(hui) 給我們(men) 留下“那裏有一個(ge) 與(yu) 眾(zhong) 不同的人”的印象，但這種輸出不是來自意識，而是算法。為(wei) 什麽(me) 我們(men) 認為(wei) 有人在那裏？因為(wei) 當人們(men) 看到這個(ge) 輸出後，把它在腦海中與(yu) 過去的記憶、情感，與(yu) 人類自身聯係在一起。

　　2023年6月26日，江蘇蘇州國際博覽中心，觀眾(zhong) 在“2023全球人工智能產(chan) 品應用博覽會(hui) ”上參觀。王建康攝

　　常規工作或在更短時間內(nei) 被AI替代

　　記者：未來哪些行業(ye) 會(hui) 從(cong) AI發展中受益，哪些可能被顛覆？

　　阿布-穆斯塔法：所有行業(ye) 都會(hui) 從(cong) 人工智能的發展中受益，甚至以無法預料到的方式。

　　五年前有人問我：人工智能下一個(ge) 20年如何發展？我說，AI將在20年內(nei) 取代人類幾乎所有常規智能工作(routine intelligence tasks)，也就是“完成複雜任務但不需要創新的智能”，自動駕駛是一個(ge) 典型例子。這是一個(ge) 必須要積極解決(jue) 的社會(hui) 問題，否則很多人將麵臨(lin) 失業(ye) 。

　　ChatGPT誕生後，我修正了我的預期，我現在認為(wei) ，可能不需要20年，這些常規工作在更短時間內(nei) 就可能被AI替代，不管我們(men) 如何界定“通用人工智能”，常規智能是通向它的第一步。

　　記者：在常規智能工作之外，AI未來是否也會(hui) 取代一些更具有創造力的工作？

　　阿布-穆斯塔法：以AlphaGo為(wei) 例，你會(hui) 發現AI在某種意義(yi) 上也在進行“創造性的防禦”：為(wei) 贏得比賽，它發現了人類沒想到的防禦策略。我不知道這是不是創新或隻是自動化的產(chan) 物，因為(wei) 這背後是AI對海量策略的嚐試。“AI的創造力”目前也沒有很可靠的定義(yi) 。

　　2022年4月9日，在寧夏銀川鼓樓步行街，一名小朋友與(yu) 機器人“鐵蛋”互動。袁宏彥攝

　　記者：人類應如何與(yu) AI共存？

　　阿布-穆斯塔法：我們(men) 沒有與(yu) AI共存的壓力，AI永遠是人類的附屬品。(完)

　　受訪者簡介：

　　亞(ya) 瑟·阿布-穆斯塔法(Yaser S. Abu-Mostafa)，埃及裔美國計算機科學家，加利福尼亞(ya) 理工學院電氣工程和計算機科學教授。研究涵蓋人工智能、機器學習(xi) 、模式識別和數據科學等多個(ge) 領域，在人工智能教育和科普方麵做出重要貢獻。