中新網3月30日電 美劇《西部世界》和好萊塢電影《終結者》裏曾描繪，人工智能(AI)的“覺醒”可能危及人類。最近，科幻片中的擔憂照進現實，有不少人工智能業(ye) 界“大佬”突然呼籲暫停開發更強大的AI係統，提出具有人類水平智能的AI係統可能“對社會(hui) 和人類構成潛在風險”。

　　他們(men) 的擔憂從(cong) 何而來？人工智能開發會(hui) 否危及人類的“文明控製權”？AI的發展是否已來到需要按下“暫停鍵”的轉折點？

　　一封公開信，四問AI風險

　　近期，美國億(yi) 萬(wan) 富翁埃隆·馬斯克和人工智能領域頂尖專(zhuan) 家、圖靈獎得主約書(shu) 亞(ya) ·本吉奧(Yoshua Bengio)等人聯名簽署了一封公開信，呼籲暫停開發比GPT-4更強大的AI係統至少6個(ge) 月，稱其“對社會(hui) 和人類構成潛在風險”。

　　呼籲暫停巨型AI訓練的公開信。圖片來源：“未來生命研究所”網站

　　這封發布在非營利性組織“未來生命研究所”(Future of Life Institute)網站上的公開信主張，在開發強大的AI係統之前，應先確認其帶來影響是積極的、風險是可控的。

　　信中詳述了具有人類水平智能的AI係統可能對社會(hui) 和人類帶來極大的風險，稱“這一點已經得到大量研究和頂級AI實驗室的認同”，並連續拋出四個(ge) 疑問：

　　- 我們(men) 是否應該讓機器用宣傳(chuan) 和謊言淹沒我們(men) 的信息渠道？

　　- 我們(men) 是否應該讓所有的工作自動化，包括那些令人滿意的工作？

　　- 我們(men) 是否應該發展最終可能在數量上超過我們(men) 、在智能上超越我們(men) 、能夠淘汰並取代我們(men) 的非人類思維？

　　- 我們(men) 應該冒著失去對我們(men) 文明控製的風險嗎？

　　公開信指出，如果不能迅速實施此類暫停，政府應當介入並采取措施。此外，“AI實驗室和獨立專(zhuan) 家應該利用這次暫停，共同開發和實施一套用於(yu) 高級AI設計和開發的共享安全協議，並由獨立的外部專(zhuan) 家進行嚴(yan) 格審計和監督”。

　　資料圖：人形機器人在電腦上打字的示意圖。

　　信中還呼籲開發人員和政策製定者合作，大幅加快強大的AI治理係統的開發。這其中至少應當涉及監管機構、審計和認證係統、監督和追蹤高性能AI係統、人工智能造成傷(shang) 害後的責任問題、為(wei) AI技術安全研究提供公共資金等方麵。

　　公開信在最後提到，如今，我們(men) 的社會(hui) 已經暫停其他可能造成災難性影響的技術，對於(yu) 人工智能也應該如此，“讓我們(men) 享受一個(ge) 漫長的‘AI之夏’，而不是毫無準備地進入秋天”。

　　技術、倫(lun) 理、利益，呼籲放慢腳步為(wei) 哪般？

　　從(cong) 這些內(nei) 容中不難看出，比起技術，公開信的支持者更在意的，是人工智能可能出現的“野蠻生長”，以及它的發展可能帶來的社會(hui) 和倫(lun) 理難題。

　　公開信中提到，此番暫停並不意味著從(cong) 總體(ti) 上暫停人工智能的開發，而是從(cong) 危險競賽中“後退一步”。人工智能的研究和開發應該重新聚焦於(yu) 使當今強大的、最先進的係統變得更加準確、安全、可解釋、透明、穩健、一致、可信且可靠。

　　紐約大學教授加裏·馬庫斯所人為(wei) ，“這封信並不完美，但精神是正確的”，他認為(wei) ，人們(men) 需要放慢腳步，直到可以更好地理解這一切帶來的後果。

　　目前，該公開信已獲上千人簽署，其中不乏開源人工智能公司Stability AI首席執行官莫斯塔克(Emad Mostaque)、穀歌母公司Alphabet旗下人工智能企業(ye) DeepMind研究人員、計算機科學家斯圖亞(ya) 特·羅素(Stuart Russell)等專(zhuan) 家學者和科技公司高管。

　　資料圖：馬斯克。

　　發布公開信的“未來生命研究所”則主要由馬斯克基金會(hui) 、矽穀社區基金會(hui) 等資助。特斯拉首席執行官馬斯克正在將人工智能應用於(yu) 自動駕駛係統，他也一直坦率表達自己對人工智能的擔憂。

　　路透社還稱，歐洲刑警組織(Europol)日前也表達了對ChatGPT等先進人工智能在倫(lun) 理和法律方麵的擔憂，警告此類係統可能會(hui) 被濫用於(yu) 網絡釣魚、虛假信息和網絡犯罪。此外，英國政府也公布了關(guan) 於(yu) 建立AI監管框架的提議。

　　在網絡上，這封信也引起熱烈討論，有網友表示認同，人們(men) 需要知道發生了什麽(me) ，“僅(jin) 僅(jin) 因為(wei) 我們(men) 知道可以建造它，並不意味著應該建造”。

　　但也有人懷疑馬斯克的動機，“馬斯克之所以會(hui) 簽署它，因是為(wei) 他想用自己的人工智能來賺錢。”

　　還有人分析，“這很可怕，但我認為(wei) 有些項目不需要停止。技術正在發展迅速，負責任的創新也是必要的。”

　　關(guan) 於(yu) 人類和AI關(guan) 係的思考，從(cong) 技術誕生之初就沒有停過。著名物理學家霍金也曾說過，“成功創造了人工智能，很可能是人類文明史上最偉(wei) 大的事件。但如果我們(men) 不能學會(hui) 如何避免風險，那麽(me) 我們(men) 會(hui) 把自己置於(yu) 絕境”。

　　如今，從(cong) 通過資格考試，到進行藝術“創作”，AI能做的事越來越多，朝著“智能”的方向越走越遠。但同時，利用AI技術進行網絡詐騙勒索、傳(chuan) 播非法信息等犯罪行為(wei) 也層出不窮。

　　不同於(yu) 物理世界技術創新成果轉化的漫長周期，AI技術突破往往會(hui) 通過互聯網一夜之間散播全球。在人類未能就AI倫(lun) 理、監管等找到妥善解決(jue) 之道前，這些討論和擔憂並不多餘(yu) 。