◎記者 倪 麟

　　隨著《全球人工智能治理倡議》的發布，人工智能治理再次引發全球關(guan) 注。作為(wei) 引領科技革命和產(chan) 業(ye) 變革的戰略性力量，人工智能的廣泛應用正在深刻改變經濟社會(hui) 結構，重塑人們(men) 的生活方式。

　　同時，人工智能也帶來改變就業(ye) 結構、衝(chong) 擊法律與(yu) 社會(hui) 倫(lun) 理、侵犯個(ge) 人隱私等問題，對政府管理、經濟安全和社會(hui) 穩定乃至全球治理產(chan) 生深遠影響。

　　當前，該如何讓人工智能拾起初心，平衡其安全和發展？科技日報記者近日邀請中國工程院院士沈昌祥、百度首席技術官王海峰、清華大學人工智能研究院視覺智能研究中心主任鄧誌東(dong) 共同探討，解讀人工智能發展之路。

　　本意：人工和智能，孰輕孰重

　　記者：人工智能定義(yi) 最早出現在1956年達特茅斯會(hui) 議上。從(cong) 各位的實踐來看，人工智能是什麽(me) ？

　　沈昌祥：人工智能是指通過人類設計和編程，使智能機器能夠完成各種複雜任務，從(cong) 而取代傳(chuan) 統人工角色。

　　王海峰：人工智能是研究和開發模擬、延伸和擴展人類智能的理論、方法、技術及應用係統的科學。現階段，人工智能已成為(wei) 引領新一輪科技革命和產(chan) 業(ye) 變革的戰略性技術，正驅動第四次工業(ye) 革命，將人類社會(hui) 帶入智能時代。

　　鄧誌東(dong) ：從(cong) 實踐來看，人工智能具有模擬人類解決(jue) 各種複雜任務的能力。

　　記者：隨著ChatGPT等產(chan) 品的出現，有人認為(wei) 人工的作用逐漸被智能取代，也有人認為(wei) 智能隻是輔助人工的工具。在各位所屬領域中，對於(yu) 人工智能中“人工”與(yu) “智能”的權衡有何看法？

　　沈昌祥：智能機器是由人類智慧演化而來的智能產(chan) 品，能根據人類的喜好和需求，提供個(ge) 性化服務。智能機器的所有動作和行為(wei) 都是由人類編程和控製的，不可能完全脫離人類的掌控。

　　王海峰：人工智能發展要“以人為(wei) 本”，增進人類福祉。以大語言模型為(wei) 代表的人工智能技術飛速發展，文心一言、ChatGPT可與(yu) 人對話、輔助創作，提升人們(men) 的工作效率與(yu) 生活體(ti) 驗。本質上它仍是提升生產(chan) 力的工具，能替代人類完成部分工作，也創造了更多工作機會(hui) 。未來，人類將作為(wei) 管理者，人工智能將輔助人，與(yu) 人協同，提高工作效率，激發創造力。社會(hui) 各界應對人工智能抱有正確認知和合理期待，推動人工智能發展，使其更好地為(wei) 人類服務。

　　鄧誌東(dong) ：“人工”與(yu) “智能”密不可分。人工智能指機器模擬實現的人類智能，兩(liang) 者關(guan) 係應稱為(wei) 人工智能與(yu) 人類的關(guan) 係。短期內(nei) ，通用人工智能是輔助工具，幫助人類完成挑戰性任務。長遠來看，交互式人工智能會(hui) 推動人類與(yu) 智能體(ti) “共融”，邁向“人—機融合發展”的嶄新世界。

　　定位：增長產(chan) 品還是基礎設施

　　記者：人工智能對相關(guan) 行業(ye) 發展產(chan) 生了重要影響。各位更傾(qing) 向於(yu) 將人工智能視為(wei) 增長產(chan) 品還是基礎設施？

　　沈昌祥：人工智能最初是獨立產(chan) 品，後來被集成為(wei) 具有各種功能的設備。當設備相互連接、協調工作時，就形成了係統。這些係統的集合和互相作用，構建起人工智能基礎設施的框架，為(wei) 我們(men) 提供各種產(chan) 品和服務。

　　記者：在人工智能基礎設施建設領域，各位對哪個(ge) 方麵特別關(guan) 注？

　　沈昌祥：安全問題至關(guan) 重要。人工智能衍生出人工智能自身失誤、智能硬件被惡意襲擊以及機器人智能行為(wei) 體(ti) 失控等重大風險。需對這些問題加強研究和防範，構建由法律、戰略和製度等組成的安全可信的保障體(ti) 係，確保人工智能基礎設施的安全、穩定、可持續運行。

　　王海峰：我長期關(guan) 注深度學習(xi) 平台和大模型。深度學習(xi) 平台相當於(yu) 智能時代的操作係統，處於(yu) 人工智能技術體(ti) 係的關(guan) 鍵核心位置。深度學習(xi) 呈現出標準化、自動化、模塊化的特征，推動人工智能進入工業(ye) 大生產(chan) 階段。隨著深度學習(xi) 技術的普及和預訓練技術的突破，大模型已成為(wei) 人工智能發展的主流方向，具有效果好、泛化性強、研發流程標準化的特點，正成為(wei) 人工智能技術及應用的新基座。

　　鄧誌東(dong) ：從(cong) 文本單模態的基礎大型語言模型到原生多模態大型語言模型，需要解決(jue) 高水平人工智能通用大模型的API接入問題，推進“以我為(wei) 主”的人工智能基礎設施建設，包括人工智能芯片與(yu) 雲(yun) 服務、開源框架生態建設等。視覺智能領域需要打好基礎，從(cong) 國家層麵推進人工智能基礎設施建設，補短板，賦能從(cong) 基礎與(yu) 基座大模型到垂域模型的開發與(yu) 應用。

　　記者：企業(ye) 在利用人工智能時可能麵臨(lin) 雙重需求。能否根據經驗，談談在這種情況下，企業(ye) 如何將人工智能的價(jia) 值最大化？

　　沈昌祥：企業(ye) 需要考量產(chan) 業(ye) 數字化、數字產(chan) 業(ye) 化以及社會(hui) 智能化的需求，充分利用人工智能技術，提升生產(chan) 效率和服務質量。同時，應高度重視人工智能領域的人才培養(yang) 與(yu) 引進，推動技術研發，以保持技術領先地位。還應加強與(yu) 其他行業(ye) 的合作，不斷探索新的商業(ye) 模式和應用場景，為(wei) 社會(hui) 提供更便捷、更高效的服務。

　　王海峰：百度既是人工智能基礎設施建設者，也是人工智能技術創新引領者。以飛槳深度學習(xi) 平台、文心大模型等為(wei) 代表的人工智能技術，已成為(wei) 智能時代的重要基礎設施，賦能製造、能源、農(nong) 業(ye) 等領域，帶動新技術、新產(chan) 品、新業(ye) 態等的發展。大模型產(chan) 業(ye) 落地，可采取“集約化生產(chan) ，平台化應用”模式，即具有算法、算力和數據綜合優(you) 勢的企業(ye) 將模型生產(chan) 的複雜過程封裝起來，通過低門檻、高效率的生產(chan) 平台，為(wei) 千行百業(ye) 提供服務。文心大模型支撐大量AI原生應用的開發，重構現有產(chan) 品，“從(cong) 0到1”構想出全新產(chan) 品，構建人工智能原生應用生態，推動經濟社會(hui) 高質量增長。

　　鄧誌東(dong) ：以多模態大型語言模型為(wei) 代表的通用人工智能產(chan) 業(ye) 的發展，尚處於(yu) 產(chan) 業(ye) 早期。不同企業(ye) 應有不同側(ce) 重，人工智能頭部企業(ye) 要對標具有國際一流水平的基礎、基座大模型產(chan) 品，縮短高性能AI芯片的國際差距。中小企業(ye) 要積極開展人工智能價(jia) 值與(yu) 應用產(chan) 品的研發，著重於(yu) 應用場景多樣性、落地速度與(yu) 商業(ye) 模式創新。

　　風險：無處不在，誰更堪憂

　　記者：當前人工智能風險普遍存在嗎？請結合具體(ti) 案例說明。

　　沈昌祥：人工智能風險與(yu) 網絡安全密切相關(guan) 。網絡安全是人工智能發展的底座，其風險度=脆弱度×威脅度，其中脆弱度來源於(yu) 圖靈計算原理缺少攻防安全理念、馮(feng) ·諾依曼體(ti) 係結構缺少防護部件和重大工程應用無安全治理服務三大原始性缺失。這使得網絡空間極其脆弱，受網絡攻擊的風險性增加。2021年5月7日，美國最大的成品油管道運營商科洛尼爾管道運輸公司（Colonial Pipeline）受到勒索軟件攻擊，被迫關(guan) 閉其美國東(dong) 部沿海各州智能化供油網絡，美國政府宣布美國17個(ge) 州和華盛頓特區進入緊急狀態。

　　王海峰：從(cong) 曆次工業(ye) 革命來看，驅動科技革命和產(chan) 業(ye) 變革的技術，無論是機械技術、電氣技術、信息技術，還是當前的人工智能技術，在為(wei) 人類帶來巨大價(jia) 值的同時，也會(hui) 帶來一定的風險。但隨著科技的進步，人類有足夠的能力控製風險，充分發揮新技術的價(jia) 值。

　　鄧誌東(dong) ：通用人工智能的發展速度已超出大多數人的預期。隻要通用人工智能發展，其風險就必然會(hui) 普遍存在。從(cong) 法律、倫(lun) 理、隱私到就業(ye) 等，各個(ge) 領域與(yu) 賽道、千行百業(ye) 都麵臨(lin) 重寫(xie) 、重塑的挑戰與(yu) 風險。

　　記者：在自動駕駛、智慧醫療和人臉識別等特定領域，人工智能風險是否更為(wei) 突出？

　　沈昌祥：自動駕駛、智慧醫療和人臉識別等技術，一旦出現問題將威脅到人類的生命安全和財產(chan) 安全。IT係統設計不能窮盡所有邏輯，利用邏輯缺陷挖掘漏洞進行攻擊的風險一直存在，傳(chuan) 統“封堵查殺”難以應對未知惡意攻擊，找漏洞、打補丁的思路也不利於(yu) 整體(ti) 網絡安全，需要通過由被動防禦轉為(wei) 主動免疫的方式來降低人工智能特定領域風險。

　　治理：安全與(yu) 發展能否相向而行

　　記者：隨著人工智能技術的持續發展，數據隱私和安全、能耗等問題日益凸顯。你們(men) 認為(wei) ，針對這些問題應先發展後治理還是邊發展邊治理？

　　沈昌祥：要注重治理和發展平衡。應構建主動免疫可信計算新模式，打造計算部件和防護部件為(wei) 核心的並行體(ti) 係結構，建設可信安全管理中心支持下的主動免疫的防護框架，實現主體(ti) 、客體(ti) 、操作、環境可信動態訪問控製，確保體(ti) 係結構、資源配置、操作行為(wei) 、數據存儲(chu) 、策略管理可信。以此達到讓攻擊者進不去、非授權者重要信息拿不到、竊取保密信息看不懂、係統和信息改不了、係統工作癱不成和攻擊行為(wei) 賴不掉的防護效果，全方位維護人工智能安全。

　　王海峰：要堅持發展和安全並重的原則，保障安全的同時支持和鼓勵創新發展。隻有持續發展人工智能技術，才能在發展中發現問題、解決(jue) 問題，把握科技競爭(zheng) 主動權。

　　記者：從(cong) 各位的經驗來看，行業(ye) 或者企業(ye) 應如何預防人工智能潛在的安全問題？

　　沈昌祥：要科學嚴(yan) 謹分析研究，堅持自主創新，掌握核心競爭(zheng) 力，把握主動優(you) 勢。要以具有可信計算功能的國產(chan) 軟硬件設備為(wei) 基礎，在完備的法律、戰略和製度的支持下，盡快建立起完整的可信計算產(chan) 品鏈，打造安全可信人工智能新生態，築牢數字經濟發展基石。

　　王海峰：正確認識人工智能潛在的安全問題。任何一項技術的發展和應用，都會(hui) 帶來潛在的安全問題，而人工智能作為(wei) 驅動科技革命和產(chan) 業(ye) 變革的戰略性技術，其安全問題更加受到關(guan) 注。技術安全問題，可以用技術的手段來解決(jue) ；產(chan) 業(ye) 安全問題，一方麵政府應支持自主可控的人工智能技術及應用，另一方麵應建立健全相關(guan) 法律法規，推動產(chan) 業(ye) 在合適尺度、明確標準之下發展人工智能技術及應用。

　　鄧誌東(dong) ：人工智能發展在安全問題上尚存在許多不確定性。行業(ye) 或企業(ye) 需要邊走邊看，大膽深入，小心布防，造福人類。

　　記者：人工智能治理已經上升為(wei) 國際競爭(zheng) 合作的重要議題。在推動人工智能治理國際合作方麵，各位有何見解？

　　沈昌祥：應認真貫徹執行《全球人工智能治理倡議》，從(cong) 創新發展、安全保障、治理三個(ge) 方麵著手，全方位保障我國人工智能基礎設施，並積極走出國門，與(yu) 全球夥(huo) 伴共建網絡空間命運共同體(ti) 。

　　王海峰：人工智能領域的研究本身是開放合作的，人工智能治理是其研究熱點之一，各方都很關(guan) 切。來自全球學術界、產(chan) 業(ye) 界的專(zhuan) 家學者，都可以通過開源社區、項目合作、學術會(hui) 議、專(zhuan) 題研討等多種方式開展合作交流，貢獻智慧。

　　鄧誌東(dong) ：人工智能的治理與(yu) 國際競合，已超越了學術與(yu) 產(chan) 業(ye) ，需要更強而有力的國際合作，以期取得國際共識，盡快構建具有約束性、一致性與(yu) 平衡性的國際規範。