近年來，人工智能大模型技術的湧現，掀起新一代人工智能發展的研究熱潮，也為(wei) 各行各業(ye) 應用人工智能帶來新的發展機遇。

　　人工智能的未來充滿哪些可能性？我們(men) 如何應對？記者采訪了有關(guan) 專(zhuan) 家。

　　人工智能研究正從(cong) 以往的學術牽引更多轉為(wei) 需求牽引

　　作為(wei) 新一輪科技革命和產(chan) 業(ye) 變革的重要驅動力量，人工智能被普遍認為(wei) 將對經濟社會(hui) 發展產(chan) 生深遠影響。

　　近年來，人工智能研究正從(cong) 以往的學術牽引更多轉為(wei) 需求牽引，人工智能的發展目標正發生大的轉變。

　　在浙江大學人工智能研究所所長吳飛看來，人工智能正由原來的“用計算機模擬人的智能”，向著三個(ge) 方向拓展：“機器+人”（用機器與(yu) 人結合成增強的混合智能係統），“機器+人+網絡”（用機器、人、網絡結合組織成新的群體(ti) 智能係統），“機器+人+網絡+物”（用機器、人、網絡和物結合而成的智能城市等更複雜的智能係統）。在“賦能社會(hui) ”的應用驅動下，一係列智能技術正在蓬勃發展。

　　北京郵電大學人工智能學院人機交互與(yu) 認知工程實驗室主任劉偉(wei) 介紹，從(cong) 使用數學模型建立機器智能、借助統計概率實現機器學習(xi) ，再到試圖借助遷移方法實現上下文感知的行為(wei) 智能係統，這三類人工智能發展趨勢體(ti) 現了向人機環境係統邁進的發展路徑。“具備對環境的感知、理解和交互能力，才算真正意義(yi) 上的通用人工智能。”劉偉(wei) 說。

　　2017年國務院印發的《新一代人工智能發展規劃》，明確了多種人工智能的技術形態，其中包括跨媒體(ti) 智能、群體(ti) 智能、混合增強智能等。

　　吳飛舉(ju) 例，手術機器人參與(yu) 的外科手術無法由醫生獨立完成，也無法由機器人單獨完成，呈現出人機協同混合增強智能特征。“更多的垂直行業(ye) 也正在加快相關(guan) 人機交互探索，要麽(me) 將人的作用引入智能係統，要麽(me) 在人工智能係統中引入受生物啟發的智能計算模型。人機通過不斷的彼此交互、相互學習(xi) ，達到持續增進自身智能水平的目的。”吳飛說。

　　通過技術和法律等手段規避人工智能風險

　　人工智能造福人類，同時也存在潛在風險。

　　“人工智能的風險，主要存在於(yu) 這樣幾種可能的情況：一是惡意使用人工智能和錯誤使用人工智能；二是軟件漏洞與(yu) 硬件失效造成人工智能故障；三是環境變化造成人工智能失控。”劉偉(wei) 說。

　　人工智能使用不當的風險已引發人們(men) 關(guan) 注。例如，人工智能技術可收集和分析海量數據，有可能導致個(ge) 人隱私泄露、數據泄露和網絡攻擊；人工智能技術可生成虛假照片、視頻等，助長網絡欺詐等不法行為(wei) 。人工智能主題的科幻電影所描繪的超前場景，也讓人們(men) 思考人工智能技術可能帶來的倫(lun) 理問題，例如，人類未來如何與(yu) 有“智能”的機器相處？

　　在吳飛看來，人類始終是人工智能高度、廣度和深度的總開關(guan) 與(yu) 決(jue) 定者，也是人和人造物的協調者。因此，一方麵不能簡單地將人工智能等同於(yu) 人類大腦，盲目相信“人工智能替代人類”的觀點，另一方麵也要善於(yu) 利用人工智能這一人類幫手，在人機協同中創造更加美好的未來。

　　專(zhuan) 家認為(wei) ，通過技術和法律等手段，人工智能相關(guan) 風險可以規避，人類也有能力找到化解風險的有效手段。

　　我國始終是人工智能治理的積極倡導者和實踐者。2021年9月，國家新一代人工智能治理專(zhuan) 業(ye) 委員會(hui) 發布了《新一代人工智能倫(lun) 理規範》，強調將倫(lun) 理道德融入人工智能全生命周期。2023年10月，我國在第三屆“一帶一路”國際合作高峰論壇期間發布《全球人工智能治理倡議》，圍繞人工智能發展、安全、治理三方麵係統闡述了人工智能治理中國方案，充分體(ti) 現了我國在處理人工智能治理問題上的大國擔當。

　　建立良好生態係統支撐人工智能賦能社會(hui)

　　近年來，越來越多的國家將人工智能發展置於(yu) 國家戰略層麵，在頂層設計中加入防止人工智能技術壟斷和技術無序擴張等理念。

　　如何防範人工智能技術被濫用？

　　受訪專(zhuan) 家表示，應該建立多學科、多領域的合作，鼓勵科學家、工程師以及公眾(zhong) 廣泛參與(yu) ，共同探討人工智能的發展方向、應用領域和道德倫(lun) 理問題。全世界應該攜手，堅持發展和安全並重的原則，確保人工智能技術的發展符合人類的整體(ti) 利益。

　　劉偉(wei) 表示，從(cong) 技術手段上看，為(wei) 了增加人工智能的公平性、可信任性、可解釋與(yu) 透明度、安全性等，研發主體(ti) 從(cong) 頂層設計、過程控製、工程收尾等整個(ge) 流程中都要保持人機環境係統的設計思路。

　　瑞萊智慧首席執行官田天認為(wei) ，要紮實做好人工智能基礎理論攻關(guan) ，提升人工智能的內(nei) 在安全性能；鍛造、儲(chu) 備對新一代人工智能的安全評測能力，掌握對其準確性、效率、內(nei) 容安全、抗攻擊能力等多個(ge) 維度進行評測的方法和手段。同時，還要著力研發提供必要的安全工具，比如提供深度偽(wei) 造檢測工具幫助公眾(zhong) 辨識信息真偽(wei) 、防範網絡欺詐等。

　　數據與(yu) 算法安全是人工智能安全的核心。專(zhuan) 家表示，要重視高質量語料的建設，通過精標數據、反饋數據來進行優(you) 化訓練，最終實現模型輸出的選優(you) 除劣。

　　吳飛認為(wei) ，推動人工智能技術賦能社會(hui) 需要良好生態係統的整體(ti) 支撐，不僅(jin) 僅(jin) 隻是技術研發本身。要把握人工智能技術屬性和社會(hui) 屬性高度融合的特征，加強前瞻預防與(yu) 約束引導。“一個(ge) 良好的生態係統可有機聯結倫(lun) 理與(yu) 道德、技術與(yu) 產(chan) 業(ye) 、資本與(yu) 市場，在這樣一個(ge) 生態係統中，每個(ge) 來自不同領域的人工智能參與(yu) 者都能從(cong) 中獲益。”吳飛說。

　　《 人民日報 》（ 2024年01月14日 06 版）