自去年底以來，生成式人工智能熱度高漲，國內(nei) 公開發布的大模型已達百餘(yu) 個(ge) ，不僅(jin) 帶動了人工智能產(chan) 業(ye) 的蓬勃發展，也為(wei) 其他產(chan) 業(ye) 注入了新動能。

　　在日前舉(ju) 辦的第十一屆互聯網安全大會(hui) （ISC 2023）上，多位專(zhuan) 家提出，通用人工智能發展日益體(ti) 現出技術創新快、應用滲透強、經濟社會(hui) 影響大、國際競爭(zheng) 激烈的特點。但發展與(yu) 安全並重，對於(yu) 當前火熱的人工智能大模型以及人工智能技術，都需要把數字安全放在更突出的位置，讓數字安全與(yu) 人工智能技術融合發展。

　　發展與(yu) 安全並重

　　“人工智能是引領新一輪產(chan) 業(ye) 變革的核心技術引擎，為(wei) 各領域提供信息化、數字化、智能化的解決(jue) 方案，正在引發經濟結構重大變革，實現社會(hui) 生產(chan) 力整體(ti) 躍升。”中國工程院院士鄔江興(xing) 說。

　　中國工程院院士鄔賀銓認為(wei) ，以人工智能為(wei) 代表的數字技術將重塑數字內(nei) 容生產(chan) 方式和消費模式，通用人工智能將實現知識與(yu) 數據雙輪驅動，把智腦加進去，未來單個(ge) 模型有望通過遷移學習(xi) 支持多種業(ye) 務，並能精準選擇節點，有效降低功耗和成本。數字化將逐漸走向智能化高峰，開啟人工智能時代。同時，數字安全也在不斷發展演進，傳(chuan) 統安全防護的手段亟待升級。

　　“生成式人工智能正在引發新一輪智能化浪潮，但也伴隨著數據泄露、虛假信息、算法歧視等網絡和信息安全新挑戰、新問題。”中國互聯網協會(hui) 理事長尚冰說。

　　中央網信辦網絡安全協調局副局長羅鋒盈也表示，當前，生成式人工智能還有很多亟待解決(jue) 的問題，比如生成信息的準確性、真實性以及價(jia) 值觀等問題。

　　“當前，深度學習(xi) 進入快速發展期，但也是一把雙刃劍。如果不能有效應對人工智能安全挑戰，數字社會(hui) 、數字經濟都會(hui) 基礎不牢，成為(wei) 國家安全戰略最脆弱、最致命的環節。”鄔江興(xing) 認為(wei) ，深度學習(xi) 人工智能模型存在“三不可”內(nei) 生安全個(ge) 性問題，即神經網絡“黑盒”特點導致人工智能存在不可解釋性；深度學習(xi) 對訓練樣本過度依賴，導致學習(xi) 結果的不可判定性；神經網絡前向推進的不可逆，導致結果的不可推論性。

　　“充分數字化，讓企業(ye) 、政府、城市成為(wei) 網絡安全的主陣地。當大數據成為(wei) 核心資產(chan) 後，政府、企業(ye) 都麵臨(lin) 數據泄露、丟(diu) 失的安全威脅。生成式人工智能帶來的內(nei) 容安全、安全可控問題將更為(wei) 顯著。”360集團創始人周鴻禕說。

　　國家網信辦等7部門近日聯合發布《生成式人工智能服務管理暫行辦法》，提出國家堅持發展和安全並重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

　　創新技術手段

　　第十三屆全國政協經濟委員會(hui) 副主任蘇波表示，推動人工智能產(chan) 業(ye) 快速發展，必須要把保障數據安全放在突出位置。要加快人工智能數據資源建設，創新人工智能技術手段，完善人工智能數據安全監管體(ti) 係。

　　“要用技術進步解決(jue) 安全風險難題，加強人工智能數據安全保護基礎理論研究和技術研發。發展負責任、可信任、能受控的通用人工智能。鼓勵企業(ye) 建設完善人工智能開源學習(xi) 框架，增強框架內(nei) 置學習(xi) 數據和基礎設施。並通過我國巨大的市場優(you) 勢，加快培育人工智能開源平台生態圈和產(chan) 業(ye) 鏈。”蘇波說。

　　我國網絡安全產(chan) 業(ye) 綜合實力已顯著增強。數據顯示，2022年我國網絡安全產(chan) 業(ye) 規模近2200億(yi) 元，北京、長沙、成渝地區國家三大網絡安全產(chan) 業(ye) 園區相繼成立，長三角、珠三角等網絡安全產(chan) 業(ye) 基礎優(you) 勢逐步激發。截至2022年底，我國已有21家網絡安全企業(ye) 上市，越來越多的互聯網企業(ye) 、設備廠商、電信運營商成為(wei) 網絡安全領域新生力量，傳(chuan) 統安全企業(ye) 、互聯網企業(ye) 紛紛布局數據安全賽道。

　　同時，網絡安全技術體(ti) 係持續完備，零信任、以太坊等信息安全技術逐步成熟落地。隱私計算、圖片加密等領域布局加快，網絡安全與(yu) 人工智能、雲(yun) 計算、區塊鏈、工業(ye) 互聯網融合發展加速。

　　創新是網絡安全保障能力提升的根本動力。工業(ye) 和信息化部網絡安全管理局局長隋靜表示，要健全科技創新體(ti) 係，強化體(ti) 係創新主體(ti) 地位，全麵激發企業(ye) 創新活力。圍繞5G、工業(ye) 互聯網、車聯網等重點領域開展關(guan) 鍵技術攻關(guan) ，加快突破安全風險感知、監測預警、實時阻斷、追蹤溯源等核心能力。前瞻布局人工智能與(yu) 網絡安全技術融合創新，增強產(chan) 業(ye) 鏈、供應鏈韌性和安全水平。

　　培育產(chan) 業(ye) 生態

　　“目前360集團有全球最大的網絡安全攻擊樣本庫和攻擊整個(ge) 過程全記錄的知識庫，記錄了數以億(yi) 計的網絡攻擊知識。我們(men) 也在試驗把這些知識加入專(zhuan) 門的垂直大模型裏，爭(zheng) 取下次遇到攻擊時，由大模型判斷這是否是一次真實攻擊。目前，大模型判斷網絡攻擊的準確率已提升到97%，當該準確率超過99%時就可以投入應用。”周鴻禕介紹。

　　周鴻禕認為(wei) ，隨著安全挑戰不斷升級，傳(chuan) 統安全方案已難以應對數字文明時代的新挑戰，出現“企業(ye) 抱怨沒效果、廠商抱怨投入少”的局麵。企業(ye) 實現體(ti) 係化安全運營，存在缺平台、缺探針、缺數據、缺專(zhuan) 家四大障礙。雲(yun) 化和服務化將成為(wei) 安全行業(ye) 發展必然趨勢。為(wei) 此，360推出“安全即服務”理念，將沉澱在全網安全大腦裏的世界級安全能力全麵雲(yun) 化和服務化，低成本、高效能輸送給企業(ye) 級客戶，為(wei) 政府、城市和企業(ye) 築牢數字安全屏障，守護數字經濟成果。

　　“要摒棄硬件式碎片化弱協同的傳(chuan) 統安全防護手段，向雲(yun) 化、服務化的理念升級。數字安全企業(ye) 需要建立體(ti) 係化的安全運營服務框架，麵向各行各業(ye) 輸出數字安全能力，幫助企業(ye) 構建安全防禦體(ti) 係，保護數據安全與(yu) 商業(ye) 秘密。”鄔賀銓說。

　　全國工商聯副主席汪鴻雁表示，網絡安全龍頭企業(ye) 要牽頭組建創新聯合體(ti) ，發揮創新主體(ti) 作用，主動承擔國家重大科技項目，開展數字安全的基礎理論創新，及重大問題研究和關(guan) 鍵的核心技術攻關(guan) ，著力加強數字安全的人才培養(yang) ，推動人才、技術和產(chan) 業(ye) 的融通發展，不斷增進數字安全國際交流與(yu) 合作，建設國際數字安全保障合作機製。

　　“互聯網龍頭企業(ye) 要積極開展原創性、引領性、基礎性安全技術攻關(guan) ，延伸技術領域，拓展產(chan) 品服務範圍，完善產(chan) 品矩陣。互聯網初創企業(ye) 要發揮快速靈活、資源集中的特點，以創新技術和產(chan) 品切入細分領域，推動產(chan) 品服務和行業(ye) 發展緊密結合。”尚冰說。

　　鄔賀銓強調，要完善數字安全的生態係統，覆蓋工業(ye) 企業(ye) 設備供應商、基礎電信運營商、雲(yun) 服務商、工業(ye) 互聯網平台運營商、工業(ye) 應用提供商、數字安全提供企業(ye) 、第三方檢測機構與(yu) 用戶等，實現危險威脅處置情報共享。

　　隋靜表示，網絡安全產(chan) 業(ye) 是維護國家網絡安全的重要基礎，要完善支持產(chan) 業(ye) 發展的政策措施，引導供給不斷提升，需求充分釋放，構建供需雙向發力，產(chan) 業(ye) 鏈協同聯動的高水平動態平衡。要創新網絡安全服務模式，大力發展網絡安全保險服務，深化產(chan) 融合作，引導資本加大對產(chan) 業(ye) 支持力度，加快培育一批網絡安全專(zhuan) 精特新企業(ye) 。優(you) 化產(chan) 業(ye) 園區產(chan) 業(ye) 布局，充分發揮聯盟協會(hui) 紐帶作用，培育壯大產(chan) 業(ye) 生態，推動產(chan) 業(ye) 高質量發展。（黃 鑫）