【科學隨筆】

　　作者：宋建立（最高人民檢察院知識產(chan) 權檢察辦公室副主任）

　　人工智能技術的加速迭代，深刻改變著人類的生產(chan) 生活，並對人類文明發展和社會(hui) 進步產(chan) 生著廣泛而深遠的影響。但技術的進步往往是一把“雙刃劍”，在人工智能新業(ye) 態新產(chan) 品層出不窮的同時，人工智能技術轉化與(yu) 應用的不確定性，對網絡安全、社會(hui) 就業(ye) 、法律倫(lun) 理等帶來了衝(chong) 擊，並對國家政治、經濟和社會(hui) 安全帶來諸多風險和挑戰。如何確保人工智能始終按照為(wei) 人類服務的預設目標發展正成為(wei) 當今國際社會(hui) 普遍關(guan) 注的問題。

　　當前，人工智能仍處於(yu) 快速發展階段，但因其技術自身固有的脆弱性和監管體(ti) 係落後於(yu) 技術發展等客觀因素的存在，各國對人工智能風險治理尚未形成統一認識，出現了新問題快速湧現，治理規則缺失的困境。坦率地說，人們(men) 在享用人工智能技術高效便捷的同時，其所帶來潛在的法律、倫(lun) 理等各種風險也日益凸顯。

　　筆者長期從(cong) 事司法工作，本文著重探討如何平衡好人工智能產(chan) 業(ye) 創新發展與(yu) 法律風險防範。2023年11月，首屆全球人工智能安全峰會(hui) 在英國召開並發布了《布萊奇利宣言》，該宣言在人工智能的共同協作和以安全為(wei) 中心方麵達成共識，即確保世界共同邁向人工智能安全和合乎道德地為(wei) 人類服務的未來。世界主要國家都在積極推動人工智能創新發展應用，同時亦大力加強對安全風險的前瞻研究和主動預防，力圖在新一輪人工智能發展浪潮中占得先機、贏得主動。如歐洲議會(hui) 近期通過了《人工智能法案》授權草案，旨在促進歐洲在人工智能領域的創新能力，同時支持在整個(ge) 歐盟經濟中發展和采用合乎倫(lun) 理且可信的人工智能。美國通過《人工智能應用的監管指南》，強調監管的科學性和靈活性，重視為(wei) 人工智能應用創建“安全港”、監管豁免等。

　　當前，如何有效管控人工智能安全風險尚處於(yu) 探索階段，我國未來仍需進一步做好安全管理工作的前瞻性研究與(yu) 戰略布局，以務實審慎的態度參與(yu) 和推動人工智能風險治理的國際規則製定，尤其是鼓勵產(chan) 業(ye) 一線企業(ye) 與(yu) 組織的積極參與(yu) ，提高我國人工智能安全與(yu) 治理方案的國際話語權。

　　加強人工智能風險治理，必須重視標準的製定。一項與(yu) 技術標準有效結合的關(guan) 鍵技術一旦占領某行業(ye) 或領域，就很容易掌握市場主動權。確立技術標準方麵的領導地位是企業(ye) 做大做強的關(guan) 鍵環節。多年來，一些發達國家依托創新驅動，通過標準戰略、專(zhuan) 利戰略和新產(chan) 業(ye) 集群戰略的合力作用，維持其經濟與(yu) 技術強國地位。實踐證明，製定標準的企業(ye) 具有競爭(zheng) 優(you) 勢，誰缺席標準製定，誰就會(hui) 在未來競爭(zheng) 中陷於(yu) 被動。當前，碳減排技術、新一代移動通信、人工智能、量子計算、新能源汽車等領域的標準製定方興(xing) 未艾，人工智能亟須借助標準優(you) 勢提高治理能力，隻有明確清晰且適應人工智能發展的標準化體(ti) 係，才能實現協同人工智能的產(chan) 業(ye) 力量和多方共治的願望。可以說，標準製定權競爭(zheng) 已成為(wei) 大國博弈和全球治理變革的重要體(ti) 現，標準化進程和核心專(zhuan) 利布局是贏得競爭(zheng) 的關(guan) 鍵。

　　目前，國際上人工智能現有標準主要集中在人工智能技術、應用領域的通用標準，而涉及人工智能安全、倫(lun) 理、隱私保護等方麵的安全標準，大多處於(yu) 研究階段。我國雖然頒布了一些與(yu) 人工智能標準化體(ti) 係建設相關(guan) 的政策文件，但與(yu) 人工智能自身安全或基礎共性相關(guan) 安全標準的研究則不足。國際標準具有決(jue) 定產(chan) 業(ye) 發展的技術規則和未來方向，國際組織是各領域標準製定主體(ti) ，未來我國應積極參與(yu) 人工智能領域相關(guan) 國際組織的標準製定，將中國標準納入國際標準，主動掌握更大的規則話語權，促進本國人工智能產(chan) 業(ye) 發展。

　　加強人工智能風險治理，要加強人工智能國際合作。當前國際競爭(zheng) 形勢複雜多變，必須放眼世界和未來。一方麵以大模型訓練為(wei) 代表的新興(xing) 技術和應用快速崛起、反複迭代，助推數據量和算力需求爆炸性增長，亟須在理論架構和軟硬件層麵實現質的飛躍，解決(jue) 人工智能技術瓶頸、促進人工智能成熟發展，離不開國際交流與(yu) 合作；另一方麵人工智能在促進生產(chan) 力水平提高的同時，也帶來了權益侵害、隱蔽犯罪和認知混亂(luan) 等客觀風險，構建可信向善的人工智能亦離不開國際社會(hui) 的共同協作。首屆全球人工智能安全峰會(hui) 雖對此達成了共識，但仍存在不少局限。

　　為(wei) 此，我國應加快整合國內(nei) 人工智能產(chan) 業(ye) 、政府及專(zhuan) 家資源，推動完善符合我國國情、適應全球化發展的人工智能法律製度體(ti) 係，推行更加公開開放的政策和實踐，在國家戰略層麵對人工智能創新發展和安全進行係統布局、主動謀劃，推進標準建設、行業(ye) 協同、人才培養(yang) 、國際交流等工作，提升我國人工智能創新發展與(yu) 安全的綜合能力，把握人工智能新發展階段國際競爭(zheng) 的主動權，打造競爭(zheng) 新優(you) 勢、開拓發展新空間。此外，實現上述目標，還需跟蹤最新技術成果，加強與(yu) 先進國家和領軍(jun) 企業(ye) 開展技術研究國際合作，共享治理經驗，共同應對人工智能創新應用中的安全問題和倫(lun) 理影響，切實保障人工智能真正造福人類。

　　《光明日報》（2024年03月14日 16版）