技術發展帶來難以預知的風險和挑戰

　　全球人工智能發展步入治理軌道

　　□ 本報記者 趙陽

　　當前，全球人工智能技術快速發展，對經濟社會(hui) 發展和人類文明進步產(chan) 生深遠影響，給世界帶來巨大機遇。與(yu) 此同時，人工智能技術也帶來難以預知的各種風險和複雜挑戰。

　　今年以來，多個(ge) 國家和地區聚焦人工智能的治理工作已陸續展開。在全球開啟科技競爭(zheng) 的同時，各國人工智能治理體(ti) 係也在迅速形成。

　　技術濫用問題引發擔憂

　　1956年被公認為(wei) 人工智能元年。從(cong) 那時起至今60餘(yu) 年，人工智能技術在經曆兩(liang) 次發展浪潮後，以去年11月30日ChatGPT深度學習(xi) 技術的推出為(wei) 標誌，開始催生出各種各樣的創新應用。快速迭代的技術不斷顛覆人們(men) 的想象，但隨之而來的技術濫用問題也引發擔憂。

　　11月7日，日本《日經亞(ya) 洲評論》刊發的《人工智能正在放大東(dong) 南亞(ya) 新數字公民麵臨(lin) 的風險》一文，就證明了這種擔憂不無道理。

　　平台經濟的興(xing) 起以及數字化的推進，正在幫助東(dong) 南亞(ya) 新興(xing) 市場跨越式地邁向現代化。截至2022年，東(dong) 盟的互聯網人口達到4.6億(yi) ，在過去3年新增了1億(yi) 用戶。其中3.7億(yi) 人會(hui) 在網上購物。

　　這種跨越式發展令人興(xing) 奮，但在技術發展的複雜時期，人工智能尤其是生成式人工智能的興(xing) 起，加劇了東(dong) 南亞(ya) 新上網人群受到的欺詐威脅。

　　文章介紹了一種常見的詐騙手段——“魚叉式網絡釣魚”，即向受害者發送看似真實的電子郵件，其中包含鏈接，如果點擊這些鏈接，就會(hui) 觸發惡意軟件。這類騙局對東(dong) 南亞(ya) 社會(hui) 弱勢群體(ti) 的影響尤為(wei) 嚴(yan) 重。網絡安全公司Darktrace的數據顯示，由於(yu) 生成式人工智能助長了欺詐行為(wei) ，今年前兩(liang) 個(ge) 月，電子郵件攻擊數量同比增長135%。

　　文章認為(wei) ，網絡犯罪在東(dong) 南亞(ya) 已經是一個(ge) 緊迫的問題。根據IBM(國際商業(ye) 機器公司)的數據，截至2022年，該地區網絡欺詐案件在全球所有同類案件中占31%。弗雷斯特研究公司去年進行的一項調查顯示，東(dong) 南亞(ya) 市場四分之三的企業(ye) 決(jue) 策者表示，過去一年受到了網絡欺詐的影響。

　　文章最後總結稱，隨著東(dong) 南亞(ya) 數字經濟參與(yu) 者數量的激增，犯罪分子可以利用的切入點也越來越多。可能針對一個(ge) 消費者，可能針對一個(ge) 小創業(ye) 公司的實習(xi) 生，還可能針對街角商店的銷售係統。雖然對這些小實體(ti) 發起的攻擊不太可能立即對整個(ge) 網絡係統產(chan) 生深遠影響，但對於(yu) 生計會(hui) 受到嚴(yan) 重影響的東(dong) 南亞(ya) 購物者或小企業(ye) 來說，這種攻擊將使他們(men) 及其周圍的人不願再使用數字服務。

　　不僅(jin) 如此，“人工智能嘴替”已在多個(ge) 國家蔓延。美國總統拜登就透露他曾看到自己講話的深偽(wei) 產(chan) 品，對圖像的逼真程度感到吃驚。

　　多國和地區著手加強治理

　　毋庸置疑，人工智能的飛速發展正在顛覆人類認知，它會(hui) 不會(hui) 打開“潘多拉魔盒”？盡管這種擔憂之聲未免有些杞人憂天，但也正是這種擔憂的存在，促使全球多國和地區紛紛著手加強管理，以保證科技創新與(yu) 規範並進。

　　當地時間6月14日，歐洲議會(hui) 以499票讚成、28票反對、93票棄權的壓倒性優(you) 勢通過了《人工智能法案》草案。根據草案，歐盟將人工智能係統(如ChatGPT等)劃分為(wei) 不同的風險組。應用程序越危險，適用的規則就越嚴(yan) 格。同時，歐盟還正著手製定全麵的人工智能禁令，比如禁止鼓勵危險行為(wei) 的交互式對話工具，以及用於(yu) 預測誰將犯罪的預測性警務工具等。

　　10月30日，拜登簽署了一項關(guan) 於(yu) 人工智能的行政命令，被美國媒體(ti) 稱為(wei) “有史以來政府為(wei) 推進人工智能安全領域所采取的最重大行動”。此外，美國商務部還將給人工智能生成內(nei) 容，比如通常被稱為(wei) “深偽(wei) 技術”的AI生成音頻或圖像，製定更加嚴(yan) 格的標準。加拿大、韓國、日本等國家同樣開始在人工智能領域采取規範和限製措施。

　　作為(wei) 人工智能大國，中國在全球人工智能治理上從(cong) 未缺位，一直在致力於(yu) 提升人工智能技術的安全性、可靠性、可控性、公平性。

　　4月11日，中國國家互聯網信息辦公室發布《生成式人工智能服務管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)，促進生成式人工智能技術健康發展和規範應用。《征求意見稿》在明確了對人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作的鼓勵態度，在支持優(you) 先采用安全可信的軟件、工具、計算和數據資源的同時，劃定了相關(guan) 範圍，即辦法管轄範圍、辦法管理權限、“提供者”的責任主體(ti) 認定。此外，《征求意見稿》還將為(wei) 未來生成式人工智能服務提供者在從(cong) 業(ye) 過程中的底線和規範提供法律依據。

　　而早在2021年12月，中國就向聯合國《特定常規武器公約》第六次審議大會(hui) 提交《中國關(guan) 於(yu) 規範人工智能軍(jun) 事應用的立場文件》。2022年11月，中國又向聯合國《特定常規武器公約》締約國大會(hui) 提交了《中國關(guan) 於(yu) 加強人工智能倫(lun) 理治理的立場文件》。這些主張堅持維護人類福祉，堅守公平正義(yi) ，體(ti) 現了大國責任擔當。

　　向國際社會(hui) 提供中國方案

　　毫無疑問，人工智能正在席卷而來，這場深刻的革命，將徹底改變我們(men) 這個(ge) 時代和生活。麵對人工智能技術帶來的難以預知的風險挑戰，國際社會(hui) 迫切需要加強人工智能治理，推動人工智能朝著科技向善的方向發展。正如聯合國秘書(shu) 長古特雷斯所指出的，要帶著“一種緊迫感、一種全球視野和一種學習(xi) 者的心態”來應對這項技術，各國應展開協調並設定紅線，爭(zheng) 分奪秒推動人工智能造福人類。

　　在這場風險挑戰中，中國向世界提供了人工智能治理方案。

　　在11月1日英國布萊奇利園舉(ju) 行的首屆人工智能安全峰會(hui) 上，中國代表指出，人工智能治理攸關(guan) 全人類命運，是世界各國麵臨(lin) 的共同課題。發展人工智能，應當積極倡導以人為(wei) 本，智能向善，加強技術風險管控，並在相互尊重、平等互利的原則基礎上，鼓勵各方協同共治，增強發展中國家在人工智能全球治理中的代表性和發言權，不斷彌合智能鴻溝和治理能力差距。中方願與(yu) 各方一道就人工智能安全治理加強溝通交流，為(wei) 推動形成普遍參與(yu) 的國際機製和具有廣泛共識的治理框架積極貢獻智慧。

　　而在不久前，中方在第三屆“一帶一路”國際合作高峰論壇期間提出《全球人工智能治理倡議》，就各方普遍關(guan) 切的人工智能發展與(yu) 治理問題給出建設性解決(jue) 思路，更為(wei) 人工智能相關(guan) 國際討論和規則製定提供了藍本。比如支持在充分尊重各國政策和實踐基礎上，形成具有廣泛共識的全球人工智能治理框架和標準規範；支持在聯合國框架下討論成立國際人工智能治理機構；加強麵向發展中國家的國際合作與(yu) 援助等。展現出中國推動完善全球治理的大國擔當，是中國積極踐行人類命運共同體(ti) 理念，落實全球發展倡議、全球安全倡議、全球文明倡議的具體(ti) 行動。

　　人工智能治理攸關(guan) 全人類命運，是世界各國麵臨(lin) 的共同課題。中國提出的方案將有力推動各方增進對話合作、凝聚共識，共同構建開放、公正、有效的治理機製，促進人工智能造福全人類。（法治日報）