作者：高文（國家科技倫(lun) 理委員會(hui) 委員、中國工程院院士）

　　前不久，科技部、教育部、工業(ye) 和信息化部等十部門印發《科技倫(lun) 理審查辦法（試行）》（以下簡稱《審查辦法》），這是我國構建科技倫(lun) 理治理體(ti) 係的裏程碑文件，也是我國推進科技倫(lun) 理治理製度體(ti) 係建設的重要開篇。

　　自1956年達特茅斯會(hui) 議提出“人工智能”這一概念以來，人工智能已曆經了3次變革，逐步從(cong) 係統級的知識推理向深度學習(xi) 發展。當前，以ChatGPT為(wei) 代表的自然語言處理，助推了通用人工智能（AGI）的演進，也再一次將人工智能技術推向了飛速發展的黃金期，使其迅速成為(wei) 新的重要使能技術，被廣泛應用於(yu) 經濟社會(hui) 的各個(ge) 領域，帶來新的產(chan) 品和服務。然而，隨著人工智能技術的廣泛應用，由此可能引發的AI技術濫用、個(ge) 人隱私侵犯、算法歧視、倫(lun) 理道德衝(chong) 擊等諸多科技倫(lun) 理問題已成為(wei) 國際社會(hui) 關(guan) 注的焦點，亟待認真應對、規範治理。

　　在通用人工智能掀起全球熱潮的同時，《審查辦法》恰逢其時地為(wei) 我國人工智能的健康發展係上了“安全帶”，也將有力促進我國加快構建良性健康的數字經濟社會(hui) 秩序。

　　《審查辦法》以“促進負責任創新”為(wei) 核心理念，以強化科技倫(lun) 理管理主體(ti) 責任為(wei) 抓手，指導開展問題導向的科技倫(lun) 理治理，推動構建一套發展與(yu) 安全並重、創新與(yu) 倫(lun) 理並行的科技監管與(yu) 治理機製。在推進這套機製落地的過程中，要兼顧技術的創新發展與(yu) 安全監管，我認為(wei) ，有幾點工作值得高度重視。

　　一是創新主體(ti) 要自覺壓實科技倫(lun) 理管理主體(ti) 責任，將科技倫(lun) 理要求貫穿科技活動全過程。科技倫(lun) 理治理是科技創新能力和水平的重要體(ti) 現，直接影響科技創新的質量和效率。隨著人工智能等新興(xing) 數字技術的廣泛應用，其帶來的倫(lun) 理風險也愈發複雜多變。創新主體(ti) 應結合《審查辦法》要求，加快優(you) 化組織架構和管理流程，構建權責明晰的科技倫(lun) 理管理體(ti) 係，建立倫(lun) 理風險預判機製，在設計、研發和應用等科技活動的各個(ge) 階段，要持續地識別、分析與(yu) 管理倫(lun) 理風險。同時，壓實科技創新管理責任，責任主體(ti) 既要對科研目標負責，也要對科技倫(lun) 理負責，提高科研人員的倫(lun) 理意識，大力宣貫科技倫(lun) 理道德教育，確保責任主體(ti) 始終秉持科技向善理念，踐行負責任創新。

　　二是麵向科技倫(lun) 理治理持續開展研究，以技術創新應對科技倫(lun) 理治理的問題與(yu) 挑戰。科技倫(lun) 理治理應始終與(yu) 科研技術的創新發展緊密結合、同頻共振，用技術創新解決(jue) 技術發展中的問題。創新主體(ti) 應借助技術手段輔助開展科技倫(lun) 理審查與(yu) 監管，通過研發或使用新的技術工具、創新技術方法，重點解決(jue) 技術在公平性、安全性、可解釋性、隱私保護等方麵麵臨(lin) 的挑戰。目前，人工智能大模型相關(guan) 應用加速落地，然而，在人工智能大模型的數據清洗、敏感詞判別、合規使用以及基於(yu) 國外企業(ye) 和機構提供的大模型底座熱啟動等方麵仍存在不少漏洞和風險，如不加以規範治理，將可能對人類行為(wei) 、人身健康、社會(hui) 意識形態等方麵造成危害，更有甚者，將嚴(yan) 重威脅我國科技創新生態的有序發展。

　　三是加強國際科技治理合作，把握全球科技治理研究動態，謀劃中國科技治理合理路徑。科技價(jia) 值觀始終是國際科技治理的核心議題，由於(yu) 政治體(ti) 製和民族文化等各不相同，各國科技倫(lun) 理治理的理念與(yu) 路線也不盡相同。我們(men) 既要積極擁抱國際科技創新網絡，在科技治理手段上與(yu) 國際規範相銜接，推動科技更好地增進人類福祉、為(wei) 人類社會(hui) 發展服務。同時，也要立足我國國情，探索形成具有中國特色的治理方案，靈活運用清單動態調整機製，隨時準備應對新問題、新挑戰。此外，要積極發起全球科技倫(lun) 理治理交流與(yu) 對話，大力宣傳(chuan) 中國科技倫(lun) 理治理的創新實踐，進一步增強我國科技創新的傳(chuan) 播力和影響力。

　　在可預見的未來，智能技術向“強人工智能”逐步演進，科學智能（AI for Science）、具身智能等新方向也不斷湧現，智能技術、數字技術對經濟社會(hui) 的作用與(yu) 影響將會(hui) 越來越突出，這一過程必將伴隨著成倍增長的技術挑戰，科技倫(lun) 理治理問題也將變得更加突出、更加緊迫。總之，科技倫(lun) 理治理是一項複雜的係統性工程，既需要政府、學界、產(chan) 業(ye) 界等多方通力合作，也需要科技工作者的潛心研究和不懈努力，相信在不久的將來我們(men) 會(hui) 在科技倫(lun) 理治理方麵取得更豐(feng) 碩的成果。