【光明青年論壇】

　　　編者按

　　隨著科技進步的日新月異，世界發展的麵貌和格局也發生著深刻變化。人工智能、大數據算法等新發現、新突破，在造福人類的同時，也帶來了一定的倫(lun) 理風險和挑戰。2022年3月，中共中央辦公廳、國務院辦公廳印發《關(guan) 於(yu) 加強科技倫(lun) 理治理的意見》，對加強科技倫(lun) 理治理作出係統部署。樹立正確的科技倫(lun) 理意識，遵守科技倫(lun) 理要求，不僅(jin) 是科技工作者，更是全人類都應該具備的認識自覺和行為(wei) 自覺。那麽(me) ，如何增強科技倫(lun) 理意識，實現科技增進人類福祉的宗旨？本刊特組織幾位青年學者圍繞“倫(lun) 理價(jia) 值”“倫(lun) 理原則”“倫(lun) 理責任”三個(ge) 維度開展對話，並邀請專(zhuan) 家予以點評和闡發，以期對深化相關(guan) 研究和探討有所助益。

　　　與(yu) 談人

　　譚泰成 中國人民大學哲學院博士生

　　閆雪楓 複旦大學哲學學院博士生

　　周穎 上海交通大學科學史與(yu) 科學文化研究院博士生

　　　主持人

　　劉永謀 中國人民大學哲學院教授、國家發展與(yu) 戰略研究院研究員

　　　1、倫(lun) 理價(jia) 值：助力走出科技發展困境

　　主持人：針對如今的科技發展現狀和發展前景，我們(men) 都麵臨(lin) 著哪些倫(lun) 理風險和挑戰？

　　譚泰成：21世紀以來，隨著運用新科技參與(yu) 社會(hui) 治理的不斷推進，特別是智能革命興(xing) 起後，出現了“智能治理的綜合”趨勢，即不同技術治理手段逐漸在智能技術搭建的平台上綜合起來，不再是零散的、局部的甚至相衝(chong) 突的“技治拚盤”。各種智能治理措施在新冠肺炎疫情暴發以來更是迅猛發展，在大展身手的同時也暴露出一些問題，且大多與(yu) 倫(lun) 理風險和挑戰相關(guan) 。主要表現為(wei) 四個(ge) 方麵：一是“信息孤島”。無法接入智能平台與(yu) 他者通信的人群，就會(hui) 成為(wei) “信息孤島”，在數字世界中“消失”，信息權不能得到公平保障。二是“無人困境”。智能技術如果不能與(yu) “治理中的人”很好地結合起來，人的因素容易被治理者忽視，技術問題則被過分強調，可能出現背離人本的“無人困境”。三是數據專(zhuan) 家權力越界。要對數據專(zhuan) 家的權力進行規範，防止技治專(zhuan) 家權力過大，違背社會(hui) 主義(yi) 民主法治的基本精神。四是個(ge) 人隱私濫用。盡管政府已在盡力立法對數據、個(ge) 人隱私予以保護，但仍然存在不少風險。

　　周穎：近年來，數據被視為(wei) 一種新型生產(chan) 要素，與(yu) 土地、勞動、資本、技術等傳(chuan) 統生產(chan) 要素一樣是人類社會(hui) 的重要構成。伴隨數據科學與(yu) 數據技術的發展，數據正在進行著對整個(ge) 社會(hui) 生活、生產(chan) 和治理方式的重塑。在全球數字化轉型的進程中，我國數字化發展備受關(guan) 注且發展迅速。基於(yu) 數據科學與(yu) 數據技術對人類社會(hui) 的深度影響，相關(guan) 的倫(lun) 理風險和挑戰也隨之而至，並成為(wei) 社會(hui) 各界熱議的話題。比如，健康碼推出不久就出現了許多沒有手機或不會(hui) 下載、使用該程序的群體(ti) ——尤其是老年人群體(ti) ，不光被技術拒絕，更被公共場所拒絕，進而加劇了社會(hui) 分化、權利不平等的倫(lun) 理問題，也體(ti) 現出倫(lun) 理在數據賦能過程中缺位帶來的危害。此外，與(yu) 數據相關(guan) 的倫(lun) 理風險還包括數據不正當獲取，數據訪問、使用和共享具有不透明性，數據信任危機和數據被過度商用等問題所帶來的倫(lun) 理風險和倫(lun) 理挑戰。

　　主持人：要走出科技發展的道德倫(lun) 理困境，“倫(lun) 理反思”扮演著怎麽(me) 樣的角色？

　　周穎：為(wei) 了走出科技發展的倫(lun) 理困境，倫(lun) 理反思是必不可少的。曆史地看，倫(lun) 理反思貫穿技術哲學發展全過程。經典技術哲學關(guan) 注的是整體(ti) 而抽象的“大寫(xie) 的技術”，技術的倫(lun) 理反思通常是悲觀地批判技術的社會(hui) 影響和它所造成的人類生存境況的變壞。隨著德國學者胡塞爾吹響“回到事物本身”的號角，一定程度促使技術哲學更加關(guan) 注經驗事實，即“打開技術黑箱”，倫(lun) 理反思也更加注重具體(ti) 的技術經驗證據。隨之而來的技術的快速發展，使倫(lun) 理問題愈發顯現，技術倫(lun) 理學逐漸從(cong) 技術哲學中分離出來，進一步地，荷蘭(lan) 學者維貝克等主張反思進路應當“從(cong) 外在主義(yi) 、人本主義(yi) 到內(nei) 在主義(yi) 、非人本主義(yi) ”。從(cong) 數據應用的發展來看，對隱私、安全、公平等方麵進行深入的倫(lun) 理反思，才能促使我國經濟社會(hui) 更加健康有序發展，促使大數據技術產(chan) 品更新換代和數據賦能相關(guan) 產(chan) 業(ye) 的轉型升級。

　　閆雪楓：正如澳大利亞(ya) 學者彼得·辛格所言，當麵對新興(xing) 的科學技術時，許多人會(hui) 產(chan) 生某種直覺，但直覺未必是經得起推敲的。從(cong) 生命倫(lun) 理學的視角來看，倫(lun) 理反思一方麵能夠使我們(men) 從(cong) 習(xi) 以為(wei) 常的生活中認識到技術帶來的道德困境和挑戰，另一方麵，借助哲學史上的經典理論框架，倫(lun) 理反思能為(wei) 我們(men) 在諸多彼此衝(chong) 突的價(jia) 值觀念中提供多角度思考問題的進路，幫助我們(men) 提煉梳理對於(yu) 技術的態度和觀點，推理重構“不言自明”的信念背後的論證邏輯，審慎地分析其中的問題。破除科幻電影和小說的誇張情節對於(yu) 技術本質的扭曲，讓我們(men) 能回過頭來審視一些廣泛存在的規範性觀念本身是否合理，進而為(wei) 科學技術的研究與(yu) 實踐進行恰當的辯護。值得注意的是，進行倫(lun) 理反思的目的不是一味地限製科技的發展。生命倫(lun) 理學學者需要與(yu) 科技從(cong) 業(ye) 者保持積極的對話，在科技發展與(yu) 倫(lun) 理反思中尋求動態的平衡點。

　　譚泰成：最近被熱議的大數據治理、算法治理和區塊鏈治理，都屬於(yu) 智能治理的具體(ti) 形式。在各種智能治理場景中，倫(lun) 理反思有助於(yu) 不同主體(ti) （信息倫(lun) 理學者、算法工程師、數字政府治理者和公眾(zhong) 等）審視技術治理措施是否因超過合理限度成為(wei) 技術操控手段，揭示嵌構在算法認知背後的複雜製度安排。盡管對於(yu) 智能治理的倫(lun) 理反思存在認知差異，但它的根本宗旨在於(yu) 實現人民向往的美好生活，厘清實施智能治理應有的限度。因此，倫(lun) 理反思的關(guan) 鍵在於(yu) 區別智能治理與(yu) 智能操控，尋求效率工具與(yu) 倫(lun) 理價(jia) 值之間的動態平衡。實際上，智能治理伴隨著社會(hui) 、政治、製度和倫(lun) 理等多重風險，既有的道德批判不足以回應和化解，隻有以製度化方式將德治、法治和技治手段充分融入智能治理中，才能實質性地發揮科技倫(lun) 理在智能領域的治理成效。

　　　2、倫(lun) 理原則：以人民為(wei) 中心推動科技向善

　　主持人：在《關(guan) 於(yu) 加強科技倫(lun) 理治理的意見》的總體(ti) 要求中，將“倫(lun) 理先行”作為(wei) 治理要求的第一條，那麽(me) ，在科學技術的發展中何以“倫(lun) 理先行”？

　　譚泰成：倫(lun) 理先行需要確定相關(guan) 原則及規範。目前，歐盟、美國和中國都頒布了人工智能相關(guan) 的倫(lun) 理指南、指導意見或規範，基本涵蓋算法設計、部署和監管各個(ge) 環節對於(yu) 透明度和可解釋性的要求。發揮倫(lun) 理引導智能治理的先行作用，需要充分考慮技術專(zhuan) 家、政府治理者、企業(ye) 用戶、公眾(zhong) 等不同治理參與(yu) 者的多元價(jia) 值訴求，兼顧倫(lun) 理的價(jia) 值適配性與(yu) 算法的技術可用性。需要注意的是，倫(lun) 理先行並非以絕對道德主義(yi) 來約束或反對技術治理活動。倫(lun) 理先行的中國語境在於(yu) 確保技術治理為(wei) 人民服務，使之服務於(yu) 中國特色社會(hui) 主義(yi) 民主製度的更高目標。同時，強調一般倫(lun) 理原則與(yu) 具體(ti) 治理場景的結合，例如從(cong) 道義(yi) 上要求科技企業(ye) 完全公布其核心基礎算法並不可行。而對於(yu) 公共部門而言，為(wei) 了維持行政決(jue) 策的執行力和公信力，有必要對算法行政決(jue) 策進行充分解釋，澄清背後的治理依據和價(jia) 值理由。

　　周穎：倫(lun) 理先行是技術倫(lun) 理學的內(nei) 在路徑的必然要求。維貝克等學者提出和發展了調節的理論，將技術自身納入解決(jue) 其倫(lun) 理問題的語境中。首先，在數據相關(guan) 技術設計之初就需要倫(lun) 理學者、技術專(zhuan) 家、公眾(zhong) 代表等多元主體(ti) 參與(yu) 並製定倫(lun) 理框架、指南、原則，即在設計的目的、方法和結果預測中納入倫(lun) 理考量。例如，2020年美國聯邦總務署發布的《數據倫(lun) 理框架草案》中提出7條數據倫(lun) 理基本原則。其次，數據相關(guan) 技術設計過程作為(wei) 設計者的決(jue) 策過程內(nei) 在地滲透著倫(lun) 理價(jia) 值，技術調節作用不可避免地存在著，因此，須將倫(lun) 理前置，有意識有目的有方向有預見地發揮調節作用。最後，由於(yu) 技術不確定性的特征，調節的各個(ge) 維度不能被完全預期，許多倫(lun) 理問題往往是在技術與(yu) 人處於(yu) 社會(hui) 大背景下進行交互的過程中產(chan) 生的，所以需要對技術進一步修複調節。如健康碼在實施過程中顯現了隱私安全等倫(lun) 理隱患，在修複過程中，既製定了《新冠肺炎疫情防控健康碼管理與(yu) 服務暫行辦法》，其中提出“為(wei) 疫情防控、疾病防治收集的個(ge) 人信息，不得用於(yu) 其他用途”，又從(cong) 技術上對健康碼加以修複。經過三個(ge) 維度的調節，技術自身被道德化，進而調節著人的合倫(lun) 理的感知和行動。

　　閆雪楓：新興(xing) 技術手段往往兼具巨大的效益和風險，倫(lun) 理先行也因此成了當今時代發展背景下的必然趨勢。為(wei) 了應對基因編輯帶來的諸多挑戰，科技工作者作為(wei) 發展科學技術的主體(ti) ，首先需要考慮的是所進行的科學研究與(yu) 實踐是否以人民為(wei) 中心，以提升人類福祉作為(wei) 最終的目標，對生命和倫(lun) 理抱有敬畏之心。在開展科技工作時，要充分考慮到風險問題，提升自身的倫(lun) 理道德敏感度，保證科技發展中倫(lun) 理在先。新西蘭(lan) 生命倫(lun) 理學者尼古拉斯·阿加曾強調，不要忘記曆史上許多新技術都曾給人類造成預料之外的重大災難。因此在製定倫(lun) 理原則時，仍然需要考慮到一些在當下看來或許永遠不會(hui) 發生的情況，並給出相應的對策。科學技術不斷發展，倫(lun) 理原則也應當隨之改進和完善，保持動態的發展，以便應對新的挑戰。

　　主持人：《關(guan) 於(yu) 加強科技倫(lun) 理治理的意見》中明確了科技倫(lun) 理的基本原則，即“增進人類福祉”“尊重生命權利”“堅持公平公正”“合理控製風險”“保持公開透明”，其中蘊含著哪些倫(lun) 理觀念？

　　譚泰成：在技術治理活動中，服務於(yu) 人民是上述原則的根本價(jia) 值旨歸。科技向善從(cong) 根本上說就是讓人民共享科技發展成果，共同引導技術治理賦能美好生活。當然，不同領域的技術治理活動對於(yu) 科技倫(lun) 理原則有不同側(ce) 重，例如算法治理比較強調“公開透明”。這一原則主要是針對算法運行的黑箱問題，具體(ti) 化為(wei) 研發者如何通過改善訓練算法的數據樣本質量來確保算法輸出的精準度，以及企業(ye) 和政府部門如何通過算法治理來提升決(jue) 策效率，進而確保公共行政顯得更為(wei) 合理，讓算法問責更具操作性。算法向善不應僅(jin) 僅(jin) 作為(wei) 柔和的倫(lun) 理觀念，而是轉化為(wei) 敏捷的治理行動，避免因濫用算法而陷入偽(wei) 技術治理。

　　閆雪楓：《關(guan) 於(yu) 加強科技倫(lun) 理治理的意見》中明確的科技倫(lun) 理基本原則涵蓋了美國學者湯姆·比徹姆和詹姆士·邱卓思在《生命醫學倫(lun) 理原則》中所提出的“尊重自主性”“不傷(shang) 害”“有益”“公平”四原則的內(nei) 涵。與(yu) 之呼應的還有2018年第二屆人類基因組編輯國際峰會(hui) 委員會(hui) 對遺傳(chuan) 基因編輯開展臨(lin) 床試驗所提出的十項原則。具體(ti) 來說，在進行生殖係基因編輯臨(lin) 床試驗時，需要首先確定無其他合理替代方案，並將試驗目的嚴(yan) 格限製在嚴(yan) 重疾病的預防上，最大限度避免試驗可能造成的傷(shang) 害，合理控製風險。對參與(yu) 試驗的患者充分告知試驗潛在的風險，保持公開透明，讓患者自主作出知情且自願的決(jue) 策，尊重患者的生命權利和自主性，保障患者知情權和隱私。

　　周穎：從(cong) 數據的視角來看，相關(guan) 倫(lun) 理問題大致圍繞隱私、安全、公平和正義(yi) 四個(ge) 麵向展開，在個(ge) 人、社會(hui) 和國家的不同層麵上表現不同，在不同的語境中側(ce) 重的倫(lun) 理原則也有所差異，其倫(lun) 理意蘊具有多元化、複雜性、交叉性和動態性等特征。不同的倫(lun) 理原則在不同的技術中或具體(ti) 情境中可能存在價(jia) 值衝(chong) 突，產(chan) 生取舍的困境。對此，維貝克曾將調節理論和價(jia) 值設計相結合，提出了價(jia) 值發揮重要作用的方法來加以應對。簡言之，將利益相關(guan) 者的價(jia) 值觀動態地轉化並內(nei) 嵌到技術物中。以健康碼為(wei) 例，最初以保護公眾(zhong) 健康和尊重生命權利為(wei) 首要原則，在實施過程中逐步顯現出隱私泄漏、不公平、不透明等倫(lun) 理隱患，在修複調節中就需要加以著重考慮，將之置於(yu) 價(jia) 值矩陣的前端。

　　　3、倫(lun) 理責任：以正確價(jia) 值導向規範科技實踐

　　主持人：要形成多方參與(yu) 、協同共治的科技倫(lun) 理治理格局，需要各方主體(ti) 履行怎樣的倫(lun) 理責任？

　　閆雪楓：形成多方參與(yu) 、協同共治的科技倫(lun) 理治理格局，首先需要科技工作者在進行研究的過程中主動加強倫(lun) 理意識，自覺遵守科技倫(lun) 理原則，積極與(yu) 科技倫(lun) 理學者進行對話和合作。對科技倫(lun) 理研究者來說，需要以科學事實為(wei) 依據開展對諸如知情同意、自主性等倫(lun) 理問題的研究，為(wei) 相關(guan) 政策和原則的製定提供符合實際情況的理論支持。相關(guan) 政府部門和決(jue) 策者需要廣泛聽取來自自然科學、社會(hui) 科學、人文科學的專(zhuan) 業(ye) 人員的意見建議，對特定技術的潛在風險效益以及倫(lun) 理問題進行評估，建立可靠的監督機製。

　　周穎：就數據倫(lun) 理治理而言，主體(ti) 包括政府部門、數據專(zhuan) 家、大數據技術設計者、數據倫(lun) 理學者、公眾(zhong) 、企業(ye) 、高校、科研機構、社會(hui) 團體(ti) 等。為(wei) 形成多方參與(yu) 、協同共治的數據倫(lun) 理治理格局，一方麵，各方主體(ti) 需要進行跨學科、跨範式的有效溝通，加強合作共建，凝聚力量，合力推進倫(lun) 理治理實踐。另一方麵，各方主體(ti) 應當積極履行各自的倫(lun) 理責任，如政府部門，應當進一步完善相應的管理、監管製度建設；各個(ge) 創新主體(ti) 應當接受政府部門的管理和監督，主動學習(xi) 數據倫(lun) 理知識，自覺遵守數據倫(lun) 理要求，依法合規地開展研究工作；倫(lun) 理學者應當拓展研究的廣度和深度，對比各國的研究成果，發表符合我國國情的倫(lun) 理研究成果。

　　譚泰成：要各方履行好倫(lun) 理責任並非易事。在智能治理背景下，倫(lun) 理責任的首要主體(ti) 是處在創新和研究一線的算法工程師和數據科學家。他們(men) 應當克服算法理性主義(yi) 的狂妄，保持科技謙遜主義(yi) 的態度，提升對於(yu) 數據樣本、算法解釋的倫(lun) 理敏感性。從(cong) 更大的角度來看，人工智能研究的科學共同體(ti) 既要勇攀科技高峰，也要敏銳地意識到創新與(yu) 研究活動的潛在倫(lun) 理風險和挑戰。當前，技術治理的智能化趨勢集中反映在公共行政領域。對於(yu) 公共治理者而言，最基本的倫(lun) 理責任就是要慎用手中的數據和算法治理手段，合理約束這種“技術權力”。

　　主持人：在人類社會(hui) 深度科技化的背景下，倫(lun) 理責任的難點與(yu) 痛點有什麽(me) ？

　　譚泰成：結合算法倫(lun) 理的現狀，與(yu) 倫(lun) 理責任有關(guan) 的難點在於(yu) ：倫(lun) 理問題側(ce) 重於(yu) 關(guan) 切如何達成基本的共識性原則，治理問題則傾(qing) 向於(yu) 從(cong) 公共治理角度來妥善解決(jue) 技術引發的社會(hui) 問題。顯然，對於(yu) 當下的算法治理而言，難點並不在於(yu) 缺乏共識性的倫(lun) 理原則，而是如何將這些原則貫徹到算法治理中。僅(jin) 僅(jin) 依靠頂層的適度設計是不夠的，還需要配套的底層設計。在智能治理領域，與(yu) 倫(lun) 理責任相關(guan) 的最大痛點在於(yu) ：人們(men) 往往為(wei) 獲取服務便利，或覺得維權成本太高，不願意與(yu) 相關(guan) 企業(ye) 、公共部門或服務業(ye) 的一些算法歧視或侵權行為(wei) 進行抗爭(zheng) 。一個(ge) 重要原因是，不同年齡段、不同地區、不同學曆層次的人群，對於(yu) 風險感知程度不一樣，這種差別反過來會(hui) 影響他們(men) 采取相應行動的意願。另一個(ge) 原因是，缺乏製度化的治理參與(yu) 途徑，既有的維權手段也不盡如人意。

　　閆雪楓：新興(xing) 技術中普遍存在的倫(lun) 理責任痛點與(yu) 難點主要包括責任的歸屬、倫(lun) 理審查實施的有效性，以及如何把握不同價(jia) 值觀之間的平衡、技術發展與(yu) 倫(lun) 理之間的平衡。在基因編輯的基礎研究和臨(lin) 床試驗中涉及包括科技工作者、患者、監督機構，以及政府部門等在內(nei) 的多個(ge) 主體(ti) 。各主體(ti) 的責任範圍、責任權重在不同的案例中不盡相同，因此需要具體(ti) 情況具體(ti) 分析。此外，即便有了倫(lun) 理監督審查機構，也可能存在倫(lun) 理審查理解偏差、尺度不嚴(yan) 或走過場等情況，導致審查監管方麵的倫(lun) 理責任不能得到切實履行。落實倫(lun) 理審查，需要從(cong) 多方吸納審查人員、平衡各主體(ti) 間的利益，從(cong) 而保障審查是透明、客觀和公正的。最後需要明確的是，倫(lun) 理責任應當是科技工作者開展科研活動時的底線，不應反過來限製科技的發展。

　　　　周穎：人類深度數據化的背景下，難點與(yu) 痛點之一在於(yu) 仍有一部分群體(ti) 遊離在數據應用帶來的便利之外，被數據技術拒絕，更不必說承擔相應的倫(lun) 理責任。以新冠應用程序中的技術拒絕現象為(wei) 例，表現為(wei) 一部分人遊離在新冠應用程序之外，人從(cong) 過去對技術的拒絕主體(ti) 地位掉落下來，變成被技術拒絕的對象。表現為(wei) 技術物質條件上的拒絕、技術知識和信息來源上的拒絕以及技術自身的不完善、技術漏洞或者非開放性技術權限的拒絕。該問題實質上使人與(yu) 技術間的嚴(yan) 格邊界被逐步消解。技術權利提升、倫(lun) 理意蘊增強的同時，人的主體(ti) 性地位、權利相對就被削弱了，從(cong) 而，過去人對技術“呼之則來揮之則去”的自主性不複存在，而當技術不僅(jin) 成為(wei) 人的生活方式，且主導了人的生活方式時，幾乎無法為(wei) 人所拒絕，然而卻有了拒絕人類進入的能力，這是技術發展的必然結果，因此也是未來值得關(guan) 注和深入思考的問題。