■ 社論

　　在涉及機會(hui) 公平、權益保障等領域，不能讓效率成為(wei) 放大不平等的工具。

　　“你的簡曆可能根本過不了人工智能(AI)這一關(guan) 。”

　　據《工人日報》報道，利用算法進行“AI招聘”已成為(wei) 職場中的一大新熱點，如何規避AI算法可能帶來的歧視問題成為(wei) 保障就業(ye) 公平麵臨(lin) 的一個(ge) 新問題。近日，上海市政協在一場重點提案督辦專(zhuan) 題調研暨辦理推進會(hui) 上，就針對這一問題進行了重點討論，旨在通過加強監管、強化技術手段等，更好維護勞動者權益。

　　當下，大數據、大模型等AI算法，正不斷進入各場景進行探索應用，互聯網招聘平台也是其中之一。而利用AI技術進行簡曆篩選和人力資源開發，也被視為(wei) 當前招聘領域的發展趨勢。

　　在勞動力就業(ye) 市場加深依賴“AI”做決(jue) 策的背景下，潛伏在AI算法背後的就業(ye) 歧視等問題不容忽視。提前針對勞動者權益保護等關(guan) 鍵議題公開討論，是公共政策應對技術挑戰的應有之策。

　　從(cong) 技術特征上看，AI短期內(nei) 無法代替自主決(jue) 策，更多是以效率提升工具的方式在各行業(ye) 發揮作用。但隨著AI不斷突破封閉場景，進入人與(yu) 社會(hui) 互動的多個(ge) 領域，相關(guan) 的倫(lun) 理、權益保護等複雜問題，也成了技術發展的潛在風險。

　　以就業(ye) 歧視來看，AI算法本身不具備歧視的動機與(yu) 能力，但在本身就存在潛在就業(ye) 歧視的環境之中，AI可能會(hui) 成為(wei) 部分偏見的放大器。AI提升效率的本質邏輯，是結合數據積累和運算能力，給予使用者以最符合其期待的答案。

　　那麽(me) ，倘若一個(ge) 原本就帶有性別、地域、年齡等偏見的企業(ye) 招聘者，再利用這一算法係統進行簡曆篩選，那麽(me) 客觀上就在流程中創造了一個(ge) “歧視信息繭房”：能被算法檢索和推送的，都是經過偏見過濾後的簡曆。

　　在這樣的情境之中，AI首先成了放大偏見的工具，效率提升的同時，也提高了“就業(ye) 歧視”的範圍與(yu) 傷(shang) 害。其次，AI幫助部分招聘者進行了“道德回避”，即原本應承擔倫(lun) 理道德風險的個(ge) 體(ti) ，可以在這一過程中將全部的偏見歧視問題，歸結為(wei) “算法的錯”。

　　這就使得原本就相對隱形的“歧視”問題變得更加隱形。在共同的監管和社會(hui) 輿論壓力下，可能不會(hui) 有任何一個(ge) AI工具公開將涉嫌歧視的標簽作為(wei) “過濾選項”，但算法推薦“討好使用者”的技術特征，卻使得這一過程在實踐中難以完全避免。

　　換言之，一個(ge) 有嚴(yan) 重就業(ye) 歧視的招聘者，可能會(hui) 訓練出一個(ge) “更懂我的偏見和喜好”的算法模型。

　　事實上，不隻是在就業(ye) 招聘領域，在多數處理“人的問題”的領域中，都可能存在類似問題。而旨在提升效率的科技進步，不能以顛覆、挑戰人類社會(hui) 賴以生存的倫(lun) 理底線為(wei) 代價(jia) ，尤其在涉及機會(hui) 公平、權益保障等領域，更不能讓效率成為(wei) 放大不平等的工具。

　　引入外部監督，同時用技術手段解決(jue) 潛在問題，是解決(jue) 技術進步與(yu) 引發社會(hui) 問題之間矛盾的兩(liang) 個(ge) 主要手段。

　　在上述的調研推進會(hui) 上，與(yu) 會(hui) 者也提出了讓勞動者參與(yu) 算法治理、避免算法濫用等社會(hui) 化監管的建議。引入外部的充分監督，尤其是讓相關(guan) 利益主體(ti) 參與(yu) 其中，推動算法的公開透明，是值得效仿與(yu) 鼓勵的做法。

　　而從(cong) 根本上看，可以進一步討論，在相關(guan) 的算法規則中納入對公平等價(jia) 值觀的紅線規則。比如，在與(yu) 使用者互動中，對疑似歧視的使用行為(wei) 本身進行定義(yi) 、監測和限製，甚至可以設置算法推薦的底線機製。

　　再比如，在推薦規則之中，必須實現性別、學曆等比例，最大程度確保每一個(ge) 求職者都有同等被看見的機會(hui) 。

　　防止技術對弱勢群體(ti) 造成衝(chong) 擊，既要未雨綢繆，又需在探索中反複測試技術手段的最優(you) 解，這是擺在各行各業(ye) 麵前的新挑戰。

　　唯有小心構築起公共政策的防火牆，讓AI既是社會(hui) 生產(chan) 力解放與(yu) 提升的工具，同時也能成為(wei) 維護社會(hui) 公平正義(yi) 底線的幫手，這才是科技進步的長期價(jia) 值與(yu) 方向所在。