閱讀提示

　　近年來，利用算法進行AI招聘已成為(wei) 職場中的一大新熱點，如何規避AI算法可能帶來的歧視問題成為(wei) 保障就業(ye) 公平麵臨(lin) 的一個(ge) 新問題。近日，在上海市政協的一場重點提案督辦專(zhuan) 題調研暨辦理推進會(hui) 上，監管部門、行業(ye) 專(zhuan) 家以及業(ye) 內(nei) 人士表示，防範AI就業(ye) 歧視，需要加強對算法濫用的監管、強化技術手段，多方麵共同努力消除隱藏在算法背後的歧視，更好維護勞動者權益。

　　隨著ChatGpt火爆出圈，國內(nei) 一眾(zhong) AIGC平台迅速跟進，疊加我國互聯網招聘平台正處於(yu) 飛速發展期的大背景，利用人工智能技術進行簡曆篩選和人力資源開發已經成為(wei) 當前招聘領域的一個(ge) 最新、最熱門的發展趨勢。

　　一些在AI招聘領域邁出實質性步伐的企業(ye) 和機構表示，AI招聘可以避免主觀因素的幹擾，更好地對應聘者能力與(yu) 崗位需求進行匹配。然而，偏見和歧視也可能通過算法更隱晦地內(nei) 嵌到決(jue) 策係統當中，悄無聲息地侵蝕就業(ye) 公平。

　　如何讓AI算法背後的就業(ye) 歧視無處藏身？日前，在上海市政協一場重點提案督辦專(zhuan) 題調研暨辦理推進會(hui) 上，各方積極建言，為(wei) 就業(ye) 領域的AI應用立起公平公正的防護盾。

　　AI算法會(hui) 不會(hui) 產(chan) 生就業(ye) 歧視？

　　當前，我國互聯網招聘平台快速發展。數據顯示，一些頭部平台累計服務求職者已超過1億(yi) 人次，求職有效簡曆數超過1.5億(yi) 份，認證企業(ye) 接近1000萬(wan) 家。大量招聘需求與(yu) 求職需求聚集於(yu) 平台，帶來了海量的數據積累。目前，已經有多家招聘平台開始探索通過AI算法為(wei) 數據賦能。

　　“根據招聘平台的數據，結合當前社會(hui) 上人工智能和大數據技術的發展，無論是用人單位還是中介部門，在雇傭(yong) 決(jue) 策上對算法技術的依賴性是不斷提高的。”上海市委網信辦總工程師楊海軍(jun) 說道。

　　在AI算法為(wei) 人力資源開發帶來效能提升的同時，一些隱蔽的風險也引發了各界的關(guan) 注。

　　翁文磊曾長期在上海市婦聯工作，密切關(guan) 注女性就業(ye) 的她注意到，如今的勞動者在求職時麵臨(lin) 的情形和以往已大不相同。“互聯網招聘平台的簡曆篩選過程基於(yu) 人工智能算法，可以從(cong) 已知數據中準確推測求職者的婚育狀況，同時其自主學習(xi) 能力會(hui) 放大社會(hui) 固有的部分性別偏見。”

　　“盡管目前還沒有發現典型案例，但也要未雨綢繆。”翁文磊表示，互聯網招聘平台帶來的性別就業(ye) 歧視更加隱蔽，隻能通過長期招聘結果進行反推。“同時，勞動法規製性別歧視的主體(ti) 是雇主，即便互聯網招聘平台可以承擔責任，其責任的履行也存在很大困難。”針對潛在的歧視風險，她認為(wei) ，是否存在歧視要根據數據來看，還要加強對典型案例的數據分析，進而及時提出預警。

　　多管齊下共同監管

　　就業(ye) 是最大的民生，就業(ye) 歧視事關(guan) 身在職場的每個(ge) 勞動者，如何未雨綢繆防患於(yu) 未然，各方都已行動起來，保障就業(ye) 領域的公平公正。

　　針對算法新問題，楊海軍(jun) 介紹，國家先後出台了《互聯網信息服務算法推薦管理規定》《關(guan) 於(yu) 加強互聯網信息服務算法綜合治理的指導意見》，並持續開展專(zhuan) 項行動，深入排查整治各類企業(ye) 的算法濫用現象。“主要是對企業(ye) 算法的機製、機理、管理製度、應用場景，它的標簽體(ti) 係、用戶權益保護等多個(ge) 方麵進行深入檢查。基本上所有頭部的招聘企業(ye) 都納入了檢查名單。”楊海軍(jun) 說。

　　在監管發力的同時，技術手段也在加強。上海市科委總工程師趙健介紹，在2021年人工智能科技支撐專(zhuan) 項項目審核中，上海專(zhuan) 門部署了人工智能社會(hui) 實驗體(ti) 係建設專(zhuan) 題，強調要科學評估人工智能的社會(hui) 綜合影響，有效推進人工智能應用的標準建設，輔助支持人工智能應用的公共治理的決(jue) 策。

　　防止AI可能存在偏見和歧視的問題，一些機構已經在這方麵進行有力的探索。“比如上海的浦江實驗室建設了軟硬結合的蒲公英人工智能治理開放平台——OpenEGlab，目標是要打造係統、實用的人工智能倫(lun) 理治理的基礎設施。”趙健介紹說，該平台包括規則風險展示、評測框架等五大部分。其中，公平公正的維度，涵蓋了基於(yu) 性別、地域、年齡、職業(ye) 健康的歧視內(nei) 容。同時，建立了基於(yu) 評測框架敏感問題的評測語料庫，數據量達到百萬(wan) 級，公平公正部分的數據量將達到十萬(wan) 級，目前對一些國內(nei) 外大模型安全性初步開展了評測。

　　讓勞動者參與(yu) 算法治理

　　“來伊份目前有7800名正式員工，95%是女性，40歲至50歲的員工占50%。”麵對職場上的就業(ye) 歧視，上海來伊份股份有限公司總裁鬱瑞芬常用自己的經曆來回應偏見：“我是1999年創業(ye) 的，雇用了大批下崗工人，她們(men) 是可愛的人，工作認真努力。”

　　鬱瑞芬認為(wei) ，年齡、性別等都不應是職場的門檻。“我們(men) 門店的大多數員工都是上海本地阿姨，企業(ye) 對她們(men) 在電腦技能方麵進行了培訓提升，目前每年發放工資8.5億(yi) 元左右。”

　　“女性構成了就業(ye) 和勞動力市場的半邊天，但晉升遭遇天花板、同工不同酬等就業(ye) 歧視仍然存在於(yu) 一些企業(ye) 之中。”翁文磊認為(wei) ，經濟轉型，特別是新技術對就業(ye) 的替代效應，女性是有優(you) 勢的。“現在就業(ye) 不僅(jin) 僅(jin) 要肌肉，更重要的是協調能力。”

　　上海財經大學法學院教授吳文芳在對數字時代人工智能算法治理與(yu) 勞動者權益保障進行研究時曾撰文指出，針對算法可能導致歧視以及算法權力濫用的問題，需要通過算法治理工具予以規製。

　　吳文芳表示，應關(guan) 注勞動者參與(yu) 算法治理的具體(ti) 路徑構建，以及勞動者新型權利的賦權進路。同時，應強化工會(hui) 的專(zhuan) 業(ye) 化賦能及與(yu) 第三方專(zhuan) 業(ye) 機構的製度化協作，積極參與(yu) 算法設計、算法公開等監管程序。

　　本報記者 裴龍翔

　　《工人日報》（2023年09月12日 04版）