■ 社論

　　在涉及機會公平、權益保障等領域，不能讓效率成為放大不平等的工具。

　　“你的簡歷可能根本過不了人工智能(AI)這一關。”

　　據《工人日報》報道，利用算法進行“AI招聘”已成為職場中的一大新熱點，如何規避AI算法可能帶來的歧視問題成為保障就業公平面臨的一個新問題。近日，上海市政協在一場重點提案督辦專題調研暨辦理推進會上，就針對這一問題進行了重點討論，旨在通過加強監管、強化技術手段等，更好維護勞動者權益。

　　當下，大數據、大模型等AI算法，正不斷進入各場景進行探索應用，互聯網招聘平臺也是其中之一。而利用AI技術進行簡歷篩選和人力資源開發，也被視為當前招聘領域的發展趨勢。

　　在勞動力就業市場加深依賴“AI”做決策的背景下，潛伏在AI算法背后的就業歧視等問題不容忽視。提前針對勞動者權益保護等關鍵議題公開討論，是公共政策應對技術挑戰的應有之策。

　　從技術特征上看，AI短期內無法代替自主決策，更多是以效率提升工具的方式在各行業發揮作用。但隨著AI不斷突破封閉場景，進入人與社會互動的多個領域，相關的倫理、權益保護等復雜問題，也成了技術發展的潛在風險。

　　以就業歧視來看，AI算法本身不具備歧視的動機與能力，但在本身就存在潛在就業歧視的環境之中，AI可能會成為部分偏見的放大器。AI提升效率的本質邏輯，是結合數據積累和運算能力，給予使用者以最符合其期待的答案。

　　那么，倘若一個原本就帶有性別、地域、年齡等偏見的企業招聘者，再利用這一算法系統進行簡歷篩選，那么客觀上就在流程中創造了一個“歧視信息繭房”：能被算法檢索和推送的，都是經過偏見過濾后的簡歷。

　　在這樣的情境之中，AI首先成了放大偏見的工具，效率提升的同時，也提高了“就業歧視”的范圍與傷害。其次，AI幫助部分招聘者進行了“道德回避”，即原本應承擔倫理道德風險的個體，可以在這一過程中將全部的偏見歧視問題，歸結為“算法的錯”。

　　這就使得原本就相對隱形的“歧視”問題變得更加隱形。在共同的監管和社會輿論壓力下，可能不會有任何一個AI工具公開將涉嫌歧視的標簽作為“過濾選項”，但算法推薦“討好使用者”的技術特征，卻使得這一過程在實踐中難以完全避免。

　　換言之，一個有嚴重就業歧視的招聘者，可能會訓練出一個“更懂我的偏見和喜好”的算法模型。

　　事實上，不只是在就業招聘領域，在多數處理“人的問題”的領域中，都可能存在類似問題。而旨在提升效率的科技進步，不能以顛覆、挑戰人類社會賴以生存的倫理底線為代價，尤其在涉及機會公平、權益保障等領域，更不能讓效率成為放大不平等的工具。

　　引入外部監督，同時用技術手段解決潛在問題，是解決技術進步與引發社會問題之間矛盾的兩個主要手段。

　　在上述的調研推進會上，與會者也提出了讓勞動者參與算法治理、避免算法濫用等社會化監管的建議。引入外部的充分監督，尤其是讓相關利益主體參與其中，推動算法的公開透明，是值得效仿與鼓勵的做法。

　　而從根本上看，可以進一步討論，在相關的算法規則中納入對公平等價值觀的紅線規則。比如，在與使用者互動中，對疑似歧視的使用行為本身進行定義、監測和限制，甚至可以設置算法推薦的底線機制。

　　再比如，在推薦規則之中，必須實現性別、學歷等比例，最大程度確保每一個求職者都有同等被看見的機會。

　　防止技術對弱勢群體造成沖擊，既要未雨綢繆，又需在探索中反復測試技術手段的最優解，這是擺在各行各業面前的新挑戰。

　　唯有小心構筑起公共政策的防火墻，讓AI既是社會生產力解放與提升的工具，同時也能成為維護社會公平正義底線的幫手，這才是科技進步的長期價值與方向所在。