是算法在淘汰？

還是觀念在淘汰？

今年42歲，擁有10年互聯(lián)網(wǎng)大廠工作經(jīng)驗(yàn)的張女士在投遞200余份簡(jiǎn)歷均石沉大海后，嘗試將簡(jiǎn)歷中的畢業(yè)時(shí)間模糊處理、姓名改為中性化的“張立”，兩周內(nèi)便收到了6個(gè)面試邀約。這樣的簡(jiǎn)歷“優(yōu)化”策略，揭開(kāi)了招聘平臺(tái)黑箱算法的冰山一角。

簡(jiǎn)歷”消失“的背后：被算法改寫(xiě)的求職命運(yùn)

當(dāng)張女士仍在等待心儀崗位面試通知時(shí)，同方向的另一位資歷較淺的男性競(jìng)爭(zhēng)者已相較輕松地獲得了面試邀請(qǐng)。這樣的情況并非個(gè)例。在當(dāng)今數(shù)字化招聘的時(shí)代，算法篩選系統(tǒng)已經(jīng)成為企業(yè)初篩簡(jiǎn)歷的首道關(guān)卡，卻在不經(jīng)意之間，成為了女性和年長(zhǎng)求職者的隱形屏障。

2022年北京大學(xué)針對(duì)“中國(guó)招聘算法歧視”的研究報(bào)告表示，部分招聘平臺(tái)的AI模型會(huì)因簡(jiǎn)歷中出現(xiàn) “女性”“45歲”“退休返聘” 等詞降低簡(jiǎn)歷通過(guò)的概率。實(shí)驗(yàn)顯示，隱藏年齡和性別信息后，中高齡求職者的面試率提升了20%。

算法的歧視是隱形的，而職場(chǎng)中的區(qū)別對(duì)待卻顯然呈現(xiàn)著。智聯(lián)招聘發(fā)布的《2021中國(guó)女性職場(chǎng)現(xiàn)狀調(diào)查報(bào)告》中發(fā)現(xiàn)，約 55.8%的女性在求職時(shí)被問(wèn)及婚育狀況，而男性?xún)H 23.9%，甚至不到女性的一半。此外，29.6%的女性在求職時(shí)因?yàn)?strong>性別原因受到用人單位的限制。以上的數(shù)據(jù)，男性比例均低于女性，女性在職場(chǎng)中受到明顯的“性別限制”。

這一情況在2023中并未迎來(lái)改變。據(jù)智聯(lián)招聘調(diào)查報(bào)告顯示，61.2%的女性在求職中被問(wèn)婚育，不僅高于上一年的58%，還遠(yuǎn)高于男性的32.3%。不僅如此，38.3%的女性表示婚育影響職場(chǎng)前景，遠(yuǎn)高于男性的17.9%。數(shù)據(jù)顯示，11.9%的女性因性別升職加薪不順，高于男性的10.3%。這意味著，和職場(chǎng)男性相比，婚育、性別問(wèn)題歧視持續(xù)甚至加深，為女性的職場(chǎng)發(fā)展帶來(lái)困擾。

不僅女性，年長(zhǎng)求職者同樣面臨這類(lèi)問(wèn)題。

2023年復(fù)旦大學(xué)《中國(guó)就業(yè)市場(chǎng)性別與年齡歧視研究》在招聘平臺(tái)投遞測(cè)試簡(jiǎn)歷，發(fā)現(xiàn)當(dāng)女性簡(jiǎn)歷含“45歲”時(shí)，被查看率下降 70%。

這種種數(shù)據(jù)的背后，不僅僅是無(wú)數(shù)求職者被改寫(xiě)的職業(yè)命運(yùn)，還是社會(huì)歧視含沙射影的體現(xiàn)。在算法的世界里，他們的經(jīng)驗(yàn)、能力和潛力被簡(jiǎn)化成了數(shù)字與標(biāo)簽，而那些與傳統(tǒng)優(yōu)勢(shì)群體不符的特征，卻成為了被“過(guò)濾”的理由。

技術(shù)黑箱：從“數(shù)據(jù)推斷”到?jīng)Q策黑箱的閉環(huán)

算法的“黑箱”特性，使得其決策過(guò)程難以被外界理解。以常見(jiàn)的機(jī)器學(xué)習(xí)算法為例，它通過(guò)對(duì)大量歷史數(shù)據(jù)的學(xué)習(xí)，建立起一套預(yù)測(cè)模型。在招聘場(chǎng)景中，算法會(huì)分析過(guò)往成功入職者的簡(jiǎn)歷特征，比如學(xué)歷、工作經(jīng)驗(yàn)、技能證書(shū)等等，然后根據(jù)這些特征來(lái)判斷新求職者與相對(duì)職業(yè)的匹配度。

（此圖為AI智能簡(jiǎn)歷篩選系統(tǒng)流程圖）

然而這種看似科學(xué)的推斷過(guò)程，卻隱藏著巨大的風(fēng)險(xiǎn)。一方面，歷史數(shù)據(jù)本身就可能存在偏見(jiàn)。例如，如果一家企業(yè)過(guò)去在招聘中存在對(duì)女性或年長(zhǎng)求職者的歧視，那么這些帶有偏見(jiàn)的數(shù)據(jù)就會(huì)被學(xué)習(xí)甚至放大。歐盟基本權(quán)利署在《2023年人工智能與就業(yè)歧視白皮書(shū)》報(bào)告就指出，在68%使用AI招聘算法的企業(yè)中，有34%的算法被檢測(cè)出存在性別或年齡偏見(jiàn)。

但其實(shí)，算法的核心機(jī)制歧視就是對(duì)“非顯示數(shù)據(jù)”的標(biāo)簽化捕捉。比如通過(guò)姓名庫(kù)（如“張偉”“王芳”等高頻性別指向姓名）、身份證號(hào)前6位（推斷地域與年齡）、教育經(jīng)歷時(shí)間線（如“2005年本科畢業(yè)”推算年齡約40歲）等間接信息，便可為簡(jiǎn)歷自動(dòng)生成“性別概率值”“年齡分段標(biāo)簽”。

而在中國(guó)信息通信研究院2023年對(duì)10家招聘平臺(tái)的監(jiān)測(cè)顯示，7家平臺(tái)存在“性別-崗位類(lèi)型關(guān)聯(lián)加權(quán)”，如銷(xiāo)售崗對(duì)男性簡(jiǎn)歷的匹配度默認(rèn)提升20%-30%。這也揭示了平臺(tái)算法?；谄髽I(yè)歷史招聘數(shù)據(jù)訓(xùn)練，會(huì)形成“隱性偏好模型”，會(huì)自動(dòng)為同類(lèi)崗位生成“優(yōu)先匹配年輕男性”的比例規(guī)則。

另一方面，算法的決策過(guò)程缺乏透明度。即使求職者對(duì)篩選結(jié)果提出質(zhì)疑，企業(yè)也往往難以給出明確的解釋?zhuān)驗(yàn)樗惴ǖ臎Q策是基于復(fù)雜的數(shù)學(xué)模型和大量的數(shù)據(jù)運(yùn)算，連開(kāi)發(fā)者有時(shí)候也難以完全理解其背后的邏輯。這種“黑箱”決策不僅剝奪了求職者的知情權(quán)和申訴權(quán)，也使得算法歧視難以被發(fā)現(xiàn)和糾正。

對(duì)此，騰訊研究院秘書(shū)長(zhǎng)張欽坤表示，如果不解決這兩個(gè)問(wèn)題，不僅影響用戶對(duì)AI應(yīng)用的信任，而且也可能會(huì)帶來(lái)算法歧視、算法安全和算法責(zé)任等方面的相關(guān)問(wèn)題。而數(shù)據(jù)工程師也意識(shí)到需要在算法的可解釋性和高效率之間做出取舍，目前還沒(méi)有兩全其美的 AI 算法，如何做好 AI 可解釋的量化呈現(xiàn)是當(dāng)前業(yè)界需要思考的重點(diǎn)。

算法偏見(jiàn)的本質(zhì)：社會(huì)鏡像的技術(shù)投射

算法并非天生帶有偏見(jiàn)，他只是社會(huì)現(xiàn)實(shí)的一種反映。社會(huì)對(duì)女性和年長(zhǎng)求職者的傳統(tǒng)觀念，如認(rèn)為女性在職業(yè)發(fā)展中會(huì)受到生育等因素的限制，年長(zhǎng)求職者缺乏創(chuàng)新能力和學(xué)習(xí)能力等，早以深深的烙印在歷史數(shù)據(jù)和社會(huì)文化中。當(dāng)算法以這些數(shù)據(jù)為基礎(chǔ)進(jìn)行訓(xùn)練時(shí)，就不可避免地將這些偏見(jiàn)融入到了決策模型中。

智聯(lián)招聘《2023 年一季度人才市場(chǎng)熱點(diǎn)快報(bào)》中進(jìn)一步指出了年齡歧視是勞動(dòng)權(quán)益的“頭號(hào)克星”，職場(chǎng)人認(rèn)為有待改善的就業(yè)歧視問(wèn)題中，年齡歧視占比高達(dá)60.2%。

報(bào)告通過(guò)大規(guī)模調(diào)研數(shù)據(jù)還指出，85% 的白領(lǐng)認(rèn)為存在 “35 歲門(mén)檻”，其中 46.8% 的受訪者直言 “過(guò)了 35 歲的確很難找工作”；38.1%表示目前許多公務(wù)員招聘年齡也以35歲為限，35歲可能是職場(chǎng)分水嶺。

此外，女性求職者和年長(zhǎng)求職者還有一個(gè)共同面臨的問(wèn)題：即使真的面試上并且找到工作后，在行業(yè)區(qū)分、職級(jí)分布上也存在著一定的歧視。

該報(bào)告還闡述了，從行業(yè)上看，互聯(lián)網(wǎng)、IT、通信、電子等行業(yè)對(duì)年齡的要求會(huì)更高一些，金融、文化藝術(shù)等行業(yè)緊隨其后，以至于找工作時(shí)，年齡成為了求職者的求職負(fù)擔(dān)。由于互聯(lián)網(wǎng)、金融行業(yè)競(jìng)爭(zhēng)較為激烈，因此這類(lèi)行業(yè)的求職者更容易產(chǎn)生年齡危機(jī)。

智聯(lián)招聘CEO郭盛在《2021中國(guó)女性職場(chǎng)現(xiàn)狀調(diào)查報(bào)告》指出，女性工資低于男性，除了管理層占比偏低，還在于女性主要從事的崗位為社會(huì)認(rèn)同的基礎(chǔ)崗位，從本次調(diào)研數(shù)據(jù)來(lái)看，女性主要分布在財(cái)務(wù)、行政、人力資源和銷(xiāo)售崗，現(xiàn)在普遍高薪高社會(huì)地位的技術(shù)、產(chǎn)品崗位上男性的占比優(yōu)勢(shì)較為明顯，這也影響女性的平均工資水平。

報(bào)告還顯示，男性職場(chǎng)人有46.9%處于普通員工層次，而53.9%的女性職場(chǎng)人都在擔(dān)任基礎(chǔ)崗位，女性占比是超越男性的。在不同級(jí)別的技術(shù)人員中，女性仍為“第二性”，占比與男性差距明顯。這些數(shù)據(jù)說(shuō)明，在市場(chǎng)環(huán)境里，不僅默認(rèn)女性的技術(shù)水平低于男性，而且在中高級(jí)別、中高層次領(lǐng)域，男性地位還是高于女性，并且擁有更多的話語(yǔ)權(quán)。

這種技術(shù)偏見(jiàn)的危害是深遠(yuǎn)的。它不僅限制了女性和年長(zhǎng)求職者的職業(yè)發(fā)展，也剝奪了企業(yè)獲得多元化人才的機(jī)會(huì)，阻礙了社會(huì)的創(chuàng)新與進(jìn)步。正如哈佛大學(xué)教授凱西·奧尼爾在《算法霸權(quán)》一書(shū)中所寫(xiě)到的：“算法是一種權(quán)力工具，它可以放大社會(huì)的不平等，而不是消除它們。”

破局困境：當(dāng)法律困境撞上社會(huì)偏見(jiàn)磐石

面對(duì)算法歧視問(wèn)題單純的技術(shù)調(diào)整顯然不足以解決根本問(wèn)題。雖然一些企業(yè)嘗試通過(guò)優(yōu)化算法、增加數(shù)據(jù)多樣性等方式來(lái)減少偏見(jiàn)，但這些“技術(shù)補(bǔ)丁”往往治標(biāo)不治本。

2023年歐盟《人工智能法案》第52條（透明度義務(wù)）已要求招聘類(lèi)AI系統(tǒng)披露“是否基于性別、年齡等敏感特征決策”，提供通俗易懂的算法影響說(shuō)明（如“您的簡(jiǎn)歷因年齡標(biāo)簽被降低通過(guò)率”）。德國(guó)西門(mén)子隨機(jī)剔除算法中“45歲以上簡(jiǎn)歷降權(quán)”參數(shù)，使該群體簡(jiǎn)歷通過(guò)率提升了37%。但慕尼黑工業(yè)大學(xué)2024年追蹤研究發(fā)現(xiàn)，盡管顯性年齡過(guò)濾規(guī)則被刪除，算法對(duì)“2000年前畢業(yè)”等間接年齡線索的識(shí)別仍使中老年求職者面試率比青年低22%。

這種“規(guī)則刪除但偏見(jiàn)依存”的現(xiàn)象，印證了算法歧視本質(zhì)上就是社會(huì)年齡焦慮的的技術(shù)折射——當(dāng)法蘭克福證券交易所的企業(yè)普遍把35歲設(shè)為“管理崗準(zhǔn)入紅線”，算法即使剔除顯性標(biāo)簽，也難以阻斷HR在面試環(huán)節(jié)對(duì)“年長(zhǎng)=保守”的潛意識(shí)聯(lián)想。

2019年加拿大《就業(yè)公平法》修訂后，多倫多銀行因無(wú)法證明算法公平性，向127名被篩除的女性求職者賠償210萬(wàn)加元，推動(dòng)溫哥華證交所300強(qiáng)企業(yè)中89%引入算法審計(jì)。但加拿大統(tǒng)計(jì)局2023年數(shù)據(jù)顯示，金融行業(yè)女性高管占比僅從21%升至25%，技術(shù)崗位女性工程師比例甚至下降3個(gè)百分點(diǎn)。

這種矛盾在多倫多證券交易所的交易大廳尤為明顯——即便算法刪除了性別加權(quán)參數(shù)，交易員群體中女性占比仍不足15%，而年薪超50萬(wàn)加元的崗位中男性占比達(dá)87%。

從歐盟的《人工智能法案》到加拿大的《就業(yè)公平法》，這些破局嘗試都指向了一個(gè)共同核心矛盾：算法并非技術(shù)故障，而是AI對(duì)社會(huì)結(jié)構(gòu)性歧視的數(shù)字化呈現(xiàn)。破局之路遠(yuǎn)非修改代碼或者修訂法律那般簡(jiǎn)單，當(dāng)社會(huì)評(píng)價(jià)系統(tǒng)仍將“年輕”“男性”與“高潛力”天然綁定，即便算法成為“色盲”，職場(chǎng)歧視也會(huì)以“文化適配”“潛力評(píng)估”等更隱蔽的方式存在。正如中國(guó)人民大學(xué)商法研究所所長(zhǎng)劉俊海指出：“算法治理的核心，是打破‘社會(huì)偏見(jiàn)→數(shù)據(jù)污染→算法強(qiáng)化→歧視固化’的惡性循環(huán)”。

要打破這一困境，我們需要的不僅“數(shù)據(jù)去標(biāo)識(shí)化”“算法審計(jì)”等技術(shù)補(bǔ)丁，更要重構(gòu)職場(chǎng)評(píng)價(jià)體系——讓能力而非年齡、讓價(jià)值而非性別，成為衡量求職者的核心標(biāo)準(zhǔn)。技術(shù)只是工具，偏見(jiàn)審視才是核心目標(biāo)。讓技術(shù)真正服務(wù)于人的尊嚴(yán)與公平，讓每一個(gè)求職者都能在平等的基礎(chǔ)上展現(xiàn)自己的能力和價(jià)值。這條路任重道遠(yuǎn)，但一刻也不容緩。

參考資料：

[1]北京大學(xué)（2022）《中國(guó)招聘算法歧視研究報(bào)告》

[2]智聯(lián)招聘《2021中國(guó)女性職場(chǎng)現(xiàn)狀調(diào)查報(bào)告》

[3]智聯(lián)招聘《2023年中國(guó)職場(chǎng)性別現(xiàn)狀調(diào)查報(bào)告》

[4]復(fù)旦大學(xué)（2023）《中國(guó)就業(yè)市場(chǎng)性別與年齡歧視研究》

[5]歐盟基本權(quán)利署《2023年人工智能與就業(yè)歧視白皮書(shū)》

[6]北京大學(xué)（2023）《招聘算法透明度研究報(bào)告》

[7]中國(guó)信息通信研究院（2023）《互聯(lián)網(wǎng)招聘算法合規(guī)性評(píng)估報(bào)告》

[8]智聯(lián)招聘《2023年一季度人才市場(chǎng)熱點(diǎn)快報(bào)》

[9]歐盟《人工智能法案》（2023）

[10]西門(mén)子2024年年報(bào)

[11]慕尼黑工業(yè)大學(xué)（2024）《算法偏見(jiàn)的隱形遷移》

[12]加拿大（2019）《就業(yè)公平法》

[13]加拿大統(tǒng)計(jì)局（2023）《性別與職場(chǎng)平等報(bào)告》

[14]聯(lián)合國(guó)《2024年人工智能與性別平等報(bào)告》

作者|潘晶晶 何紫菱 耿靜嫻

指導(dǎo)老師|高殿洪 鐘俊輝

編輯|何紫菱