0
艾格·格雷夫斯基一直想讓硅谷變得更加多元化。他于2012年創辦了一家叫做Mya Systems的公司，這家公司的總部位于舊金山。格雷夫斯基希望通過這家公司減少人為因素對企業招聘的影響。“我們正嘗試剔除招聘過程中的偏見”，他說道。
格雷夫斯基正在和Mya共同實現他的目標。Mya是一個很智能的聊天機器人，可以對求職者進行面試和評估。格雷夫斯基認為，和一些招聘人員不同，經過編程的Mya會向求職者提出客觀的、基于工作表現的問題，并避免人類可能產生的潛意識判斷。Mya評估求職者的簡歷時，不會關注他的外表、性別和名字。“我們正極力剝除這些因素”，格雷夫斯基說道。
格雷夫斯基表示，目前已經有幾家大型招聘機構正在使用Mya，不過他拒絕透露這些公司的名字。這些招聘機構用Mya來對求職者進行初試。Mya可以根據工作的核心要求對申請者進行篩選，了解他們的教育和專業背景，告知求職者他們所應聘職位的細節，衡量他們是否感興趣；同時還能回答求職者關于公司政策和文化方面的疑問。
眾所周知，科技產業存在多元化不足的問題，而且糾正這一失衡現象的速度緩慢得令人失望。雖然有公司指出這是“流水線調度問題”，但其實問題的根源出在招聘。招聘是一件非常復雜、繁重的工作，招聘人員需要挑選出最合適的人選，但他們往往存在許多偏見。某種程度而言，招聘系統決定了企業的技術人才構成。假如企業能夠擺脫招聘過程中的人為因素重新招聘，會發生些什么呢？很多創業公司正在開發相關的工具和平臺，用人工智能技術招聘人才，他們認為這些工具和平臺將大幅減少招聘過程中的偏見。
HireVue也是一家嘗試用人工智能消除招聘偏見的企業。通過基于智能視頻和文本的軟件，HireVue可以從視頻面試中提取多達25000個數據點，從而判斷出最合適的工作人選。英特爾、沃達豐、聯合利華和耐克等公司都在使用HireVue的系統。HireVue的評估依據涵蓋了面部表情到詞匯表達等眾多因素，它甚至可以衡量應聘者的同情心等抽象品質。HireVue的首席技術官Loren Larsen表示，通過HireVue“無論應聘者是什么性別、種族、年齡，做過那些工作，讀的什么大學，都將獲得同樣的機會。”因為這款工具為所有應聘者提供了相同的應聘流程，而不是像人類招聘員那樣，情緒和環境等因素都會影響到他的判斷。
盡管AI招聘工具尚未得到廣泛使用，但咨詢公司CEB的產品管理總監Aman Alexander認為，它在人力資源中的流行度正在增加。CEB公司為AMD、Comcast、Philips、Thomson Reuters以及沃爾瑪等大型企業提供了一系列的人力資源工具。Aman Alexander說道：“需求一直在快速增長。招聘工具最大的用戶不是科技公司，而是需要招聘大量員工的大型零售商。這意味著對于企業主而言，它們最大的魅力在于可以提升效率而不是公平性。”
不過，HireVue和Mya等產品背后的團隊認為，它們的工具可以讓招聘過程更加公平。因為自動化需要設立標準，這意味著使用人工智能助手的企業必須清楚如何對應聘者進行評估。理想情況下，這些參數可以在良性循環中不斷更新，AI系統通過分析它收集到的收據，可以讓整個過程更加公正沒有偏見。
不過值得注意的是，AI的效用是由驅動它的數據決定的，而這些數據又是由凌亂、令人失望且充滿偏見的人類產生的。
只要你深入挖掘那些旨在促進公平的算法，就會發現它們或多或少都存在偏見。ProPublica檢查用于預測再犯率的警用工具時發現，該算法對非裔美國人存在偏見。Beauty.AI是一個利用人臉和年齡識別算法選美的軟件，它可以從提交的一系列照片中選出最具吸引力的人物。不過令人遺憾的是，它對淺色皮膚和頭發的人表現出了強烈的偏愛。
即便是那些AI系統的創造者也不得不承認，AI并非完全沒有偏見。AI招聘平臺Talent Sonar的創始人兼CEO勞拉?馬瑟（Laura Mather）表示：“在招聘過程中使用AI非但不會減少，反而會增加偏見。”她認為，AI依賴于人類團隊所產生的訓練集，所以它只會增加偏見而不是消除它。它雇傭的人可能“都很聰明、有天賦，但卻彼此十分相似”。
此外，由于AI是為處理大批量招聘而開發的，任何偏見都將對誰將脫穎而出產生系統級的影響。據格雷夫斯基介紹，Mya Systems正在聚焦零售等行業。“CVS Health正在招聘12萬人補充到它的各個零售點中，Nike每年招募的人也有8萬之多”。任何滲透到系統中的偏見都將產生工業規模的影響。當面對多達12萬的規模龐大的申請者時，AI平臺可能會讓招聘標準迅速偏離人類招聘專員最初的設置的標準。
話又說回來，AI的強大能力也有一定的好處：它解放了招聘人員，讓他們可以集中精力做出更加明智的最終決定。“在我的一生中，我和成千上萬個招聘人員交談過，他們每一個人都在抱怨自己的時間不夠用”，格雷夫斯基說道。既然沒有足夠的時間和每一個應聘者交談，那么直覺決策就變得很重要。AI不僅使得招聘人員可以應對更大規模的應聘者，同時也幫助他們告別了快速決策的工作狀態，能夠更加從容周全地思考和判斷。
要避免AI系統步入“偏見”的陷阱，就要求工程師和程序員具有超知覺。格雷夫斯基解釋道，Mya Systems對Mya用來學習的數據種類進行了控制。這意味著Mya的決策是基于Mya Systems及其客戶預先批準的數據生成的，而非原始的、未經處理的招聘和語言數據。這減小了Mya像Tay一樣學習偏見的可能性。Tay是微軟去年發布的聊天機器人，經過循環學習后，它很快變成了一個種族主義者。不過Mya Systems的做法并不能消除偏見，因為任何經過審核的數據都反映了人們的選擇傾向和偏好。
正因為如此，AI人力資源工具可能無法消除偏見，反而會將其永久化。ReadySet是一家位于奧克蘭的多元化咨詢公司，其執行總監Y-Vonne Hutchinson表示：“我們盡量不將AI視為靈丹妙藥。AI是一個工具，AI有制造商，有時AI可以放大制造商的偏見和制造商的盲點。Hutchinson 接著說道：“要讓這些工具工作，使用它們的招聘人員必須經過訓練，要能夠發現自己和其他人的偏見。”如果沒有這種多元化的訓練，人類招聘專員就會把他們的偏見植入到招聘的不同環節。
一些使用AI人力資源工具的公司正在努力增強其多元性。Textio是一個智能文本編輯器，它可以運用大數據和機器學習對職位列表提出修改意見，從而吸引不同類型的人才。Atlassian是Textio的眾多客戶之一，據Atlassian全球多元化和包容性負責人奧布里·布蘭奇表示，Textio幫助公司將新員工中的女性比例從18％提高到了57％。
布蘭奇說道：“我們看到，我們篩選和最終雇傭的應聘者在性別分布上有了顯著的變化。她表示，使用Textio的意想不到的好處之一是，除了Atlassian的應聘者變得多元化之外，公司對企業文化也有了自我認識。“這引起了很多關于語言如何影響我們作為雇主的品牌形象的內部討論”。
總而言之，如果AI招聘工具能夠提高生產力，那么它就能得到更加廣泛的使用。但如果企業想僅僅靠引進AI來讓招聘更加公平，這還遠遠不夠。用不斷加深的對多元化的認知來完善AI系統十分重要。AI或許無法成為科技行業解決多元化問題的靈丹妙藥，它充其量只是硅谷努力變得更好的一種重要工具罷了。
via wired 雷鋒網編譯 雷鋒網雷鋒網
雷峰網版權文章，未經授權禁止轉載。詳情見轉載須知。
