人工智能在哪一些地方存在偏見(jiàn)

在2018年末，Google決定取消“智能撰寫(xiě)”（Smart Compose）功能，將完全移除所有智能“撰寫(xiě)功能”中帶性別的人稱代名詞， Google擔(dān)心該功能帶有偏見(jiàn)，谷歌研究科學(xué)家輸入了“下周我要見(jiàn)一位投資者”，“智能撰寫(xiě)”提出了后續(xù)的問(wèn)題：“您想見(jiàn)他嗎？” 但是該投資者是女性。

偏見(jiàn)是AI的致命弱點(diǎn)。DataRobot的研究發(fā)現(xiàn)，在美國(guó)和英國(guó)，將近一半（42％）的AI專業(yè)人士“非常‘”或“極其”擔(dān)心AI偏見(jiàn)。AI可以在最意想不到的地方出現(xiàn)，沒(méi)有系統(tǒng)是免疫的。隨著AI在工作場(chǎng)所中深入應(yīng)用，需要注意那些可能會(huì)持續(xù)存在偏見(jiàn)的地方和平臺(tái)。

招聘工具

人工智能在招聘中的應(yīng)用有望將偏見(jiàn)最小化。根據(jù)領(lǐng)英（LinkedIn）的研究，43%的招聘人員和招聘經(jīng)理表示，人工智能的一個(gè)關(guān)鍵好處是它有消除人類偏見(jiàn)的潛力。然而，承諾將偏見(jiàn)最小化的人工智能工具，也可能在招聘過(guò)程中注入偏見(jiàn)。以谷歌的招聘廣告算法為例，更多向男性顯示高薪職位。此外，許多人工智能招聘工具依賴于面部識(shí)別技術(shù)。研究表明，即使是最優(yōu)秀的面部識(shí)別系統(tǒng)，識(shí)別黑人面孔的錯(cuò)誤率也是白人的5到10倍。

雖然從人工智能招聘工具中消除偏見(jiàn)存在困難，但我們可以做很多力所能及的事情。首先要進(jìn)行監(jiān)督，負(fù)責(zé)構(gòu)建、實(shí)現(xiàn)和使用招聘工具的團(tuán)隊(duì)必須是多樣化的，否則他們自己的偏見(jiàn)將會(huì)融入到工具中。其次，必須仔細(xì)檢查數(shù)據(jù)，很多公司依賴人工智能招聘工具，這些工具的使用主要基于歷史數(shù)據(jù)。由于許多公司對(duì)某些類別的個(gè)人存在歷史偏好（例如，白人男性和頂尖大學(xué)的畢業(yè)生），這些人也在基于歷史數(shù)據(jù)訓(xùn)練的算法中占有優(yōu)勢(shì)。必須檢查類似的情況并在其被內(nèi)置到AI工具前消除掉。最后，所有人工智能招聘工具都應(yīng)該接受內(nèi)部和外部審計(jì)。HireVue等公司致力于參與內(nèi)部和外部審計(jì)，以查明其工具中可能存在的偏見(jiàn)。

協(xié)作工具

工作中協(xié)作工具（如Slack）已經(jīng)無(wú)處不在。最近，一些公司已經(jīng)開(kāi)始開(kāi)發(fā)和發(fā)布基于人工智能的工具，幫助經(jīng)理和領(lǐng)導(dǎo)理解在電子郵件、Slack和類似平臺(tái)上溝通的內(nèi)容。例如，總部位于東京的Vibe就是這樣一家公司，利用人工智能來(lái)評(píng)估員工的滿意度，Vibe將員工的狀態(tài)分為五種情緒：快樂(lè)、憤怒、不滿、失望和壓力，通過(guò)掃描信息中的關(guān)鍵字和表情符號(hào)來(lái)描述員工的心理狀態(tài)。

問(wèn)題是，許多人工智能工具并沒(méi)有考慮到個(gè)體具有不同的情感和其他傾向這一事實(shí)。例如，男性和女性在辦公協(xié)作工具上的表現(xiàn)不同。Quartz的記者Leah Fessler指出，“貴公司的Slack可能帶有性別歧視”。她解釋說(shuō)，男性傾向于主導(dǎo)Slack公共頻道的對(duì)話，而女性更傾向于使用支持性和友好性的內(nèi)容。

Slack本身越來(lái)越傾向于人工智能。 特別是，它創(chuàng)建了一個(gè)“工作圖譜”來(lái)分析用戶之間的相互關(guān)系。“工作圖”的概念并不新鮮。 谷歌已經(jīng)建立了自己的“知識(shí)圖譜”，而Facebook則建立了自己的“社會(huì)圖譜”?！肮ぷ鲌D譜”使Slack能夠在平臺(tái)內(nèi)更快，更準(zhǔn)確地搜索，同時(shí)還讓用戶識(shí)別最重要的信息。據(jù)《麻省理工學(xué)院技術(shù)評(píng)論》（MIT Technology Review）報(bào)道，工作圖譜“旨在成為一名組織嚴(yán)密、多任務(wù)處理能力的助理，知道正在發(fā)生的一切，只向你簡(jiǎn)要介紹最重要的事情。”

鑒于普通用戶每天發(fā)送70條消息，因此許多企業(yè)將依靠AI來(lái)更好地了解員工在Slack和類似協(xié)作工具上的狀態(tài)。我們必須保持警惕，了解如何訓(xùn)練AI工具，避免產(chǎn)生偏見(jiàn)。

銷(xiāo)售工具

人工智能工具正在迅速滲透到銷(xiāo)售組織中，最有前途的應(yīng)用場(chǎng)景之一是線索評(píng)分。根據(jù)Gleanster研究，一半的潛在客戶有意向，但尚未準(zhǔn)備好購(gòu)買(mǎi)。一些AI工具允許公司挖掘他們與客戶聯(lián)系的各種渠道，提取人口統(tǒng)計(jì)、公司和技術(shù)信息，并最終確定銷(xiāo)售線索的質(zhì)量。這些工具甚至可以指出消費(fèi)者的情緒，以預(yù)測(cè)他們的購(gòu)買(mǎi)傾向。

就像所有的人工智能工具一樣，理解基于人工智能的銷(xiāo)售工具模型是如何構(gòu)建的非常重要。大多數(shù)工具是要發(fā)現(xiàn)“容易實(shí)現(xiàn)的目標(biāo)”——最容易成單和擁有最大預(yù)算的線索。不過(guò)這些工具很少能考慮全面。例如，他們通常不會(huì)考慮哪些線索可能具有最高的終身價(jià)值，或哪些可能給予最高的NPS（凈推薦值）。

另一個(gè)問(wèn)題是，許多公司把潛在客戶的產(chǎn)生與潛在客戶評(píng)分混為一談。他們假設(shè)符合他們的理想客戶特征的就是潛在客戶，不考慮領(lǐng)導(dǎo)者的意愿，比如領(lǐng)導(dǎo)者是否準(zhǔn)備現(xiàn)在就購(gòu)買(mǎi)。第三個(gè)問(wèn)題是，AI驅(qū)動(dòng)的銷(xiāo)售工具常常受到歷史銷(xiāo)售信息的影響，會(huì)優(yōu)先考慮那些看起來(lái)像過(guò)去客戶的客戶，忽略了市場(chǎng)動(dòng)態(tài)的變化，也沒(méi)有考慮到那些過(guò)去沒(méi)有購(gòu)買(mǎi)過(guò)產(chǎn)品的客戶，在未來(lái)可能會(huì)隨著擴(kuò)大服務(wù)范圍和增加廣告而成為重要客戶。

根據(jù)《哈佛商業(yè)評(píng)論》（Harvard Business Review），使用人工智能進(jìn)行銷(xiāo)售的公司能夠?qū)㈩I(lǐng)先優(yōu)勢(shì)提高50%。人工智能有助于消除猜測(cè)，并使銷(xiāo)售代表能夠把時(shí)間集中在與客戶建立關(guān)系上。發(fā)揮人工智能工具的關(guān)鍵是認(rèn)識(shí)到偏見(jiàn)存在的地方，并采取措施將其最小化。

人工智能被稱為自蒸汽機(jī)以來(lái)最偉大的創(chuàng)新。隨著人工智能成為我們工作場(chǎng)所不可或缺的一部分，我們必須要審視AI工具潛在問(wèn)題，找出可能存在偏見(jiàn)的地方，讓人工智能更好地為我們所用。

責(zé)任編輯：Ct