人類傾向于做出可疑的決定。我們有偏見,受情緒反應(yīng)驅(qū)動(dòng),預(yù)測(cè)能力差,并且難以一次考慮多個(gè)數(shù)據(jù)點(diǎn)。這使人工智能具有超越人類的決策優(yōu)勢(shì),不僅可以使我們變得更聰明,而且可以使我們保持公正。問題是,人工智能從人類行為(借助顯式領(lǐng)域知識(shí)的幫助)生成的數(shù)據(jù)中學(xué)習(xí),因此模仿了我們的偏見。這就導(dǎo)致了反映我們種族主義,性別歧視和其他偏見的算法。許多組織(“ Diversity.ai”就是一個(gè)例子)專注于發(fā)現(xiàn)和消除人為偏見。這項(xiàng)工作是必要的,我贊揚(yáng)這種寶貴的努力。
消除AI偏見的一種方法是包容性聘用。建立能夠在種族,性別,性取向,年齡,經(jīng)濟(jì)狀況等方面實(shí)現(xiàn)多樣性的AI團(tuán)隊(duì)。我認(rèn)為如果這樣做,您將獲得更好的AI,因?yàn)槟膱F(tuán)隊(duì)將更善于發(fā)現(xiàn)偏見,不同的背景將推動(dòng)更多的創(chuàng)新思維,而更多的多樣化的團(tuán)隊(duì)將提高您在整個(gè)企業(yè)范圍內(nèi)擴(kuò)展解決方案的能力。
多元化的團(tuán)隊(duì)更擅長(zhǎng)避免編程偏見,因?yàn)樗麄兩瞄L(zhǎng)預(yù)測(cè)潛在問題。例如,醫(yī)療保健提供者最近使用了為大型保險(xiǎn)公司創(chuàng)建的算法引導(dǎo)急需治療的患者實(shí)施能夠?yàn)樗麄兲峁╊~外護(hù)理的計(jì)劃。問題在于,該算法的護(hù)理決策基于患者過去尋求醫(yī)療服務(wù)的頻率,這有利于獲得更好保險(xiǎn),更多時(shí)間,更多金錢等的患者。這一偏愛的患者群體中,白人比例過高。該算法未能為病情較重但時(shí)間和金錢較少的患者推薦額外的護(hù)理,其中包括大量的黑人患者。這造成了意外的種族分類,其中白人患者比黑人患者獲得更好的護(hù)理。我們不知道是哪家公司創(chuàng)造了這項(xiàng)技術(shù),但我想這不是一支多元化的團(tuán)隊(duì)。黑人團(tuán)隊(duì)成員和背景較不富裕的人可能在發(fā)布這種偏見之前就已經(jīng)看到了這種偏見的可能性。
思想的多樣性也推動(dòng)了創(chuàng)造性思維。2006年,Netflix 宣布參加競(jìng)賽并向團(tuán)隊(duì)提供了100萬美元的大獎(jiǎng),這可能會(huì)為其成功構(gòu)建出如今著名的推薦引擎原型。獲勝的團(tuán)隊(duì)是BellKor的實(shí)用混亂團(tuán)隊(duì)。他們是如何做到的呢?首先,他們與來自150個(gè)國家/地區(qū)的20,000個(gè)其他團(tuán)隊(duì)進(jìn)行了多輪比賽。然后,在比賽的后期階段,團(tuán)隊(duì)開始相互融合。獲勝的團(tuán)隊(duì)由三支團(tuán)隊(duì)組成:貝爾科爾,務(wù)實(shí)理論和BigChaos。準(zhǔn)確性,組合模型的能力以及從人類行為中獲得洞察力的能力,對(duì)于實(shí)現(xiàn)獲勝的原型都是至關(guān)重要的,每個(gè)團(tuán)隊(duì)都具有這些關(guān)鍵優(yōu)勢(shì)之一。這清楚地表明,思想的多樣性可以帶來卓越的結(jié)果。具有不同背景的團(tuán)隊(duì)成員帶來不同的想法 項(xiàng)目,這將推動(dòng)卓越的人工智能。
最后,部署和擴(kuò)展AI不僅需要技術(shù)知識(shí)。設(shè)計(jì)直觀界面,與用戶和領(lǐng)導(dǎo)者協(xié)作,交流變更以及對(duì)用戶具有同理心的能力是成功擴(kuò)展AI的關(guān)鍵素質(zhì)。對(duì)最終用戶的同理心是諸如培訓(xùn),傳達(dá)積極影響的潛力等要素的關(guān)鍵。各職能部門(IT,數(shù)據(jù)科學(xué),業(yè)務(wù))之間的協(xié)作和溝通對(duì)于確保采用AI解決方案也至關(guān)重要。研究表明女性可能比男性表現(xiàn)更好這些技能。團(tuán)隊(duì)成員具有情緒智力,無論是女性,男性還是非二進(jìn)制的,這都是關(guān)鍵。至少,開發(fā)AI的團(tuán)隊(duì)?wèi)?yīng)該與采用AI的人相似。一支以白人或男性為主的團(tuán)隊(duì)可能很難與不那么統(tǒng)一的更廣泛的組織建立聯(lián)系。
我們可以而且必須做更多的事情來增強(qiáng)AI開發(fā)中的團(tuán)隊(duì)多樣性。我致力于提高團(tuán)隊(duì)的多樣性,而我的旅程才剛剛開始。當(dāng)然,我們不能停止雇用各種各樣的人。我們還需要建立一種反種族主義文化,對(duì)無意識(shí)偏見的意識(shí)以及持續(xù)的對(duì)話和教育,您應(yīng)該敦促您的人力資源團(tuán)隊(duì)繼續(xù)努力,如果還沒有的話。我知道很難找到數(shù)據(jù)科學(xué)家,而且我并不建議組建這樣的團(tuán)隊(duì)會(huì)很容易。但這是值得的投資,即使這意味著您正在培養(yǎng)人才或重新訓(xùn)練團(tuán)隊(duì)成員的技能。您可能無法下定決心并為下一個(gè)AI項(xiàng)目雇用一支多元化的團(tuán)隊(duì),但是如果您希望您的團(tuán)隊(duì)打造出更聰明,更好,危害更少的AI,則盡一切努力來建立一支多元化的團(tuán)隊(duì)。
-
AI
+關(guān)注
關(guān)注
87文章
28875瀏覽量
266210 -
人工智能
+關(guān)注
關(guān)注
1787文章
46060瀏覽量
234968
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論