人工智能是否永遠保持著絕對理性和一定公平嗎

人工智能已經(jīng)遍布我們的日常生活。從YouTube的首頁推薦到生產(chǎn)藥物，它無所不在，它對我們生活的影響超出我們的想象。但人工智能一定公平嗎？不，絕對不是。

人們很難定義什么是公平的人工智能。以下是我能想出的最好的定義：對于社會歧視影響下的特定任務，如果給定的人工智能模型能夠輸出獨立于敏感性參數(shù)（例如性別、種族、性取向、宗教信仰、殘疾等）的結果，那么這個人工智能模型就是公平的。

本文將討論人工智能偏見，與之對應的真實例子，及其解決方法。

問題

人工智能偏見是由于訓練模型的數(shù)據(jù)所固有的偏見造成的，這導致了社會歧視，進而導致平等機會的缺乏。

假設我的任務是創(chuàng)建一個以位置為參數(shù)計算個人信用評分的模型，某些種族群體會集中在某些地方，這將使創(chuàng)建的模型對那些種族群體產(chǎn)生偏見，會影響他們申請信用卡和銀行貸款，存在偏見的人工智能模型加劇了當前的社會歧視。

人工智能偏見的真實例子

COMPAS（另類制裁法懲罰罪犯管理分析）是美國法院用來判定被告成為累犯（重犯先前所犯罪行的罪犯）可能性的軟件。由于存在嚴重的數(shù)據(jù)偏差，該模型預測黑人罪犯累犯的假陽性率是白人罪犯的兩倍。

2014年，亞馬遜開發(fā)了一套人工智能招聘系統(tǒng)以簡化招聘流程。研究發(fā)現(xiàn)該系統(tǒng)歧視女性，因為用于培訓模型的數(shù)據(jù)來自過去10年。過去10年，由于科技行業(yè)中男性占主導地位，大多數(shù)被選中的申請人都是男性。亞馬遜在2018年廢除了這個系統(tǒng)。

美國醫(yī)療保健系統(tǒng)采用人工智能模型，認為黑人患同一疾病的風險比白人低。這是因為該模型對成本進行了優(yōu)化，而且由于黑人被認為支付能力較低，因此該模型將他們的健康風險排在白人之后，導致黑人的醫(yī)療標準降低。

2019年，F(xiàn)acebook允許廣告商根據(jù)種族、性別和宗教瞄準人群。這導致護士和秘書等工作以女性為目標，而像門警和出租車司機這樣的工作則瞄準男性，特別是有色人種的男性。該模型還了解到，房地產(chǎn)廣告向白人展示時，點擊率較好，所以面向少數(shù)人群的房地產(chǎn)廣告投放較少。

2020年9月，Twitter用戶發(fā)現(xiàn)圖像裁剪算法偏愛白人臉而非黑人臉。當在Twitter上發(fā)布一幅與預覽窗口的寬高比不同的圖像時，該算法會自動裁剪掉圖像的一部分，只顯示圖像的某一部分作為預覽。在黑白面孔同框時，該人工智能模型通常在預覽窗口中顯示白人。

這些例子只是滄海一粟。無論開發(fā)者是否知情，許多不公平的人工智能操作都真實存在著。

如何解決這個問題呢？

邁向公平人工智能的第一步是承認問題。人工智能是不完美的，數(shù)據(jù)是不完美的，我們的算法是不完善的，我們的技術也不夠完善。如果我們對問題視而不見，那么是不可能找到解決辦法的。

其次，問問自己這個解決方案是否需要人工智能。有一些問題不依賴于數(shù)據(jù)，比如尋找被告人再犯可能性這樣的任務更多地依賴于情感而不是數(shù)據(jù)。

第三，遵循負責任的人工智能實踐。在谷歌負責任的人工智能實踐指南的基礎上，我補充了幾個要點。負責任的人工智能實踐：

使用以人為中心的設計方法：設計模型時內置適當?shù)?a target="_blank">信息披露，并在部署前納入測試人員的反饋。

確定多個指標評估培訓和監(jiān)控：使用適合任務的不同指標，以了解不同錯誤和經(jīng)驗之間的權衡。這些指標可以來自消費者的反饋、假陽性率和假陰性率等。

如果可能的話，請檢查原始數(shù)據(jù)：人工智能模型反映了用來訓練模型的數(shù)據(jù)。如果數(shù)據(jù)有問題，模型也會有問題。因此，盡量保持數(shù)據(jù)平衡。

理解模型的局限性：一個被訓練來檢測相關性的模型對建立因果關系不一定有用。例如，一個模型可能會了解到，購買籃球鞋的人一般都比較高，但這并不意味著購買籃球鞋的用戶會因此變得更高。

測試：進行嚴格的單元測試以確定模型中的故障。

部署后繼續(xù)監(jiān)控和更新模型：在部署模型后，關注用戶反饋，并定期更新模型。

設計一個公平與包容兼具的模型：與倫理和社會研究領域的專家接洽，了解和解釋各種觀點，試著讓模型盡可能公平。

使用具有代表性的數(shù)據(jù)集來訓練和測試模型：嘗試評估數(shù)據(jù)的公平性。也就是說，尋找特征與標簽之間的偏見或歧視性關聯(lián)。

檢查不公平的偏差：從不同背景的測試人員那里獲取單元測試輸入，這有助于確定哪些人群可能會受到該模型的影響。

分析性能：考慮不同指標，一個指標的改進可能會損害另一個指標的性能。

開發(fā)公平人工智能的工具

AIFairness 360：這是IBM提供的一個開源工具包，可幫助用戶檢查、報告和減輕機器學習模型中的歧視和偏見。

ML Fairness Gym：這是谷歌提供的一個工具，用于探索機器學習系統(tǒng)對人工智能偏見的長期影響。

FATE：AI中的公平、責任、透明度和倫理（FATE），微軟提供了評估可視化儀表盤和偏差緩解算法的工具。它主要用于公平與系統(tǒng)性能之間的權衡。

近來，公司和政府開始逐漸正視人工智能中的偏見。許多公司已經(jīng)開發(fā)了評估人工智能公平性的工具，并且正在盡最大努力解決人工智能偏見。

雖然人工智能有著巨大的潛力，但我們現(xiàn)在比以往任何時候都更需牢記人工智能系統(tǒng)潛在的歧視性危險，我們也應幫助開發(fā)出公平的人工智能模型。
責編AJX