IBM發(fā)布云服務(wù)幫助企業(yè)檢測(cè)和減少AI偏差

偏差是人工智能（AI）中的一個(gè)嚴(yán)重問(wèn)題。研究表明，流行的智能揚(yáng)聲器在理解非美國(guó)本土口音方面的可能性降低了30％，而且像Cognitec那樣的面部識(shí)別系統(tǒng) 在非洲裔美國(guó)人臉上表現(xiàn)得更差。事實(shí)上，根據(jù)IBM最近委托進(jìn)行的一項(xiàng)研究，由于潛在的責(zé)任問(wèn)題，三分之二的企業(yè)對(duì)采用AI持謹(jǐn)慎態(tài)度。

為了幫助企業(yè)解決這一問(wèn)題，IBM今天宣布推出基于云的全自動(dòng)服務(wù)，該服務(wù)“不斷為人工智能系統(tǒng)制定決策提供洞察力”。它還會(huì)掃描偏見(jiàn)的跡象，并建議調(diào)整，例如算法調(diào)整或平衡數(shù)據(jù)，這可能會(huì)減少其影響。

該服務(wù)解釋了哪些因素影響了給定的機(jī)器學(xué)習(xí)模型的決策，以及它的整體準(zhǔn)確性，性能，公平性和屬性。此外，它使人們對(duì)其減輕偏差的建議以及任何促成這種信心的因素充滿信心。

IBM表示，它適用于流行的機(jī)器學(xué)習(xí)框架和AI構(gòu)建環(huán)境，包括IBM Watson，Tensorflow，SparkML，AWS SageMaker和AzureML，并且可以根據(jù)各個(gè)企業(yè)的工作流程進(jìn)行定制。

IBM在認(rèn)知解決方案高級(jí)副總裁David Kenny表示：“IBM在為新的AI技術(shù)開(kāi)發(fā)建立信任和透明度原則方面處于行業(yè)領(lǐng)先地位?！?/span> “現(xiàn)在是將想法付諸實(shí)踐的時(shí)候了。我們正在為使用人工智能的企業(yè)提供新的透明度和控制權(quán)，并面臨任何有缺陷的決策帶來(lái)的最大潛在風(fēng)險(xiǎn)?！?/span>

除了宣布之外，IBM還在開(kāi)源軟件中推出了一個(gè)工具包：AI Fairness 360工具包，包含一個(gè)算法，代碼和教程庫(kù)，演示了在模型中實(shí)現(xiàn)偏差檢測(cè)的方法。

在白皮書(shū)發(fā)布一個(gè)月之后，IBM公司采取了一些措施，其中一些研究人員為AI系統(tǒng)提出了“情況說(shuō)明”。自愿性情況說(shuō)明書(shū)，正式稱(chēng)為“供應(yīng)商符合性聲明”（DoC），將回答有關(guān)系統(tǒng)操作和培訓(xùn)數(shù)據(jù)，基礎(chǔ)算法，測(cè)試設(shè)置和結(jié)果等問(wèn)題。更細(xì)粒度的主題可能包括用于跟蹤AI服務(wù)的數(shù)據(jù)工作流的治理策略，測(cè)試中使用的方法以及對(duì)數(shù)據(jù)集執(zhí)行的偏差緩解。

“就像食品的營(yíng)養(yǎng)標(biāo)簽或家用電器的信息表一樣，人工智能服務(wù)的情況說(shuō)明書(shū)將提供有關(guān)產(chǎn)品重要特征的信息，”IBM研究院AI基金會(huì)負(fù)責(zé)人兼AI Science for Social Good計(jì)劃的聯(lián)合主任Aleksandra Mojsilovic寫(xiě)道在介紹該論文的博客文章中。“人工智能的信任問(wèn)題是IBM和許多其他技術(shù)開(kāi)發(fā)商和提供商的首要考慮因素。人工智能系統(tǒng)具有改變我們生活和工作方式的巨大潛力，但也存在一些漏洞，例如暴露于偏見(jiàn)，缺乏可解釋性以及易受敵對(duì)攻擊。必須解決這些問(wèn)題才能使人工智能服務(wù)受到信任。“

IBM并不是唯一一個(gè)開(kāi)發(fā)緩解算法偏見(jiàn)的平臺(tái)。在5月舉行的F8開(kāi)發(fā)者大會(huì)上，Facebook宣布了Fairness Flow，這是一項(xiàng)針對(duì)數(shù)據(jù)科學(xué)家的自動(dòng)化偏向捕獲服務(wù)。微軟和埃森哲已經(jīng)發(fā)布了類(lèi)似的工具。