誰來為人工智能出現(xiàn)的問題負(fù)責(zé)

隨著技術(shù)的進(jìn)步，AI變得更加的自主和復(fù)雜，而我們也越來越難以理解它到底是如何工作的。實際上，大多數(shù)人對人工智能的工作方式知之甚少。或者就此而言，從日常金融交易到確定信用評級，人工智能的應(yīng)用十分廣泛，但人們卻不了解它的原理。

比如，在股票市場上，華爾街只有少量的交易是由人類完成的，絕大多數(shù)交易的本質(zhì)其實是算法。這是一個預(yù)先被編程的系統(tǒng)，如果大豆或石油的價格下降，它就會馬上自動“反應(yīng)”出各種額外的措施來面對這種情況。當(dāng)然這也是人工智能算法的意義：一切都可以很快的運行，比人腦計算要快幾千秒。但問題是，在人工智能成為一種普及的“力量”之前，還有很長的路要走，而現(xiàn)在我們應(yīng)該相信它嗎？或者說，當(dāng)AI出現(xiàn)問題時，誰應(yīng)該為它負(fù)責(zé)呢？

我們總說，人工智能已經(jīng)進(jìn)入到了生活中的方方面面，但人工智能在社會中究竟有多普及呢？據(jù)《福布斯》報道，Statista的一項調(diào)查結(jié)果顯示，截至2017年，全球只有5%的企業(yè)在其工作流程和產(chǎn)品中廣泛使用人工智能，32%的企業(yè)尚未采用人工智能，22%的企業(yè)沒有計劃使用人工智能。

這組數(shù)據(jù)可能與我們想象中的普及相去甚遠(yuǎn)，事實上，現(xiàn)在對人工智能來說，最大的推動力來自AI初創(chuàng)公司以及供應(yīng)商。按照該行業(yè)很多專家的說法，AI仍主要處于炒作的階段。比如科技公司Tech Emergence創(chuàng)始人、國外著名科技產(chǎn)業(yè)作家Daniel Faggella曾表示，“人工智能技術(shù)的供應(yīng)商經(jīng)常會夸大其詞，讓他們的技術(shù)或產(chǎn)品聽起來比實際上更有能力，但有關(guān)人工智能如何應(yīng)用于商業(yè)領(lǐng)域的深入討論卻很少。”

Faggella指出的更令人恐懼的事情是，在人工智能領(lǐng)域銷售營銷解決方案、醫(yī)療保健解決方案以及金融解決方案的企業(yè)現(xiàn)在只是在測試這項技術(shù)。實際上，有數(shù)百家公司正在銷售人工智能軟件和技術(shù)，但只有三分之一的公司具備發(fā)展人工智能技術(shù)所需的技能。

科技巨頭首當(dāng)其沖，AI有很大的BUG

當(dāng)然，像亞馬遜這樣的科技巨頭，其內(nèi)部幾乎所有人類活動都是由計算機(jī)程序所引導(dǎo)的。他們不僅監(jiān)督員工的行為，還會被用于潛在員工的選擇。此前，小智君曾報道過，亞馬遜放棄了該公司的一項AI招聘工具，原因在于選擇結(jié)果對女性存在歧視。

亞馬遜這一決定是廣受支持的，但該事件也表明了機(jī)器學(xué)習(xí)中存在很大的弊端。雖然機(jī)器學(xué)習(xí)是目前應(yīng)用最廣泛的人工智能技術(shù)，但無論這些程序?qū)W習(xí)速度多塊，它們都只能從人類所提供的數(shù)據(jù)中進(jìn)行學(xué)習(xí)，如果數(shù)據(jù)中存在歧視模式，那么它們的結(jié)果也無法逃脫這個命運。

亞馬遜的AI招聘工具就是這樣的，由于培訓(xùn)這個系統(tǒng)的數(shù)據(jù)，多是過去該公司雇傭的男性求職者的記錄，導(dǎo)致了這個工具學(xué)會了歧視女性的申請。而另一個人工智能被廣泛應(yīng)用的更加不公平的例子是，讓AI決定囚犯是否應(yīng)該獲得假釋。這也是一個存在很大爭議的應(yīng)用，因為從人自身的角度出發(fā)，也很難針對這個問題做出一個準(zhǔn)確的決定。

不過值得慶幸的是，在亞馬遜的案例中，這種不公平?jīng)]有繼續(xù)蔓延下去，因為該公司意識到了自己在這起事件中應(yīng)該扮演的角色以及承擔(dān)的責(zé)任，并且對此也做出了正確的決策。

然而，人工智能的問題遠(yuǎn)不止于此。目前，人工智能應(yīng)用最廣泛的產(chǎn)品大概就是個人數(shù)字助理了，比如蘋果的Siri，亞馬遜的Echo。在我們看來，這些數(shù)字助理只是為了方便我們的生活而出現(xiàn)的，像幫我們定鬧鐘、幫我們撥電話，等等。但實際上在某些壞人的眼中，它們可能是某些非法案件的幫兇。

早在2012年，美國佛羅里達(dá)州就曾發(fā)生過這樣一件事：一名大學(xué)生曾向Siri求助，在哪里可以掩埋被他殺死的朋友的尸體。事情發(fā)生后，蘋果不得不更改了Siri的算法，以使它在面對同樣的問題時，不會給出具體答案。有報道指出，現(xiàn)在如果對Siri提出同樣的問題，只能獲得“這很有趣”的回答。

醫(yī)療領(lǐng)域AI應(yīng)用多，出現(xiàn)問題誰該負(fù)責(zé)？

在上述的AI應(yīng)用，有些人會覺得距離自己很遙遠(yuǎn)，那么在每個人都無法避免的醫(yī)療領(lǐng)域呢？在我們的生活中，人為導(dǎo)致的醫(yī)療事故實際上還是很普遍的。很多專家認(rèn)為這是美國的第三大殺手，而在英國，多達(dá)六分之一的患者在國家服務(wù)中心就診時出現(xiàn)了誤診現(xiàn)象。醫(yī)療領(lǐng)域人工智能的出現(xiàn)，其目的之一就是減輕誤診數(shù)量，并且在某些情況下，該技術(shù)已經(jīng)接近甚至超過了人類醫(yī)生的成功率。

聽起來似乎很美好，給人類的生存帶來了希望，但是大家似乎都沒有想過，如果這項能力驚人的技術(shù)出現(xiàn)了失敗，如果失敗是由機(jī)器或算法造成的，那么這一結(jié)果應(yīng)該誰負(fù)責(zé)呢？別以為這是一個無厘頭的問題，在醫(yī)學(xué)領(lǐng)域，明確道德責(zé)任和法律責(zé)任對建立患者的信任度來說至關(guān)重要。同時，在決定如何賠償醫(yī)療事故受害者以及確保高質(zhì)量的醫(yī)療服務(wù)方面，也扮演著不可或缺的角色。對此，邁阿密大學(xué)法學(xué)教授邁Michael Froomkin表示：“責(zé)任被認(rèn)為是阻止人們做不該做的事情?！?/p>

“我們不能高喊硅谷在醫(yī)療保健方面取得了‘重大突破’的口號，”前NHS醫(yī)生，現(xiàn)任AI政策研究員的Matthew Fenech補(bǔ)充道?！拔覀冃枰鸦颊吆桶踩旁诘谝晃弧！蹦壳?，醫(yī)學(xué)中使用的AI被稱為“決策助手”，這意味著它們（至少在法律層面上）是為了補(bǔ)充而非取代專家的意見。

“在某種程度上，這是一種免疫策略，但實際上它表示的是我們期待醫(yī)生們對決策提出質(zhì)疑，”德保羅大學(xué)健康與知識產(chǎn)權(quán)法研究員Charlotte Tschider說。“這些設(shè)備現(xiàn)在還不能取代人類知識?！狈催^來，這意味著使用人工智能（通常是醫(yī)生）的醫(yī)療服務(wù)提供者仍要對所有可能出現(xiàn)的問題負(fù)責(zé)，只有少數(shù)病例例外，畢竟從法律的角度來說，他們的期待是醫(yī)生會權(quán)衡人工智能的結(jié)果和建議以及其他證據(jù)，如傳統(tǒng)的診斷測試，病史，以及其他醫(yī)生的咨詢意見，對患者進(jìn)行細(xì)致的檢查。

AI也只是一個輔助工具。更簡單的理解為，假設(shè)你是一名醫(yī)生，在做手術(shù)時發(fā)現(xiàn)自己用的手術(shù)刀彎了，這時你不會不管不顧的進(jìn)行手術(shù)，因為你知道自己要對此負(fù)責(zé)，從這個角度看，如果AI被用作決策支持，那么醫(yī)生也要對此負(fù)相應(yīng)的責(zé)任。

可能有的人會覺得，人工智能是如何做出決策的，目前還是一個未解之謎。所以這種不透明性本身就帶來了很多問題。比如，我們?nèi)绾未_定人工智能的錯誤是不可避免的還是疏忽造成的？為什么在不了解其內(nèi)部工作原理的時候，要讓醫(yī)生或醫(yī)療機(jī)構(gòu)對此問題承擔(dān)責(zé)任呢？

但反過來說，如果我們將人工智能系統(tǒng)本身作為一種負(fù)責(zé)任的法律人格，這就有點奇怪，因為這些機(jī)器人自己是沒有銀行賬戶或薪水收入的，所以對他們做出罰款沒有任何意義，同樣的，對一堆算法提出監(jiān)禁判決也沒有啥用。所以，針對這一問題，小智君（ID：Aiobservation）認(rèn)為如果醫(yī)療設(shè)備制造商生產(chǎn)了有缺陷的產(chǎn)品或者沒有充分警告用戶風(fēng)險的存在，那么在發(fā)生事故時，這些AI背后的公司有義務(wù)承擔(dān)責(zé)任，而醫(yī)生在使用過程中，沒有盡到自己的監(jiān)管義務(wù)的話，也要付出相應(yīng)的代價。

不過，考慮機(jī)器學(xué)習(xí)當(dāng)下的狀態(tài)，不管是在哪個領(lǐng)域哪種情況下AI出現(xiàn)問題，追究其背后制造商的責(zé)任可能是有一定意義的，但在未來我們要做的是讓AI本身為自己負(fù)責(zé)成為可能，就像現(xiàn)在的自動駕駛汽車意義，它要出現(xiàn)在公共道路上，就必須在機(jī)動車輛部門完成注冊，如果出現(xiàn)事故太多次，那么其許可能就可能被收回，同樣，未來或許有相似的規(guī)定出現(xiàn)，以便處理那些問題多多的算法。