舊金山面部識別禁令的爭議仍在繼續(xù)

美國當(dāng)?shù)貢r間上周二，舊金山監(jiān)管局以8比1的比例投票決定禁止市政部門（包括警方）使用面部識別軟件。該禁令的支持者列舉了亞馬遜和微軟等公司面部識別軟件中涉及的種族不平等，以及目前在中國發(fā)生的反烏托邦式的監(jiān)視。

圍繞面部識別軟件監(jiān)管爭論的核心問題是，在警察和政府尋求新的共識之前，禁令暫時的，還是永久的？

有些人認(rèn)為面部識別軟件可用于為無辜者伸冤，并且我們只是需要更多時間來收集信息。而其他人，如舊金山監(jiān)督員Aaron Peskin，相信即使人工智能系統(tǒng)實現(xiàn)種族平等，面部識別也是一種“獨特的危險和壓迫性技術(shù)”。

在舊金山海灣大橋的另一邊，奧克蘭和伯克利正在考慮舊金山法令中關(guān)于使用的相同語言的禁令，而馬薩諸塞州和華盛頓州（但其中亞馬遜和微軟反對）的州政府正討論著要不要在AI能完全識別美國公民之前臨時地禁止使用面部識別。

喬治城大學(xué)隱私與技術(shù)中心高級助理Clare Garvie將于下周三在眾議院監(jiān)督委員會作證。上周四，該中心發(fā)布了新的報告，詳細(xì)介紹了紐約警察局拿著PS過的、跟嫌疑犯很像的一些名人的照片去抓人，以及在底特律和芝加哥使用的實時面部識別系統(tǒng)，并在美國其他主要城市進行了測試。

Clare Garvie

為了有機會檢查警察在美國使用面部識別軟件，Garvie的團隊多年來一直在尋求調(diào)查和訴訟的機會，而現(xiàn)在他認(rèn)為是時候在全國范圍內(nèi)暫停執(zhí)法部門使用這種技術(shù)了。

Garvie和“Perpetual Lineup”報告的共同作者于2016年開始監(jiān)控面部識別軟件，最初得出的結(jié)論是，如果制定法規(guī)，面部識別可以用于使人們受益。但Garvie的觀點發(fā)生了變化。

“我們今天看到的是，在沒有監(jiān)管的情況下，[面部識別]仍然繼續(xù)被使用，現(xiàn)在我們更加了解了我們在承擔(dān)多大的風(fēng)險，而我們并沒有完全做好準(zhǔn)備”，”Garvie說。“根據(jù)這些信息，我們認(rèn)為這項技術(shù)需要暫停，直到全社會能達(dá)成共識去規(guī)制具體的監(jiān)管法則。 ”

在取消此類暫停令之前，Garvie希望看到的是系統(tǒng)的準(zhǔn)確性能有顯著的變化，積極的法院和法律監(jiān)督能夠有效到位，照片質(zhì)量需要一個最低標(biāo)準(zhǔn)以及公共監(jiān)控技術(shù)需要出具使用報告，就像舊金山已經(jīng)要求的年度監(jiān)控技術(shù)使用審核。

此外，法醫(yī)草圖，PS圖像和名人照片不應(yīng)放進面部識別軟件，發(fā)布公共報告應(yīng)該是常態(tài)。但想要求公開面部識別軟件使用的細(xì)節(jié)一直都很困難。

例如，喬治敦大學(xué)的研究人員在2016年首次要求紐約警察局提供面部識別記錄，但他們被告知沒有這樣的記錄存在 - 即使該技術(shù)自2011年以來一直在使用。兩年里紐約警察局足足翻了3,700頁與面部識別軟件有關(guān)的使用說明書。

Garvie認(rèn)為，美國警方使用的面部識別軟件是不可避免的，但應(yīng)該禁止使用面部識別軟件掃描駕駛執(zhí)照數(shù)據(jù)庫的做法。“我們以前從未有過由大多數(shù)美國人組成的生物識別數(shù)據(jù)庫，但現(xiàn)在我們已經(jīng)做到了 - 多虧了人臉識別技術(shù) - 并且執(zhí)法部門可以訪問至少32個州的駕駛執(zhí)照數(shù)據(jù)庫，”她說。

Garvie認(rèn)為，警方也應(yīng)該禁止實時進行面部識別，因為警察能夠在抗議時掃描人員的臉并追蹤他們的位置，這樣做風(fēng)險太大?！?技術(shù)的落地從根本上為執(zhí)法提供了新的方法，但我認(rèn)為，其風(fēng)險大于益處?！凹泳S說。

檢察官和警察也有義務(wù)告訴嫌疑人及其律師，面部識別有助于逮捕行動。該建議是2016年報告的一部分，但Garvie表示，她沒有以此立法或立規(guī)的司法管轄區(qū)。

“我們看到的是，關(guān)于人臉識別搜索的信息通常不會轉(zhuǎn)交給辯護方，不是因為這樣不符合規(guī)定，而是辯護律師并不知道他們的客戶正被進行面部識別搜索，“她說?！叭藗儽淮逗椭缚兀Y(jié)果發(fā)現(xiàn)他們被捕和指控的原因竟然是人工智能“認(rèn)為”他是個壞人。對我而言，這似乎是十分違背正常程序的?！?/p>

Mutale Nkonde是數(shù)據(jù)與社會研究所的政策分析師和研究員，是幫助編寫“算法問責(zé)法”的團體的一員。該法案于上個月在美國參議院提出，要求進行隱私，安全和偏見風(fēng)險評估，并由聯(lián)邦貿(mào)易委員會負(fù)責(zé)監(jiān)管。

與Garvie一樣，Nkonde認(rèn)為舊金山禁令為其他相關(guān)方提供了一個典型例子，例如布魯克林居民目前正想把他們的房東暴打一頓，因為房東想用面部識別軟件開他們的門鎖。她也贊成暫停使用這種技術(shù)。

“即使禁令聽起來真有吸引力，如果我們可以暫停并進行更多測試，并且審查算法，更深入地認(rèn)識到他們不會涉及膚色和性別問題這一事實，那至少能達(dá)成一點共識，或是關(guān)于禁令的法律論據(jù)，并與行業(yè)進行充分地交談，“她說。“如果產(chǎn)品沒有市場，資源是不會被投入進來的?！?/p>

Nkonde去年向眾議院介紹了“算法偏見”，但該議案可能不會很快簽署成為法律，不過Nkonde仍然認(rèn)為在總統(tǒng)選舉年之前關(guān)注這個問題很重要。

算法偏見：從事程序設(shè)計的工程師，即便本身沒有種族、性別、年齡歧視等傾向，也有可能造成偏見，因為我們的思維方式中多少滲透著偏見，最終影響算法的公正性

“對于立法機關(guān)中的人來說，不斷加強這些想法非常重要，因為這是我們能夠解決問題的唯一方式，”她說?！叭绻憷^續(xù)看到一項法案一直是[國會]辦公室里的話題，那么這個想法將會被制定成法律?！?/p>

在業(yè)務(wù)方面，Nkonde認(rèn)為需要制定法規(guī)和罰款，以確保未能實現(xiàn)種族和性別平等的科技公司具有法律約束力。不過，她警告說，有關(guān)人工智能的公司可能會參與那種高舉多樣性和包容性氣質(zhì)的“道德洗滌”，一邊談?wù)撝惹行枰淖?，但沒有絲毫的進步。

“公司道德是一回事，但從我的角度來看，如果沒有法律給我們的支持，那么就沒有辦法讓公司承擔(dān)責(zé)任，“她說。

一種不可挽回的技術(shù)

Nkonde和Garvie提倡暫停使用政府和警方的面部識別，而律師Brian Hofer希望看到更多政府實施永久性禁令。

Hofer在舊金山幫助創(chuàng)作了面部識別軟件禁令，這是他在第四個海灣區(qū)市政當(dāng)局幫助制定使用ACLU CCOP模型的監(jiān)控技術(shù)政策。

Hofer一直在與伯克利和奧克蘭的立法者交談，在那里他擔(dān)任該市隱私咨詢委員會的主席。他之前因“車牌讀者”事件而出名，他贊成在家鄉(xiāng)奧克蘭永久禁止面部識別軟件，因為他害怕誤用和訴訟。

“l(fā)icense plate reader（車牌讀者）”事件：2001年Hofer租了一輛車，而恰好之前租車的人用這輛車做了違法的事，導(dǎo)致Hofer被警方誤抓

“這是[奧克蘭警察局]在聯(lián)邦監(jiān)測我們種族貌相的第16年。我們總是因某些警察里的丑聞而被起訴。我不想為這種強大的技術(shù)想象承擔(dān)責(zé)任，它會破壞我們，我認(rèn)為這將在很多城市發(fā)生，“霍費爾說。

更廣泛地說，霍費爾希望伯克利和奧克蘭能夠為面部識別軟件禁令提供動力，因為他認(rèn)為“還有時間來控制它”。

“我堅信，這項技術(shù)會更準(zhǔn)確，這是我更關(guān)心的問題，它將是完美的監(jiān)控，”他說?！斑@將是一種侵入性，我們從未同意過政府。他們的權(quán)力擴張過于激進，我不認(rèn)為在日常生活中走來走去，就讓自己接受如此的大規(guī)模監(jiān)視?！?/p>

如果禁令不能成為常態(tài)，霍費爾認(rèn)為立法應(yīng)該允許對軟件進行獨立審查并限制特定情況的使用 - 但他認(rèn)為使用的泛濫是不可避免的，而大規(guī)模監(jiān)視總是被濫用。

“識別綁架嫌疑人，兇殺案嫌疑人，強奸犯，真正的暴力掠奪者 - 那里可能會有一些成功案例，我很確定。但是一旦你打開門，它就會傳播開來。它將全面蔓延，“他警告說。

面部識別能讓世界變得更美好嗎？

不是每個人都希望全面禁止或暫停實施。信息技術(shù)與創(chuàng)新基金會（ITIF）副總裁兼數(shù)據(jù)創(chuàng)新中心主任丹尼爾·卡斯特羅堅決反對面部識別軟件禁令，稱他們在隱私方面落后一步，更有可能將舊金山變?yōu)楣虐汀?/p>

“古巴人經(jīng)常開的車都是20世紀(jì)50年代的汽車或摩托車，因為它們已經(jīng)與世界其他地方隔絕了。像這樣的禁令，而不是一種監(jiān)督或緩慢的方法，逼著警察一定要使用舊技術(shù)，我認(rèn)為這不解決問題，因為我認(rèn)為人們更希望看到警察部隊是有效的，“卡斯特羅說。

人們希望警察能夠更加“有效”

ITIF是一家位于華盛頓特區(qū)的智庫，專注于技術(shù)政策，生命科學(xué)和清潔能源等問題。本周，ITIF的數(shù)據(jù)創(chuàng)新中心加入了人工智能合作伙伴關(guān)系，這是一個由80多個組織組成的聯(lián)盟，關(guān)于人工智能的使用道德，包括微軟，F(xiàn)acebook，亞馬遜和谷歌等。微軟和亞馬遜等公司的員工都參與其中。

卡斯特羅認(rèn)為警察部門需要對自己的系統(tǒng)進行更多的性能準(zhǔn)確性審查，并制定最低的性能標(biāo)準(zhǔn)。與Garvie一樣，他同意需要最低照片質(zhì)量標(biāo)準(zhǔn)，但他同樣認(rèn)為不應(yīng)過度使用使用面部識別。

他還認(rèn)為警察制度的改革也可以利用好面部識別軟件?！拔艺J(rèn)為警察部門有機會積極努力，用軟件代替人工，也就用中立代替了（可能存在的）的偏見，改善他們與邊緣社區(qū)的關(guān)系， - 使用面部識別來幫助解決其中的一些問題。我認(rèn)為這個工具是中立的。它當(dāng)然也可能加劇這些問題，但我認(rèn)為不一定總會這樣，“卡斯特羅說。

Veritone是一家向美國和歐洲的執(zhí)法部門銷售面部識別軟件的人工智能公司，該公司也認(rèn)為該技術(shù)可以實現(xiàn)更好的社區(qū)關(guān)系，并且它將用于為無辜的嫌疑人脫罪，而不是導(dǎo)致錯誤的定罪。

“這個星球上最有偏見的系統(tǒng)是人類，”Veritone首席執(zhí)行官Chad Steelberg在電話采訪中告訴VentureBeat。

與Hofer和Garvie一樣，Steelberg認(rèn)為，警方在公共場所使用自動化實時面部識別功能，如目前在底特律使用的系統(tǒng)，不應(yīng)該被允許監(jiān)控未犯罪的人的日常生活，也就是說，該工具可用于侵犯公民權(quán)利和集會和***。

但他也認(rèn)為可以負(fù)責(zé)任地使用面部識別來幫助解決一些人類最棘手的問題?！叭斯ぶ悄艿暮锰幣c你所讀到的大部分內(nèi)容相悖。這是一個提供真實事實，沒有偏見和人文背景以及社會影響的系統(tǒng)，“他說?！岸椅艺J(rèn)為這對于執(zhí)法部門和社會其他許多破碎部分都是必要的。從完全的角度來看，禁止這項技術(shù)似乎是一種絕對愚蠢的做法，而且我認(rèn)為更為周到的立法是必要的?！?/p>

隨著越來越多的城市和立法機構(gòu)對面部識別軟件都發(fā)布了禁令或臨時禁令，舊金山的裁決顯然只是個開始。然而，社區(qū)和立法者既然選擇撰寫法律來解決問題，那么這些辯論必須保持深思熟慮并符合主流價值觀，因為盡管***中有民權(quán)保障，但沒有人會天真地認(rèn)為，在美國，沒有人在暗地里用面部識別進行大規(guī)模監(jiān)視。