全美第二個禁止面部識別技術的城市出現(xiàn)了

近日，美國又一城市通過了禁止在公共場所使用面部識別軟件的法令，成為繼舊金山之后全美第二個禁止面部識別技術的城市。美國會兩黨罕見地共同提案，擬立法暫停使用人臉識別軟件。在人臉識別技術應用方面，美國似乎走向了保守。

繼舊金山之后，全美第二個禁止面部識別技術的城市出現(xiàn)了。

近日，馬薩諸塞州的薩默維爾市議會通過了禁止在公共場所使用面部識別軟件的投票。新政策生效后，該市各機構、分局或下屬部門，均不得在公共場所使用面部識別技術。

面部識別技術在美國的推進困難重重。警方、政府部門等對使用面部識別協(xié)助警務有需求，但受到侵犯隱私、人權，歧視少數(shù)族裔、歧視女性等的指責。對面部識別的批判越來越多，除舊金山、薩默維爾市外，奧克蘭、紐約等城市也在考慮類似禁令。

全票通過：繼舊金山之后，全美第二個禁止面部識別的城市

由于對潛在歧視和反烏托邦（dystopian）濫用的擔憂，近日，美國馬薩諸塞州的薩默維爾市（Somerville）議會投票禁止當?shù)鼐胶褪姓块T使用面部識別軟件。這使得位于波士頓附近并擁有81,000人口的薩默維爾成為美國第二個禁止該技術的城市。該禁令是在5月份舊金山通過面部識別禁令之后實施的。該條例部分由ACLU（美國公民自由聯(lián)盟）撰寫，ACLU也幫助制定了薩默維爾法令。

除了禁止市政部門積極使用人工智能外，該法令還禁止在刑事調(diào)查或法律訴訟中使用面部識別軟件系統(tǒng)產(chǎn)生的數(shù)據(jù)或證據(jù)。當?shù)胤蓻]有限制州或聯(lián)邦執(zhí)法部門使用面部識別的范圍。

然而，法律將面部識別稱為“等同于要求每個人隨時攜帶和展示帶有個人照片的身份證”，并引用了對女性、年輕人、移民和有色人種面部識別錯誤匹配的擔心。

該條例以11-0的投票獲得通過- 這并不令人驚訝，因為11名薩默維爾市議員中有9位贊成立法。

隨著面部識別軟件開始滲透到工作場所，iPhone等消費者設備使用面部識別來驗證購買，警方也采用了很大程度上不受管制的技術。隨著面部識別已經(jīng)發(fā)揮作用，政府剛剛開始考慮如何在社會中使用它。

Somerville城市職員John Long在一封電子郵件中表示，當?shù)鼐用穹窒砹?8條書面評論，加上ACLU的支持信和來自貿(mào)易組織安全行業(yè)協(xié)會的反對信。該市收到的所有信件都支持禁令。

“在使用納稅人資金之前，任何新的安全技術必須證明是有效的，”薩默維爾居民Dmitry Erastov在一封信中說。

Logic雜志的創(chuàng)始編輯和哈佛大學職員Moira Weigel表示：“我們知道，這些技術強制執(zhí)行種族主義和cis-heterosexism，并為民主上不負責任的私人實體提供了大量敏感信息。舊金山是另一個擁有大量技術人員的城市，他們了解這些系統(tǒng)是如何運作的，并且也投票禁止它們，這并不是偶然的?！?/p>

同樣也是這幾天，警用攝像機制造商 Axon承諾將不為其產(chǎn)品添加面部識別軟件。

許多人工智能專家或隱私倡導者向州和國家立法者提供有關面部識別軟件相關風險和機會的建議，有利于暫?；驈氐捉乖摷夹g。

波士頓地區(qū)在面部識別政策辯論中扮演著相當突出的角色。馬薩諸塞州立法機構目前正在考慮由波士頓地區(qū)立法者贊助的法案“面部監(jiān)視暫停法案”。

舊金山成美國第一個禁止面部識別監(jiān)控的城市

在波士頓之前，今年5月，舊金山成為美國第一個禁止面部識別監(jiān)控的城市。該措施以舊金山監(jiān)管委員會的8-1投票通過，使舊金山成為美國第一個禁止警察和其他政府機構使用面部識別技術的城市。

近年來，由于深度學習技術的普及，面部識別得到了顯著改善。典型人臉識別系統(tǒng)的工作方式是分析面部特征，然后與數(shù)據(jù)庫中的標記面部進行比較。

然而，人工智能研究人員和ACLU等民權組織特別關注面部識別系統(tǒng)的準確性和偏見。有人擔心，它們在正確認識有色人種和女性方面并不那么有效。這個問題的一個原因是用于訓練軟件的數(shù)據(jù)集可能不成比例地是男性和白人。

目前還沒有關于如何使用人工智能技術或面部識別系統(tǒng)的聯(lián)邦法律，但一些州和地方政府已經(jīng)做出了自己的努力：例如，伊利諾伊州有一項法律要求公司在收集生物識別信息之前征得客戶的同意。加利福尼亞州參議院目前正在考慮一項法案，該法案將禁止該州的警察使用生物識別技術（如面部識別）和身體攝像機。

根據(jù)新的舊金山法律，任何想要使用監(jiān)控技術或服務的城市部門必須首先得到監(jiān)事會（Board of Supervisors）的批準。該過程將包括提交有關技術及其使用方式的信息，并在公開聽證會上提交。根據(jù)新規(guī)則，任何已經(jīng)使用監(jiān)控技術的城市部門都需要告訴董事會是如何使用它的。

該條例還規(guī)定，該市每年都需要向監(jiān)事會報告監(jiān)管設備和服務是否按批準方式使用，還包括保存、共享或刪除數(shù)據(jù)的詳細信息。

不過，也有一些人反對該條例：“當負責任地使用時，它可能是一個很好的公共安全工具。”

美國會兩黨共同提案：立法暫停使用人臉識別軟件

上個月，美國國會兩黨在一場國會聽證會上正式討論了對執(zhí)法部門使用面部識別軟件所帶來的日益擔憂。議員們聽了幾個小時的證詞，內(nèi)容涉及不受監(jiān)管的面部識別如何跟蹤抗議者，影響刑事司法系統(tǒng)，并加劇種族偏見等。

國會兩黨共同提案，尋求立法對面部識別進行監(jiān)管

不同尋常的是，兩黨這次都表現(xiàn)出了合作的態(tài)度，同意共同努力對面部識別進行監(jiān)管。

兩黨一致認為面部識別軟件有侵犯公民隱私權和抗議權的隱憂，尋求立法暫停此類工具的使用。包括面部識別軟件專家在內(nèi)的團隊認為，在更完善的監(jiān)管出臺或技術充分成熟之前，此類面部識別工具應由國家叫停。

當前，F(xiàn)BI 和國土安全局等聯(lián)邦機構在使用面部數(shù)據(jù)識別潛在犯罪嫌疑人前是不需要獲得搜查令的。目前還不清楚該委員會計劃如何起草法律來打擊潛在的違法行為，但兩黨議員都對美國公民的面部掃描可能侵犯了憲法權利這點提出了擔憂。

專家警告稱，由于這項技術推出得太快并且存在嚴重缺陷，可能會導致調(diào)查人員對潛在嫌疑人進行誤判。

美國并非唯一對面部識別技術憂心忡忡的國家。近日，歐洲人工智能高級別專家組(HLEG)發(fā)布報告，提議“歐洲應該禁止AI進行大規(guī)模監(jiān)視和社會信用評分”。報告寫道：“政府應承諾只部署和采購值得信賴的人工智能系統(tǒng)，其設計宗旨是尊重法律和基本權利，符合倫理原則，社會技術健全。”

膚色、性別歧視引爭議，專家批判面部識別技術被濫用

大約一年前，美國公民自由聯(lián)盟（ACLU）首次公開了亞馬遜的面部識別軟件已在使用的事實。從那時起，對該軟件的審計發(fā)現(xiàn)其更有可能偏向白人，對黑人很有可能識別不當，特別是女性黑人。當 ACLU 將國會議員與犯罪數(shù)據(jù)庫進行匹配時，亞馬遜的 Rekognition 軟件錯誤地將28名議員識別為罪犯。被識別為罪犯的 28 名議員中，40% 是有色人種，盡管國會議員中有色人種的比例僅為 20%。

去年，亞馬遜的人臉識別程序 Rekognition 曾將 28 名議員錯誤地識別為罪犯，引發(fā)巨大爭議。

沒有監(jiān)管的現(xiàn)狀下，濫用面部識別技術的可能性很高，特別是對于有色人種。MIT媒體實驗室研究員和算法正義聯(lián)盟（Algorithmic Justice League）創(chuàng)始人 Joy Buowamwini 發(fā)表研究表明，人臉識別系統(tǒng)對膚色較淺的男性表現(xiàn)優(yōu)于膚色較深的男性，而對于膚色較深的女性則表現(xiàn)最差。

她的研究成果遭到 AI 領軍企業(yè)的批評，但有數(shù)十位著名的 AI 研究人員為其辯護。她在會上說：“至少，國會應該通過一項關于警察使用人臉識別的禁令，因為人臉識別的濫用、缺乏監(jiān)督和技術的不成熟會造成很大的風險，對于邊緣化社區(qū)而言尤其如此。”

美國走向保守：禁止人臉識別的城市在增加

自MIT的研究和 ACLU 的報告以來，微軟和亞馬遜都聲稱已經(jīng)縮小了準確性方面的種族差異。

但是，改進技術以更好地識別黑色面孔只是過程的一部分：準確度很高的技術仍然可能被用來支持有害的警務。

如何使用這項技術很重要，這就是政策可以防止濫用的地方。微軟和亞馬遜提出的解決方案是，在人臉識別已經(jīng)投入使用后，再對其進行種族和性別偏見的審核 —— 這可能為時已晚。

科技的發(fā)展向來就是一把雙刃劍，任何一項技術的應用都常有利弊相隨。美國在人臉識別這樣的技術應用方面似乎走向了保守的道路，舊金山、波士頓郊區(qū)已經(jīng)成為正式立法禁止警方和市政部門使用人臉識別軟件的兩個城市，奧克蘭也在考慮類似的禁令。在紐約，人臉識別被嘗試用于在大橋上識別車內(nèi)司機面孔，結果是徹底失敗。

像人臉識別這樣的人工智能技術應用，到底應該鼓勵還是禁止，歡迎讀者朋友留言討論。