亞馬遜面對三方的重重壓力 人臉識別技術或將遭停用

奧蘭多市與奧蘭多警察局發(fā)布聲明稱，已于上周停止使用亞馬遜深度學習人臉識別技術——Rekognition，從去年12月份開始為期6個月的合同已經到期，目前不再續(xù)約。聲明中還稱，工作人員將繼續(xù)討論和評估未來能否重啟該項技術，而目前評估工作仍在進行中，說明奧蘭多市仍可能在今后對亞馬遜“敞開大門”。

Rekognition雖然已經被Pinterest、C－SPAN等公司使用，但是在ACLU（美國公民自由聯(lián)盟）調查了6個月之后發(fā)現(xiàn)亞馬遜至少跟兩家執(zhí)法機構“秘密”合作。奧蘭多市布局公共安全監(jiān)視網絡，亞馬遜Rekognition的負責人Ranju Das稱，“亞馬遜會從攝像頭反饋的圖像與執(zhí)法部門的尋人照片進行對照，一有進展就立即通知執(zhí)法部門。Rekognition的重要性在于從大量數(shù)據(jù)庫中鎖定目標并進行追蹤，做到實時反饋?！背藠W蘭多警察局，華盛頓警長辦公室也使用了該項技術，用于搜索身份不明的嫌疑犯。

奧蘭多政府恐侵犯人權，已停止使用亞馬遜人臉識別技術

雖然奧蘭多市很看好與亞馬遜的合作，表示“一直在尋求保障當?shù)鼐用窈屯鈦砣藛T安全的新舉措。在不違反隱私權的情況下，與亞馬遜這樣具有創(chuàng)新性的公司合作，有助于推進社區(qū)安全?！蓖瑫r承諾不會用人臉識別技術追蹤正常居民。但是ACLU對奧蘭多市給出理由并不買賬，聲明“Rekognition技術的廣泛使用會給有色人種、非法入境移民、抗議示威民眾帶來可怕的后果。”

ACLU在6月25日給奧蘭多市長Buddy Dyer和議會發(fā)郵件，要求他們立即停止使用人臉識別監(jiān)視技術。郵件中還稱，人臉識別系統(tǒng)威脅到公民的自由，尤其是政府機構在未經社區(qū)討論、未經地方立法監(jiān)督、沒有防止濫用的規(guī)則出臺的情況下就“秘密”實施。這為奧蘭多市的居民造成了極大的威脅，而這來源于亞馬遜技術的支持。

亞馬遜面對來自員工、投資人、人權組織的三方壓力

針對奧蘭多和華盛頓的情況，上個月ACLU位于加利福尼亞、俄勒岡、佛羅里達的多個分會就聯(lián)合給亞馬遜寫信要求其停止向政府機構銷售Rekognition，超過40個民主組織簽署表示支持ACLU的提議。亞馬遜股東上周致信貝佐斯表示，如果Rekognition被濫用，極有可能侵犯人權，并銷售到國外的專制政權，同時對公司股票產生負面影響。亞馬遜員工也寫請愿書要求貝佐斯不僅停止與執(zhí)法機構的Rekognition合作，同時停止與ICE和Palantir的合作。請愿書中寫道，“作為有正義感和道德感的亞馬遜人，對生產面向市場的產品有選擇權，對其如何被使用有話語權。以史為鑒，IBM在二戰(zhàn)期間為德國提供其特有的穿孔卡技術屠殺猶太人，而我們無法允許那樣的事情再發(fā)生?！?/p>

人臉識別技術是否真的準備好應用于執(zhí)法工作中

為了維持Rekognition在執(zhí)法機構的訂單，亞馬遜表示一旦發(fā)現(xiàn)用戶違反法律便會立即停止提供服務，用戶在使用Rekognition時要有底線，必須遵循法律對自己的行為負責。上個月，亞馬遜曾對 Gizmodo 說，Rekognition的確做了一些好事，幫助執(zhí)法部門抓住盜竊犯、找到被綁架的受害者、找到游樂場失散的兒童。雖然亞馬遜一再強調科技的重要性，“如果因為技術會被濫用就取締它，那么如今的生活質量只會變得更差?！钡巧鐣坪醺P心科技是否會助紂為虐。

喬治敦大學法隱私和技術中心的助理Clare Garvie說道，實施面部識別的部分問題是其對言論自由的潛在影響。好比在游行示威中，面部識別就如同警方在隊伍中穿行，要求在場的每個人都出示身份證明。加之亞馬遜在科技領域的影響力，會有更多執(zhí)法機構愿意參與進來。Kairos（人臉識別及AI技術初創(chuàng)公司）的CEO Brian Brackeen發(fā)表了一篇反對將人臉識別應用在執(zhí)法工作中的文章。文章中寫道，在種族歧視嚴重的美國，非白人受到更嚴格的審查，人臉識別只會加重“不平等”。在數(shù)據(jù)庫還不夠完善的當下，讓技術去“指認”一個人是否犯了罪是極其不負責任的。

言語之中可以聽出亞馬遜的無奈，但是如此多的“反對聲”說明人臉識別技術還不夠成熟，很多弊端沒有應對之策，想要應用在執(zhí)法工作中目前來看或許還行不通。