這是什么神奇算法，“看”一眼就能知道對(duì)方是不是犯罪嫌疑人？

“刷臉解鎖手機(jī)”“刷臉購物”“刷臉驗(yàn)證身份辦理銀行卡”……我們與生俱來的“臉”除了與顏值形象掛鉤，也在逐漸演變成我們身份的唯一識(shí)別標(biāo)識(shí)，逐漸深入我們的日常生活，為我們提供了極大的便利。

但當(dāng)人臉識(shí)別遇上現(xiàn)實(shí)，也不乏跪地躺槍，慘不忍睹的時(shí)候，比如今天我們的主角——來自亞馬遜的Rekognition。

Rekognition是亞馬遜研發(fā)的一款圖像分析軟件。亞馬遜已經(jīng)將這項(xiàng)技術(shù)銷售給了美國的幾個(gè)執(zhí)法機(jī)構(gòu)，比如說華盛頓縣治安官辦公室，旨在利用軟件的面部識(shí)別算法實(shí)時(shí)自動(dòng)識(shí)別和跟蹤犯罪嫌疑人；亞馬遜也在爭(zhēng)取將能把這項(xiàng)技術(shù)賣給美國政府。

人臉識(shí)別并不是Rekognition的唯一功能丨Rokognition官網(wǎng)

這是什么神奇算法，“看”一眼就能知道對(duì)方是不是犯罪嫌疑人？

Rekognition需要被辨識(shí)的臉部照片作為基礎(chǔ)數(shù)據(jù)庫，目前基礎(chǔ)數(shù)據(jù)庫的建設(shè)主要基于亞馬遜的云服務(wù)AWS。當(dāng)攝像頭捕捉到現(xiàn)實(shí)中的人臉或用戶上傳對(duì)比照片后，Rekognition會(huì)自動(dòng)將它們與基礎(chǔ)數(shù)據(jù)庫中的照片進(jìn)行對(duì)比；如果相似度足夠高，那么Rekognition就認(rèn)為這個(gè)人屬于基礎(chǔ)數(shù)據(jù)庫中的某個(gè)人。在軟件中，將這個(gè)相似度稱作“可信度閾值”，它的默認(rèn)值為80%。

人臉識(shí)別技術(shù) | James Martin/CNET

利用先進(jìn)科技，讓犯罪嫌疑人無處逃遁，想象一下就覺得似乎世界變得更美好了一點(diǎn)。然而，這種想法也遭到了不少人的反對(duì)，比如一直和Rekognition唱反調(diào)的美國公民自由聯(lián)盟（American Civil Liberties Union，ACLU，一個(gè)非盈利組織）。

8月14日，ACLU對(duì)它進(jìn)行了一項(xiàng)測(cè)試，Rekognition的表現(xiàn)卻令人大跌眼鏡：基于25000人的犯罪嫌疑人基礎(chǔ)數(shù)據(jù)庫，ACLU上傳了120張立法者的照片讓Rekognition一試身手，結(jié)果是，Rekognition用誤判26名立法者為犯罪嫌疑人的結(jié)果，證明了自己身手不佳。

實(shí)際上，這并不是Rekognition第一次“犯錯(cuò)誤”，早在2018年，它就已經(jīng)錯(cuò)誤地將28名國會(huì)議員識(shí)別為罪犯，萬萬沒想到，經(jīng)過1年的努力，它義無反顧地在將政府官員識(shí)別為罪犯的路上越走越遠(yuǎn)……

2018年Rekognition識(shí)別錯(cuò)誤的28名國會(huì)議員 | ACLU官方Twitter

不得不說，這軟件給我們提供了一份充滿了戲劇性的“答卷”，然而作為承擔(dān)身份識(shí)別重要角色的軟件，這樣的結(jié)果無法不讓人對(duì)其嚴(yán)謹(jǐn)性和嚴(yán)肅性產(chǎn)生質(zhì)疑。

舊金山議員丁右立（Phil Ting）提議禁止使用這個(gè)軟件系統(tǒng)，并且表示這樣的錯(cuò)誤識(shí)別結(jié)果將會(huì)給人們帶來巨大的負(fù)面影響，當(dāng)你被人認(rèn)為是一個(gè)罪犯， “可能會(huì)影響你找工作的能力、影響你買房租房的能力?！边@遠(yuǎn)不是一項(xiàng)技術(shù)犯了一個(gè)可笑的錯(cuò)誤那么簡(jiǎn)單，而是確確實(shí)實(shí)會(huì)有活生生的人們，受到這一錯(cuò)誤帶來的實(shí)際影響。

那么，面對(duì)再一次的重大失誤，作為軟件開發(fā)商亞馬遜對(duì)此作何解釋？福布斯這樣報(bào)道：“當(dāng)使用面部識(shí)別來判斷調(diào)查中的嫌疑人時(shí)，執(zhí)法部門應(yīng)該使用推薦的99%的可信度閾值，并且僅將這些預(yù)測(cè)作為調(diào)查的一個(gè)要素（而非唯一決定因素）”。

ACLU表示這種解釋無法讓人信服。在測(cè)試中使用的80%的可信度閾值，實(shí)際上是軟件提供的默認(rèn)設(shè)置。既然99%的可信度閾值才是推薦使用值，為什么亞馬遜不將默認(rèn)可信度閾值設(shè)置為99%呢？然而對(duì)此，亞馬遜并未給出答復(fù)。

ACLU成員Matt Cagle做出回應(yīng)丨ACLU

實(shí)際上，這款軟件在整個(gè)美國進(jìn)行了推廣和試用，除了在識(shí)別準(zhǔn)確度方面存在問題，在各地的試用中還暴露出了其他一系列問題。比如，由于準(zhǔn)確度引發(fā)的，在有色人種聚居地識(shí)別錯(cuò)誤可能造成種族歧視問題，引發(fā)警民沖突；在佛羅里達(dá)州奧蘭多試用期間，還出現(xiàn)網(wǎng)絡(luò)帶寬問題導(dǎo)致軟件無法良好運(yùn)行等問題，很顯然，Rekognition并沒有為真正能夠推廣和應(yīng)用做好準(zhǔn)備。另外，人臉識(shí)別技術(shù)的濫用，是不是也在一定程度上侵犯了公民的隱私和自由？

未來，Rekognition將會(huì)走向何方，目前我們無法做出判斷。

作為AWS的重要應(yīng)用軟件，除了賣給政府部門，這款支持包括人臉識(shí)別在內(nèi)的圖像分析技術(shù)也會(huì)通過AWS出售給相關(guān)大數(shù)據(jù)公司，亞馬遜7月27日發(fā)布的2018年財(cái)報(bào)中顯示，云服務(wù)第二季度凈銷售額為61.05億美元，比上年同期的41.00億美元增長49%；運(yùn)營利潤為16.42億美元，上年同期為9.16億美元。

面臨問題重重、形勢(shì)嚴(yán)峻的推廣應(yīng)用現(xiàn)實(shí)，以及巨大利潤的誘惑，亞馬遜最終將會(huì)如何處理此事呢？

科技進(jìn)步、人工智能給我們的生活帶來的方便和快捷不言而喻，但是科技作為工具，能否使用的好最終還是掌握在人的手里，說白了，AI只是個(gè)孩子，要學(xué)的還很多，而關(guān)鍵在于我們?nèi)祟悺凹议L”怎么去教育和引導(dǎo)。