用人臉識別軟件來判斷罪犯，這確定不是開玩笑么?

你的臉會告訴別人什么信息呢?人臉識別技術(shù)可以識別出你的年齡、性別以及情緒。現(xiàn)在，有兩名科學(xué)家稱你的臉甚至還可以告訴人們你有沒有犯罪。他們聲稱已經(jīng)開發(fā)出一種系統(tǒng)，這種系統(tǒng)可以從幾千張從未見過的人臉中識別出誰是罪犯。

但另一些研究人員對該系統(tǒng)的功能進(jìn)行了批判，他們認(rèn)為這可能會使人臉識別技術(shù)在應(yīng)用過程中產(chǎn)生道德問題。

研究的參與者，來自加拿大哈密爾頓麥克馬斯特大學(xué)的Xiaolin Wu說道，這個問題過于主觀了，他和他的同事，來自中國上海交通大學(xué)的Xi Zhang已經(jīng)準(zhǔn)備開始反駁那些反對者的觀點。Wu說：“我們對這個結(jié)果感到很吃驚?！?/p>

研究人員充分開發(fā)機(jī)器的學(xué)習(xí)能力，要求面部識別軟件判斷身份信息系統(tǒng)中的照片的主人是否是罪犯，最后得到一個正確的反饋。機(jī)器在這個過程中將學(xué)會如何分辨，要求最終結(jié)果的準(zhǔn)確率到達(dá)90%。

然而其他的面部識別專家對他們的開發(fā)方法提出了質(zhì)疑。其中有一個問題：罪犯的圖像來自于中國身份證照片的數(shù)據(jù)庫，而無犯罪人員的照片則來自于中國公民在網(wǎng)絡(luò)上發(fā)布的照片，這就意味著這套系統(tǒng)識別的是照片的不同來源而不是人臉。

Wu和Zhang試圖將照片標(biāo)準(zhǔn)化，例如調(diào)整它們的大小和亮度。但來自麻省理工學(xué)院的Jonathan Frankle認(rèn)為這還不夠，他說：“圖片來源不同是這套系統(tǒng)的根本缺陷?！?/p>

來自谷歌的研究人員Francois Chollet稱，這個問題不足以引起爭議，但整個程序需要好好的開發(fā)。他說：“這不是道德問題影響技術(shù)的辯題?！?/p>

來自英國法爾茅斯大學(xué)的Mike Cook說，這種研究似乎讓機(jī)器學(xué)習(xí)變成“21世紀(jì)骨相學(xué)”——通過人的頭骨推斷出一個人的特征?？此乒挠嬎銠C(jī)程序給出了不準(zhǔn)確或者有爭議的結(jié)果。

相同的偏差

事實上，這些系統(tǒng)都不客觀，往往和人類一樣帶有偏見。Cook說：“它們是用我們相信的結(jié)果而制造出來的工具?！?/p>

這并不是說電腦無法準(zhǔn)確完成人臉識別，它們有時完成的比人類還出色。人臉識別軟件已經(jīng)可以輕松的識別出人鼻子的形狀并且判斷出他是否在笑。來自紐約羅切斯特大學(xué)的研究人員稱，他們已經(jīng)開發(fā)出一種算法能夠識別出中國人臉、韓國人臉和日本人臉，準(zhǔn)確率達(dá)到75%。

聽起來似乎挺科學(xué)，但應(yīng)用在實際情況中時常常會出現(xiàn)道德問題。識別出人的種族，這雖然可以有其他更好的用處，但可能被用來進(jìn)行人種歧視。

去年微軟開發(fā)了一款軟件，通過照片來判斷人的年齡。他們本來的目的是想開發(fā)出一款有趣的應(yīng)用，但之后一些英國報紙試圖用這款軟件將本該給予兒童的優(yōu)惠給了成年人，這迫使微軟不得不做出解釋：這款軟件無法對年齡做出準(zhǔn)確的評估。

在遇到比鼻子形狀和年齡更加復(fù)雜和抽象的問題時，了解技術(shù)的極限便成了十分重要的事。來自普林斯頓大學(xué)的Alexander Todorov說，你無法從一個人的照片中了解他的個性和行為習(xí)慣，但卻超級容易看出一個人因為缺乏睡眠蒼白的臉色和下垂的眼袋，他說這可以用來防止人們在從事一些需要注意力高度集中的任務(wù)例如操作危險的機(jī)器，但用它來推測人的外貌和個性，這是錯誤的。

研究人員常常無法控制他們的研究成果如何被人們使用。像Wu和Zhang一樣將自己的成果公開后這就意味著任何人都可以檢測它的正確性。Frankle說：“讓我感到更可怕的事情是，如果一家私人公司開發(fā)出了這樣一套系統(tǒng)，并將它賣給了警察局，那么誰也不知道將會發(fā)生什么?！?/p>

今年早些時候，F(xiàn)rankle和他的同事發(fā)現(xiàn)，美國警察部門使用的面部識別軟件的準(zhǔn)確率還算高。但隨著隨著該技術(shù)的使用范圍更加廣泛，權(quán)衡其是否符合道德規(guī)范就更加緊迫了。

Chollet說，計算機(jī)科學(xué)在人們的生活在扮演著越來越重要的角色，但卻沒有相應(yīng)的道德標(biāo)準(zhǔn)來規(guī)范它，這是我們必須要解決的事。