科技向善，人臉識別面前倫理思考應(yīng)高于市場利益

隨著科技的進(jìn)步，“人臉識別”被越來越多的場景采用，解鎖、購物、打卡、門禁、買房……進(jìn)公園人臉識別，進(jìn)售樓處被人臉識別，濫用人臉識別侵犯個人隱私是近期的社會熱議話題，也引起社會廣泛焦慮。近日，南京多家售樓處被責(zé)令要求拆除現(xiàn)有的人臉識別系統(tǒng)，這在全國尚屬首例。隨即，天津立法杜絕信用信息場景下濫用人臉識別技術(shù)。那么，在人臉識別時代，我們到底要不要說“不”？

在技術(shù)商業(yè)化過程中“不作惡”應(yīng)是企業(yè)基本社會責(zé)任所在

在技術(shù)商業(yè)化過程之中，除了監(jiān)管為“不可為”劃清紅線，企業(yè)也需明確“不應(yīng)為”的邊界，“不作惡”本應(yīng)是企業(yè)的基本社會責(zé)任所在。

人工智能技術(shù)的蝴蝶效應(yīng)，正在從科幻討論變?yōu)楝F(xiàn)實(shí)爭議。作為AI技術(shù)的最典型應(yīng)用，人臉識別持續(xù)成為爭議的風(fēng)口。

一面是技術(shù)的不斷突飛猛進(jìn)：作為一項(xiàng)前沿技術(shù)，人臉識別被用于安防、交通等領(lǐng)域，效果立竿見影，如今已經(jīng)在支付轉(zhuǎn)賬、實(shí)名登記、解鎖解密等場景中廣泛應(yīng)用，人們也確實(shí)享受著人臉識別技術(shù)進(jìn)步所帶來的便利。

但另一面，越來越多的攝像頭被安裝在各種場景中，關(guān)于技術(shù)正在被濫用的質(zhì)疑越來越多：從售樓處到辦公室，當(dāng)連考勤打卡也需要通過釘釘之類辦公軟件“人臉識別”的時候，在日常生活場景中如何保護(hù)我們的臉，如何保護(hù)人臉背后的個人信息和隱私安全，已經(jīng)成為了技術(shù)成熟落地過程中所面臨的最大挑戰(zhàn)所在。

由于人臉識別技術(shù)在此前屬于新興技術(shù)，在其應(yīng)用初期擁有一定的探索“真空期”也是情有可原。只是，當(dāng)人臉識別在當(dāng)下已經(jīng)足夠成熟到可以低成本快速復(fù)制之時，及時的標(biāo)準(zhǔn)制定和立法規(guī)制就顯得迫切起來。

好在立法的進(jìn)程已經(jīng)在不斷提速。今年1月，中國支付清算協(xié)會還制定了《人臉識別線下支付行業(yè)自律公約(試行)》。在公約中，中國支付清算協(xié)會表示，會員單位應(yīng)建立人臉信息全生命周期安全管理機(jī)制。今年10月，個人信息保護(hù)正式立法，旨在規(guī)范平臺擅自收集用戶數(shù)據(jù)等行為。近日，天津更是公示率先立法禁止人臉識別的濫用，各個地方也在跟進(jìn)規(guī)范人臉識別的法制步伐。

當(dāng)前，美國多個州市已經(jīng)頒布明確禁令，禁止執(zhí)法部門、政府機(jī)構(gòu)使用人臉識別和監(jiān)控技術(shù)。歐盟在今年年初就在草擬3到5年內(nèi)禁止在公共場所使用人臉識別技術(shù)的計劃。現(xiàn)在，中國也加入了“限制”人臉識別技術(shù)應(yīng)用的隊(duì)列。

可以看到的是，強(qiáng)化對個人信息收集的立法監(jiān)管已經(jīng)是大勢所趨。但接下來更為重要的問題是，無論是行政監(jiān)管還是立法約束，畢竟相對于當(dāng)下即時變幻的市場風(fēng)云來說是滯后的。法律的力量，其實(shí)已經(jīng)是社會風(fēng)險防范的最后一道防火墻；在這道防火墻之前，作為技術(shù)應(yīng)用的第一道把關(guān)人，更需要的是企業(yè)在技術(shù)面前的人本敬畏和對技術(shù)的應(yīng)用邊界保持警醒。

畢竟，技術(shù)本身是中立的，如何使用技術(shù)才是技術(shù)應(yīng)用風(fēng)險的主要來源。在數(shù)字時代，人臉識別與驗(yàn)證指紋、簽名等方式相比更加便捷，但人們?yōu)檫@種便捷所付出的代價，不應(yīng)是隱私泄露和個人權(quán)利被侵犯。

因此，在技術(shù)商業(yè)化過程之中，除了監(jiān)管為“不可為”劃清紅線，企業(yè)也需明確“不應(yīng)為”的邊界，“不作惡”本應(yīng)是企業(yè)的基本社會責(zé)任所在。事實(shí)上，對人臉識別的爭議已在全球多國出現(xiàn)，處于風(fēng)口浪尖的科技巨頭首當(dāng)其沖。此前，IBM主動放棄人臉識別業(yè)務(wù)，宣布將不再提供、開發(fā)或研究任何人臉識別和人臉分析軟件;微軟則在去年刪除了其最大的公開人臉識別數(shù)據(jù)庫。

據(jù)此前央視公布的數(shù)據(jù)顯示，2010年-2018年，我國人臉識別行業(yè)市場規(guī)模年均復(fù)合增長率達(dá)30.7%，預(yù)計到2024年市場規(guī)模將突破100億元。毫無疑問，這將是一個天量的市場所在。

科技向善，人臉識別面前倫理思考應(yīng)高于市場利益

技術(shù)發(fā)展當(dāng)然是必要的，但也要看方向，要向正確的方向。這就是科技向善的概念，即要從善的角度，從倫理的角度，去思考技術(shù)的影響，而不能僅僅出于市場利益。

繼南京責(zé)令拆除售樓處人臉識別系統(tǒng)后，天津的禁令首次從地方立法層面，規(guī)范了人臉識別技術(shù)的使用。對于規(guī)范人臉識別技術(shù)的發(fā)展，意義重大。

實(shí)際上，很大程度上來說，人臉識別并不是一個基于安全考量的技術(shù)。我們平常用的密碼，比如支付密碼、銀行卡密碼，都是藏在用戶的心里的，不會有被盜取的可能，所以，高安全場景都是采用的字符密碼。

相比之下，人臉不可能被藏起來，明晃晃的顯示在公共場合之中，可以獲取的手段就太多了，甚至在朋友圈、社交網(wǎng)站上都可以搜到。而且，生物信息與之所以敏感，因?yàn)樗c一般的自設(shè)密碼不同，密碼丟失了，可以再設(shè)置，但指紋、人臉、虹膜、聲紋等生物信息丟失了，就會永久失去這一信息的私密性、從而失去保密功能。所以，人臉信息更加敏感。

歐盟地區(qū)的數(shù)據(jù)保護(hù)法《通用數(shù)據(jù)保護(hù)條例》（“GDPR”）就規(guī)定，面部圖像（facial image）構(gòu)成特殊類型個人數(shù)據(jù)下的“生物識別數(shù)據(jù)”，進(jìn)而相較于一般個人數(shù)據(jù)受制于更高的保護(hù)要求。

由此可見，人臉識別并不是一個基于安全導(dǎo)向的發(fā)明，實(shí)際上，推動人臉識別技術(shù)在市場上普及應(yīng)用的，不是安全考慮，而更多的是基于方便和防范對象更廣。

在這兩點(diǎn)之上，又衍生出人臉識別技術(shù)的市場利益結(jié)構(gòu)。首先，人臉識別的確可以省人工。比如公園、公司打卡、小區(qū)門禁，都可以省事、省監(jiān)管。其次，人臉識別的購買者、實(shí)施者是凈獲益的。第三，很多人臉識別項(xiàng)目，購買者與承擔(dān)成本者是分離的，這里面有回扣空間，比如學(xué)校、小區(qū)的人臉識別項(xiàng)目。

所以，這種并非以安全為首要考慮的技術(shù)，由于其利益結(jié)構(gòu)，幾乎必然導(dǎo)向?yàn)E用。那么，反過來說，我們就更應(yīng)該思考其過猶不及之處。

行政法有六大基本原則，其中之一就是比例原則。所謂行政比例原則，是指行政主體實(shí)施行政行為應(yīng)兼顧行政目標(biāo)的實(shí)現(xiàn)和相對人權(quán)益的保護(hù)，如為實(shí)現(xiàn)行政目標(biāo)可能對相對人權(quán)益造成某種不利影響時，應(yīng)使這種不利影響限制在盡可能小的范圍和限度內(nèi)，保持二者處于適度的比例。

簡單的說，就是當(dāng)有多種可供選擇的手段可以達(dá)到目的，應(yīng)該盡可能采取損害最小、最溫和、風(fēng)險最小的手段，殺雞不能用牛刀。比如小區(qū)門禁、公司打卡，用密碼、IC卡可以解決的問題，為什么要用人臉、指紋這樣的生物信息來解決呢？這明顯不符合比例原則。

中國人崇尚發(fā)展，而這個發(fā)展的涵義，更多的偏向技術(shù)發(fā)展速度，但往往忽略了技術(shù)所帶來的社會影響，忽略技術(shù)發(fā)展的方向。技術(shù)發(fā)展當(dāng)然是必要的，但也要看方向，要向正確的方向。這就是科技向善的概念，即要從善的角度，從倫理的角度，去思考技術(shù)的影響，而不能僅僅出于市場利益。即便對單個企業(yè)來說，很難如此全面，但行業(yè)、政府機(jī)構(gòu)、社會，需要有“善“的思考。

不久前，在深圳召開的全球人工智能創(chuàng)業(yè)者大會上，多家高校及人工智能企業(yè)聯(lián)合發(fā)起了《新一代人工智能行業(yè)自律公約》，旨在增強(qiáng)行業(yè)整體自律意識，積極推動人工智能行業(yè)的職業(yè)道德、倫理等方面的發(fā)展，以及科技向善的價值追求。相比行業(yè)內(nèi)部的自律，中國社會對這方面思考得實(shí)在太少了。

責(zé)任編輯：xj

原文標(biāo)題：人臉識別時代，要不要說“不”？

文章出處：【微信公眾號：物聯(lián)網(wǎng)技術(shù)】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。