中科院曾毅談人臉識別信息安全：人臉隱私數(shù)據(jù)“一次泄露，終身風(fēng)險”

“1元購買健康寶查詢方式”“2元70多位藝人健康寶照片”……近日，眾多明星核酸檢測照片的泄露，再度引發(fā)人們對人臉識別信息安全的擔(dān)憂。

“人臉識別‘一次泄露，終身風(fēng)險’的特點，使這種安全隱患的影響可能是長期的。”1月14日，中國科學(xué)院自動化所研究員、北京智源人工智能研究院AI倫理中心主任、國家新一代人工智能治理專委會委員曾毅在接受時代周報記者專訪時表示，在拯救生命等嚴(yán)肅問題面前，AI倫理紅線不應(yīng)有任何程度的放寬。

疫情中，人臉識別技術(shù)搜集的海量數(shù)據(jù)如何避免泄露隱私，成為大眾普遍關(guān)心話題。曾毅認(rèn)為，在人臉識別相關(guān)產(chǎn)品與服務(wù)中，應(yīng)做到設(shè)計、研發(fā)、使用、部署等全生命周期均符合倫理要求。

隱私數(shù)據(jù)保護缺位

時代周報：近日，大量明星核酸檢測照片從網(wǎng)絡(luò)上泄漏出來，包括楊冪、鹿晗、李易峰、王源等眾多明星的核酸檢測結(jié)果、素顏照片在微信群流傳。這一現(xiàn)象透露出什么問題？

曾毅：通過這一現(xiàn)象可以看到，一方面，某些承接政府機構(gòu)信息系統(tǒng)建設(shè)的企業(yè)并沒有能很好地實現(xiàn)對公民關(guān)鍵隱私數(shù)據(jù)的有效保護。另一方面，相關(guān)政府機構(gòu)對包含公民隱私數(shù)據(jù)的應(yīng)用，特別是政府委托的相關(guān)應(yīng)用服務(wù)，在數(shù)據(jù)保護方面急需加強管理和監(jiān)督。

可以看到，之所以通過輸入部分信息就可以獲取他人核酸檢測相關(guān)細節(jié)信息，從系統(tǒng)設(shè)計角度而言存在不嚴(yán)格的倫理設(shè)計。

他人代查這項功能仍具有現(xiàn)實意義，例如子女和朋友幫助老年人等非手機用戶代查這樣的需求仍然存在，但是如何確認(rèn)代查結(jié)果經(jīng)過當(dāng)事人授權(quán)，確保知情同意，是系統(tǒng)設(shè)計與實現(xiàn)過程中必須思考清楚并通過技術(shù)實現(xiàn)的。

時代周報：你曾提出，從人工智能模型中刪除數(shù)據(jù)十分困難。目前幾乎沒有一家企業(yè)可以做到在訓(xùn)練好的人工智能模型中，把某個用戶數(shù)據(jù)的影響從模型中刪除。當(dāng)前還是這種現(xiàn)狀嗎？

曾毅：很遺憾，當(dāng)前仍然是這種狀況，這個問題雖然明確存在，但并沒有引起學(xué)術(shù)界和產(chǎn)業(yè)界足夠的重視。

安全隱患影響長遠

時代周報：人臉識別應(yīng)用場景擴展后，其涉及的安全重要性是否越來越大，我們對數(shù)據(jù)是否做好保護？

曾毅：目前，人臉識別應(yīng)用領(lǐng)域急速擴展，然而相關(guān)負責(zé)任的、符合倫理的相關(guān)設(shè)計完全跟不上應(yīng)用領(lǐng)域的擴張需求。很顯然，從技術(shù)研發(fā)單位到監(jiān)管部門對數(shù)據(jù)保護都沒有完全做好準(zhǔn)備。

人臉識別“一次泄露，終身風(fēng)險”的特點增加了風(fēng)險的不確定性。在人臉識別相關(guān)產(chǎn)品與服務(wù)中做到設(shè)計、研發(fā)、使用、部署等全生命周期符合倫理要求，避免安全隱患是未來人臉識別研發(fā)與應(yīng)用必須做到的。

時代周報：人臉識別的準(zhǔn)確度需要靠大量人臉數(shù)據(jù)來“投喂”。而對于一些用戶來說，人臉數(shù)據(jù)被采集很多時候是缺乏選擇權(quán)和知情權(quán)的，人臉識別的使用邊界到底在哪里？如何才能不越過AI倫理紅線？

曾毅：知情同意在我國個人數(shù)據(jù)保護相關(guān)規(guī)范中是有明確規(guī)定必須落實的。這其實并不存在商量的余地。

下一步的重要工作是人工智能研發(fā)與服務(wù)企業(yè)自律自治。此外，主管部門多方協(xié)同治理，引導(dǎo)和監(jiān)督政策進行技術(shù)落地，落實數(shù)據(jù)與人工智能服務(wù)的合規(guī)發(fā)展。

中科院曾毅：人臉隱私數(shù)據(jù)“一次泄露，終身風(fēng)險”

責(zé)任編輯：PSY