AI換臉技術(shù)制作出女明星不雅視頻，進(jìn)行售賣，涉多重違法

AI（人工智能）換臉軟件走向大眾的風(fēng)險之一，是這種軟件可能會被不法分子濫用。

9月3日晚間，記者在二手交易品臺閑魚App上發(fā)現(xiàn)，有多位賣家通過AI換臉技術(shù)制作出當(dāng)紅女明星的不雅視頻，進(jìn)行售賣。

其中一位賣家告訴記者，他有視頻100部，里面包括30多位明星。還有一位類似賣家報價稱，75元套餐中有40多位女明星上百部的AI換臉視頻。

北京志霖律師事務(wù)所副主任、中國政法大學(xué)知識產(chǎn)權(quán)研究中心特約研究員趙占領(lǐng)律師對澎湃新聞表示，這種售賣明星換臉不雅視頻的行為，毫無疑問是構(gòu)成肖像侵權(quán)的，也涉嫌構(gòu)成名譽(yù)侵權(quán)。而且還涉嫌構(gòu)成刑事犯罪，它屬于傳播淫穢物品牟利罪，情節(jié)嚴(yán)重者可判無期徒刑。

咨詢閑魚相關(guān)人員獲得的回應(yīng)是，該平臺對違反公序良俗的商品一貫以來采取零容忍態(tài)度，從嚴(yán)從重處罰違規(guī)行為。

電商平臺不法分子兜售女明星AI換臉視頻

AI換臉技術(shù)兩年前在國外出現(xiàn)時，就曾經(jīng)被“用來換臉色情片女主角”。

2017年12月，在海外出現(xiàn)AI換臉技術(shù)時，這項名為“deepfakes”的技術(shù)，就曾被少數(shù)懂技術(shù)的人用來換臉色情片女主角。后來，隨著一款桌面應(yīng)用程序FakeApp的出現(xiàn)，普通網(wǎng)民也能簡單制作換臉假視頻，互聯(lián)網(wǎng)上的假臉視頻開始廣泛流傳。這在海外早已引發(fā)爭議。

目前，國內(nèi)市場上已經(jīng)有“ZAO”和顏技App攻克了AI換臉技術(shù)，將換臉從專業(yè)化變成全民化，實現(xiàn)一鍵換臉。這又讓一些不法分子看到了賺錢的機(jī)會。

9月3日晚間，記者在二手交易品臺閑魚App上發(fā)現(xiàn)，有多位賣家通過AI換臉技術(shù)制作出當(dāng)紅女明星的不雅視頻，進(jìn)行售賣。

其中一位賣家提議在qq或者微信進(jìn)行交易，并告訴澎湃新聞記者，明星換臉合成情境圖的價格如下：一個明星30元，兩個明星40元，三個明星50元，每個明星圖片數(shù)量不同，大多數(shù)都是300張左右。此外，他還有視頻100部，里面包括30多位明星?！岸际钱?dāng)紅的，有的明星多，有的少?！彼f。

澎湃新聞記者詢問賣家能否試看，對方表示不能，并發(fā)來了部分資料庫截圖，文件名稱極其露骨。

另外一位類似賣家給出的報價是：75元套餐中有40多位女明星上百部的AI換臉視頻，99元套餐則可“永久外網(wǎng)觀看任意資源”。

對此，澎湃新聞咨詢了閑魚相關(guān)人員。對方告訴澎湃新聞，對違反公序良俗的商品一貫以來采取零容忍態(tài)度，從嚴(yán)從重處罰違規(guī)行為。同時，在平臺處理的基礎(chǔ)上，閑魚還將向執(zhí)法機(jī)關(guān)舉報涉嫌發(fā)布違規(guī)信息的賬號，協(xié)助開展線下溯源打擊，追蹤背后的黑灰產(chǎn)團(tuán)伙。

今年3月20日，閑魚在浙江省網(wǎng)信辦指導(dǎo)下，在互聯(lián)網(wǎng)行業(yè)內(nèi)率先發(fā)起為期3個月專項治理行動，用最嚴(yán)厲手段打擊各類涉嫌違反公序良俗的違規(guī)信息。

閑魚相關(guān)人員表示，閑魚呼吁公眾發(fā)現(xiàn)違規(guī)現(xiàn)象時積極向平臺舉報，共同凈化網(wǎng)絡(luò)社會環(huán)境。

利用AI換臉技術(shù)傳播淫穢物品牟利罪嚴(yán)重者可判無期徒刑

趙占領(lǐng)律師對此表示，以上這種售賣明星換臉不雅視頻的行為，涉及兩方面的法律問題，第一個是肖相侵權(quán)。按照法律規(guī)定，以營利為目的未經(jīng)授權(quán)使用他人肖像，那這屬于是侵犯他人肖像權(quán)。所以，將色情視頻換成明星的臉然后去銷售，毫無疑問是構(gòu)成肖像侵權(quán)的。

“第二點，這種做法也侵犯了明星的名譽(yù)權(quán)，因為他這種做法會導(dǎo)致一些人可能誤認(rèn)為這是明星本人所出演的這種色情電影。所以導(dǎo)致它的社會評價降低，因此這種行為也涉嫌構(gòu)成名譽(yù)侵權(quán)?！壁w占領(lǐng)說。

不僅如此，趙占領(lǐng)表示，這種行為既涉及到上述兩種民事侵權(quán)，同時還涉嫌構(gòu)成刑事犯罪，它屬于傳播淫穢物品牟利罪，情節(jié)嚴(yán)重者可判無期徒刑。“所以，一旦認(rèn)定構(gòu)成傳播淫穢物品牟利罪，這樣的一個刑事犯罪，那么他的這個犯罪嫌疑人的責(zé)任就重了。根據(jù)《刑法》第三百六十三條第一款之規(guī)定，犯本罪的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴(yán)重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴(yán)重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產(chǎn)。”

趙占領(lǐng)表示，“至于具體判刑情況，是跟它具體的行為，包括傳播范圍、傳播數(shù)量、金額等等有關(guān)系的?！?/p>

被侵權(quán)明星若協(xié)商不成可起訴

北京法學(xué)會電子商務(wù)法治研究會會長邱寶昌律師向澎湃新聞指出，對于AI換臉技術(shù)下被侵犯肖像權(quán)和名譽(yù)權(quán)的明星，可采取相應(yīng)法律措施進(jìn)行維權(quán)。

“第一，你可以要求停止侵權(quán)。第二，要求賠償損失。精神損失、造成的經(jīng)濟(jì)損失都可以要求索賠。首先可要求賠償，如果協(xié)商協(xié)商不成的話，可以起訴?！?/p>

在中國裁判文書網(wǎng)中搜索“肖像權(quán)“可見，多名當(dāng)紅明星都曾涉及肖像權(quán)維權(quán)。其中，有84篇文書與范冰冰的肖像權(quán)維權(quán)相關(guān)，有29篇文書與楊穎的肖像權(quán)維權(quán)相關(guān)，有5篇文書與楊冪的肖像權(quán)相關(guān)。不過，其中大部分是利用明星肖像做廣告以謀取盈利的案件，目前暫未發(fā)現(xiàn)使用AI換臉技術(shù)侵犯肖像權(quán)的案件。

就明星肖像權(quán)維權(quán)咨詢了幾位明星工作室的相關(guān)人員，對方均表示，目前暫未遇到AI換臉侵犯肖像權(quán)的案例。

普通人面部信息泄露引發(fā)監(jiān)管部門關(guān)注

那么，普通人的照片信息被收集后，是否存在被做成色情視頻的可能性呢？

此前有報道稱，在一些電商平臺上，還有賣家表示，可以提供視頻定制換臉產(chǎn)品。只需要買家提供一些被換臉人的照片，賣家便可以將照片中的人臉“轉(zhuǎn)”到特定視頻中特定人物上去。

雖然上述幾位閑魚上的賣家目前暫未提供此類服務(wù)，但這并不意味著將照片中的人臉“轉(zhuǎn)”到特定視頻中特定人物上去的服務(wù)不存在。

對于近期火爆的“ZAO”，趙占領(lǐng)律師認(rèn)為，其確實存在用戶面部信息泄露的風(fēng)險。

“‘ZAO’這個軟件，你要上傳頭像，然后經(jīng)過認(rèn)證才能把你的換臉的視頻分享給他人。所以這個認(rèn)證的過程就是要對用戶的人臉進(jìn)行識別。至少在這個過程中，他肯定會收集臉部信息數(shù)據(jù)的，但他會不會保存就不得而知了。因為現(xiàn)在是它自己單方的說法，我們無從判斷。但不排除它存在存儲用戶臉部特征數(shù)據(jù)的可能性?！?/p>

趙占領(lǐng)還指出：“它如果存儲這些數(shù)據(jù)的話那確實有風(fēng)險。有兩方面的風(fēng)險，第一個就是它自己保管不當(dāng)導(dǎo)致這些數(shù)據(jù)泄露出去，其他人拿著這些數(shù)據(jù)從事違法犯罪活動，另外一個就是它自身拿這些數(shù)據(jù)進(jìn)行非法的使用。”

9月4日，“ZAO”App由于用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風(fēng)險等網(wǎng)絡(luò)數(shù)據(jù)安全問題，已被工信部約談。

雖然在9月3日，“ZAO”曾公開致歉，稱不會存?zhèn)€人面部生物識別特征信息，且無支付風(fēng)險。但是，不少網(wǎng)友還是聚集在“ZAO“的微博下，要求注銷賬號并終止授權(quán)肖像。

值得一提的是，9月4日上午，“ZAO”的自動回復(fù)是一張寫有指導(dǎo)用戶刪除面孔、注銷賬號的說明圖。