微軟和合作伙伴宣布Deepfake檢測挑戰(zhàn)

Facebook，微軟，人工智能合作伙伴關(guān)系以及來自幾所大學(xué)的研究人員發(fā)起了Deepfake檢測挑戰(zhàn)賽（DDC），該競賽旨在生產(chǎn)可以檢測由AI產(chǎn)生的誤導(dǎo)性圖像和視頻的AI。挑戰(zhàn)包括使用DDC的真實視頻和虛假視頻數(shù)據(jù)集，為創(chuàng)建最佳AI解決方案的團(tuán)隊提供數(shù)個獎項和獎勵。

在最近的博客文章中，F(xiàn)acebook的首席技術(shù)官M(fèi)ike Schroepfer宣布，F(xiàn)acebook將為這項工作以及包含付費(fèi)演員視頻的精選數(shù)據(jù)集捐款1000萬美元。該數(shù)據(jù)集將“免費(fèi)提供給社區(qū)”，這筆錢將用于為產(chǎn)生獲獎解決方案的開發(fā)商提供研究經(jīng)費(fèi)和現(xiàn)金獎勵。

Deepfakes是“基于人工智能的人類圖像合成技術(shù)”。簡而言之，它們是由深度學(xué)習(xí)模型創(chuàng)建的“虛假”圖像和視頻。圖像處理當(dāng)然不是什么新鮮事，但是創(chuàng)建逼真的假視頻直到最近才需要好萊塢電影的巨額預(yù)算。隨著無處不在的云計算，深度學(xué)習(xí)框架以及“面子交換”技術(shù)的開源實現(xiàn)的出現(xiàn)，門檻大大降低了。盡管該技術(shù)確實僅具有娛樂性的應(yīng)用，例如用一個演員的臉代替另一個演員的臉，但許多人擔(dān)心，深造假冒可能被惡意使用，以***輿論或作為“社會工程”。對可能濫用其深度學(xué)習(xí)結(jié)果的類似擔(dān)憂促使OpenAI不發(fā)布其完整的GPT-2文本生成模型。

Facebook和DDC的其他合作伙伴希望通過建立現(xiàn)金獎勵的“ Kaggle風(fēng)格”競賽來設(shè)置AI以趕上AI 。參賽者將下載DDC數(shù)據(jù)集，該數(shù)據(jù)集將包含真實視頻和偽造視頻，并使用這些數(shù)據(jù)訓(xùn)練可以成功識別偽造品的機(jī)器學(xué)習(xí)模型。挑戰(zhàn)包括“測試機(jī)制”，該機(jī)制將在不公開的數(shù)據(jù)集子集上對競爭對手的模型評分，而僅將其保留以進(jìn)行測試。

Deepfake檢測已經(jīng)是參與挑戰(zhàn)的大學(xué)之間積極研究的領(lǐng)域。例如，成思危教授呂 在 大學(xué)奧爾巴尼分校，紐約州立大學(xué) 發(fā)表了一份關(guān)于該主題的幾篇論文。Lyu指出，偽造視頻中的人通常不會眨眼。圖像生成算法還留下了其他更細(xì)微的“指紋”，這些指紋可以由深度學(xué)習(xí)系統(tǒng)檢測到。

有人擔(dān)心DDC本身可能導(dǎo)致更有說服力的假貨。大多數(shù)Deepfake模型都基于生成對抗網(wǎng)絡(luò) （GAN）架構(gòu)，該架構(gòu)由兩個相互競爭的神經(jīng)網(wǎng)絡(luò)組成：學(xué)習(xí)生成令人信服的圖像的生成網(wǎng)絡(luò)，以及判斷圖像質(zhì)量的判別網(wǎng)絡(luò)。在AI“軍備競賽”中同時訓(xùn)練兩個網(wǎng)絡(luò)，直到生成的網(wǎng)絡(luò)可以產(chǎn)生逼真的圖像。