當人工智能開始造假我們要怎么辦

當下，人工智能的發(fā)展速度已經(jīng)超出了大部分人的想象，甚至讓我們感覺到害怕，如何防止人工智能這把雙刃劍不被錯誤的使用，是當下很多AI行業(yè)人必須思考和探討的事情。

前段時間出現(xiàn)的AI換臉視頻，將原演員的黃蓉的臉換成了楊冪的臉，而且在視頻上基本看不出破綻，初次看到的人都以為是楊冪飾演的新電視。據(jù)說，這一視頻換臉技術就曾讓許多名人遭遇了虛假色情片的困擾，同時，由于人工智能換臉技術的惟妙惟肖，讓越來越多的人擔心，有人會利用人工智能換臉技術從事違法犯罪活動，從而為無辜的人造成不必要的困擾。

人工智能換臉技術的新聞才剛過去不久，最近國外Facebook的工程師們又創(chuàng)造出來了一個能惟妙惟肖的模仿比爾蓋茨聲音的AI。而根據(jù)下圖的聲波對比，我們就能發(fā)現(xiàn)，這款聲音的人工智能可以產(chǎn)生高保真度的音頻輸出。

在下列的剪輯中，你可以聽到比爾蓋茨似乎在說一些無傷大雅的話，“游泳時抽筋并不是小危險”、“摘下那朵沒有葉子的玫瑰花”等，這聲音聽起來與比爾蓋茨的聲音毫無差別，據(jù)設計和創(chuàng)建該人工智能系統(tǒng)的Facebook工程師介紹，AI所生成的每個語音片段都是由這個機器學習系統(tǒng)生成的，而且它不止能克隆比爾蓋茨的聲音，還能模仿其他人的聲音，只是比爾蓋茨是其中最著名的人。

不可否認，這些音頻樣本令人印象深刻，這幾年，AI音頻模仿的技術一直在不斷提升，很多人擔心，有人會利用這一技術實施電話詐騙或從事其他非法活動。

同時，人工智能生成制造的假新聞，可能會造成非常壞的影響，因為在社交媒體上，假新聞的傳播速度比真相還要快，而且隨著假新聞AI生成器變得越來越先進，區(qū)分真假新聞變得比以往任何時候都要困難，人工智能可以根據(jù)簡單的提示快速生成令人信服的文本段落，并炮制出讓人相信的虛假故事，從而來影響公眾輿論。其實很多人的擔心并不多余，現(xiàn)如今虛假新聞影響輿論的情況時有出現(xiàn)，我們該如何去應對，才能識別出哪些是人工智能制造的假事件哪些是真實的世界呢？

想要識別哪些是真實的，哪些是人工智能模仿的信息（圖片、語音、視頻），我們必須從源頭對人工智能的原理進行了解。例如在華盛頓大學的羅恩·澤勒斯及其同事共同開發(fā)了一款既能夠編寫，又能夠識別假新聞的人工智能格羅弗，他們用新聞網(wǎng)站上數(shù)以百萬計（120GB）的文章來訓練格羅弗學會了寫文章，而且還能調整其風格去模仿某一特定風格的網(wǎng)站文章。在撰寫假新聞的時候，格羅弗只需要幾秒鐘，就能生成一篇有編造的統(tǒng)計數(shù)據(jù)和假引文的文章，而且這些引文通常來自真實存在的專家或者政客。

而后，研究人員對包括格羅弗在內的4個人工智能進行測試，以測試其區(qū)別人類記者寫的5000篇真實文章和格羅弗編造的5000篇假新聞文章，發(fā)現(xiàn)表現(xiàn)最好的人工智能就是格羅弗本身，因為它自己就是最好的判別器，準確率可達92%，不過，該研究團隊并沒有測試格羅弗對其他人工智能生成的假新聞的識別能力。

從這個實驗，我們就會發(fā)現(xiàn)，對人工智能導致的造假最好的防御的就是從人工智能本身出發(fā)，對格羅弗最好的防御就是格羅弗本身。就如同格斗一般，要抵御對手的攻擊，我們最需要了解的是對手會做什么，針對人工智能技術未來可能導致的造假事件，我們也該如此。