AdVerif.ai 設(shè)計了一種同名算法來檢測虛假的新聞報道和其他類型的問題

這可能是互聯(lián)網(wǎng)歷史上的第一個虛假新聞：1984年，有人在Usenet上發(fā)布了蘇聯(lián)加入網(wǎng)絡(luò)的消息。這是一個完全無害的四月愚人節(jié)惡作劇，與如今的虛假信息宣傳活動和旨在快速獲利的不擇手段的制造業(yè)相差甚遠(yuǎn)。2017年，誤導(dǎo)性和惡意的虛假在線內(nèi)容是如此豐富多產(chǎn)，以至于人類無法讓自己解脫困境。反而，這越發(fā)看來機(jī)器將不得不拯救我們。

一家名為AdVerif.ai 的初創(chuàng)公司設(shè)計了一種同名法算，可以把我們從黑暗中拯救出來。人工智能軟件的構(gòu)建是為了檢測虛假的新聞報道、赤裸、惡意軟件和其他類型的問題內(nèi)容。AdVerif.ai于11月份推出了測試版本，目前與美國和歐洲的內(nèi)容平臺及廣告網(wǎng)絡(luò)合作，他們不希望與虛假或潛在的冒犯性新聞報道有關(guān)聯(lián)。

根據(jù)AdVerif.ai的創(chuàng)始人Or Levi的說法，公司在將焦點(diǎn)放在公司產(chǎn)品，而非普通用戶的事情上面看到了機(jī)遇。雖然個別消費(fèi)者可能不會擔(dān)心他們所點(diǎn)擊新聞報道的真實(shí)性，但是廣告主和內(nèi)容平臺會因?yàn)榧Y(jié)或宣傳不良內(nèi)容而損失一些東西。如果他們改變自己的服務(wù)，他們可以有效地削減那些靠制造虛假新聞賺錢的人的收入來源。Levi說：“這將是與這類內(nèi)容作斗爭的一個大的跨越?！?/p>

AdVerif.ai 是如何發(fā)現(xiàn)假新聞？

AdVerif.ai可以掃描整個內(nèi)容，發(fā)現(xiàn)表明某些地方有問題的標(biāo)志，比如文章標(biāo)題與正文內(nèi)容不對應(yīng)，或標(biāo)題中的大寫字母太多。AdVerif.ai還通過有數(shù)千個合法虛構(gòu)新聞的數(shù)據(jù)庫對每一則新聞進(jìn)行交叉檢查，這些合法的虛構(gòu)新聞會每周更新一次?？蛻艨梢钥吹较到y(tǒng)考慮到的每一部分的報告，還有評估分?jǐn)?shù)，評估某些事可能是虛假新聞，或可能攜帶惡意軟件，或可能包含他們要求系統(tǒng)留意的其他東西，比如說赤裸。最后，Levi表示，他計劃增加能找出操縱圖像的能力，并安裝一個瀏覽器插件。

在測試AdVerif.ai的演示版本時，AI將洋蔥識別為諷刺（這在過去曾經(jīng)愚弄過很多人）。布賴特巴特的新聞故事被分類為“不可靠的，右翼的，政治的，帶有偏見的”，而Cosmopolitan則被認(rèn)為是“左翼的”?？梢钥闯?，當(dāng)Twitter賬戶使用標(biāo)識時，而鏈接卻與它所描繪的品牌毫無關(guān)系。AdVerif.ai不僅發(fā)現(xiàn)Natural News上標(biāo)題為“有證據(jù)表明比特幣成為NSA設(shè)計的心理戰(zhàn)行動來全面推廣單一世界數(shù)字貨幣”的新聞是來自一個黑名單網(wǎng)站，而且還確定了它是一條虛假新聞，在其他被列入黑名單的網(wǎng)站上也會彈出，而且在合法新聞機(jī)構(gòu)沒有任何參考。

一些可疑的新聞報道仍然可以通過，出現(xiàn)在網(wǎng)站上。在一個名為Action News 3的網(wǎng)站上，有一篇題為“NFL播放器拍攝到在更衣室里燃燒美國國旗！”的帖子，雖然已經(jīng)證明該帖是捏造的，但是帖子并沒有被攔截。為了幫助系統(tǒng)知道接下來的情況，可以手動逐個更新系統(tǒng)虛假新聞報道的黑名單。

當(dāng) AI 造假遇上 AI 打假

AdVerif.ai并不是唯一一家在為在線公司提供以AI為動力的吐真藥中看到機(jī)遇的初創(chuàng)公司。特別是網(wǎng)絡(luò)安全公司，已經(jīng)快速地將發(fā)現(xiàn)僵尸和虛假新聞的操作添加到他們的計算機(jī)指令系統(tǒng)中，指出很多方法與黑客手段有多么相似。Facebook正在調(diào)整其算法，以消除其新聞傳播中的虛假新聞。谷歌與事實(shí)檢查網(wǎng)站開展合作，到目前為止，取得的結(jié)果還參差不齊。“虛假新聞挑戰(zhàn)賽”于去年年底推出，比賽是由AI團(tuán)體的志愿者舉辦，旨在鼓勵開發(fā)有助于打擊惡意報道的工具。

“虛假新聞挑戰(zhàn)賽”組織者之一，開發(fā)機(jī)器學(xué)習(xí)系統(tǒng)的Joostware公司創(chuàng)始人，Delip Rao表示，要發(fā)現(xiàn)虛假新聞有很多方面，所以這個挑戰(zhàn)將會分多個步驟完成。第一步是“立場檢測”，或者選取一條新聞，找出其他新聞網(wǎng)站對這個話題的評論。這可以讓人類事實(shí)檢驗(yàn)員依靠新聞來驗(yàn)證其它的新聞報道，用更短的時間檢查單個作品。

“虛假新聞挑戰(zhàn)賽”發(fā)布了數(shù)據(jù)集供團(tuán)隊(duì)使用，有50個團(tuán)隊(duì)提交了參賽作品。思科公司的網(wǎng)絡(luò)安全部門Talos Intelligence利用了一種算法贏得了比賽，這一算法獲得了80％以上的正確率——雖還沒有為黃金時段做好準(zhǔn)備，但仍然是一個令人歡心鼓舞的結(jié)果。接下來的挑戰(zhàn)可能會出現(xiàn)帶有覆蓋文本的圖像（思考模因，但帶有虛假新聞），這是一種經(jīng)常在社交媒體上推廣的格式，因?yàn)樗惴ê茈y分解和理解這種文本格式。

Rao表示：“我們主要想為檢驗(yàn)員建造最好的工具，以便他們能夠快速工作，像檢查類固醇的事實(shí)檢驗(yàn)員一樣。”

即使開發(fā)出能夠有效遏制虛假內(nèi)容趨勢的系統(tǒng)，也不太可能是新聞報道的終結(jié)。人工智能系統(tǒng)已經(jīng)能夠創(chuàng)造虛假的文本了，以及令人難以置信的圖像和視頻。（請參閱“真實(shí)或虛假？人工智能令人難以置信”）。也許正因?yàn)槿绱?，Gartner最近的一項(xiàng)研究預(yù)測，到2022年，發(fā)達(dá)經(jīng)濟(jì)體中的大多數(shù)人會看到比真實(shí)信息更多的錯誤虛假信息。同樣的報告發(fā)現(xiàn)，甚至在發(fā)生這種事情之前，虛假內(nèi)容將會超過AI檢測它的能力，改變我們相信數(shù)字信息的方式。

AdVerif.ai以及其他公司更像開始了一場競賽，而非虛假信息之戰(zhàn)。競賽中，虛假內(nèi)容創(chuàng)作者開發(fā)自己的人工智能系統(tǒng)企圖戰(zhàn)勝 “正義”的人工智能。因此，我們不得不重新審視自己獲取信息的方式。