Facebook制作AI系列“隱身衣”，可騙過監(jiān)控算法

AI在監(jiān)控技術(shù)中的廣泛使用，使得每一臺(tái)閉路電視攝像機(jī)都有可能成為國家的密探。在網(wǎng)絡(luò)上，從社交媒體網(wǎng)站或視頻中抓取的圖片皆可以被用來建立諸如Clearview AI（美國人工智能臉部識(shí)別公司）那樣的大型監(jiān)控?cái)?shù)據(jù)庫。

如今，一件連帽衫有可能改變這一切。Facebook和馬里蘭大學(xué)的研究學(xué)者制作了一系列運(yùn)動(dòng)衫和體恤衫，可以騙過監(jiān)控算法，使其無法檢測(cè)到穿著者。他們將其稱為AI“隱形斗篷”。

這些襯衫利用了近五年前從計(jì)算機(jī)視覺算法中發(fā)現(xiàn)的一種特性。該算法使用一種簡(jiǎn)單（甚至有些天真幼稚）的方式來識(shí)別物體：他們?cè)谛聢D像中搜索與已識(shí)別圖相似的像素圖案。當(dāng)人類在看到新事物時(shí)，可以根據(jù)復(fù)雜的線索和實(shí)際的知識(shí)進(jìn)行判斷，但算法只會(huì)用圖像匹配這一方法。

這意味著，如果知道算法正在搜索的模式，就可以將其隱藏。為了制作這種可欺騙算法的襯衫，F(xiàn)acebook和馬里蘭大學(xué)的團(tuán)隊(duì)通過一種檢測(cè)算法處理了一萬張人像圖片。當(dāng)一個(gè)人被檢測(cè)到時(shí)，圖片的視角、亮度和對(duì)比度會(huì)被隨機(jī)改變，接著，他們使用另一種算法找出欺騙算法最有效的隨機(jī)改變。

當(dāng)這些隨機(jī)圖案被打印在實(shí)物（如海報(bào)、紙娃娃以及衣物）上時(shí)，檢測(cè)算法仍然會(huì)被欺騙。但研究學(xué)者也指出，實(shí)際測(cè)試的準(zhǔn)確度低于純數(shù)字測(cè)試，當(dāng)一個(gè)人能穿著這個(gè)運(yùn)動(dòng)衫時(shí)，檢測(cè)器的識(shí)別能力從近100%下降至50%，即投擲硬幣正反面的可能性。

此研究延續(xù)了馬里蘭大學(xué)計(jì)算機(jī)科學(xué)系進(jìn)行的一項(xiàng)工作，其中部分研究人員在2018和2019年期間加入了Facebook。此前，該實(shí)驗(yàn)室研究怎樣利用與欺騙AI相同的原理來欺騙版權(quán)檢測(cè)算法（例如YouTube用來防止未經(jīng)授權(quán)使用受版權(quán)保護(hù)音樂的算法），以說明逃避版權(quán)檢測(cè)的容易程度，這引起了人們的重視。

這項(xiàng)研究對(duì)Facebook也有利。破解作效的根本原因是圖像識(shí)別算法缺乏分析圖像的上下文或理解，理解算法如何失敗是使算法不受騙的第一步。

這是一個(gè)研究過程的開始，它不僅能使算法更好地抵抗攻擊，而且從理論上來說，由于圖片的展現(xiàn)方式更加復(fù)雜，其準(zhǔn)確度和靈活度也將大大提高。換句話說，此研究可以增強(qiáng)圖像檢測(cè)算法的強(qiáng)度，而不是摧毀它。

事實(shí)上，我們的確可以買到一件印有算法欺騙圖案的體恤衫或是運(yùn)動(dòng)衫。但是，目前它不太可能保護(hù)你的身份信息免受監(jiān)控技術(shù)的侵害。研究員們測(cè)試圖案使用的是普及的開源算法，而不是NEC等監(jiān)控公司構(gòu)建的獨(dú)有算法。

同時(shí)，這個(gè)圖案旨在避免人員檢測(cè)，而非面部識(shí)別，后者僅針對(duì)人面部的某些方面而非整個(gè)身體。在公共場(chǎng)所，人員檢測(cè)可用于執(zhí)行以下任務(wù)：計(jì)算人群數(shù)量、查看是否有人在接近智能門鈴，在某些情況下還可以增強(qiáng)面部識(shí)別。

但這項(xiàng)研究以及其向可復(fù)制方式的轉(zhuǎn)變，它代表了監(jiān)控技術(shù)的一種變化：人們可以憑借一件簡(jiǎn)單的衣物顛覆最先進(jìn)的算法，并為任何想要的人制作衣物圖案。即便它不奏效，貼有人工智能生成的監(jiān)視欺騙圖像的運(yùn)動(dòng)衫也是一個(gè)很好的對(duì)話工具。
責(zé)編AJX