AI并不能拯救Facebook，用戶愿意承擔不便來換取隱私

在扎克伯格的國會聽證中，“AI”一詞出現(xiàn)了不下30次，人工智能真能成為拯救Facebook的關(guān)鍵嗎？長久以來避而不提的隱私和安全問題，也因此被擺上臺面，現(xiàn)在正是算法學會***和道德發(fā)展的關(guān)鍵時刻。掌握大量用戶信息的科技公司，或許應(yīng)當被看做“信息受托人”，承擔數(shù)字信息時代新的責任。

“人工智能”這個詞，被扎克伯格在10小時內(nèi)說了超過30次。

打擊假新聞、仇恨言論、歧視性廣告和恐怖宣傳……小扎堅持認為，人工智能將解決Facebook最棘手的內(nèi)容審查問題。

最后，在議員們強烈的攻勢之下，小扎終于給出了一個模糊的時間：5到10年，AI可以解決內(nèi)容審查問題。

扎克伯格在參議院聽證會。

但Facebook面臨的最棘手問題并非是內(nèi)容審核，而是潛藏在劍橋數(shù)據(jù)事件背后的隱私問題。

如果說，李彥宏的那句“中國更開放，對隱私?jīng)]那么敏感”掀起了網(wǎng)友的集體圍攻，那么扎克伯格這幾天接受議員們的集中轟炸，則是對世界范圍內(nèi)用戶隱私問題的一場公開教育。

AI能拯救Facebook嗎？

在昨天舉行的參議院聽證會上，共和黨參議員約翰·圖恩（John Thune）問扎克伯格，F(xiàn)acebook目前如何應(yīng)對在社交媒體平臺上的仇恨言論，以及涉及的各種挑戰(zhàn)。

扎克伯格說，F(xiàn)acebook過去沒有能力刪除這類內(nèi)容，但最近人工智能的進展終于使這成為可能。小扎說，AI過濾器能夠識別支持ISIS和***的內(nèi)容，還開發(fā)了自動的工具，這些工具可以判斷用戶是否有自殺/殘傾向。

小扎認為，F(xiàn)acebook在將人工智能部署到警方打擊***宣傳方面“非常成功”?！敖裉?，我們坐在這里，99%的ISIS和***在Facebook上的內(nèi)容，都被我們刪除了。我們的AI系統(tǒng)能夠在任何人看到（ISIS和***言論）之前就標記出來?！?/p>

不過，當參議員問起AI多久能夠完全打擊有害言論，小扎就沒有那么十足的底氣了。

在多輪質(zhì)詢下，小扎說：“我很樂觀地認為，在5到10年的時間里，我們將會有人工智能工具，可以識別不同類型的內(nèi)容在語言上的細微差別，但今天我們還做不到?！?/p>

另外，一些反極端主義等非營利組織也認為，F(xiàn)acebook夸大了自己的成就，未能打擊知名的***極端分子。

盡管技術(shù)不成熟，但是Facebook已經(jīng)認為，自身的人工智能在檢測問題內(nèi)容方面很成功。Facebook的AI幫助它刪除了數(shù)千個虛假賬戶，并“發(fā)現(xiàn)可疑行為”，其中包括去年在阿拉巴馬州舉行的特別參議員競選，當時人工智能幫助發(fā)現(xiàn)了來自馬其頓的政治垃圾郵件，避免了選舉受到外國的影響。

Facebook以低調(diào)但非常重要的方式使用人工智能，比如識別人們的面部照片，并利用算法來決定廣告或新聞推送的位置，以最大化用戶的點擊和關(guān)注。

但就是這種精準的用戶信息和推送，被劍橋數(shù)據(jù)利用之后，造成了小扎今天的危機。

長久避而不談的隱私安全，第一次走進公眾視野

被強勢圍觀的扎克伯格。

議員們根本不會關(guān)心5-10年后的Facebook是否會100%審核內(nèi)容，他們只關(guān)心小扎你自己在內(nèi)的數(shù)據(jù)是怎么被泄露的，人們還有沒有隱私可言？

幾位參議員認為隱私是Facebook的要害，他們認為Facebook收集到的大量數(shù)據(jù)無法被信任，并且其中很大一部分是在沒有用戶充分理解的情況下收集的。三位參議員提出了隱私***，要求在收集和分享用戶的數(shù)據(jù)前，必須經(jīng)過用戶允許。

但扎克伯格提出異議，沒有對任何具體的***提案表示支持。

新澤西州民主黨眾議員弗蘭克·帕隆(Frank Pallone Jr.)向扎克伯格施壓，要求他在Facebook是否同意或拒絕改變Facebook的默認設(shè)置，以盡量減少用戶數(shù)據(jù)的收集和使用。

扎克伯格提議成立一個數(shù)字消費者保護機構(gòu)，讓Facebook和同行在某種程度上能參與政府的行動。

此外，而關(guān)于隱私問題，扎克伯格遇到的不僅是美國老鄉(xiāng)們的詢問，也受到了來自歐盟的壓力。

歐盟即將實施《通用數(shù)據(jù)保護條例》(General Data Protection Regulation)，在歐洲監(jiān)管機構(gòu)和隱私***看來，F(xiàn)acebook目前的一些做法似乎違反了新***。因為歐洲***要求隱私設(shè)計和違約責任。歐洲專家表示，這將要求Facebook關(guān)閉大量的廣告和隱私設(shè)置，這些設(shè)置目前被設(shè)置為共享，并且請求用戶允許打開。

目前，小扎還沒有詳細的應(yīng)對計劃。

隱私專家：互聯(lián)網(wǎng)用戶第一次更愿意承擔不便，換取隱私

“劍橋分析數(shù)據(jù)門”是讓扎克伯格登上國會山的首要原因。

根據(jù)新智元之前的報道，F(xiàn)acebook數(shù)據(jù)門的最終問題是出在了終端研究者，一位名叫Aleksandr Kogan的劍橋?qū)W者——不是劍橋分析公司，將其通過API收集到的公開數(shù)據(jù)分享出售，而這些數(shù)據(jù)本來應(yīng)該是保密的。Facebook的責任是在開放API之后跟蹤數(shù)據(jù)流向，確保這些數(shù)據(jù)不會遭到濫用。但這本身很難做到，所以Facebook在2014年后干脆取消了一系列允許第三方獲取公開數(shù)據(jù)的API。

此外，引發(fā)爭議的還有Facebook的數(shù)據(jù)共享政策。Facebook允許第三方應(yīng)用開發(fā)者通過這些應(yīng)用收集開發(fā)者想要的所有的用戶數(shù)據(jù)。后續(xù)調(diào)查顯示，F(xiàn)acebook的一個搜索功能讓人通過僅搜索某個用戶的電話號碼或電子郵件地址，就能查找到這個Facebook用戶的公開個人資料，包括性別和出生日期等信息。被這一功能影響的人數(shù)量高達8700萬，連扎克伯格本人也在其中。

實際上，F(xiàn)acebook用戶在不知情或者沒有授權(quán)的情況下，數(shù)據(jù)被拿去與朋友共享，這件事是當時許多隱私權(quán)倡導者都注意到了的嚴重問題。但是，多年以來一直沒有得到重視。

美國公民自由聯(lián)盟（ACLU）的***顧問Neema Singh Guliani表示，ACLU多年來一直讓Facebook監(jiān)督第三方如何使用數(shù)據(jù)，但當時很少有人關(guān)注。Guliani在接受《***》采訪時表示：“我們正在討論一個十年前就該討論的議題?！?/p>

在此期間，有很多類似的隱私問題爆出。例如，谷歌在構(gòu)建Goolge地圖時曾經(jīng)采集私人WiFi信息，但這件事只引發(fā)了短暫的討論，并沒有對之后硅谷的公司大量采集數(shù)據(jù)產(chǎn)生任何持續(xù)性的影響。

但Facebook數(shù)據(jù)門，讓很多隱私專家看到了希望。事件已經(jīng)持續(xù)發(fā)酵了將近一個月，而且連續(xù)占據(jù)各大新聞媒體的頭條。全美乃至全世界的人都在關(guān)注事件的走向，它第一次讓一個長久以來都存在但人們一直避而不談，或者說不作為的問題擺上臺面，進入公眾的視野。

一直以來，消費者對安全和隱私不怎么感興趣的原因之一，在于危害很模糊，難以定義。但在Facebook數(shù)據(jù)門中，這種危害是可以識別的，很多人第一次意識到，“我的信息被政府高層拿去操縱我的行為”。

許多隱私專家第一次認為，互聯(lián)網(wǎng)用戶會更愿意承擔一些不便，換取更多隱私。

這一次或許有切實的改觀出現(xiàn)。對于許多開發(fā)人員來說，現(xiàn)在是推動測試更多隱私解決方案的合適時機，包括更先進的廣告攔截器，分散互聯(lián)網(wǎng)的點對點瀏覽器，新的加密技術(shù)，以及讓用戶匯集數(shù)據(jù)并自行銷售的數(shù)據(jù)聯(lián)盟。其他人則希望將科技巨頭更多地視為信息受托人，因為信息受托人有***責任保護用戶數(shù)據(jù)。

數(shù)字時代新的商業(yè)類型：掌握大量用戶數(shù)據(jù)的公司是“信息受托人”

耶魯大學法學院教授Jack Balkin撰文稱，我們應(yīng)該將掌握大量用戶數(shù)據(jù)的公司，比如Facebook、谷歌，看做“信息受托人”（information fiduciary）——Facebook擁有如此多的用戶的數(shù)據(jù)，由于其運營不透明，人們很容易受Facebook如何使用這些數(shù)據(jù)的影響。這意味著人們必須相信Facebook不會濫用自己交付給Facebook的數(shù)據(jù)。

因此，F(xiàn)acebook持有這些數(shù)據(jù)的權(quán)利，取決于其不濫用這種信任的責任。而這正是承擔受托責任的本質(zhì)，***群體必須信任為他們提供服務(wù)的人（也即受托人），而受托人則不應(yīng)當濫用這種信任。

這一點很好理解，律師和醫(yī)生等專業(yè)人士持有其客戶的敏感個人信息，以便為這些客戶提供服務(wù)。他們的客戶必須信任他們，這樣專業(yè)人員才能執(zhí)行這些服務(wù)。同樣，F(xiàn)acebook也提供了一種服務(wù)——社交網(wǎng)絡(luò)——許多人認為這種服務(wù)有價值。在提供這項服務(wù)的過程中，人們提供了大量有關(guān)他們自己的數(shù)據(jù)，使他們（以及他們的朋友和親人）更容易受到Facebook的影響。正如扎克伯格所說：

“我們有責任保護你的數(shù)據(jù)，如果我們不能，我們不配為你服務(wù)。我一直在努力了解到底發(fā)生了什么，以及如何確保這不再發(fā)生。”

扎克伯格表示，自2007年起，F(xiàn)acebook就修改條例，保護終端用戶的數(shù)據(jù)不受濫用。Jack Balkin指出這一點十分重要，扎克伯格向全世界表示，F(xiàn)acebook的目標不僅僅是實現(xiàn)其隱私政策（很少有人能看懂這種晦澀的說明），而且有義務(wù)保證信譽和誠信，超越隱私政策的具體措詞。這正是信息受托人的責任。

其次，扎克伯格在描述劍橋分析事件時說：“這違反了Kogan、Cambridge Analytica和Facebook之間的一種信任。這暴露了Facebook和所有與我們分享數(shù)據(jù)并希望我們保護數(shù)據(jù)的人之間的信任缺口。我們需要解決這個問題?！?/p>

換句話說，扎克伯格認為，F(xiàn)acebook有責任保護其最終用戶免受濫用，不僅僅是從自己的行為中，而且還要從與其共享數(shù)據(jù)的人的行為中受到保護。

Balkin認為，F(xiàn)acebook有責任確保只要允許其他人或企業(yè)查看或使用Facebook的最終用戶數(shù)據(jù)，這些人和企業(yè)就必須承擔Facebook本身必須承擔的責任。

“這是算法學會***和道德準則發(fā)展的重要時刻。數(shù)字時代最強大的公司之一的創(chuàng)始人說：（1）我們對最終用戶有責任;（2）我們破壞了這種信任;（3）我們因為允許第三方操縱和濫用最終用戶對我們的信任破壞了這種信任。

“這表明數(shù)字時代正在出現(xiàn)一種新的商業(yè)類型，我稱之為信息受托人?！盉alkin寫道。

正如我們以前所說，F(xiàn)acebook數(shù)據(jù)門的核心，不僅僅是Facebook對用戶信息的處理不當，或是揪出責任在誰，而是這家每個月有20億人在使用的公司是否值得信賴。我們是否能夠安心地把地球上三分之一的人的信息交給這個平臺去處理，并讓這個信息交換平臺繼續(xù)成為我們生活的核心組成部分。

這一點，對中國的億萬互聯(lián)網(wǎng)用戶，以及中國的互聯(lián)網(wǎng)和社交網(wǎng)絡(luò)巨頭，也通用適用。

“我想中國人可以更加開放，對隱私問題沒有那么敏感?！北M管李彥宏這句飽受爭議的話后來被證明是被斷章取義，但這足以證明用戶對中國的互聯(lián)網(wǎng)公司在保護數(shù)據(jù)及隱私安全方面的努力并不滿意。

最后說一句，4月2日，***辦公廳印發(fā)《科學數(shù)據(jù)管理辦法》，進一步加強和規(guī)范科學數(shù)據(jù)管理，保障科學數(shù)據(jù)安全。