人工智能革命渴望獲得個人數(shù)據(jù) 需要制定隱私法規(guī)

人工智能革命渴望獲得個人數(shù)據(jù)。在機器智能和監(jiān)視產(chǎn)生交集前，需要致力于制定隱私法規(guī)。

?

人工智能可以通過多種方式幫助人類。無人駕駛汽車和智能基礎設施恪守了這樣的承諾，即促進人們來回穿梭于城市的活動，以減少交通擁堵。經(jīng)過改進的診斷和治療方式正在延長人們的壽命。在企業(yè)中，人工智能有助于改善招聘決策、使工廠更安全、將日常任務自動化、生成更客觀的績效評估并幫組織了解客戶。

新工具頻頻出現(xiàn)。亞馬遜已經(jīng)獲得了兩項腕帶專利，這些腕帶可以在工作人員填寫訂單時追蹤手部動作。腕帶使用射頻來追蹤手部運動，這種追蹤十分準確，一旦檢測到低效的活動腕帶就會振動，輕輕碰觸工作人員的手以將其引向正確的方向。Humanyze售賣能可以衡量社交關系的胸牌，這些胸牌可以追蹤辦公室員工的活動，以提供他們與同事互動的質(zhì)量有關的洞察。玉蘭油（L＇Oréal）的UV Sense可以追蹤佩戴者暴露于紫外線的時間和程度，然后將數(shù)據(jù)傳輸?shù)接脩舻?a href="http://www.ttokpm.com/v/tag/107/" target="_blank">手機上。Cogito可以監(jiān)控同理度（empathy），即客服坐席處理呼叫時設身處地為客戶著想的態(tài)度。

不幸的是，要發(fā)掘這些工具的好處就需要大量的數(shù)據(jù)，這也使消費者和員工很容易受到監(jiān)控。中國的社會信用體系于2014年啟用，預計到2020年全面投入使用。為了創(chuàng)建個人檔案，該系統(tǒng)匯總了支付記錄、醫(yī)療信息、法律記錄以及其它數(shù)據(jù)。此外，該系統(tǒng)使用面部識別來追蹤每個人的蹤跡及其互動的對象。攝像頭在各大城市非常普遍，人們開玩笑說政府可以在七分鐘內(nèi)找到任何一個人。

確實，大量的數(shù)據(jù)以人們意想不到的方式使社會受益。2018年4月，Joseph DeAngelo被指控為金州殺手（譯注：金州是加州的別名），涉嫌參與了一系列仍未告破的謀殺案和強奸案，這些案件發(fā)生于上世紀七八十年代。警方將嫌疑人的基因特征與為人們研究家譜提供服務的個人網(wǎng)站上的基因表達譜進行了比較。最終，他們將目標鎖定為一群人，這群人與犯罪者的遺傳物質(zhì)有一定的關聯(lián)，根據(jù)年齡，性別以及住所排除了其中一部分人。在警方確定DeAngelo是嫌犯后，他們從他丟棄的垃圾中獲取了DNA樣本，并發(fā)現(xiàn)該樣本與犯罪現(xiàn)場的樣本吻合。

雖然這些基因數(shù)據(jù)庫幫警方解決了發(fā)生在幾十年前的罪案，但使用該數(shù)據(jù)庫會引發(fā)隱私方面的問題。在向存儲庫提供遺傳數(shù)據(jù)的人中，很少有人希望這些文件被執(zhí)法部門拿去作評估。貢獻這些資料的人可能沒有意識到，自己的行為可能會讓當局掌握親屬的信息，這些親屬并不同意公開基因信息，或者，他們甚至不知道家族的遺傳物質(zhì)存在數(shù)據(jù)庫中。

全世界所面臨的隱私問題日漸增多。2018年5月，歐盟實施了全面的隱私保護法規(guī)，名為《通用數(shù)據(jù)保護條例（GDPR）》。其它國家也正在立法，如加拿大的《國家網(wǎng)絡安全戰(zhàn)略》保護數(shù)字隱私。印度提議的《個人數(shù)據(jù)保護法案》強調(diào)人工智能道德、個人隱私、安全性和透明度。這些法規(guī)由獨立的監(jiān)管機構(gòu)進行監(jiān)督，對違法行為實施嚴厲處罰。聯(lián)合國的統(tǒng)計稱，有一百多個國家實施了數(shù)據(jù)保護和隱私法。然而，它承認，最近，很多保護法并沒有得到更新，而且也不夠嚴苛，無法讓公民相信自己的隱私得到了充分的保護。

2016年，亞馬遜、蘋果、臉書、谷歌和微軟的一些工程師、設計師和其他員工越來越關注監(jiān)控的潛力，他們許下了“到此為止（Never Again）”的承諾。這個名字指的是IBM技術(shù)在第二次世界大戰(zhàn)期間所發(fā)揮的作用，當時IBM的穿孔卡幫美國政府管理日裔美國人，幫納粹追蹤大屠殺的受害者。簽署“到此為止”的公司保證不會創(chuàng)建任何可以讓美國政府收集有關個人宗教信仰的信息數(shù)據(jù)庫，它們擔心此類數(shù)據(jù)庫可能會導致大量人口被驅(qū)逐出境。

在2018年10月布魯塞爾國際數(shù)據(jù)保護和隱私委員會會議召開期間，Tim Cook表達了自己對“數(shù)據(jù)工業(yè)園區(qū)（data industrial complex）”的擔憂。他警告說，為了創(chuàng)建一個“經(jīng)久不衰的數(shù)字檔案，公司正在收集個人數(shù)據(jù)并將其綜合起來，這使它們十分了解你，遠勝于你對自己的了解?！?/p>

他支持《通用數(shù)據(jù)保護條例》并呼吁美國制定隱私法。

隱私監(jiān)管七原則

Cook是對的：現(xiàn)在美國該效仿其他國家并制定數(shù)字隱私法了。新法規(guī)至少應包括以下原則。

盡量將要收集的數(shù)據(jù)最小化

數(shù)據(jù)收集應限于完成手頭任務所需的數(shù)據(jù)。為將來派上用場而收集額外的數(shù)據(jù)，這樣的做法應該受到限制。個人身份信息必須刪除，不得出現(xiàn)在用于分析的數(shù)據(jù)中。

向用戶告知數(shù)據(jù)收集事宜

在收集數(shù)據(jù)時應通知用戶，并告知用戶數(shù)據(jù)將如何被使用。個人必須能夠決定其數(shù)據(jù)是否允許在每個活動期間被收集。瀏覽器和網(wǎng)站的條款和條件必須十分簡單，簡單到消費者可以快速做出明智的決定。

使個人可以訪問數(shù)據(jù)

個人必須能復制自己的數(shù)據(jù)并糾正或刪除不準確的個人數(shù)據(jù)。如今，糾正數(shù)據(jù)對一些企業(yè)來說幾乎是不可能的。最近，我的一位同事要更新信用報告，因為她搬回了她曾住過的隔壁房。雖然她找到了修改街道地址最后一位數(shù)字的商店老板，但信用局拒絕刪除該條目，稱她未能證明自己從未住過另一所房子。她要求信用局就證據(jù)的構(gòu)成標準給予指導時，但信用局沒有作出回應。

需要決策透明度

人工智能日漸頻繁地在法律法規(guī)、人員招聘、大學招生和其它方面做決策，這深深影響了個人生活。由于人工智能要使用大量的數(shù)據(jù)，而這些數(shù)據(jù)又受到大量規(guī)則的制約，因此人們往往無法理解人工智能引擎是如何得出結(jié)論的。人工智能引擎工作時使用什么樣的邏輯，雖然理解這一點對人類來說并不重要，但在一些情況中，偏見或意外后果可能會影響最終結(jié)果，這是不可接受的。

Equivant的工具可以預測個人犯下新罪行的可能性。如果法官在量刑期間使用該工具，那么他們通常會判評分很高的被告人判服更長的刑期。不幸的是，由于評分機制是專有的，因此被告無法提出質(zhì)疑。

ProPublica是一家公共利益調(diào)查新聞組織，它在2013年和2014年對佛羅里達州布勞沃德縣的7，000名被告進行了分析。Equivant預測了哪些被告人會在接下來的兩年內(nèi)犯罪，ProPublica則將其預測結(jié)果與每個被告人犯下的實際新罪行進行了比較。他們得出結(jié)論，Equivant的風險評分并不可靠；它可能會預測，在這些被告人中，黑人在未來犯罪的可能性可能是白人的兩倍，而這是錯的。Equivant并不贊同，它認為ProPublica的方法存在缺陷。顯然，對個人生活具有如此巨大潛在影響的，無論是判刑還是其它深深影響個人生活的法律手段，都必須高度準確并且在邏輯上站得住腳。

保護數(shù)據(jù)

確保數(shù)據(jù)的安全性，確保數(shù)據(jù)使用得當，這是所有收集和存儲數(shù)據(jù)需求的實體都要做到的事情。最近就發(fā)生了一系列數(shù)據(jù)泄露事件，萬豪和Quora就是新增的兩例，這些事件已經(jīng)使很多人受到影響。

實施合規(guī)性

嚴懲不貸的積極執(zhí)法方式對于實施有效的新法規(guī)至關重要。各大技術(shù)公司賺得盆滿缽滿，小小的處罰簡直可以忽略不計，充其量只是一點點經(jīng)營成本。

制定國家法律

新的美國隱私法應涵蓋所有收集個人數(shù)據(jù)的企業(yè)，而不僅僅是技術(shù)公司。此外，聯(lián)邦立法也是必需的，否則其他州將效仿加州，自行制定法律，而這些法律可能并不相容。

立法對企業(yè)的影響

由于新隱私法規(guī)的制定，有些公司不得不反思其商業(yè)模式。如今，為了免費使用搜索引擎、社交媒體和其它工具，有很多消費者會提供個人數(shù)據(jù)。擔心隱私問題的消費者也許會支付一小筆費用，以換取真正的匿名狀態(tài)。雖然在理論上，在今時今日，不留痕跡地瀏覽網(wǎng)頁是可能做到的，但大多數(shù)消費者發(fā)現(xiàn)，如果沒有嫻熟的技術(shù)幫助，這一點根本不可能做到。

企業(yè)要部署新工具，員工要維護個人隱私，這兩者之間必須取得平衡，為此，工作場所既需要細致的規(guī)劃，也需要做出一些妥協(xié)。新法規(guī)可能會產(chǎn)生這樣的情況，即員工必須同意別人收集他們的數(shù)據(jù)。根據(jù)新立法中的說法，很多現(xiàn)有工具會產(chǎn)生據(jù)稱是個人信息的內(nèi)容，這些內(nèi)容使員工可以免遭追蹤，因而使這些工具形同虛設。

毫無疑問，遵守新法規(guī)會迫使公司更加謹慎地處理員工數(shù)據(jù)。主管很可能只能訪問與個人績效直接相關的員工數(shù)據(jù)，而分析工具僅在匿名數(shù)據(jù)上運行。經(jīng)營良好的企業(yè)可以為希望提高績效的員工提供單獨的指導。

人工智能帶來了很多好處，它還將帶來我們目前無法想象的其它好處。人工智能與所有新技術(shù)一樣，既可以造福人類，也可能遭到濫用。如何確保我們所收集的數(shù)據(jù)不會用于不當?shù)谋O(jiān)視，當我們弄明白這一點時，Scott McNealy于1999年所作的斷言也許將不再是事實，他斷言“你毫無隱私可言，想都別想”。