微軟限制出售人臉識別AI軟件，人工智能隱私需保護

人工智能的倫理學問題一直是學界和政界關注的重點之一，對于所有人來說，人工智能帶來的法律和道德問題都是一個全新的課題，而對這一課題的研究結果，不但將影響未來人工智能的研究，同樣也對AI的商業(yè)化落地有著極高的參考意義。

如何讓科學遠離罪惡？我們都在摸著石頭過河。

在一篇關于人臉識別的潛在用途和濫用的博客文章中，微軟總裁 Bradford L． Smith 將該技術與受到全面監(jiān)管的藥品和汽車等產(chǎn)品進行了比較，并敦促美國國會展開研究并監(jiān)督人臉識別技術的使用。

此前，眾多學者與開發(fā)者們簽署了一份公開信，其中要求科技公司停止向政府和執(zhí)法機構提供人臉識別技術，停止當前的數(shù)據(jù)分析和 AI 服務合同，并考慮制定道德準則，禁止威脅隱私、公民和人權的技術的武器化與軍事化，建立透明和有問責機制的制度，以確保上述準則的實行。

近期微軟因一份涉及人臉識別軟件的政府合同而受到廣泛抨擊，微軟公司表示，它將更加謹慎地考慮這方面的合同，并敦促立法者規(guī)范此類人工智能技術的使用，以防止濫用。

作為人臉識別軟件主要制造商之一，微軟表示它將采取措施降低這些系統(tǒng)產(chǎn)生偏差的可能性；制定新的公共原則來管理技術；并會更謹慎地出售其在該領域的軟件和專業(yè)知識。微軟指出，雖然技術行業(yè)需要對其產(chǎn)品負責，但是政府也要采取行動。

微軟總裁兼首席法務官 Brad Smith 周五在其博客中寫道：“政府管理技術使用的唯一有效方法是它主動采取行動。而且如果人們擔心一項技術在全社會被廣泛使用，那么規(guī)范該項技術廣泛應用的唯一措施應由政府出面。實際上，我們認為這就是現(xiàn)在所需要的—一項首先由民主、共和兩黨代表和專家委員會通報的政府倡議，旨在規(guī)范人臉識別技術的正確使用?！?/p>

微軟、谷歌、亞馬遜等公司因向美國政府和當?shù)鼐匠鍪?AI 軟件，尤其是人臉識別軟件而受到民間自由團體及這些公司內(nèi)部雇員的抨擊。對于科技公司來說，這種要求對自己產(chǎn)品進行更嚴厲監(jiān)管的行為并不常見，但是 Smith 與微軟人工智能及微軟研究事業(yè)部負責人沈向洋今年早些時候就寫了一篇文章，稱 AI 的發(fā)展需要新的法律來規(guī)范。

Smith 寫道，“雖然我們明白現(xiàn)在很多人要求科技公司來做這些，我們也明確意識到自己需要履責，但我們認為，這不足以代替公眾及其代表的決策?！?/p>

人臉識別系統(tǒng)通常具備嚴重的缺陷，尤其是難以識別和區(qū)分膚色較深的人。微軟研究者 Timnit Gebru 和 MIT 媒體實驗室 Joy Buolamwini 二月發(fā)表的一篇論文表明人臉識別系統(tǒng)對膚色較深的女性的分類誤差高達 35％。微軟的研究機構致力于修正研究者在其人臉識別軟件中發(fā)現(xiàn)的問題。

隨著技術的迅速發(fā)展，微軟提倡適應云計算和人工智能等新興領域的新法律。微軟就隱私問題與美國政府展開抗爭，稱美國政府在云計算方面使用了老舊的通信法，微軟支持折中的法案，用于直接解決云時代的數(shù)據(jù)隱私問題和搜索問題。

微軟應對民眾抗議的方式與亞馬遜略有不同。在六月回應抗議聲的一篇博客中，亞馬遜的 AI 負責人 Matt Wood 寫道，“新技術能力一直都存在風險，以后也會如此。每個選擇使用技術的組織必須采取負責任的行動，否則就得面臨法律懲罰和公眾譴責的風險。AWS 會認真對待自己的責任。但我們認為，不能因為某些技術未來可能被人濫用就禁止這些技術的發(fā)展，這樣是不對的?！?/p>

Smith 寫道，政府規(guī)范應該考慮的問題是警察使用人臉識別軟件是否需要人類監(jiān)督和控制，零售商是否必須張貼顯眼的標識（如果他們在公共區(qū)域使用了此類軟件）。其它需要考慮的范圍包括是否要求企業(yè)在收集個人圖像之前先征求用戶同意，以及認為自己被人臉識別系統(tǒng)錯誤識別的人享有哪些法律權利。

紐約大學法學教授 Barry Friedman 稱，執(zhí)法機關使用人臉識別技術卻欠缺規(guī)范，這引起了人們對種族差異和隱私問題的擔憂。他同時也負責 The Policing Project，該計劃致力于為執(zhí)法設定規(guī)范和準則。

最高法院規(guī)定警察在沒有許可證或正當理由的情況下不得長期獲取手機數(shù)據(jù)，類似的限制也應該應用到警察對人臉識別技術的使用上，Barry Friedman 稱。

“該技術正在飛快地追趕我們，”Friedman 說道，“如果我們不走到前頭，一切將覆水難收?！?/p>

微軟在上個月曾因民眾抗議 AI 技術被用于在墨西哥邊境分離非法入境者及其子女后，短暫地在網(wǎng)站上刪除了其與美國移民和海關執(zhí)法局簽訂合同的文章。但隨后，相關博客又被恢復。

雖然微軟隨后宣稱公司與移民局簽訂的合同主要涉及在云端處理舊電子郵件和員工協(xié)作系統(tǒng)，但其博文明確提到了使用人臉識別工具的可能性。隨后，數(shù)百名微軟員工簽署了一份請愿書，要求公司停止向政府出售相關服務。針對非法移民的 AI 項目甚至影響到了微軟剛剛收購的 GitHub，6 月中旬起，數(shù)百名開源社區(qū)貢獻者在網(wǎng)上簽署了一份公開信，同樣要求微軟解除與政府部門的 AI 合同，并號召抵制 GitHub。

人臉識別是目前 AI 領域里應用最廣泛的技術之一，但在推廣的過程中也引起了越來越多的爭議。今年 4 月，個人隱私保護組織向美國聯(lián)邦貿(mào)易委員會提起訴訟，稱 Facebook 在未獲得用戶適當許可的情況下開啟了新的人臉識別服務。Facebook 否認了這些團體的指控。

而今年 5 月，亞馬遜因為將 Rekognition AI 服務出售給當?shù)鼐蕉馉幾h，美國公民自由聯(lián)盟正要求該公司停止允許政府使用這項技術。

值得一提的是，在歐盟，有關人工智能侵犯隱私的一些問題已經(jīng)得到了解決。一項嚴格的新數(shù)據(jù)保護法已禁止公司在未獲得用戶特定同意的情況下收集人臉識別所需的生物特征數(shù)據(jù)。