從原始的人工智能代理到智能機器資料下載

摘要： 談論機器人消滅人類，甚至談到機器人的‘意識’仍然是遙不可及的事。然而，來自人工智能的一項更為嚴重的威脅正在逼近，并可能產生嚴重的影響。 當人們問我是干什么的，我常常對回答的深度感到困惑。說“人工智能”我很滿意，但太寬泛，而說“圖像處理”可能又太具體。然而，一聽到接下的來的毫不相干的問題我總是氣不打一處來。 “人工智能要主宰世界嗎？” 做為一位研究機器智能的人來說，這個問題的確讓我失望。我不能責怪這些懷疑者——人們大都認為人工智能是某種未知而神秘的東西，密謀著最終要殺光我們所有人，因為它能預測下一場我們想看的電影是香腸派對，此前我們看了一整夜的埃文·戈登伯格的片子。 許多人沒想到的是，不管我們認為自己多么奇特，我們的選擇和基本智能都遵循著普遍的模式，對于這種模式計算機只要看多了就很容易識別出來。 這就使得 預測你所喜歡的音樂, 或建議我們在方便時所用的正確手機應用 等方面對于機器來說是小菜一碟。我并不是說所有的 預測工作都具有同樣的性質和難度，但指望該研究領域之外的人理解它是有難度。 理解我們目前的人工智能技術所擅長之處的關鍵是知道計算機在兩種基本環(huán)境中學習得特別好——i)受控環(huán)境，和ii)監(jiān)督之下。 我們看到谷歌的人工圍棋機器最近擊敗了最佳人類棋手。戰(zhàn)勝國際象棋的事早在我們還是孩童時就實現了。最近所看到的 許多有關擊敗人類的論文都提到Doom。其實在游戲中，你知道可能的結局、戰(zhàn)斗環(huán)境和你能采取的行動，這使得建模問題容易得多。一旦我們能對游戲所處的世界進行建模，從模擬中學習則是下一部分——我們在硬件上實現了飛躍，大規(guī)模學習能力讓 AlphaGo 能 在最近實現突破。 （其理論一直存在）。 游戲是一種在受監(jiān)督、 受控環(huán)境下的最佳實例。在這種環(huán)境中，你能估計每次所采取行動所得到的懲罰，因此能有效地從錯誤中進行學習。督控環(huán)境的另一個例子是我們正在談論的電影預測。由于有記錄大批用戶和電影的表存在，加上用戶選擇模式，我們就有了預測下一部電影所需要的東西。 在督控環(huán)境中，我們知道要獲取哪種信息，因此能用同樣的方式處理類似的信息位。我們創(chuàng)建對象組，這有助于我們最終在需要做出預測時確定實現的算法。這是類似人類的智能人一般性學習的非常窄的子集。 人類在與環(huán)境作用中不僅發(fā)育了邏輯還有直觀，而且基本上是在沒有監(jiān)督的情況下實現的。象識別物體和理解物理原理的過程每一秒都在發(fā)生，總體來說，我們通過與它交互而學到更多有關的新信息。而在這方面，現在的計算機做得一塌糊涂。 圖像分類程序（Image Classifier）示意圖 (image courtesy: wildML.com) 今天，如果你想要機器能在照片中認出你的車，你得告訴它要看什么（你的照片）以及你的車像什么。只要你提供大量有關你車的圖像, 那么它肯定能認出它。亦即監(jiān)督中的學習, 監(jiān)督是說你指出你的車在圖像中的樣子，然后它就懂得要找什么。今天計算機科學家正努力理解有沒有監(jiān)督或很少監(jiān)督下的學習——無監(jiān)督學習。我們最終要讓機器自己能明白什么是物體什么是場景而不用我們去明示。 不用監(jiān)督或很少監(jiān)督的學習是個難點，人工智能研究大多集中在處理這個問題。我們的機器智能越來越高，但大數是在監(jiān)控的環(huán)境中。我們首先需要懂得如何讓機器人在無監(jiān)控下學習, 從而讓系統(tǒng)有接近人類的智能。 所以說，談論機器人消滅人類，甚至談到機器人的‘意識’仍然是遙不可及的事。然而，來自人工智能的一項更為嚴重的威脅正在逼近，并可能產生嚴重的影響。 就在本次會議剛剛開始時，我從前的顧問就第一次提到某種讓我質疑人工智能應用的事。 在早期人工智能技術中, 我們能輕易地理解算法為什么要那樣做。例如，我們想制造一臺能僅通過測量人的身高和體重而告訴他是否超重的機器。為此，我們只要計算該人的身體質量指數（BMI）就行了，如果他過了某和臨界值就說他超重了。 這是非常原始的人工智能代理。實際上它只做邏輯判斷。 早期名為決策樹的算法通過檢查具體特征而將數據切分。 [Image courtesy : Wikipedia] 于今所使用的機器顯然沒那么簡單。它們采用復雜的海量輸入（如高清圖像） 并且需要對其內容進行細微的預測。象臨界值或決策樹在這里不起作用。系統(tǒng)越來越多地使用一套被統(tǒng)稱為 深度學習的算法, 這種計算密集技術能象人一樣運用大量數據識別和學習具體模式。 一種典型的深度學習技術包含數個神經元（圈），它們象人腦一樣互相連接，傳遞信息。 [Image courtesy neuralnetworksanddeeplearning.com] 這些系統(tǒng)雖然因需要大量數據進行學習而學得慢，但對于它們的工作干得非常出色。 但會有陷阱——一旦它們得出結論，盡然結論正確，但我們大多無法準確得知它是如何得出的。 這聽起來并不值得大驚小怪。在機器學習系統(tǒng)中，我們有兩類數據——特征和標注。特征是系統(tǒng)所觀察到的變量，而標注是我們要預測的量。例如在前面肥胖探測器的例子中，特征是一個人的體重和身高，而標注是超重或健康。對于從圖片上探測癌細胞來說，特征是幾個器官的圖像，而標注是上述圖像是否有癌細胞。 這些是癌細胞算法必須完成的工作。[Image Courtesy: CNN] 機器學習算法解決問題的辦法通常是對每個特征賦上“加權值”，求它們的和并最終基于該和的值做出決定。例如，如果叫你預測蘋果是否變質，你可能會去聞蘋果的氣味、看它的顏色，最后去摸它，心理上對每種特征賦上加權值。 如果蘋果真的腐爛，只看顏色就夠了 計算機遵循著類似的高級意識，只不過那些“權值”是通過使用不同的優(yōu)化技術通過計算獲得的。但在深度學習中, 我們并不能確定我們想看哪種特征，更別提賦值了。那我們怎辦？我們讓計算機自己學習最佳特征，然后以最佳方式將其進行組合來做出預測，在某種程度上類似人腦的工作方式。 這種思想產生了令人震驚的結果，特別是在計算機視覺（即研究讓計算機理解視覺數據），高性能GPU的出現和新穎的結構讓學習圖像一級的概念輕而易舉。但要說明一點——我們所說的這些特征，亦即這些算法所學到的特征 不太直觀，與我們傳統(tǒng)技術很不一樣。 這些是計算機尋找圖像的實例——從視覺上看它們似乎是在探測形狀，但對于非視覺數據來說，情況就不那么直接[Image Courtesy?—?Yann LeCun’s ICML 2013 tutorial] 一般人并不把它當回事——那時在技術上也不是大不了的問題，用人工智能所做的工作都很具體，如在圖像中識別人和物體, 跟蹤人臉以及生成地址抽樣。于是我們有了一個很妙的主意來表達算法所學的內容 (事實上, 這個演示是這方面最近發(fā)展情況，相當酷)。但當我們開始針對有預測風險的任務運用深度學習時，每次預測都必須站得住腳。 比喻說你是家銀行，你有所有客戶的交易和信用的歷史記錄。你用復雜的深度學習算法弄清貸款不還者。既然你有龐大的用戶行為模式的數據庫，你的算法可能讓你準確地寫成這項工作，但有種情況除外：一旦你真的懷疑一位未來欠款人，你弄不清到底是什么導致懷疑，從而讓這種預測判斷更加困難。 大多深度學習系統(tǒng)并沒有良好的技術理解其決策能力，這是目前活躍的研究領域。對于某些特定任務的深度網絡，尤其是計算機視覺，我們在理解這些系統(tǒng)上有所進步——相當程度地確定促使算法那樣做的位點。但總的來看，需要做的工作還不少。 機器學習系統(tǒng)有個嚴重的障礙——需要手動輸入來讓它們正確地區(qū)分信號與噪音?；蛘邚募夹g術語說, 過度擬合。這個技術行話的意思是說，當一個模型必須適合于某個集合的數據時，要對更新的未知數據做出預測，它會在學習中 過于順從它已經收集到的數據。結果在現實世界中應用時不會有良好的表現。 這意味著模型一般會開始搜索存用于算法訓練的數據而并不存在于現實世界的模式。有多種方式理解過度擬合，現實生活中存在一些過度擬合的事例，簡單一例是在你當地夏天時你把手提箱塞滿了夏天穿的衣服，而在阿姆斯特丹是11度，在那里你會瑟瑟發(fā)抖。 這就是過度擬合的樣子，最后一條曲線發(fā)出噪音。 [Image courtesy?—?StackExchange] 就過度擬合說些題外話是為了強調機器學習系統(tǒng)責任的重要性。如果我們無法理解并弄清這些算法在學什么，我們就無法說出它們是不是過度擬合。這種不良影響的事例還有，比如機器根據瀏覽歷史中預測可疑行為，由于它所看到的大多用戶都是——比方說——來自美國的十九歲的人，于是它的側重不在來自美國的十九歲的用戶，盡管他們搜索歷史大多有 PewDiePie 視頻。 當深度學習越來越多地應用于艱深的推導工作時，這種影響會呈指數增加。例如，我們看到許多研究進入到醫(yī)學圖像預測，這種應用需要承擔更大責任。另外，一旦這種預測規(guī)模大到無法進行人工檢驗時，我們需要系統(tǒng)讓我們理解并調整這些算法所考慮的內容。 這種威脅正在來臨，但也成了研究對象，投入的時間越多，更好的解決方案就更有可能出現。但我們必須認識到模型責任的重要性，尤其是當我們開發(fā)讓生活變得更為輕松的新系統(tǒng)時。我們用一個例子來結束談話—— 如果一個人撞了車，我們會讓他擔責并理解事故為什么發(fā)生，可能是酒駕或在給人發(fā)短信。 但如果自動駕駛車撞上另一輛并讓一位乘客致死，誰會擔責呢，原因如何？你如何確保下次不會發(fā)生呢？ 這種事故最近已經發(fā)生了好幾起 , 隨著更多的系統(tǒng)使用人工智能，會出現更多失誤。要進行糾正，我們需要知道錯在哪——這是人工智能今天所面臨的主要挑戰(zhàn)。 本文譯者為：kundogma 原文來自：bullshit (mbbeetchina)