如何規(guī)避認(rèn)知類似人工智能與機(jī)器人是不是一回事的偏差

這是一篇客座文章。這里所表達(dá)的觀點(diǎn)只是作者的觀點(diǎn)，并不代表電子發(fā)燒友的立場。

大多數(shù)人把人工智能和機(jī)器人視為不可分割的一對(duì)，認(rèn)為它們是一回事。事實(shí)上，“人工智能（artificial intelligence）”一詞很少在研究實(shí)驗(yàn)室使用。特定于某些人工智能和其他智能技術(shù)的術(shù)語更為相關(guān)。每當(dāng)我（作者，以下簡稱我）被問到“這個(gè)機(jī)器人是由人工智能操作的嗎？”這個(gè)問題時(shí)，我都會(huì)猶豫是否應(yīng)該把我們開發(fā)的算法稱為“人工智能”。

20世紀(jì)50年代，John McCarthy和Marvin Minsky等科學(xué)家首次使用人工智能。幾十年來，人工智能經(jīng)常出現(xiàn)在科幻小說或電影中?，F(xiàn)在，人工智能被應(yīng)用于智能手機(jī)虛擬助理和自動(dòng)駕駛車輛算法中。無論是歷史上還是今天，人工智能都可能意味著許多不同的東西，這可能會(huì)引起混亂。

然而，人們常常有這樣的偏見，認(rèn)為人工智能是人類智能的人工實(shí)現(xiàn)形式。而這種先入為主的觀念可能來自于我們作為人類的認(rèn)知偏見。

We judge robots’ or AI’s tasks in comparison to humans

不要將機(jī)器人或AI直接與人類相比較

如果你在2017年碰巧關(guān)注了這條新聞，那么當(dāng)DeepMind開發(fā)的人工智能AlphaGo擊敗9段圍棋選手Lee Sedol時(shí)，你有什么感覺？你可能會(huì)感到驚訝或恐懼，認(rèn)為人工智能已經(jīng)超越了天才的能力。

盡管如此，贏得一場有著指數(shù)級(jí)可能動(dòng)作（如圍棋）的游戲只意味著人工智能已經(jīng)超過了人類智力的一個(gè)非常有限的部分。IBM的人工智能Watson也是如此，它在“Jeopardy！”中競爭 —— 這是一個(gè)電視智力競賽節(jié)目。

我相信很多人都對(duì)我在麻省理工學(xué)院仿生機(jī)器人實(shí)驗(yàn)室（MIT Biomimetic Robotics Laboratory）研制的Mini Cheetah的后仰動(dòng)作印象深刻。雖然向后跳躍和落地是非常動(dòng)態(tài)的、引人注目的，當(dāng)然對(duì)人類來說也是困難的，但與需要更復(fù)雜反饋回路的穩(wěn)定行走相比，特定運(yùn)動(dòng)的算法非常簡單。完成對(duì)我們來說似乎很容易的機(jī)器人任務(wù)通常是極其困難和復(fù)雜的。出現(xiàn)這種差距是因?yàn)槲覀儍A向于根據(jù)人類標(biāo)準(zhǔn)來考慮任務(wù)的難度。

我們傾向于將人工智能的功能泛化。例如，當(dāng)我們在街上看到有人在做后空翻時(shí)，我們傾向于認(rèn)為這個(gè)人擅長走路和跑步，也有足夠的靈活性和運(yùn)動(dòng)能力，擅長其他運(yùn)動(dòng)。一般來說，很可能對(duì)這個(gè)人的這種判斷不會(huì)是錯(cuò)誤的。

然而，我們也能將這一判斷應(yīng)用于機(jī)器人嗎？我們很容易根據(jù)對(duì)特定機(jī)器人運(yùn)動(dòng)或功能的觀察來概括和確定AI性能，就像我們對(duì)人類所做的那樣。

通過觀看OpenAI（人工智能研究實(shí)驗(yàn)室）機(jī)器人手解決魔方的視頻，我們認(rèn)為人工智能可以執(zhí)行所有其他簡單的任務(wù) —— 因?yàn)樗鼒?zhí)行了如此復(fù)雜的任務(wù)。但我們忽略了這樣一個(gè)事實(shí)，即人工智能的神經(jīng)網(wǎng)絡(luò)只針對(duì)有限類型的任務(wù)進(jìn)行訓(xùn)練。例如，如果情況發(fā)生變化，在操作魔方時(shí)將它倒置，則算法的工作效果可能不如預(yù)期的好。

與人工智能不同，人類可以將個(gè)人技能結(jié)合起來，并將其應(yīng)用于多項(xiàng)復(fù)雜任務(wù)。一旦我們學(xué)會(huì)了如何解魔方，即使被告知要倒持魔方，我們也能快速地處理魔方。而大多數(shù)機(jī)器人算法需要新的數(shù)據(jù)或重新編程才能做到這一點(diǎn)。

能用勺子在面包上涂果醬的人也能用叉子涂果醬 —— 這是顯而易見的。我們理解“傳播”堵塞的概念，并能很快習(xí)慣使用完全不同的工具。此外，雖然自動(dòng)駕駛車輛需要每種情況的實(shí)際數(shù)據(jù)，但人類駕駛員可以根據(jù)預(yù)先學(xué)習(xí)的概念做出理性決策，以應(yīng)對(duì)無數(shù)情況。這些例子顯示了人類智能的一個(gè)特征，與機(jī)器人算法形成了鮮明對(duì)比，機(jī)器人算法無法在數(shù)據(jù)不足的情況下執(zhí)行任務(wù)。

哺乳動(dòng)物持續(xù)進(jìn)化了6500多萬年。人類花在學(xué)習(xí)數(shù)學(xué)、使用語言和玩游戲上的全部時(shí)間加起來也不過10000年。換句話說，人類花了大量時(shí)間發(fā)展與生存直接相關(guān)的能力，如行走、跑步和使用雙手。

因此，計(jì)算機(jī)的計(jì)算速度比人類快得多并不奇怪，因?yàn)橛?jì)算機(jī)最初就是為了這個(gè)目的而開發(fā)的。同樣，計(jì)算機(jī)不能像人類那樣輕易獲得自由使用手和腳的各種能力也很自然，因?yàn)檫@些技能是通過1000多萬年的進(jìn)化獲得的。

這就是為什么將機(jī)器人或人工智能在演示中的表現(xiàn)與動(dòng)物或人類的能力進(jìn)行比較是不合理的。在麻省理工學(xué)院觀看Cheetah機(jī)器人穿越田野、跨越障礙的視頻時(shí)，就認(rèn)為像動(dòng)物一樣行走和奔跑的機(jī)器人技術(shù)已經(jīng)成熟可就太輕率了。

許多機(jī)器人演示仍然依賴于在有界情況下為特殊任務(wù)設(shè)置的算法。事實(shí)上，研究人員傾向于選擇看似困難的演示，因?yàn)檫@會(huì)給人留下深刻印象。然而，這種難度是從人的角度考慮的，這可能與實(shí)際的算法性能無關(guān)。

在任何邏輯思維之前，人類很容易受到瞬間和反思性感知的影響。當(dāng)研究對(duì)象非常復(fù)雜，很難進(jìn)行邏輯分析時(shí)，這種認(rèn)知偏見就會(huì)加強(qiáng)，例如，一個(gè)使用機(jī)器學(xué)習(xí)的機(jī)器人。

那么我們?nèi)祟惖恼J(rèn)知偏見從何而來？我相信這是由于我們的心理傾向，下意識(shí)地將我們所看到的事物進(jìn)行了擬人化。人類已經(jīng)進(jìn)化為社會(huì)性動(dòng)物，在這個(gè)過程中可能會(huì)發(fā)展出相互理解和同情的能力。我們將主體擬人化的傾向也來自于同樣的進(jìn)化過程。

人們在提到編程算法時(shí)傾向于使用“教學(xué)機(jī)器人（teaching robots）”這一表達(dá)。然而，我們習(xí)慣于使用擬人化表達(dá)。正如18世紀(jì)哲學(xué)家David Hume所說，“人類有一種普遍的傾向，即把所有的生命都設(shè)想得像他們自己?！?/p>

當(dāng)然，我們不僅將受試者的外表擬人化，還將他們的心理狀態(tài)擬人化。例如，當(dāng)波士頓動(dòng)力公司（Boston Dynamics）發(fā)布了一段工程師踢機(jī)器人的視頻時(shí)，許多觀眾的反應(yīng)是“這太殘忍了”，他們“同情機(jī)器人”。

一條評(píng)論說，“有一天，機(jī)器人會(huì)對(duì)那個(gè)工程師進(jìn)行報(bào)復(fù)”受到了歡迎。實(shí)際上，工程師只是在測試機(jī)器人的平衡算法。然而，在理解這種情況的任何思維過程之前，像動(dòng)物一樣的機(jī)器人的攻擊性踢腿動(dòng)作和掙扎動(dòng)作會(huì)瞬間傳遞到我們的大腦，給我們留下深刻的印象。就像這樣，這種瞬間的擬人對(duì)我們的認(rèn)知過程有著深刻的影響。

Humans process information qualitatively， and computers， quantitively

人類定性地處理信息，計(jì)算機(jī)定量地處理信息

環(huán)顧四周，我們的日常生活充滿了算法，運(yùn)行這些算法的機(jī)器和服務(wù)就可以看出這一點(diǎn)。所有算法都以數(shù)字為基礎(chǔ)。我們使用諸如“目標(biāo)函數(shù)（objective function）”之類的術(shù)語，這是一個(gè)代表特定目標(biāo)的數(shù)值函數(shù)。許多算法的唯一目的是達(dá)到該函數(shù)的最大值或最小值，而算法的特性因其實(shí)現(xiàn)方式而異。

贏得圍棋或國際象棋比賽等任務(wù)的目標(biāo)相對(duì)容易量化。量化越容易，算法工作得越好。相反，人類往往在沒有定量思考的情況下做出決策。

舉個(gè)“打掃房間”的例子，我們每天的清潔方式都有細(xì)微的差別，這取決于情況、房間是誰的以及一個(gè)人的感受。我們是否試圖在這個(gè)過程中最大化某個(gè)功能？我們沒有這樣做。清潔的行為是以“足夠清潔”為抽象目標(biāo)進(jìn)行的。此外，“足夠”的標(biāo)準(zhǔn)很容易改變。這一標(biāo)準(zhǔn)在人與人之間可能會(huì)有所不同，特別是在家庭成員或室友之間會(huì)引起沖突。

還有許多其他的例子。當(dāng)你每天洗臉時(shí)，你打算用手的動(dòng)作最大化哪些定量指標(biāo)？你擦得有多用力？選擇穿什么？選擇晚餐吃什么？選擇先洗哪個(gè)盤子？這樣的例子不勝枚舉。我們習(xí)慣于通過整合我們已有的信息來做出足夠好的決策。

然而，我們通常不會(huì)檢查是否每個(gè)決策都是優(yōu)化的。大多數(shù)情況下，我們不可能知道，因?yàn)槲覀儽仨氂糜邢薜臄?shù)據(jù)滿足許多相互矛盾的指標(biāo)。當(dāng)我們和朋友在商店選購食品時(shí)，我們無法量化食品標(biāo)準(zhǔn)，并根據(jù)這些數(shù)值做出決定。

通常，當(dāng)一個(gè)人挑選某樣?xùn)|西時(shí)，另一個(gè)人會(huì)說“好！”或者建議另一種選擇。這與說這種蔬菜“是最佳選擇”截然不同，這更像是說“這已經(jīng)足夠好了”。

在設(shè)計(jì)我們期望機(jī)器人執(zhí)行的工作或服務(wù)時(shí)，人和算法之間的這種操作差異可能會(huì)帶來麻煩。這是因?yàn)楫?dāng)算法基于定量值執(zhí)行任務(wù)時(shí)，人類的滿意度，即任務(wù)的結(jié)果，很難被完全量化。

要量化一項(xiàng)任務(wù)的目標(biāo)并不容易，因?yàn)樵撊蝿?wù)必須適應(yīng)個(gè)人偏好或不斷變化的環(huán)境，如上述房間清潔或洗碗任務(wù)。也就是說，為了與人類共存，機(jī)器人可能需要進(jìn)化，而不是優(yōu)化特定功能，而是實(shí)現(xiàn)“足夠好”。當(dāng)然，在現(xiàn)實(shí)生活中，后者更難實(shí)現(xiàn)，因?yàn)樵诂F(xiàn)實(shí)生活中，你需要管理如此多的相互沖突的目標(biāo)和定性約束。

Actually， we do not know what we are doing

事實(shí)上，我們并不知道在做什么

在讀這篇文章之前，試著回憶一下你最近吃過的一頓飯。你還記得你吃了什么嗎？那么，你還記得咀嚼和吞咽食物的過程嗎？你知道你的舌頭當(dāng)時(shí)到底在干什么嗎？我們的舌頭為我們做了很多事情。

它幫助我們把食物放進(jìn)嘴里，在牙齒間分配食物，吞下細(xì)嚼過的食物，甚至在需要時(shí)把大塊食物送回牙齒。我們當(dāng)然可以做到這一切，即使在和朋友交談時(shí)，也可以用你的舌頭來控制發(fā)音。

我們有意識(shí)的決定在多大程度上促進(jìn)了我們同時(shí)完成如此多復(fù)雜任務(wù)的舌頭運(yùn)動(dòng)？看起來好像我們在隨心所欲地移動(dòng)舌頭，但事實(shí)上，更多的時(shí)候，舌頭會(huì)自動(dòng)移動(dòng)，從我們的意識(shí)中接受高級(jí)命令。這就是為什么我們不能記住吃飯時(shí)舌頭的詳細(xì)動(dòng)作。首先，我們對(duì)他們的行動(dòng)知之甚少。

我們可能認(rèn)為我們的手是最有意識(shí)地控制的器官，但許多手的動(dòng)作也會(huì)自動(dòng)地、無意識(shí)地發(fā)生，或者最多是潛意識(shí)地發(fā)生。對(duì)于那些不同意的人，試著把鑰匙之類的東西放進(jìn)口袋，然后拿出來。

在這短短的一瞬間，無數(shù)的微操作立即無縫地協(xié)調(diào)完成了任務(wù)。我們通常無法單獨(dú)感知每一個(gè)動(dòng)作。我們甚至不知道應(yīng)該把它們分成哪些單位，所以我們把它們統(tǒng)統(tǒng)表達(dá)為抽象的詞語，如整理、清洗、涂抹、擦拭等。

這些動(dòng)詞都是定性定義的。它們通常是指精細(xì)動(dòng)作和操作的集合，其組成隨情況而變化。當(dāng)然，即使是孩子們也很容易理解和思考這個(gè)概念，但從算法開發(fā)的角度來看，這些詞是無限模糊和抽象的。

還是舉一個(gè)在面包上涂抹花生醬來做三明治的例子。我們可以展示是如何做到這一點(diǎn)的，并用幾句簡單的話進(jìn)行解釋。讓我們假設(shè)一個(gè)稍微不同的情況 —— 設(shè)有一個(gè)外星人使用與我們相同的語言，但對(duì)人類文明或文化一無所知（我知道這個(gè)假設(shè)已經(jīng)自相矛盾了，但請容忍我。）

我們能在電話里解釋一下如何做花生醬三明治嗎？我們可能會(huì)在解釋如何從罐子里舀出花生醬時(shí)卡殼。即使是抓取面包片也不是那么簡單，我們必須用力抓住面包，這樣才能涂抹花生醬，但又不能太用力，以免破壞軟面包的形狀。

換句話說，我們很容易想到如何抓住面包，但要通過語言或文字來表達(dá)這一點(diǎn)并不容易，更不用說在函數(shù)中了。即使是一個(gè)人在學(xué)習(xí)一項(xiàng)任務(wù)，我們能通過電話學(xué)習(xí)木匠的工作嗎？我們能通過電話準(zhǔn)確地糾正網(wǎng)球或高爾夫球的姿勢嗎？很難辨別我們所看到的細(xì)節(jié)在多大程度上是有意或無意完成的。

我的觀點(diǎn)是，并不是我們用手和腳所做的一切都可以用我們的語言直接表達(dá)出來。在連續(xù)動(dòng)作之間發(fā)生的事情通常會(huì)無意識(shí)地自動(dòng)發(fā)生，因此我們用一種比實(shí)際發(fā)生方式簡單得多的方式來解釋我們的動(dòng)作。

這就是為什么我們的行為看起來很簡單，為什么我們忘記了它們是多么不可思議。表達(dá)的局限性常常導(dǎo)致低估實(shí)際的復(fù)雜性。我們應(yīng)該認(rèn)識(shí)到這樣一個(gè)事實(shí)，即語言描述的困難會(huì)阻礙詞匯發(fā)展不完善領(lǐng)域的研究進(jìn)展。

直到最近，人工智能已實(shí)際應(yīng)用于與數(shù)據(jù)處理相關(guān)的信息服務(wù)中。今天一些突出的例子包括語音識(shí)別和面部識(shí)別?，F(xiàn)在，我們正在進(jìn)入一個(gè)人工智能的新時(shí)代，它可以在我們中間有效地進(jìn)行物理服務(wù)。也就是說，復(fù)雜物理任務(wù)的自動(dòng)化時(shí)代即將到來。

特別是，我們?nèi)找胬淆g化的社會(huì)構(gòu)成了巨大的挑戰(zhàn)。勞動(dòng)力短缺不再是一個(gè)模糊的社會(huì)問題。我們迫切需要討論如何開發(fā)增強(qiáng)人類能力的技術(shù)，使我們能夠?qū)Ｗ⒂诟袃r(jià)值的工作，追求人類特有的生活。

這就是為什么不僅是工程師，而且來自各個(gè)領(lǐng)域的社會(huì)成員都應(yīng)該提高他們對(duì)人工智能和無意識(shí)認(rèn)知偏見的理解。如上所述，人們很容易誤解人工智能，因?yàn)樗诒举|(zhì)上與人類智能不同。

對(duì)人類來說很自然的事情可能是對(duì)人工智能和機(jī)器人的認(rèn)知偏見。如果不清楚我們的認(rèn)知偏見，我們就無法為技術(shù)研究、應(yīng)用和政策設(shè)定適當(dāng)?shù)姆较?。為了使科學(xué)界的發(fā)展富有成效，我們需要敏銳地關(guān)注我們的認(rèn)知，并在促進(jìn)技術(shù)的適當(dāng)發(fā)展和應(yīng)用過程中進(jìn)行慎重的辯論。

Sangbae Kim是麻省理工學(xué)院仿生機(jī)器人實(shí)驗(yàn)室的領(lǐng)導(dǎo)者。上面這篇文章改編自Kim在6月份為Naver Labs發(fā)布的博客。

編輯：jq