對話MIT人工智能實(shí)驗(yàn)室主任：AI不是雙刃劍，都是人類惹的禍

對話MIT人工智能實(shí)驗(yàn)室主任：AI不是雙刃劍，都是人類惹的禍

隨著機(jī)器學(xué)習(xí)與人工智能技術(shù)的發(fā)展，如今，越來越多的公司、個(gè)人開始利用 AI 技術(shù)，為未來下著重要“賭注”。但是，人一旦動了歪腦筋，AI 也可能會作惡，如何好好利用技術(shù)這把雙刃劍，是我們最為關(guān)注的。

5 月 25 日，由學(xué)教育-松鼠 AI、IEEE 教育工程和自適應(yīng)教育標(biāo)準(zhǔn)工作組、中國自動化學(xué)會、新東方、好未來等共同舉辦了第三屆 AIAED 人工智能智適應(yīng)教育峰會。在會上，來自麻省理工學(xué)院（以下稱 MIT）計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室主任 Daniela Rus 發(fā)表了相關(guān)主題演講。

她在演講中表示，人類需要找到真正產(chǎn)生影響的資源，影響科技改變世界的方式，而這是 21 世紀(jì)當(dāng)中最為重要的課題。

對于未來人工智能技術(shù)與算法的發(fā)展，她認(rèn)為人類需要謹(jǐn)慎、仔細(xì)地看待。

Daniela Rus 是機(jī)器人領(lǐng)域的權(quán)威專家，MIT 計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室（CSAIL）主任，曾經(jīng)一手創(chuàng)辦了達(dá)特茅斯學(xué)院機(jī)器人實(shí)驗(yàn)室。DeepTech 和麻省理工科技評論曾報(bào)道的“抓取式”軟體機(jī)器人、折紙機(jī)器人等重要論文與技術(shù)成就，都是由 Daniela Rus 和她的團(tuán)隊(duì)一起研發(fā)的。

在 AIAED 大會上，Daniela Rus 對目前 AI 與機(jī)器人領(lǐng)域的技術(shù)前景進(jìn)行了評估，并表示樂觀，她認(rèn)為這當(dāng)中充滿機(jī)遇。

“大家想象一下，有一天我們?nèi)粘Ｉ畹乃腥蝿?wù)都由機(jī)器人來代替了，無人機(jī)把食物送到門口，垃圾能夠自動被回收。想象一下這些智能系統(tǒng)使得生活的方方面面都自動化，保證我們生活得很好，工作更加高效?！彼浅Ｅd奮地說。

其實(shí)，這種場景已經(jīng)在逐步實(shí)現(xiàn)中。早前外媒曾報(bào)道，美國喬治梅森大學(xué)（George Mason Uniersity，簡稱GMU）打造了全球規(guī)模最大的校園機(jī)器人送餐服務(wù)。送餐機(jī)器人在路上行走，可以將食物送到指定位置，學(xué)生自主取出熱騰騰的食物。

圖 | 送餐機(jī)器人，

與此同時(shí)，亞馬遜、京東、阿里巴巴等電商巨頭，也在不斷嘗試通過無人機(jī)等多種方式，將物品送到用戶手中。所以，時(shí)代在不斷發(fā)展，而人類正在享受著技術(shù)帶來的便捷與美好。

但大眾也要意識到，技術(shù)是中立的，最終的結(jié)果取決于控制技術(shù)的人。若數(shù)據(jù)與算力存在很大的偏差，可能會造成難以想象的慘烈后果。

Daniela Rus 對此感到擔(dān)憂，她表示，雖然 AI 有諸多優(yōu)勢，但是要警惕人類“抄近道”，該弄的東西沒有弄，欺騙技術(shù)與系統(tǒng)，造成很大的困擾。同時(shí)她又指出，這一切其實(shí)跟 AI 技術(shù)的關(guān)系并不大，而是與人類的控制有關(guān)。

人類需要善于利用技術(shù)上的優(yōu)勢。人做人最擅長的事情，機(jī)器做機(jī)器最擅長的事情，“耍小聰明”不是正經(jīng)之道。

在 AIAED 大會后，Daniela Rus 教授接受了 DeepTech 的采訪，聊了聊目前人工智能技術(shù)難點(diǎn)以及未來她想研究的機(jī)器人是哪種類型等。以下是采訪實(shí)錄整理：

中美在AI領(lǐng)域各有千秋

DeepTech：中國和國外在 AI 技術(shù)與人才方面還存在哪些差異？中國的 AI 興起還有什么創(chuàng)新的機(jī)會？

Daniela Rus：你可能看過李開復(fù)的《AI未來》，講到中國有一定的優(yōu)勢，比如中國的數(shù)據(jù)采集量比較大，使得中國有更多的 AI 技術(shù)空間可以發(fā)揮。但從 AI 人才教育的角度來說，中國相對還比較僵化，應(yīng)試教育的氛圍較為濃厚，小孩可能更重視考上哪個(gè)大學(xué)；美國則相對更靈活一些，更想著我要去解決什么樣的問題。

中國從教育體制，包括從學(xué)生對 AI 的態(tài)度來說，可能還是有一些地方需要改善。但總的來說，中美 AI 技術(shù)人才與研究能力都是非常強(qiáng)大的，各有千秋，中國在這一領(lǐng)域還是有許多發(fā)展空間的。

技術(shù)難點(diǎn)與解決方案

問：AI 技術(shù)研究中有遇到什么困難嗎？

Daniela Rus：以前，我們想象中的機(jī)器人可能都是金屬的、塑料的，或者長得像人，或者像人一樣動作。但實(shí)際上，當(dāng)我從事這項(xiàng)工作的時(shí)候，從一位制造機(jī)器人的研究者角度看，機(jī)器人可能有不同的形狀，也可以有不同的功能，可能是木頭做的，也可能是布、紙做的，或者可以用食物做機(jī)器人。

用那些東西做成機(jī)器人，人可以把機(jī)器人吃到肚子里，在肚子里面工作，工作完了就消化掉了。所以，在技術(shù)研究中，更多要考慮的是理想與實(shí)際之間的應(yīng)用關(guān)系。

問：在研究機(jī)器人技術(shù)的時(shí)候，有哪些挑戰(zhàn)值得和我們一起分享？

Daniela Rus：三個(gè)很重要的挑戰(zhàn)，第一個(gè)，如何制作大腦，機(jī)器人怎么思考，怎么找到問題解決方案；第二個(gè)，怎么制造機(jī)器人的語言；第三個(gè)，人機(jī)交互。

第一個(gè)，大腦。機(jī)器人的思考過程與人類不太一樣，運(yùn)行環(huán)境并沒有那么多樣化。但在機(jī)器人實(shí)際應(yīng)用中，復(fù)雜的環(huán)境挑戰(zhàn)，無法在實(shí)驗(yàn)室中進(jìn)行提前預(yù)知問題的解決方案，機(jī)器人的大腦在推理、思考、認(rèn)知上都具有很大的挑戰(zhàn)。

第二個(gè)，制造機(jī)器人的語言化。機(jī)器人本身第一語言還是非常底層的語言，所以彼此做一個(gè)東西，需要相當(dāng)長的開發(fā)時(shí)間來做底層的語言。另外，制作本身還是沒有一個(gè)非常容易的東西。

第三個(gè)，人機(jī)交互。怎么能夠了解人的反應(yīng)，這本身還是很有挑戰(zhàn)的。

問：人工智能的計(jì)算結(jié)果常常是隨機(jī)的，不可解釋的，如何解決這個(gè)問題？

Daniela Rus：我們已經(jīng)有了許多方法來解決此類問題，比如剛才提到的神經(jīng)網(wǎng)絡(luò)。目前來說，神經(jīng)網(wǎng)絡(luò)還是有很多黑盒子過程，我們無法直接解釋，也無法從數(shù)據(jù)角度給出一個(gè)解決方案，這實(shí)際是人工智能的一個(gè)很大的課題。

但是從某種角度來說，這也是一個(gè)必然的過程。從人工智能領(lǐng)域來說，打破黑盒子，解釋并給出解決方案，是一個(gè)探索過程。另外，剛才也談到，現(xiàn)在數(shù)據(jù)量很大，如果一個(gè)神經(jīng)網(wǎng)絡(luò)有特別多的節(jié)點(diǎn)，本身的復(fù)雜性就會非常高?，F(xiàn)在有些方法可以把節(jié)點(diǎn)壓縮，把復(fù)雜的內(nèi)容壓縮到相對簡單，比如說從 200 萬壓縮到 20 個(gè)節(jié)點(diǎn)等方式。

問：AI 是一把雙刃劍，在數(shù)據(jù)和算力之間存在一定偏差，在某種場景，AI 也存在一定的危險(xiǎn)性。那么，AI 技術(shù)在教育領(lǐng)域下會發(fā)生哪些的極端情形？

Daniela Rus：我們一直聽到，AI 的優(yōu)勢是什么，能夠帶來多少收益等正向的話題。當(dāng)然，人有無限可能，人類可能會采取作弊、欺騙等態(tài)度，也就是所謂“抄近道”，該弄的東西沒有弄，欺騙系統(tǒng)與技術(shù)。

這種情形是一定存在的，但實(shí)際上騙的是自己，最后呈現(xiàn)出的惡果并不是 AI 的問題，而是人類最終自食其果，搞垮罷了。

問：數(shù)據(jù)、算法的歧視問題，怎么能做到盡可能“數(shù)字公平”？

Daniela Rus：現(xiàn)在大家對算法歧視問題表示關(guān)心，這是很正常的，大眾確實(shí)有這樣那樣的顧慮，我認(rèn)為，這也是研究人員亟待解決的一個(gè)問題。

今年，我的項(xiàng)目組里出了不同的論文，但話題都是一致的，就是怎么解決機(jī)器學(xué)習(xí)里面產(chǎn)生的偏見。我們知道，面部識別出現(xiàn)過很多問題，就是所謂偏見性的東西。目前來看，解決此問題的辦法，仍是深度研究。

問：AI 需要很多數(shù)據(jù)，歐洲很多國家都會覺得太侵犯隱私了，會有一些阻力。你如何判斷 AI 技術(shù)對隱私的保護(hù)產(chǎn)生沖突問題？

Daniela Rus：這個(gè)可能還是更容易一些，因?yàn)楹芏嗍虑槭请p刃劍。

談未來研究方向

問：你覺得在分布式機(jī)器人領(lǐng)域會有哪些發(fā)展，它的趨勢是什么？

Daniela Rus：未來我們的生活環(huán)境里會有很多機(jī)器人，這種情況下一定是分布式的，互相有協(xié)調(diào)問題。

比如：自動駕駛汽車，每一輛自動駕駛汽車都相當(dāng)于一個(gè)機(jī)器人，它們互相之間的協(xié)調(diào)，在實(shí)際道路環(huán)境中能不能通過監(jiān)測的方式，互相感知，了解相互位置，并互相協(xié)調(diào)。

問：您的下一步研究方向是什么？

Daniela Rus：聚焦機(jī)器人研究的幾大方面，第一個(gè)是不同形狀、不同材料的機(jī)器人；第二個(gè)，把一個(gè)人有目標(biāo)性的想法，直接轉(zhuǎn)化成機(jī)器能夠執(zhí)行的命令、語句；第三個(gè)，機(jī)器人更像人，會穿衣服，這樣很好看，將機(jī)器人變得更加時(shí)尚。

問：當(dāng)機(jī)器人取代人類的功能時(shí)，會產(chǎn)生什么影響？

Daniela Rus：其實(shí)現(xiàn)在沒有必要擔(dān)憂取代的事情，首先人工智能還沒有真正達(dá)到“人類智能”，還差得特別遠(yuǎn)。

另外，其實(shí)現(xiàn)在我們看到機(jī)器人所替代的事情，更多是可以預(yù)見的，輔助性質(zhì)大于取代性質(zhì)的。比如，理療師按摩要 30 分鐘，結(jié)果使用機(jī)器人方式，花 10 分鐘就結(jié)束了。

其實(shí)，重復(fù)性很強(qiáng)的東西，可以用機(jī)器人替代，這些都是可預(yù)見的，并沒有真正的智能在里面。所以，機(jī)器人取代不了人類，還差的非常遠(yuǎn)。