看AI教父對(duì)人工智能研究的年輕人，給出的一些忠告

人們說(shuō)，人工智能會(huì)帶來(lái)風(fēng)險(xiǎn)，人工智能產(chǎn)業(yè)要促進(jìn)，人工智能需要監(jiān)管，人工智能軍備競(jìng)賽愈發(fā)激烈。

他們還說(shuō)，人工智能人才非常非常短缺，年輕人，如果你想入行……

深度學(xué)習(xí)教父Geoffrey Hinton的建議，值得一看。在一份訪談中，他面向想做人工智能研究的年輕人，給出了一些忠告。當(dāng)然，前邊所說(shuō)的風(fēng)險(xiǎn)、監(jiān)管、產(chǎn)業(yè)等等問(wèn)題也都有談及。

這份訪談，來(lái)自馬丁·福特（Martin Ford）新書(shū)，《智能締造者：人工智能開(kāi)發(fā)者口述真相》（Architects of Intelligence: The Truth About AI from the People Building It）。

Hinton認(rèn)為，年輕人如果讀個(gè)碩士然后就直接進(jìn)入工業(yè)界，對(duì)研究是不利的。這樣的人提不出全新的想法，學(xué)界應(yīng)該留住那些受過(guò)良好教育的研究生，他們需要坐下來(lái)，思考幾年才行。

他也鼓勵(lì)年輕人批判地看待基礎(chǔ)理論、挑戰(zhàn)基本假設(shè)，也要在認(rèn)為大家想法都錯(cuò)了的時(shí)候，堅(jiān)持自己的直覺(jué)。

以下，是《智能締造者》中節(jié)選出來(lái)的這段訪談：

福特：我們來(lái)談?wù)勅斯ぶ悄艿臐撛陲L(fēng)險(xiǎn)。有一個(gè)具體挑戰(zhàn)是對(duì)就業(yè)市場(chǎng)和經(jīng)濟(jì)的潛在影響。你是否認(rèn)為所有這些都可能引發(fā)新的工業(yè)革命并徹底改變就業(yè)市場(chǎng)？如果是這樣，我們真的需要為此擔(dān)憂，還是說(shuō)這可能又被夸大其詞了？

Hinton：如果你能夠大幅提高生產(chǎn)力并提供更多好處，那應(yīng)該是一件好事。

它是否是一件好事完全取決于社會(huì)制度，根本不取決于技術(shù)。人們卻在研究技術(shù)，就像把技術(shù)進(jìn)步是一個(gè)問(wèn)題一樣。

問(wèn)題在于社會(huì)制度，在于我們是否會(huì)建立一個(gè)公平分享的社會(huì)制度，或者說(shuō)，我們的社會(huì)制度會(huì)是公平的，還是會(huì)讓所有進(jìn)步集中體現(xiàn)在1％的人群身上，然后把剩下的人看得一文不值。

這與技術(shù)無(wú)關(guān)。

福特：那么問(wèn)題就來(lái)了，因?yàn)楹芏喙ぷ鞫紩?huì)消失——特別是可以預(yù)測(cè)，而且易于自動(dòng)化的工作。社會(huì)對(duì)此作出的反應(yīng)是為這類人提供基本收入。你同意這種做法嗎？

Hinton：是的，我認(rèn)為基本收入是一個(gè)非常明智的想法。

福特：那么，你認(rèn)為需要通過(guò)政策來(lái)解決此事嗎？有些人認(rèn)為我們應(yīng)該讓事情自然發(fā)展，但那似乎不負(fù)責(zé)任。

Hinton： 我搬到加拿大是因?yàn)檫@里稅率較高，因?yàn)槲艺J(rèn)為正確的稅收是好事。政府應(yīng)該做的是建立各種機(jī)制，以便當(dāng)人們出于自身利益行事時(shí)，也會(huì)幫助到每個(gè)人。高稅收是一種這樣的機(jī)制：當(dāng)人們致富時(shí)，其他人都會(huì)獲得稅收的幫助。

想要確保人工智能讓每所有人都受益，還有很多工作要做。我當(dāng)然認(rèn)同這種觀點(diǎn)。

福特：你對(duì)其他一些跟人工智能有關(guān)的風(fēng)險(xiǎn)怎么看？比如武器化？

Hinton：是的，我對(duì)普京總統(tǒng)最近所說(shuō)的一些事情感到擔(dān)憂。

我認(rèn)為人們現(xiàn)在應(yīng)該采取非常積極的措施，努力讓國(guó)際社會(huì)以對(duì)待化學(xué)武器和大規(guī)模殺傷性武器的態(tài)度，來(lái)對(duì)待那些不需要人類參與就能殺死人類的武器。

福特：你是否贊成暫停某種類型的研發(fā)？

Hinton：這種類型的研發(fā)不會(huì)暫停，就像神經(jīng)毒劑的發(fā)展也沒(méi)有暫停一樣，但的確有一套國(guó)際機(jī)制來(lái)阻止它們被廣泛使用。

福特：除軍事武器外，你怎么看待其他風(fēng)險(xiǎn)？是否有其他問(wèn)題，比如隱私和透明度？

Hinton：我認(rèn)為有，用它來(lái)操縱選舉和選民非常令人擔(dān)憂。劍橋分析由Bob Mercer成立，他是一名機(jī)器學(xué)習(xí)研究人員，你已經(jīng)看到劍橋分析造成了很大的破壞。我們不得不認(rèn)真對(duì)待。

福特：你認(rèn)為有監(jiān)管空間嗎？

Hinton：是的，需要很多監(jiān)管。這是一個(gè)非常有趣的問(wèn)題，但我不是這方面的專家，所以談不了太多。

福特：你怎么看一般的全球軍備競(jìng)賽？你認(rèn)為不應(yīng)該讓一個(gè)國(guó)家遙遙領(lǐng)先領(lǐng)先其他國(guó)家嗎？

Hinton：你所談?wù)摰氖侨蛘螁?wèn)題。

很長(zhǎng)一段時(shí)間，英國(guó)是一個(gè)占主導(dǎo)地位的國(guó)家，但他們表現(xiàn)得不是很好。

然后就是美國(guó)，他們表現(xiàn)得也不是很好。

換一個(gè)國(guó)家主導(dǎo)，我也不指望他們會(huì)有很好的表現(xiàn)。

福特：你認(rèn)為我們應(yīng)該采取某種形式的產(chǎn)業(yè)政策嗎？美國(guó)和其他西方政府是否應(yīng)該關(guān)注人工智能，并將其作為國(guó)家重要發(fā)展方向？

Hinton：技術(shù)將迎來(lái)巨大的發(fā)展，如果一個(gè)國(guó)家不努力追趕潮流，它肯定是瘋了。所以很明顯，我認(rèn)為應(yīng)該有很多投資。這在我看來(lái)似乎是常識(shí)。

福特：總的來(lái)說(shuō)，你對(duì)這一切感到樂(lè)觀嗎？你認(rèn)為人工智能是利大于弊嗎？

Hinton：我希望利大于弊，但我不知道最終能否如愿。這是一個(gè)社會(huì)制度問(wèn)題，而不是技術(shù)問(wèn)題。

福特： 人工智能人才短缺，大家都在招聘。對(duì)于想要進(jìn)入這個(gè)領(lǐng)域的年輕人，你有沒(méi)有什么建議？你能否再提一些建議來(lái)吸引更多人，讓他們成為人工智能和深度學(xué)習(xí)方面的專家？

Hinton：我擔(dān)心為基礎(chǔ)理論挑毛病的人不夠多。

我提出的“Capsules”(膠囊網(wǎng)絡(luò))的想法就是想說(shuō)，也許我們現(xiàn)在做事的一些基本方法并不是最好的，我們應(yīng)該拋出一張更大的網(wǎng)。我們應(yīng)該思考一些非?；镜募僭O(shè)有沒(méi)有替代品。

我給人們的一條建議是，如果你的直覺(jué)告訴你，人們?cè)谧龅氖虑椴⒉粚?duì)，而且可能有更好的方法，你應(yīng)該遵循你的直覺(jué)。

你很可能是錯(cuò)的，但是除非人們?cè)谒伎既绾螐氐赘淖兪挛飼r(shí)遵循直覺(jué)，否則就會(huì)深陷其中。

還有一點(diǎn)擔(dān)憂，是我認(rèn)為新思想最富饒的來(lái)源是在大學(xué)中接受過(guò)良好教育的研究生。他們可以自由地提出真正的新想法，他們學(xué)到的東西足以讓他們不再單純重復(fù)歷史，我們應(yīng)該留住這些人。

獲得碩士學(xué)位然后直接進(jìn)入工業(yè)界的人不會(huì)提出全新的想法。我認(rèn)為你需要坐下來(lái)思考幾年。

福特：加拿大似乎成了深度學(xué)習(xí)中心。這是偶然事件，還是說(shuō)加拿大有什么特別的地方起到了幫助？

Hinton：加拿大高級(jí)研究院（CIFAR）為高風(fēng)險(xiǎn)領(lǐng)域的基礎(chǔ)研究提供資金，這非常重要。

還有很多事情有運(yùn)氣成分，比如Yann LeCun（他曾經(jīng)短暫當(dāng)過(guò)我的博士后）和Yoshua Bengio也都在加拿大。我們?nèi)齻€(gè)人可以形成非常富有成果的協(xié)作，CIFAR為這種合作提供了資助。

那時(shí)，我們身處一個(gè)充滿敵意的環(huán)境中感覺(jué)有點(diǎn)孤立——深度學(xué)習(xí)的環(huán)境直到最近才變得友好起來(lái)——所以獲得這筆資金給我們很大幫助，讓我們可以用很多時(shí)間召開(kāi)小型會(huì)議，展開(kāi)相互交流。在那里，我們可以真正分享尚未發(fā)表的想法。

One More Thing

在《智能締造者》這本書(shū)里，還有很多AI領(lǐng)域名人的訪談。

比如和Hinton并稱三巨頭的Yoshua Bengio、Yann LeCun，著有人工智能經(jīng)典教材的伯克利教授Stuart Russell，讓馬斯克對(duì)人工智能產(chǎn)生興趣和恐懼的牛津大學(xué)哲學(xué)教授Nick Bostrom，還有我們熟悉的李飛飛、吳恩達(dá)、DeepMind創(chuàng)始人Demis Hassabis等等，共23人。