Hill認(rèn)為中國(guó)的計(jì)算機(jī)體系結(jié)構(gòu)研究絕對(duì)是第一流、有創(chuàng)造性的

2019年計(jì)算機(jī)體系結(jié)構(gòu)最高獎(jiǎng)Eckert-Mauchly獎(jiǎng)?lì)C發(fā)給威斯康辛大學(xué)麥迪遜分校教授Mark D. Hill，表彰他對(duì)存儲(chǔ)系統(tǒng)和并行計(jì)算機(jī)的設(shè)計(jì)和評(píng)估作出的杰出貢獻(xiàn)。本文還帶來了對(duì)Hill教授的專訪，Hill認(rèn)為中國(guó)的計(jì)算機(jī)體系結(jié)構(gòu)研究絕對(duì)是第一流、有創(chuàng)造性的。

Eckert-Mauchly 獎(jiǎng)是計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域最負(fù)盛名的獎(jiǎng)項(xiàng)，以 1947 年誕生的世界上第一臺(tái)電子計(jì)算機(jī) ENIAC 的兩位發(fā)明人John Presper Eckert和John William Mauchly的名字命名。

Eckert-Mauchly 獎(jiǎng)始于1979年，由ACM和IEEE計(jì)算機(jī)協(xié)會(huì)共同贊助，該獎(jiǎng)項(xiàng)表彰對(duì)計(jì)算機(jī)和數(shù)字系統(tǒng)體系結(jié)構(gòu)的貢獻(xiàn)，獎(jiǎng)金5000美元。歷史獲獎(jiǎng)人中有六位最終獲得了圖靈獎(jiǎng)，包括獲得2017圖靈獎(jiǎng)的David Patterson。此外還有一批接近圖靈獎(jiǎng)的大神們，比如Gene Amdahl、Seymour Cray、Gordon Bell等。

2019年Eckert-Mauchly 獎(jiǎng)?lì)C發(fā)給威斯康辛大學(xué)麥迪遜分校教授Mark D. Hill，表彰他對(duì)存儲(chǔ)系統(tǒng)和并行計(jì)算機(jī)的設(shè)計(jì)和評(píng)估作出的杰出貢獻(xiàn)。作為世界領(lǐng)先的存儲(chǔ)系統(tǒng)研究人員，Hill在高速緩存、存儲(chǔ)一致性模型、事務(wù)性存儲(chǔ)和模擬等領(lǐng)域做出了開創(chuàng)性的貢獻(xiàn)。Hill與160多名共同作者的著作已被引用超過20000次。

Mark D. Hill教授

Mark D. Hill 是當(dāng)今計(jì)算機(jī)體系結(jié)構(gòu)學(xué)術(shù)圈內(nèi)最知名的學(xué)者之一，他于 1981 年畢業(yè)于密歇根大學(xué)安娜堡分校（ University of Michigan, Ann Arbor），1983 年在體系結(jié)構(gòu)大師 Alan Jay Smith 的指導(dǎo)下于加州大學(xué)伯克利分校（University of California Berkeley）取得碩士學(xué)位，1987 年在 Alan Jay Smith 和另一位體系結(jié)構(gòu)學(xué)術(shù)界泰斗 David Patterson 的指導(dǎo)下獲得伯克利的博士學(xué)位。此后 Mark Hill 一直活躍于學(xué)術(shù)界，在計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域的許多問題上都做出了卓越貢獻(xiàn)，包括緩存一致性、TLB 設(shè)計(jì)，事務(wù)內(nèi)存，確定性重演等， 其中有八篇論文入選 IEEE Micro 頂尖論文薈萃（ IEEE Micro Top Picks），對(duì) Mark Hill 的學(xué)術(shù)著作的總引用數(shù)超過兩萬，他的另一項(xiàng)廣為人知的貢獻(xiàn)是現(xiàn)在體系結(jié)構(gòu)教科書上必須提及的 Cache 3C 模型。由于 Mark Hill 在內(nèi)存和緩存子系統(tǒng)上的杰出貢獻(xiàn)，他于 2000 年和 2004 年分別入選 IEEE Fellow 和 ACM Fellow。目前 Mark Hill 是威斯康辛大學(xué)麥迪遜分校（University of Wisconsin-Madison）的計(jì)算機(jī)科學(xué)系系主任。

在20世紀(jì)80年代，Hill開發(fā)了關(guān)于緩存失效的“3C模型”?！熬彺媸А?cache miss)是指計(jì)算機(jī)的緩存中沒有找到軟件或硬件請(qǐng)求處理的數(shù)據(jù)。cache miss會(huì)導(dǎo)致延遲，因?yàn)槌绦蚧驊?yīng)用程序必須在其他位置訪問數(shù)據(jù)。Hill的3C模型將這些緩存失效的情況分為“強(qiáng)制失效”（Compulsory miss）、“容量失效”（Capacity miss）和“沖突失效”（Conflict miss）。這個(gè)模型很有影響力，因?yàn)樗鼛砹艘恍┲匾膭?chuàng)新，比如受害者緩存(victim caches)和流緩沖器（stream buffers），現(xiàn)在已經(jīng)成為計(jì)算機(jī)體系結(jié)構(gòu)教科書中的標(biāo)準(zhǔn)概念。

許多人認(rèn)為Hill在緩存一致性模型方面的工作是他最重要的貢獻(xiàn)。他與學(xué)生Sarita Adve一起，為DRF開發(fā)了SC：一個(gè)使用順序一致性(SC)的一致性模型，可以避免數(shù)據(jù)競(jìng)爭(zhēng)(data race free，或DRF)。Hill的SC for DRF模型對(duì)計(jì)算機(jī)架構(gòu)師產(chǎn)生了重大影響，特別是當(dāng)多處理器變得無處不在的情況下，架構(gòu)師不得不考慮在架構(gòu)和實(shí)現(xiàn)中使用哪種內(nèi)存一致性模型時(shí)。在Hill為DRF開發(fā)SC多年之后，它成為了Java和c++內(nèi)存模型的基礎(chǔ)，并且最近，SC for DRF模型與圖形處理器（GPU）一起被用于理解異構(gòu)處理器的內(nèi)存一致性。

Hill的第三個(gè)主要貢獻(xiàn)是他在事務(wù)性內(nèi)存方面的工作，這是一種最小化臨界區(qū)阻塞的技術(shù)。Hill與David Wood一起開發(fā)了LogTM事務(wù)性內(nèi)存系統(tǒng)，這是最早的、且被廣泛引用的事務(wù)性內(nèi)存方法之一。這個(gè)系統(tǒng)第一次使事務(wù)超出了它們的緩沖區(qū)和緩存容量，使得程序員可以更容易地實(shí)現(xiàn)事務(wù)。

Hill(與David Wood等人)也對(duì)并行計(jì)算機(jī)的評(píng)估做出了重要貢獻(xiàn)。例如，威斯康辛州的風(fēng)洞項(xiàng)目率先在并行機(jī)器上運(yùn)行快速并行模擬。Hill還開發(fā)了其他重要的工具來評(píng)估內(nèi)存系統(tǒng)和并行計(jì)算機(jī)，包括Dinero緩存模擬器、GEMS full system模擬器和gem5，這些工具已經(jīng)被研究人員和實(shí)踐者引用了3000多次。BadgerTrap是他最新開發(fā)的工具之一，研究虛擬內(nèi)存行為。Hill對(duì)虛擬內(nèi)存的實(shí)現(xiàn)也有重要的影響。例如，他提出了“page reservation”的概念，現(xiàn)在在Linux中使用。

Hill將于6月22日至26日在亞利桑那州鳳凰城舉行的ACM/IEEE計(jì)算機(jī)體系結(jié)構(gòu)國(guó)際研討會(huì)(ISCA)上正式獲得該獎(jiǎng)項(xiàng)。

專訪Mark D. Hill教授：中國(guó)在進(jìn)行絕對(duì)第一流的、有創(chuàng)造性的研究

2017年ASPLOS(計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域的一個(gè)頂級(jí)國(guó)際會(huì)議)期間，中科院計(jì)算所先進(jìn)計(jì)算機(jī)系統(tǒng)研究中心黃博文同學(xué)等一組人采訪了Mark D. Hill教授，談到中國(guó)的體系結(jié)構(gòu)研究、學(xué)術(shù)界與工業(yè)界的關(guān)系、學(xué)術(shù)研究的品味、如何幫助中國(guó)的體系結(jié)構(gòu)學(xué)術(shù)圈保持健康進(jìn)步等問題。

新智元經(jīng)授權(quán)轉(zhuǎn)載如下：

訪談人物 - Mark D. Hill

關(guān)于中國(guó)的體系結(jié)構(gòu)研究以及 ASPLOS

采訪小組：您怎樣看待 ASPLOS 與其他幾個(gè)體系結(jié)構(gòu)頂級(jí)學(xué)術(shù)會(huì)議 MICRO，HPCA，ISCA 的關(guān)系？

【編注：Architectural Supportfor Programming Languages and Operating Systems (ASPLOS), International Symposium on Microarchitecture (MICRO), High Performance Computer Architecture (HPCA), International Symposium on Computer Architecture (ISCA)】

Mark：ASPLOS 的意義是讓體系結(jié)構(gòu)連接操作系統(tǒng)和編程語(yǔ)言。20 年前，體系結(jié)構(gòu)研究社區(qū)有一段難以維持的經(jīng)歷，ISCA [1] 差點(diǎn)辦不下去，做微結(jié)構(gòu)的人不愿意去改指令集，而操作系統(tǒng)和編程語(yǔ)言研究社區(qū)的人對(duì)不具備兼容性的設(shè)計(jì)都不買賬，當(dāng)時(shí)對(duì) ASPLOS 的需求還不那么明顯，但是后來摩爾定律變慢，能效就必須來自于跨層次的協(xié)作優(yōu)化，現(xiàn)在 ASPLOS 的重要性就大大高于 20 年前。

采訪小組： 這是 ASPLOS 第一次在中國(guó)舉辦，國(guó)內(nèi)有聲音認(rèn)為這是中國(guó)進(jìn)入體系結(jié)構(gòu)學(xué)術(shù)圈核心競(jìng)技圈的一個(gè)標(biāo)志，不知您如何看待？

Mark：首先，計(jì)算機(jī)體系結(jié)構(gòu)年會(huì)（ISCA）已經(jīng)于 2008 年在北京舉辦過。過去這些年，中國(guó)在計(jì)算機(jī)體系結(jié)構(gòu)，乃至整個(gè)計(jì)算機(jī)科學(xué)研究上的進(jìn)展確實(shí)令人印象深刻。

采訪小組：是的，幾位中國(guó)大陸的青年教授告訴我們 ISCA08 改變了他們這一代體系結(jié)構(gòu)研究人員，例如那一屆 ISCA 過后，陳云霽老師就發(fā)表了中國(guó)大陸有史以來第一篇 HPCA 論文?，F(xiàn)在已經(jīng)過去了十年，現(xiàn)在中國(guó)又有了第一篇 MICRO 最佳論文，ASPLOS 最佳論文 …

Mark：對(duì)，我覺得這里面很重要的一點(diǎn)是，為了這樣一篇論文，你必須有很好的 idea，然后必須用一種學(xué)術(shù)會(huì)議接受的語(yǔ)言把它清晰地表達(dá)出來，包括圍繞這個(gè) idea 的故事。由于你們來自中國(guó)，你們?cè)谶@方面會(huì)有劣勢(shì)。中國(guó)的研究人員克服了這種語(yǔ)言劣勢(shì)，令人印象深刻。我自己很幸運(yùn)，我寫論文用的是自己的母語(yǔ)。

采訪小組：除了語(yǔ)言之外，您怎樣看待中國(guó)的體系結(jié)構(gòu)研究質(zhì)量？ 您是否認(rèn)為中國(guó)的研究質(zhì)量已經(jīng)能夠與美國(guó)并駕齊驅(qū)，或者仍然有所落后？

Mark：我覺得從研究角度上來說，不能斷言說整個(gè)美國(guó)有一個(gè)什么樣的研究水平，因?yàn)橛械娜搜芯抠|(zhì)量很高，也有的人研究質(zhì)量參差不齊，有的人研究興趣比較廣，有的人則研究面比較窄，我覺得這在中國(guó)也是一樣的?，F(xiàn)在的區(qū)別是，中國(guó)確實(shí)在進(jìn)行絕對(duì)第一流的、有創(chuàng)造性的研究，而二十年前，中國(guó)的研究更多的是做一些增量式的改進(jìn)。某種程度上來說，中國(guó)的公司也是一樣的，二十年前他們是快速跟隨者，但是現(xiàn)在則是創(chuàng)新領(lǐng)導(dǎo)者。例如現(xiàn)在中國(guó)的手機(jī)已經(jīng)不再跟隨 iPhone，它們?cè)诤芏嘈枰镜鼗姆矫孢h(yuǎn)強(qiáng)于 iPhone。

關(guān)于學(xué)術(shù)界與工業(yè)界的關(guān)系，以及學(xué)術(shù)研究的品味問題

采訪小組：我們覺得自己是一個(gè)后進(jìn)者，還需要做很多事情去追趕對(duì)于美國(guó)來說已經(jīng)完成的成就。例如說，威斯康辛大學(xué)麥迪遜分校和工業(yè)界保持著有成效的合作關(guān)系，比如威斯康辛與 Intel，與 AMD 的合作，而在中國(guó)這種學(xué)術(shù) - 工業(yè)合作才剛開始孵育，我們希望能聽聽您的意見。

Mark：建立與工業(yè)界公司的關(guān)系確實(shí)有困難。你可以想象，工業(yè)界的人非常忙碌，時(shí)間寶貴，所以你拿出來的東西要對(duì)他們有價(jià)值，例如讓他們提前接觸學(xué)生，能提出單獨(dú)幫助那個(gè)公司的 idea. 關(guān)鍵的一點(diǎn)是，不要去做跟公司的下一代產(chǎn)品太貼近的東西，這會(huì)讓工業(yè)界的人緊張，并且由于無法獲取公司內(nèi)部的資源，大學(xué)在這類工作中通常處于劣勢(shì)。選擇那些工業(yè)界還不愿意投入資源去做的東西是則是一件好事，例如，我們?cè)诒緦脮?huì)議上有一篇論文（當(dāng)然是學(xué)生做的主要工作），關(guān)于非易失性內(nèi)存，把非易失性內(nèi)存掛在內(nèi)存總線上。但這什么時(shí)候會(huì)真的變成現(xiàn)實(shí)，工業(yè)界并不知道，他們甚至不知道這會(huì)不會(huì)發(fā)生。而我們就可以開始研究這些，因?yàn)槲覀儾⒉恍枰獩Q定這些東西會(huì)在下一代、下下代、下下下代產(chǎn)品上使用，而工業(yè)界的人會(huì)很高興看到我們?cè)谧鲞@個(gè)，雖然他們現(xiàn)在并不愿意自己去做，但他們可以看到我們對(duì)一些解決方案的規(guī)劃，并對(duì)學(xué)生進(jìn)行了解決這類問題所需的訓(xùn)練，這些學(xué)生之后就可以進(jìn)入公司工作。

采訪小組：我們現(xiàn)在跟工業(yè)界的公司有一些合作，例如幫助設(shè)計(jì)他們下一代處理器上的某個(gè)部件，并且有明確的性能要求……

Mark：工業(yè)界現(xiàn)在讓你們?nèi)パ芯窟@個(gè)問題？

采訪小組成員：是的。

Mark：我覺得這更像是一種 “合同工”，的確有其價(jià)值，但與做一個(gè)公司的 “研究伙伴” 是不一樣的。有一些我過去發(fā)現(xiàn)比較好的方式是，可以送學(xué)生去工業(yè)界實(shí)習(xí)，學(xué)生不能從工業(yè)界帶回答案，因?yàn)楣緦?duì)這有知識(shí)產(chǎn)權(quán)，但是學(xué)生可以從工業(yè)界發(fā)現(xiàn)潛在的問題，這就是好的研究點(diǎn)。

采訪小組：所以您的意見是，我們并不太適合去做這種需求急迫的研究，作為替代，我們應(yīng)該去做超前幾代產(chǎn)品的研究？

Mark：是的，需求急迫的研究并不是大學(xué)的長(zhǎng)處，這完全取決于現(xiàn)有的工業(yè)界復(fù)雜設(shè)計(jì)里面的種種細(xì)節(jié)，而這些信息都是你無法獲取的。我就無法設(shè)計(jì)一個(gè)部件然后比 Intel 做的更好，他們?cè)谶@個(gè)問題上了解的比我多太多了。一個(gè)例子是，Abhishek [2] 在這屆會(huì)議上有一篇論文，他觀察到通過利用一些 TLB miss 的信息，去指導(dǎo)預(yù)取。這是非常好的研究點(diǎn)，但如果工業(yè)界有人決定采用這個(gè)點(diǎn)子，我并不認(rèn)為他們會(huì)完全按照 Abhishek 的設(shè)計(jì)去做，因?yàn)楣I(yè)界對(duì)設(shè)計(jì)的細(xì)節(jié)了解更多。

采訪小組：您剛才提到很重要的一點(diǎn)，就算研究成果被采用，最后落地于產(chǎn)品的設(shè)計(jì)也很可能會(huì)與論文中的不同，那我們?nèi)绾闻c工業(yè)界分享 credit？

Mark：這是比較難的一個(gè)問題，工業(yè)界并不總是喜歡分享 credit，無論你拿到的 credit 是什么樣的，這種 credit 只會(huì)在學(xué)術(shù)界中通行。你的回報(bào)是得到了發(fā)明新設(shè)計(jì)的成就感，訓(xùn)練了學(xué)生，如果沒有得到工業(yè)界給予的 credit，我并不會(huì)因此失眠。工業(yè)界的人并不擅長(zhǎng)給予 credit，甚至有時(shí)會(huì)因此被告上法庭。但是這很難定論，被采納的 idea 很少是從單獨(dú)一個(gè)源頭完整地來的，會(huì)經(jīng)過修改，而且是別人的修改。我覺得 credit 有兩種，一種是外在的，別人告訴你你干的很好，一種是內(nèi)在的，你自己知道你很棒。我覺得內(nèi)在的 credit 更重要，你必須在這一點(diǎn)上成熟，有很多人想要的是外在的 credit。

采訪小組：我們都很好奇，威斯康辛過去曾和 Intel 有過專利官司，現(xiàn)在也和蘋果有專利官司，當(dāng)您跟工業(yè)界有不一致的時(shí)候，您會(huì)怎么辦？

Mark：那個(gè)專利是 Guri Sohi 教授和他幾個(gè)學(xué)生所有的。

Mark 的學(xué)生：實(shí)際上是 WARF 所有的，所以應(yīng)該是整個(gè)威斯康辛大學(xué)與外面公司的訴訟，而非幾個(gè)教授或者學(xué)生。

Mark：是的。這是比較難的一件事情?？瓷先?，那些公司認(rèn)為這是一種更好的策略，就算偶有專利侵權(quán)，也傾向于選擇訴訟而不愿意舉行一次會(huì)晤告知然后付使用費(fèi)。我希望 Intel 和 Apple 在使用前能來打聲招呼，嘿我們用了你的專利，你應(yīng)該享有 credit，但是他們決定不去這樣做。

采訪小組：如果我們看過去這些年的計(jì)算機(jī)學(xué)術(shù)界發(fā)展，確實(shí)有一些成果推動(dòng)了工業(yè)進(jìn)步，例如多核，多線程，都是從學(xué)術(shù)圈出來的，但是現(xiàn)在這樣的機(jī)會(huì)感覺變少了，不知道您現(xiàn)在如何看待與工業(yè)界的關(guān)系？

Mark：你是說，過去我們有研究成果進(jìn)入工業(yè)界，但是現(xiàn)在我們能推進(jìn)工業(yè)界的研究不如以前那么多了？

采訪小組：是的，現(xiàn)在工業(yè)界掌控了大部分技術(shù)和數(shù)據(jù)，能夠在真實(shí)的大規(guī)模數(shù)據(jù)上做實(shí)驗(yàn)，而學(xué)校只能去跟隨工業(yè)界的工作，很難發(fā)表好的工作、做好的研究。

Mark：嗯，這里有兩件事。一個(gè)是，現(xiàn)在也許有很棒的改變正在發(fā)生，但是我們并沒有察覺它有多么棒，直到五年后，十年后。另一件事是，不要嘗試去做那種讓 Intel 的高端芯片變得更好一點(diǎn)點(diǎn)的那種研究，你很難做的比他們優(yōu)化更好，應(yīng)該去做那種非常不一樣的、并且有幫助的 idea。

Mark 的學(xué)生：你知道 PhD 的含義嗎？

采訪小組：永久性腦損傷（Permanet Head Damage）？ （笑）

Mark 的學(xué)生：我是說實(shí)際含義（笑），事實(shí)上它是從哲學(xué)開始的。

采訪小組：是的，我知道。

Mark 的學(xué)生：你得做出哲學(xué)意義上的改變，才能夠去做與工業(yè)界截然不同的工作，有時(shí)候是非常革命性的工作，才能在 10 年后，成為工業(yè)界標(biāo)準(zhǔn)。我認(rèn)為 Mark 在事務(wù)性內(nèi)存上的工作就做到了這一點(diǎn)。

Mark：我記得另一個(gè)例子，有一篇 1994 年的論文，提出了頁(yè)保留（page reservation）的概念，20 年后，它進(jìn)入了 Linux。所以不要做優(yōu)化型的工作，嘗試做與眾不同的工作。例如不要去做讓最高端的處理器的性能變得更好的工作，要嘗試去做讓物聯(lián)網(wǎng)處理器的功耗比其他設(shè)計(jì)更低的工作。這屆會(huì)議上也有人發(fā)表了用其他手段讓指令集架構(gòu)的特性更容易證明的論文，這才更像是好的體系結(jié)構(gòu)研究，它可能不會(huì)被采用，但也有可能變得眾人皆知。這不是一個(gè)小的改變，這是一個(gè)比較大的變化。關(guān)鍵是你要關(guān)注轉(zhuǎn)折點(diǎn)，轉(zhuǎn)折點(diǎn)是一系列小的漸進(jìn)性改變帶來的大的變化。體系結(jié)構(gòu)的轉(zhuǎn)折點(diǎn)會(huì)發(fā)生在當(dāng)工藝發(fā)生變化的時(shí)候，以及當(dāng)頂層的應(yīng)用發(fā)生變化的時(shí)候。一個(gè)經(jīng)典的例子是，上世紀(jì) 80 年代，最便宜的存儲(chǔ)設(shè)備是大型磁盤，小型存儲(chǔ)設(shè)備都很貴，然后個(gè)人電腦突然出現(xiàn)了，對(duì)硬盤的需求出現(xiàn)使得制造商們開始制造大量硬盤，使得最便宜的存儲(chǔ)設(shè)備變成了小型的硬盤，然后 David Patterson [3] 認(rèn)為，轉(zhuǎn)折點(diǎn)出現(xiàn)了。這個(gè)轉(zhuǎn)折點(diǎn)意味著什么呢？在小型硬盤上可以存儲(chǔ)數(shù)據(jù)，但是 PC 對(duì)于可靠性要求不高，所以不太在乎單個(gè)硬盤的可靠性，但如果在服務(wù)器上使用大量的硬盤存儲(chǔ)數(shù)據(jù)，可靠性就很差了 [4]，所以必須設(shè)計(jì)一套方案，讓它們打破自身的劣勢(shì)，變得可靠起來，所以發(fā)明了磁盤陣列 RAID [5]。所以研究的關(guān)鍵是，去留心這種轉(zhuǎn)折點(diǎn)，而不在于你的代碼寫得有多好，你必須去觀察問題的內(nèi)在。以今天來說，物聯(lián)網(wǎng)，虛擬現(xiàn)實(shí)，這些領(lǐng)域在發(fā)生什么，可以嘗試從中去尋找轉(zhuǎn)折點(diǎn)。

Mark 的學(xué)生：我覺得網(wǎng)絡(luò)通訊的改變也是一個(gè)例子。在 1999 年之前沒有什么網(wǎng)絡(luò)通訊，因?yàn)榫W(wǎng)絡(luò)幾乎不太存在，然后加州大學(xué)伯克利分校的人出來做了很多工作。

Mark：另一個(gè)例子，過去的巨型機(jī)都很昂貴，必須分時(shí)使用。分時(shí)的系統(tǒng)你們可能都沒有體驗(yàn)過，用起來非常痛苦，但如果你意識(shí)到，有一天機(jī)器會(huì)越來越便宜，便宜到每一個(gè)人都能買得起，這也是一個(gè)轉(zhuǎn)折點(diǎn)。有趣的是，現(xiàn)在的云服務(wù)就像是分時(shí)系統(tǒng)的回歸，因?yàn)檫@種場(chǎng)景下云服務(wù)的分時(shí)使用比較高效。

采訪小組：您認(rèn)為人工智能與體系結(jié)構(gòu)的結(jié)合會(huì)是一個(gè)轉(zhuǎn)折點(diǎn)嗎？

Mark：我覺得這其中的確有轉(zhuǎn)折點(diǎn)，但是我不知道具體會(huì)在哪里。我們之前有一項(xiàng)工作，是計(jì)算機(jī)體系結(jié)構(gòu)研究共同體發(fā)表的 21 世紀(jì)計(jì)算機(jī)體系結(jié)構(gòu)白皮書 ……

采訪小組：是的，我們都讀過。

Mark：對(duì)，之后我們又有了一篇新文章，叫做 2030 年的計(jì)算機(jī)體系結(jié)構(gòu)。它其中就提到，機(jī)器學(xué)習(xí)是一個(gè)非常重要的應(yīng)用?？梢钥纯船F(xiàn)在谷歌的工作，有兩個(gè)很明顯的趨勢(shì)，（編注：其中一個(gè)是機(jī)器學(xué)習(xí)），另一個(gè)是云計(jì)算。云計(jì)算正在改變指令集架構(gòu)層面，如果在 20 年前，你要讓別人安裝你的軟件，就一定得是 x86，現(xiàn)在在云中提供服務(wù)的話，大家就不再關(guān)心是不是 x86 了，因?yàn)槿藗円呀?jīng)不再在指令集架構(gòu)層面去交互，而是在更高的層面，例如 API 層面。所以體系結(jié)構(gòu)與 AI 的結(jié)合，人工智能與云計(jì)算的結(jié)合，抽象層次的提高，我個(gè)人覺得都是很令人振奮的領(lǐng)域。但是我個(gè)人不會(huì)做比機(jī)器學(xué)習(xí)更激進(jìn)的事情了，因?yàn)楝F(xiàn)在有很多人已經(jīng)在做體系結(jié)構(gòu)與 AI 的結(jié)合，去年的 ISCA 有三個(gè) session 全是這個(gè)主題的論文。不要去做這種每個(gè)人都在做的領(lǐng)域。

Mark 的學(xué)生：國(guó)際卷積神經(jīng)網(wǎng)絡(luò)年會(huì)（笑）。[6]

Mark：就像買股票，應(yīng)該去買慢牛走勢(shì)的，等它爆發(fā)的時(shí)候再出手賣掉，而不是在股價(jià)起飛的時(shí)候去追高?，F(xiàn)在沖進(jìn)一個(gè)人很多的熱門研究領(lǐng)域就像是股市里追高。應(yīng)該去尋找那些現(xiàn)在不熱門的，但是會(huì)是未來趨勢(shì)的領(lǐng)域。有一句話，應(yīng)該去嘗試寫一個(gè)研究點(diǎn)上的第一篇論文，最佳論文，或者最后一篇論文。

采訪小組：現(xiàn)在有這樣一個(gè)趨勢(shì)，對(duì)于體系結(jié)構(gòu)領(lǐng)域的應(yīng)屆畢業(yè)生來說，市場(chǎng)上有大致上三種工作可以選，一種是去做金融，高頻交易之類，薪水很高；另一種是去做機(jī)器學(xué)習(xí)，利用體系結(jié)構(gòu)領(lǐng)域的知識(shí)和技能去做機(jī)器學(xué)習(xí)應(yīng)用的調(diào)優(yōu)，也是薪水很高；比較符合體系結(jié)構(gòu)傳統(tǒng)的工作，例如去傳統(tǒng)的芯片設(shè)計(jì)公司做芯片，薪水就比較一般。您認(rèn)為這樣的趨勢(shì)會(huì)對(duì)體系結(jié)構(gòu)的研究帶來負(fù)面影響嗎？

Mark：我覺得，讓學(xué)生去做高頻交易之類的事情并沒有什么不好，不會(huì)有什么傷害。但對(duì)于個(gè)人來說，我有一個(gè)推薦，叫做 “十年測(cè)試”。你十年以后想成為什么樣的人？十年后對(duì)你來說什么是重要的？如果你想掙錢，那就去做高頻交易，如果你想去教書育人，并且不在乎較低的薪水，那就去做。重要的是，做自己喜歡的事情。如果是做自己喜歡的事情，你才會(huì)干得更好并且更加勤奮?，F(xiàn)在可能很多畢業(yè)生會(huì)去做機(jī)器學(xué)習(xí)，但是更好的選擇應(yīng)該是，做自己感興趣的。機(jī)器學(xué)習(xí)可能不錯(cuò)，但是如果去非熱門領(lǐng)域，競(jìng)爭(zhēng)者也少。

如何幫助中國(guó)的體系結(jié)構(gòu)學(xué)術(shù)圈保持健康進(jìn)步

采訪小組：現(xiàn)在中國(guó)的體系結(jié)構(gòu)學(xué)術(shù)圈只有大概頂尖的 5-6 所學(xué)校和研究機(jī)構(gòu)，但是美國(guó)大概能囊括 top50 的大學(xué)，在這些大學(xué)里都能夠找到很好的教授和學(xué)生，以及跟工業(yè)界的合作關(guān)系，但是在中國(guó)，這個(gè)范圍縮減到了只有 5-6 所學(xué)校 ……

Mark：中國(guó)的體系結(jié)構(gòu)只限于前 5-6 所學(xué)校？

采訪小組：基本上是的，搜索過去多年 ASPLOS，ISCA 的發(fā)表記錄，會(huì)發(fā)現(xiàn)只有這些學(xué)校能夠有論文。

Mark：這可能是因?yàn)檫@些學(xué)校足夠好，可以跨越語(yǔ)言障礙。你的意思是說其他學(xué)?；静蛔鲶w系結(jié)構(gòu)研究？

采訪小組：是的，其他學(xué)校甚至可能沒有這樣一個(gè)單獨(dú)的體系結(jié)構(gòu)子方向。

Mark：對(duì)于美國(guó)來說，對(duì)體系結(jié)構(gòu)的興趣可以追溯到上世紀(jì) 40 年代。設(shè)計(jì)硬件生來就是計(jì)算機(jī)科學(xué)的一個(gè)組成部分，每一臺(tái)建造的機(jī)器都有不同的指令集，直到有人注意到程序員們一直無法適應(yīng)，然后指令集架構(gòu)的概念在上世紀(jì) 60 年代出現(xiàn)。到了上世紀(jì)末的時(shí)候，就出現(xiàn)了很多層次，有人做芯片，有人做系統(tǒng)，有人做應(yīng)用，有人做界面，這些人都可以在各自的層面上展開合作，這不錯(cuò)?，F(xiàn)在隨著 denard scaling 和摩爾定律的變慢和終結(jié)，很多的能效提高機(jī)會(huì)來自于跨層次的合作，如果你不做體系結(jié)構(gòu)，就會(huì)讓自己陷入劣勢(shì)。例如谷歌現(xiàn)在對(duì)機(jī)器學(xué)習(xí)很感興趣，他們做了什么？體系結(jié)構(gòu)的東西，TPU?，F(xiàn)在已經(jīng)無法做到每隔兩年通用 CPU 的能效大幅度提高了，所以你就需要一個(gè)解決方案，在低得多的能耗下去做計(jì)算。按我的理解，TPU 上出現(xiàn)了很多 8 比特的整數(shù)操作，如果在通用 CPU 上做這樣的操作就很不劃算，但是現(xiàn)在你必須去關(guān)注這樣的東西了。這樣的改進(jìn)在十年前不重要，但是現(xiàn)在則必須去壓榨，性能的提高部分地來自于能效的改良，有了性能你才能去做新的應(yīng)用，比如英語(yǔ) - 中文的實(shí)時(shí)翻譯，這在以前就是荒謬的。抱歉我的回答不是很精練（笑）。

采訪小組：您提到美國(guó)的體系結(jié)構(gòu)成功的因素，例如有造計(jì)算機(jī)、設(shè)計(jì)系統(tǒng)的傳統(tǒng)，有來自工業(yè)界的真實(shí)需求，等等。那我們?cè)鯓硬拍茏屩袊?guó)的體系結(jié)構(gòu)研究也成長(zhǎng)起來，您是否建議我們?cè)摪褋碜怨I(yè)界的需求重新導(dǎo)向給那些尚處在圈外的學(xué)校？

Mark：這總是一個(gè)關(guān)于資源分配的難題，你怎么去分配給最頂尖的學(xué)校，top5，top10，top20 等等。不應(yīng)該把錢都給頂尖的學(xué)校，應(yīng)該把錢分散開，因?yàn)榭赡軙?huì)有一些學(xué)校，冒出了不為人知的想法，但卻是進(jìn)步的關(guān)鍵，此外，有時(shí)也會(huì)有一些很好的學(xué)生身處一個(gè)非頂尖學(xué)校，出于各種各樣的原因，比如她的男朋友去了那個(gè)學(xué)校，等等，要在各個(gè)地方去培育人才，這很重要。在美國(guó)我們也有同樣的問題，真正的大項(xiàng)目來自于美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA），但是他們傾向于與少數(shù)的大學(xué)校，牛校合作，國(guó)家科學(xué)基金會(huì)（NSF）也主要把錢給 top5，top20，其他學(xué)校再分配剩下的。精準(zhǔn)地分配很困難。

采訪小組：在中國(guó)我們也有一個(gè)自然科學(xué)基金會(huì)，但是也有著這樣一種模式，如果在這個(gè)圈子以外的學(xué)校想要進(jìn)來，就得和圈內(nèi)的牛校合作，比如清華。

Mark：我不太喜歡這樣一種必須跟大的集團(tuán)合作的系統(tǒng)，這會(huì)導(dǎo)致平均化并且事情總是由整個(gè)社區(qū)來做。我有個(gè)問題，在美國(guó)，就算我有一個(gè)超級(jí)明星式的學(xué)生，他也不能在威斯康辛大學(xué)找到教職，他必須去其他地方。中國(guó)有沒有這樣的傳統(tǒng)，比如中國(guó)頂尖大學(xué)畢業(yè)的博士生畢業(yè)后可以留在母校任教？

采訪小組：可以留下任教。

Mark：我覺得中國(guó)可以做的最重要的一件能讓學(xué)術(shù)圈健壯的事情就是，禁止大學(xué)雇傭自己的畢業(yè)生。

采訪小組：為什么呢？

Mark：因?yàn)檫@樣做可以進(jìn)行 “異體受精”。你必須去別的地方，遇見不同的人，碰撞不同的想法，誕生新的東西，用一種形象的說法，就像有性生殖比單純的克隆要好。威斯康辛在體系結(jié)構(gòu)領(lǐng)域干得很棒，我們的畢業(yè)生如果做得好的話，會(huì)被四散到各個(gè)地方，那些做得不夠好的學(xué)生，就不讓畢業(yè)，所以關(guān)于這些人的東西就沒有得到傳播，這就是好的。

Mark 的學(xué)生：中國(guó)正在用另一種方式做這件事，他們送好的研究生去美國(guó)，然后畢業(yè)回到中國(guó)任教。

Mark：這也是一種正確的方式。