RISC-V指令集會(huì)促進(jìn)未來(lái)芯片架構(gòu)的發(fā)展

RISC-V指令集會(huì)促進(jìn)未來(lái)芯片架構(gòu)的發(fā)展，真正釋放芯片設(shè)計(jì)的巨大潛力，讓更多的人能夠在專屬領(lǐng)域內(nèi)實(shí)現(xiàn)軟硬結(jié)合，設(shè)計(jì)出合適的架構(gòu)。

雷鋒網(wǎng)按：2020 年 8 月 7 日，全球人工智能和機(jī)器人峰會(huì)（CCF-GAIR 2020）正式開幕。CCF-GAIR 2020 峰會(huì)由中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）主辦，香港中文大學(xué)（深圳）、雷鋒網(wǎng)聯(lián)合承辦，鵬城實(shí)驗(yàn)室、深圳市人工智能與機(jī)器人研究院協(xié)辦。從 2016 年的學(xué)產(chǎn)結(jié)合，2017 年的產(chǎn)業(yè)落地，2018 年的垂直細(xì)分，2019 年的人工智能 40 周年，峰會(huì)一直致力于打造國(guó)內(nèi)人工智能和機(jī)器人領(lǐng)域規(guī)模最大、規(guī)格最高、跨界最廣的學(xué)術(shù)、工業(yè)和投資平臺(tái)。 2020年8月8日上午，來(lái)自學(xué)術(shù)界、工業(yè)街、投資界的重磅嘉賓齊聚CCF-GAIR 2020 AI芯片專場(chǎng)共同探討新基建浪潮下AI芯片發(fā)展的絕佳機(jī)遇。睿思芯科副總裁王衛(wèi)在《領(lǐng)域架構(gòu)促進(jìn)人工智能發(fā)展》的演講中指出，在人工智能時(shí)代，算力提升遇到巨大挑戰(zhàn)，伴隨工藝進(jìn)步速度下降，傳統(tǒng)的提升性能方法也逐漸下降，需要在芯片體系架構(gòu)和計(jì)算體系架構(gòu)上有所創(chuàng)新。RISC-V發(fā)明人David Patterson認(rèn)為，RISC-V這一新新指令集將促進(jìn)未來(lái)芯片架構(gòu)的發(fā)展，實(shí)現(xiàn)算力提升。王衛(wèi)從AI芯片的發(fā)展歷程與設(shè)計(jì)時(shí)需要考量的因素、AI算力在RISC-V指令集中提升的體現(xiàn)、RISC-V的特點(diǎn)與發(fā)展等方面解釋了RISC-V對(duì)人工智能發(fā)展的推動(dòng)作用。

睿思芯科副總裁王衛(wèi)以下為王衛(wèi)的主題演講內(nèi)容，雷鋒網(wǎng)做了不改變?cè)獾木庉嬇c整理：我們公司是一家專注于做RISC-V開源指令集芯片的公司，我們也試圖通過(guò)觀察整個(gè)芯片的發(fā)展歷史展望未來(lái)，了解做AI芯片應(yīng)該研發(fā)的方向，以及整個(gè)行業(yè)芯片體系結(jié)構(gòu)的發(fā)展方向。今天主要分享一些對(duì)未來(lái)AI芯片發(fā)展方向和趨勢(shì)的思考。

尋找提升算力的新思路

—

今天，大家所提的AI，主要是針對(duì)神經(jīng)網(wǎng)絡(luò)這種特定的算法。從基本的原理和算法來(lái)講，大概30年前，就已經(jīng)有基本的框架了。但為什么直到最近幾年，大概是從2012年開始，AI才真正得到了爆發(fā)式的應(yīng)用，并在實(shí)際中有所體現(xiàn)，這主要是因?yàn)樗懔Φ脑鲩L(zhǎng)。

很多業(yè)內(nèi)的權(quán)威專家都在探討算力、算法和數(shù)據(jù)這三個(gè)方面哪一個(gè)更重要一些，其實(shí)三方面都重要。從歷史發(fā)展看，有了算法，如果沒(méi)有足夠的算力支撐，就沒(méi)有辦法在實(shí)踐中得到真正的應(yīng)用。有了算法和算力，必須要有大量的數(shù)據(jù)才能夠得到我們想要的結(jié)果，所以這三者的關(guān)系應(yīng)該是缺一不可的，不過(guò)這三個(gè)方面的發(fā)展程度此起彼伏，在不同的階段有不同的發(fā)展方向，某一方面可能會(huì)走得快一點(diǎn)，但很快它也會(huì)驅(qū)動(dòng)其他幾個(gè)方面共同發(fā)展。 有了算法，只有算力跟上，才能真正發(fā)揮作用，對(duì)整個(gè)社會(huì)產(chǎn)生實(shí)際意義。目前在算法提升的道路上，遇到了巨大挑戰(zhàn)。在芯片性能的發(fā)展中，最早是摩爾定律預(yù)言整個(gè)工業(yè)界都會(huì)按照一定的速度穩(wěn)定地向前發(fā)展。但同時(shí)，為了保持摩爾定律的發(fā)展速度，除了工藝上的進(jìn)步，還包括體系結(jié)構(gòu)等其他方面的進(jìn)步。例如，為了保持算力的增長(zhǎng)速度，從最早的單核代多核并行運(yùn)算，又到串并行協(xié)同運(yùn)算，算力持續(xù)增長(zhǎng)。但最近幾年，現(xiàn)有的思路方法幾乎在提升算力上失效，需要新的思路來(lái)替代，即芯片體系架構(gòu)和計(jì)算體系架構(gòu)的創(chuàng)新。

谷歌TPU帶來(lái)的啟發(fā)

—

以谷歌為例，谷歌無(wú)論是在硬件還是在軟件上都有強(qiáng)大的基礎(chǔ)，他們做出一個(gè)芯片可能一開始效果并不好，但是后來(lái)通過(guò)不斷挑戰(zhàn)算法，以達(dá)到算力的巨大提升。如果設(shè)計(jì)芯片時(shí)，一開始就將它的體系結(jié)構(gòu)和算法有效結(jié)合，最終設(shè)計(jì)出來(lái)的芯片肯定就有更好的表現(xiàn)。

這里引用的人工智能發(fā)展史上的里程碑芯片，即谷歌的TPU，它也是整個(gè)行業(yè)里第一款公開且引起大眾關(guān)注的AI芯片。至今為止，行業(yè)內(nèi)很多AI芯片的基本結(jié)構(gòu)，就是它的基礎(chǔ)上發(fā)展過(guò)來(lái)的，具有代表性意義。這其實(shí)體現(xiàn)了Domain specific architectures（特定領(lǐng)域的體系結(jié)構(gòu)）的強(qiáng)大力量，因?yàn)樗翘囟ǖ貫樯窠?jīng)網(wǎng)絡(luò)算法加速去設(shè)計(jì)的一種芯片硬件結(jié)構(gòu)，通過(guò)對(duì)這個(gè)特定目標(biāo)的機(jī)制優(yōu)化，做出來(lái)一個(gè)性能好、算力強(qiáng)大，在功耗和能耗比上也在當(dāng)時(shí)達(dá)到很好的指標(biāo)的芯片。當(dāng)然，后續(xù)又有很多初創(chuàng)公司或成熟公司，飛速地發(fā)展他們的產(chǎn)品、技術(shù)，更多、更強(qiáng)、更好、的芯片便涌現(xiàn)出來(lái)。 谷歌TPU到了第三代，比第一代有很大的進(jìn)步。TPU3采用水冷技術(shù)降低能耗比，為什么會(huì)用到水冷技術(shù)？因?yàn)榭諝獾纳崮芰τ邢?，單純用風(fēng)扇無(wú)法散走足夠的熱量，必須采用水冷方式才能保證芯片正常工作。但這一芯片主要應(yīng)用于數(shù)據(jù)中心，需要非常好的環(huán)境、相對(duì)較高的成本，才能保證有效降低能耗比的條件。當(dāng)應(yīng)用到終端或邊緣端，不太可能有這些條件提供保障，因此在設(shè)計(jì)終端芯片和邊緣端芯片時(shí)，思路會(huì)有所不同。

架構(gòu)自由創(chuàng)新是RISC-V的關(guān)鍵優(yōu)勢(shì)

—

在具體的實(shí)現(xiàn)方式上，RISC-V發(fā)明人David Patterson認(rèn)為，RISC-V指令集會(huì)促進(jìn)未來(lái)芯片架構(gòu)的發(fā)展，真正釋放芯片設(shè)計(jì)的巨大潛力，讓更多的人能夠在專屬領(lǐng)域內(nèi)實(shí)現(xiàn)軟硬結(jié)合，設(shè)計(jì)出合適的架構(gòu)。RISC-V作為一個(gè)計(jì)算機(jī)體系架構(gòu)，是近期非常熱門的話題，RISC-V的特點(diǎn)是什么？開源的、免費(fèi)的、低成本的，是RISC-V的絕對(duì)優(yōu)勢(shì)。如果從芯片的體系結(jié)構(gòu)角度而言，其最大的優(yōu)勢(shì)則是像樂(lè)高積木一樣的模塊化結(jié)構(gòu)。RISC-V把指令集中的不同功能子集分得很細(xì)致，不同的模塊之間可以自由地排列組合，而且整個(gè)指令集中預(yù)留了大量自動(dòng)指令集，可以讓客戶在芯片層面結(jié)合子集的算法和應(yīng)用需求，定制一個(gè)對(duì)應(yīng)自己專屬場(chǎng)景最有用、最優(yōu)化的命令。這也是Domain specific architectures的經(jīng)典體現(xiàn)。

因此，RISC-V最關(guān)鍵的技術(shù)優(yōu)勢(shì)在于可以在架構(gòu)上自由創(chuàng)新。在RISC-V指令集中，AI算力的提升體現(xiàn)在其向量擴(kuò)展指令集方面，規(guī)定了跟CPU本身高度耦合的擴(kuò)展指令集，可以通過(guò)向量的擴(kuò)展指令集的運(yùn)算，從硬件上加速各種矩陣乘加的運(yùn)算。目前所有的深度學(xué)習(xí)，對(duì)算力要求最高的是各種矩陣運(yùn)算，恰好能夠在RISC-V指令集中實(shí)現(xiàn)。 另外，由于RISC-V是開源的，會(huì)吸引更多人加入這一體系結(jié)構(gòu)中，去研發(fā)、去競(jìng)爭(zhēng)，帶來(lái)更多創(chuàng)新，推動(dòng)自主可控的新基建。 對(duì)于RISC-V，大家更多的是在強(qiáng)調(diào)其在終端或邊緣的應(yīng)用。事實(shí)上，RISC-V本身沒(méi)有適用于終端或者云端的屬性，RISC-V也可以在云端，在高性能、大規(guī)模運(yùn)算上發(fā)揮優(yōu)勢(shì)。但作為指令集，越復(fù)雜的應(yīng)用對(duì)整個(gè)生態(tài)的依賴程度越高，包括編譯器、工具鏈、具體架構(gòu)的設(shè)計(jì)，相對(duì)云端而言，邊緣端對(duì)生態(tài)的依賴程度更低，因此RISC-V在云端的應(yīng)用會(huì)晚于在邊緣端的應(yīng)用。

開源架構(gòu)更需國(guó)際協(xié)作

—

RISC-V的發(fā)展非常迅速，RISC-V基金會(huì)已有500多個(gè)成員，包括全球各地的軟件公司、芯片公司、服務(wù)商、云服務(wù)提供商等，中國(guó)也有非常多的公司在積極地參與RISC-V開源組織。在軟件方面，開源的東西有越多的人參與，它的發(fā)展速度就越快，甚至?xí)手笖?shù)級(jí)發(fā)展，RISC-V也是如此。

我們對(duì)RISC-V的認(rèn)知是結(jié)合了所有的開源項(xiàng)目，包括硬件、軟件，它必然需要國(guó)際上的協(xié)作，在一個(gè)特定的小圈子里，在特定地域范圍內(nèi)做開源，最終是不可能成功的。如果你希望享受開源的成果，就應(yīng)該更積極地去參與，更積極地對(duì)整個(gè)社區(qū)有所貢獻(xiàn)。所以目前國(guó)內(nèi)已經(jīng)有很多公司在積極參與RISC-V基金會(huì)的活動(dòng)。包括我們公司的創(chuàng)始人譚章熹博士，本身就是RISC-V基金會(huì)董事會(huì)的成員之一，也非常積極地把我們所做的RISC-V方面的一些研究成果、生態(tài)環(huán)境的促進(jìn)工作往前推進(jìn)，希望更加積極地回饋RISC-V社區(qū)，也希望更多人加入到RISC-V開源社區(qū)中來(lái)，希望未來(lái)RISC-V、x86、ARM能夠形成三足鼎立的格局。 尤其是對(duì)中國(guó)而言，新基建下，一個(gè)開源的、開放的，充分國(guó)際合作且無(wú)人能阻止的平臺(tái)，我們認(rèn)為意義重大，對(duì)它的發(fā)展抱有非常大的信心。因?yàn)槲覀円部吹皆诙潭桃荒曛畠?nèi)，在中國(guó)整個(gè)領(lǐng)域相關(guān)的公司和產(chǎn)品都發(fā)展得非常迅速，我們也希望對(duì)整個(gè)發(fā)展做出貢獻(xiàn)，希望跟更多業(yè)界的同仁們合作，如果大家希望在RISC-V基金會(huì)能有更多的反饋，我們也非常愿意進(jìn)行這樣的合作。