超算如何支持深度學(xué)習(xí)應(yīng)用？國家超級計(jì)算無錫中心主任楊廣文教授現(xiàn)場解惑

2017年4月18日，由鯤云科技主辦的2018年全球人工智能應(yīng)用創(chuàng)新峰會在深圳五洲賓館召開，來自中國超級計(jì)算領(lǐng)域國際權(quán)威清華大學(xué)楊廣文教授，介紹了神威太湖之光超級計(jì)算機(jī)的系統(tǒng)架構(gòu)和應(yīng)用，其中對于引入AI的計(jì)算加速芯片，引發(fā)了現(xiàn)場眾多工程師的共鳴。

人工智能有兩個大的應(yīng)用領(lǐng)域，一個是物聯(lián)網(wǎng)的前端，一個是超級計(jì)算中心。楊廣文教授是清華大學(xué)教授，連續(xù)四年國際超算領(lǐng)域的權(quán)威專家，2016年和2017年，楊廣文教授帶領(lǐng)的國家超算中心無錫中心神威太湖之光，獲得國際評選超算第一名。這部國之重器目前的在應(yīng)用端的重大成果，包括在AI深度學(xué)習(xí)方面有哪些亮點(diǎn)，國家無錫超算中心主任楊廣文教授帶來了最新的資訊和成果分享。

“神威·太湖之光”是世界上首臺峰值浮點(diǎn)運(yùn)算性能超過每秒十億億次的超級計(jì)算機(jī)?！吧裢ぬ狻币彩俏覈谝慌_全部采用國產(chǎn)處理器構(gòu)建的世界排名第一的超級計(jì)算機(jī)。2016年年底，國際高性能計(jì)算應(yīng)用最高獎戈登·貝爾獎公布獲獎入選名單中，依托于“神威·太湖之光”的強(qiáng)大計(jì)算能力，中國有3項(xiàng)應(yīng)用入圍最終提名，占了總?cè)雵?xiàng)目的一半，2017年三項(xiàng)入圍應(yīng)用中，基于“神威·太湖之光”的應(yīng)用占據(jù)2/3。

楊廣文教授介紹說，神威·太湖之光超級計(jì)算機(jī)由40個運(yùn)算機(jī)柜和8個網(wǎng)絡(luò)機(jī)柜組成。每個運(yùn)算機(jī)柜包含4塊由32塊運(yùn)算插件組成的超節(jié)點(diǎn)分布其中。每個插件由4個運(yùn)算節(jié)點(diǎn)板組成，一個運(yùn)算節(jié)點(diǎn)板又含2塊“申威26010”高性能處理器。一臺機(jī)柜就有1024塊處理器，整臺“神威·太湖之光”共有40960塊處理器。每個單個處理器有260個核心，主板為雙節(jié)點(diǎn)設(shè)計(jì)，每個CPU固化的板載內(nèi)存為32GBDDR3-2133。芯片是低功耗設(shè)計(jì)，制冷是全水冷設(shè)計(jì)，供電是全直流供電，這臺機(jī)器性能穩(wěn)定。

神威 太湖之光，這臺機(jī)器放在太湖旁，緊鄰我國經(jīng)濟(jì)最發(fā)達(dá)的長三角地區(qū)。前面有上海，后面有江蘇、無錫，南京和常州，這些都是GDP上萬億的城市，這些地區(qū)對超算的需求是迫切的。國家對超算的需求：解決重大科技問題，研究重大裝備。無論是科技需求，還是經(jīng)濟(jì)需求，長三角都是合適的。

楊廣文教授在超算中心，主要職責(zé)就是運(yùn)維好，運(yùn)維的目的就是將這臺超級計(jì)算機(jī)用好。楊廣文教授指出，中國制造2025是國家重大戰(zhàn)略，如何幫助中國企業(yè)和產(chǎn)業(yè)進(jìn)行轉(zhuǎn)型升級？楊廣文教授調(diào)研發(fā)現(xiàn)，中國轉(zhuǎn)型升級的關(guān)鍵問題，創(chuàng)新性設(shè)計(jì)沒有多少，造船廠沒有原型設(shè)計(jì)，只是在大輪船的基礎(chǔ)上，做一些細(xì)節(jié)的修改。電力公司也沒有設(shè)計(jì)。

“超算中心，可以在數(shù)據(jù)的基礎(chǔ)上進(jìn)行創(chuàng)新設(shè)計(jì)模擬，對于國家重要工業(yè)設(shè)計(jì)進(jìn)行創(chuàng)新性設(shè)計(jì)模擬是有很強(qiáng)的助力的，要把這個工作做好，路程還非常遙遠(yuǎn)。如果路線清晰，國家提倡的產(chǎn)業(yè)轉(zhuǎn)型升級看到的路徑就很清晰了?！睏顝V文教授指出眾多中國制造企業(yè)存在的痛點(diǎn)。

神威三代發(fā)展歷程，第一代主要是放在氣象中心，第二代是神威藍(lán)光，放在濟(jì)南，千萬億次的計(jì)算速度，第三代神威太湖之光，2016年6月20日發(fā)布，中國的“神威?太湖之光”超級計(jì)算機(jī)以每秒10億億次的浮點(diǎn)運(yùn)算速度第三次奪冠，比第二名“天河二號”快出近兩倍（“天河二號”也是中國的）。這是劃時代的機(jī)器，功能強(qiáng)大，性能穩(wěn)定。

世界強(qiáng)國已經(jīng)把中國神威太湖之光作為趕超的對象，楊廣文教授表示，2018年6月份，美國新的超級計(jì)算機(jī)會誕生，據(jù)外界說法這個新超級計(jì)算機(jī)由該實(shí)驗(yàn)室與IBM聯(lián)合研制，由NVIDIA公司提供動力，將于2018投入使用。浮點(diǎn)運(yùn)算速度會達(dá)到200P，200千萬億次運(yùn)算。

關(guān)于“制造世界上運(yùn)算速度最快的超級計(jì)算機(jī)”的競爭，一直在中美日韓等國之間進(jìn)行，“在這之前，計(jì)算機(jī)產(chǎn)業(yè)確實(shí)存在這樣的競爭。不過，現(xiàn)在更重要的是在于，這樣高運(yùn)算速度的超級計(jì)算機(jī)能用在什么領(lǐng)域這才是現(xiàn)在科技領(lǐng)域的競爭關(guān)鍵點(diǎn)。神威太湖之光花費(fèi)國家預(yù)算23億人民幣，這臺機(jī)器如何去維護(hù)好？

超級計(jì)算機(jī)的核心使命是解決重大科技問題，優(yōu)勢是大的計(jì)算資源。神威·太湖之光”兩年來的利用率已經(jīng)超過50%，累計(jì)擁有幾百項(xiàng)應(yīng)用課題，到目前基于“神威·太湖之光”已完成了20多個應(yīng)用領(lǐng)域上百項(xiàng)應(yīng)用的計(jì)算任務(wù)，目前完成的整機(jī)應(yīng)用已達(dá)15個，取得一些重要的應(yīng)用成果。

楊廣文教授介紹表示，超級計(jì)算機(jī)能夠獲得戈登·貝爾獎，有三個標(biāo)準(zhǔn)：有足夠大的計(jì)算，有足夠強(qiáng)的問題，有先進(jìn)的研究結(jié)果。

2017年11月美國丹佛SC17大會上，“神威·太湖之光”不僅在硬件方面繼續(xù)保持TOP 500世界第一的殊榮，并且基于“神威·太湖之光”系統(tǒng)的2項(xiàng)全機(jī)應(yīng)用“全球氣候模式的高性能模擬”、“非線性大地震模擬”，一舉拿下了“戈登?貝爾”獎，實(shí)現(xiàn)了我國高性能計(jì)算應(yīng)用在此項(xiàng)大獎的蟬聯(lián)！2017年，國家超算中心做了非線性地震模擬，該工具首次實(shí)現(xiàn)了對唐山大地震（M7.2， 1976）發(fā)生過程的高分辨率精確模擬，使得科學(xué)家可以更好的理解唐山大地震所造成的影響，并對未來的地震災(zāi)害救援演習(xí)、預(yù)防預(yù)測等研究具有重要的借鑒意義。

超算如何支持深度學(xué)習(xí)？

我們支持深度學(xué)習(xí)，超級計(jì)算機(jī)支持千萬核，效率是74%，這臺機(jī)器計(jì)算能力超強(qiáng)，完全可以支持人工智能的深度學(xué)習(xí)應(yīng)用需求，許多IT公司的技術(shù)負(fù)責(zé)人找到我們。

關(guān)于無錫超算對深度學(xué)習(xí)的支持，楊廣文教授說：“第一個開發(fā)了大量深度學(xué)習(xí)算法并行軟件；第二，研發(fā)了一個深度學(xué)習(xí)平臺swCaffe，來支持用戶基于這個進(jìn)行深度學(xué)習(xí)應(yīng)用，目前已開展的應(yīng)用包括圍棋、語音識別、醫(yī)學(xué)圖像識別、遙感圖像分類、地震波余震特征識別、大規(guī)模冷凍電鏡生物大分子模型高精度重構(gòu)等；第三，我們也在布局，與國家并行計(jì)算機(jī)工程技術(shù)中心基于申威26010芯片開展小型化機(jī)器研發(fā)，特備針對特殊應(yīng)用開展專用機(jī)的研制。進(jìn)一步，可根據(jù)重大應(yīng)用需求，提出一些申威自主芯片的一些改進(jìn)方案，如針對人工智能、深度學(xué)習(xí)做一些定制的芯片，這是一個長期的研究工作。”AI時代對計(jì)算能力的要求，楊廣文教授認(rèn)為未來需求還是會朝著定制化的方向的發(fā)展。