人生是場長跑,制勝的關(guān)鍵不是瞬間的爆發(fā)力,而是整場比賽的平均速度。AI(人工智能)芯片同理,考驗(yàn)一款A(yù)I芯片的優(yōu)良不僅僅是峰值算力,還有長時(shí)間工作下的實(shí)測性能。
隨著AI日益成熟,數(shù)字化正深入各個領(lǐng)域。AI產(chǎn)業(yè)鏈包括三層,其中最底層也是最基礎(chǔ)的就是以芯片等硬件為AI提供數(shù)據(jù)及算力支撐的基礎(chǔ)層。
鯤云科技便是國內(nèi)諸多AI芯片設(shè)計(jì)廠商中一顆冉冉升起的新星,自成立之初專注AI芯片的研發(fā)設(shè)計(jì)。鯤云科技以數(shù)據(jù)流技術(shù)為核心,提供高性能、低延時(shí)、高算力性價(jià)比的下一代人工智能計(jì)算平臺。
6月,鯤云科技憑借CAISA芯片,獲得了中國智能科技技術(shù)最高獎——吳文俊人工智能專項(xiàng)獎芯片項(xiàng)目一等獎。
鯤云科技聯(lián)合創(chuàng)始人兼首席技術(shù)官蔡權(quán)雄在接受南方財(cái)經(jīng)全媒體記者采訪時(shí)表示,隨著摩爾定律逼近物理極限,單純依靠制程提高芯片性能愈發(fā)困難,鯤云的核心技術(shù)是采用定制的數(shù)據(jù)流架構(gòu),該架構(gòu)可以不依賴指令集加速人工智能計(jì)算。鯤云科技可基于現(xiàn)有的成熟制程,通過架構(gòu)創(chuàng)新,提高芯片的使用率,從而大幅降低用戶使用人工智能的成本。
另辟蹊徑自主研發(fā)底層架構(gòu)
在2015年牛昕宇參加學(xué)術(shù)論壇后,臺下一位天使投資人對其發(fā)出創(chuàng)業(yè)邀請。彼時(shí)他師從數(shù)據(jù)流架構(gòu)的開創(chuàng)鼻祖陸永青院士,是英國帝國理工學(xué)院的全獎博士和實(shí)驗(yàn)室負(fù)責(zé)人。
圖/鯤云科技?xì)v輪融資史(來源:企查查)
那年第一代AI芯片開始爆發(fā),傳統(tǒng)芯片廠商、算法公司、互聯(lián)網(wǎng)巨頭魚貫而入。牛昕宇開始有點(diǎn)猶豫,但在陸永青院士的支持下,2016年他毅然回國創(chuàng)立了鯤云科技。后來,牛昕宇又向師兄蔡權(quán)雄拋出橄欖枝,邀請他出任鯤云科技CTO,并從帝國理工學(xué)院挖掘了一批創(chuàng)業(yè)伙伴。
蔡權(quán)雄表示,創(chuàng)業(yè)初期最大難點(diǎn)是對AI芯片市場需求的判斷,這將其決定技術(shù)路線的迭代方向;這才有前期產(chǎn)品一邊同客戶推廣,一邊觀察市場需求反復(fù)打磨的經(jīng)歷。
“做AI芯片有兩個方向。一個是基于傳統(tǒng)的指令集架構(gòu),這條路相對容易,但是在芯片利用率上很難拉開差距。例如國外的AI芯片在算力和制程每一個指標(biāo)都非常領(lǐng)先,加上國外專利的壟斷性,在這種情況下,我們在這條路上想要突出重圍,是非常難的?!迸j坑畋硎尽?/p>
鯤云科技基于30余年的技術(shù)基礎(chǔ),瞄準(zhǔn)數(shù)據(jù)流架構(gòu)獨(dú)立研發(fā)。早在求學(xué)期間,牛昕宇就已經(jīng)將數(shù)據(jù)流底層技術(shù)作為主要的研發(fā)方向,并致力于推進(jìn)數(shù)據(jù)流架構(gòu)和各個特定應(yīng)用領(lǐng)域的融合,比如金融、機(jī)器學(xué)習(xí)、物理仿真等。
經(jīng)過三年打磨,2020年鯤云發(fā)布全球首款數(shù)據(jù)流AI芯片CAISA,搭載了四個CAISA3.0引擎,峰值性能可達(dá)10.9TOPs,經(jīng)第三方檢測,該芯片可實(shí)現(xiàn)最高95.4%的芯片利用率,并已實(shí)現(xiàn)量產(chǎn)。
與X86架構(gòu)、ARM架構(gòu)等指令集架構(gòu)不同,數(shù)據(jù)流架構(gòu)的顯著特點(diǎn)就是依托數(shù)據(jù)流的流動次序控制計(jì)算執(zhí)行次序,而非指令執(zhí)行次序,使用粗粒度表示來提高數(shù)據(jù)的并行度,并允許編譯器同時(shí)調(diào)度多個順序循環(huán)和功能,以實(shí)現(xiàn)更高的吞吐量和更低的延遲。
數(shù)據(jù)流架構(gòu)的意義在于突破了傳統(tǒng)芯片架構(gòu)對芯片利用率的束縛,最大化發(fā)揮芯片的峰值性能,蔡權(quán)雄表示,“我們的紙面標(biāo)稱性能可能不及同類競品,但是我們實(shí)際使用效率或?qū)嶋H算力比肩同類競品,價(jià)格上還有一定的優(yōu)勢?!?/p>
對于定制類架構(gòu),市面上有聲音認(rèn)為通用性不足,牛昕宇表示,這恰恰是數(shù)據(jù)流能解決的問題,CAISA定制數(shù)據(jù)流架構(gòu)是一個針對深度學(xué)習(xí)領(lǐng)域的通用架構(gòu),CAISA架構(gòu)底層算子可配置支持不同計(jì)算方式,支持不同算子組合和拓展,不同框架和開發(fā)方式可通過端到端的編譯器RainBuilder來支持實(shí)現(xiàn)。
多場景落地實(shí)現(xiàn)商用
目前,鯤云研發(fā)的CAISA芯片及加速卡產(chǎn)品等已在多個領(lǐng)域?qū)崿F(xiàn)商用。鯤云科技為智慧安監(jiān)、智慧油田、智慧化工等領(lǐng)域提供包括邊緣計(jì)算及數(shù)據(jù)中心在內(nèi)的整體解決方案。
所謂邊緣計(jì)算有一個著名“章魚論”。章魚捕獵靈巧迅速,腕足之間配合嫻熟,這是因?yàn)檎卖~神經(jīng)元只有40%在腦部,剩下60%分布在章魚的八條觸角上,以觸角替代大腦思考,就近解決問題和快速反應(yīng),章魚這種信息處理方式就相當(dāng)于“邊緣計(jì)算”。
隨著技術(shù)的發(fā)展,人們越來越需要在“腕足”的邊緣,實(shí)現(xiàn)計(jì)算和決策?!霸谶@些場景中,‘降本增效’是核心需求”,蔡權(quán)雄表示。
例如在化工場景中,傳統(tǒng)的安防監(jiān)控系統(tǒng)已經(jīng)比較成熟,攝像頭監(jiān)控系統(tǒng)基本部署完成,但視頻結(jié)構(gòu)化利用率較低,單純依靠人工巡檢不現(xiàn)實(shí)。
據(jù)介紹,鯤云科技采用邊緣計(jì)算,對現(xiàn)場接入的百余路視頻進(jìn)行視頻處理,實(shí)現(xiàn)全廠區(qū)24小時(shí)實(shí)時(shí)監(jiān)控,及時(shí)發(fā)現(xiàn)火情、安全防護(hù)著裝違規(guī)、作業(yè)場所違規(guī)操作等風(fēng)險(xiǎn)事件并報(bào)警,幫助安全管理中心及時(shí)做出反應(yīng)。憑借CAISA芯片的高算力性價(jià)比,智慧安監(jiān)在提升感知效率的同時(shí),也能降低用戶的使用成本,現(xiàn)已在國內(nèi)超1000個項(xiàng)目中使用。
蔡權(quán)雄表示,許多邊緣端場景還存在“碎片化”需求,因此廠商除了考慮提升芯片利用率,做到更高算力性價(jià)比之外,還需要思考如何提升通用性、軟件易用性等。
除此之外,為面向高性能AI推理市場,鯤云推出星空加速卡X3,現(xiàn)已與浪潮、中國聯(lián)通、飛騰、麒麟軟件等企業(yè)完成產(chǎn)品適配,落地在邊緣端及數(shù)據(jù)中心。
蔡權(quán)雄表示,數(shù)據(jù)中心更注重構(gòu)建先進(jìn)的AI算力基礎(chǔ)設(shè)施,一方面,算力基礎(chǔ)設(shè)施更新?lián)Q代會降低數(shù)據(jù)的傳輸成本,導(dǎo)致更多的數(shù)據(jù)被收集,產(chǎn)生更大的算力需求;另一方面,算力密度越來越高,系統(tǒng)性能越來越強(qiáng),部署成本越來越可控。
在他看來,邊緣和云會有共存的關(guān)系,邊緣側(cè)主要進(jìn)行實(shí)時(shí)處理,數(shù)據(jù)中心匯集后進(jìn)行更深入的分析,二者都在快速增長中,且都有廣闊的市場前景。
在首款數(shù)據(jù)流AI芯片實(shí)現(xiàn)量產(chǎn)并大規(guī)模商用后,鯤云科技并未停下腳步。據(jù)蔡權(quán)雄透露,明年鯤云科技將會推出第二代CAISA芯片,采用先進(jìn)制程,采用CAISA 4.0架構(gòu),最大特點(diǎn)是實(shí)現(xiàn)單芯片上解決所有AI的相關(guān)運(yùn)算。
審核編輯 :李倩
-
數(shù)據(jù)中心
+關(guān)注
關(guān)注
16文章
4520瀏覽量
71650 -
數(shù)字化
+關(guān)注
關(guān)注
8文章
8356瀏覽量
61394 -
AI芯片
+關(guān)注
關(guān)注
17文章
1828瀏覽量
34672
原文標(biāo)題:深度|21世紀(jì)經(jīng)濟(jì)報(bào)道 · 鯤云科技研發(fā)數(shù)據(jù)流AI芯片,助力多場景數(shù)字化改造升級
文章出處:【微信號:鯤云科技,微信公眾號:鯤云科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論