0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大算力時代 芯動力走出可重構(gòu)架構(gòu)創(chuàng)新“芯”路徑

科技數(shù)碼 ? 來源:科技數(shù)碼 ? 作者:科技數(shù)碼 ? 2023-07-21 09:47 ? 次閱讀

“未來可能不是百模大戰(zhàn),而是萬模群舞。”自ChatGPT掀起大模型的發(fā)展熱潮之后,層出不窮的大模型已然蜂擁而入,風(fēng)雷激蕩。但在經(jīng)歷了最初的驚艷之后,行業(yè)已轉(zhuǎn)移到對商業(yè)化落地的冷靜觀察,一方面業(yè)界認(rèn)可垂直類應(yīng)用模型有望率先實現(xiàn)落地應(yīng)用,另一方面AI大模型的壓縮和優(yōu)化發(fā)展,使得向邊緣端滲透的步伐也在加快,邊緣算力的重要性正加速凸顯。

以更直觀的數(shù)據(jù)來看,有預(yù)測到2030年,邊緣計算潛在市場將在10年內(nèi)以48%的復(fù)合年增長率從2020年的90億美元增長到2030年的4450億美元。而且,中國是邊緣算力的主戰(zhàn)場,預(yù)估到2026年全球26%的網(wǎng)絡(luò)邊緣站點將位于中國。

通用GPU這一算力主流芯片在經(jīng)過AI的淬煉之后,如何更進一步,承接AI大模型下沉至邊緣端的新機遇?無疑,這將更是一場實打?qū)嵉挠舱獭?/p>

可重構(gòu)架構(gòu)打造算力第三極

在日前舉辦的第六屆世界人工智能大會(WAIC)上,珠海芯動力、天數(shù)智芯、燧原科技、登臨科技、愛芯元智、沐曦等企業(yè)展出的芯片、加速卡、軟硬件解決方案和廣泛的行業(yè)應(yīng)用,成為WAIC不容錯過的“風(fēng)景”。

wKgaomS5476ABlRLAAErioNxqbk349.jpg

在WAIC舞臺同場競技的背后,暗藏的邏輯是通用GPU廠商比拼的賽點,已經(jīng)從單純的性能指標(biāo)轉(zhuǎn)向進入真實應(yīng)用場景落地的較量,邊緣側(cè)的競奪也走向白熱化。

“隨著AIGC興起,算力將成為重要的生產(chǎn)力。相比云端,邊緣側(cè)應(yīng)用場景更廣泛,也更能促進生產(chǎn)力的提升創(chuàng)造價值,將對通用GPU產(chǎn)生巨大的市場機會?!毙緞恿EO李原樂觀表示。

顯然這涉及通用GPU的算力、擴展性和編程性、生態(tài)等多維度的比拼。在這一市場,英偉達、AMD、英特爾等占據(jù)強勢地位,且在當(dāng)下國內(nèi)半導(dǎo)體制造面臨全面打壓的情形下,我國通用GPU企業(yè)想要撕開一道口子,有專家建議不能按“常理”出牌,需要從架構(gòu)、材料、封裝等層面進行創(chuàng)新。

不走尋常路,發(fā)布首款基于可重構(gòu)架構(gòu)的GPGPU芯片RPP-R8的珠海芯動力可謂獨辟蹊徑。該公司在2017年成功研發(fā)出可重構(gòu)并行處理器(RPP)架構(gòu),借助于獨有的底層硬件架構(gòu),自帶高性能、原生支持CUDA語言和低功耗等“光芒”,可對AI推理的性能進行深度優(yōu)化。

wKgZomS547-AC0BzAABlxF5HBlw152.jpg

(RPP-六邊形戰(zhàn)士)

芯動力創(chuàng)始人李原分析,在可重構(gòu)芯片面世之前,AI算力芯片主要有專用和通用GPU兩大類,專用芯片性能雖強但編程能力差,有的通用GPU可編程性高但算力不強,要從激烈的競爭中脫穎而出,必須建立強大的優(yōu)勢,而第三類可重構(gòu)芯片則將兩類產(chǎn)品的優(yōu)勢“合二為一”,將躋身成為通用GPU的新一極。

wKgaomS547-AVqSDAAB9Q-sfw2k037.jpg

據(jù)悉,RPP-R8作為一款通用GPU,每顆芯片內(nèi)含有1024個計算核,相比傳統(tǒng)GPU架構(gòu)在同樣的算力占用更小的芯片面積,實現(xiàn)了低功耗和高能效的有效平衡。此外,面積效率比可達到同類產(chǎn)品的7~10倍,能效比也超過3倍。而且,除原生支持CUDA之外,芯動力還擁有自主開發(fā)的工具鏈,使得其能夠在cuDNN和TensorRT上實現(xiàn)API的兼容,同時也支持廣泛的人工智能框架,如TensorFlow和Pytorch等,可全面滿足高效并行計算及AI算力應(yīng)用。

憑借高能效、高算力、低功耗、編程靈活等功力的“加持”,芯動力的RPP-R8在邊緣側(cè)的落地也在快馬加鞭。

解決客戶痛點 打開落地之旅

觸及落地,盡管RPP-R8的性能和生態(tài)獨樹一幟,但作為一個新生“物種”,仍要面臨逐級解鎖的過程。

對此李原認(rèn)為,邊緣側(cè)的市場巨大,傳統(tǒng)市場的AI加速是剛需,通用GPU可替代專用芯片打入供應(yīng)鏈;而新興市場的需求如智能安防、機器視覺等市場也在持續(xù)擴容。但落地最重要的是要解決客戶的痛點,要厘清市場的規(guī)律。

李原進一步剖析,芯片公司容易陷入提倡軟硬件一體化的“怪圈”,但邊緣側(cè)終端客戶對成本并非那么敏感,從產(chǎn)業(yè)鏈來看,芯片公司的客戶大都為設(shè)備廠商,處于終端客戶的下游,一方面芯片公司要學(xué)會將更多利潤留給設(shè)備廠商,讓他們有動力合作切入市場,另一方面芯片公司的客戶大都有實力進行軟件自主開發(fā),因而要順應(yīng)軟硬件分離的需求。

wKgZomS547-AOAtiAAA2qCDAyt8534.jpg

“因而,芯動力提供的是一個過硬的純硬件,加上底層兼容x86、Arm、Windows等軟件系統(tǒng),與其他家的軟件結(jié)合在一起可快速應(yīng)用,讓客戶可順暢地進行開發(fā),有效幫助企業(yè)降低開發(fā)成本和產(chǎn)品周期,加速產(chǎn)品迭代與擴展,這是共贏之道和長久之道?!崩钤治稣f。

基于這樣的深刻洞察,加上直擊痛點以及秉承讓利的“哲學(xué)”,讓芯動力的產(chǎn)品在落地之旅行進在“坦途”之上。李原提到,芯動力產(chǎn)品在智能安防、工業(yè)自動化等一些行業(yè)因可切實解決設(shè)備廠商的痛點,具有不可替代性,起量非??欤疽烟幱诠拯c,更大規(guī)模的出貨將順利推進。

而這只是芯動力的“一小步”,未來還有更遼闊的征程。

李原介紹,芯動力已推出了基于可重構(gòu)架構(gòu)RPP-R8系列三種不同封裝形式的GPGPU芯片,分別是AE8100、AE7100和AE6100;每一款芯片能夠滿足相對的應(yīng)用場景需求。

wKgaomS547-ATkkwAABoPIm5nww787.jpg

“AE8100芯片面向邊緣服務(wù)器等領(lǐng)域,對體積、功耗要求較高;AE7100芯片著力面向低功耗、小體積的應(yīng)用場景;AE6100則聚焦于更小體積上承載更大的性能,正在與客戶一起定義,針對機器視覺的Camera,融合信號采集、圖像處理和GPU加速等功能,以代替前端的ISP,下半年將著重在工業(yè)視覺領(lǐng)域?qū)崿F(xiàn)新的突破?!崩钤P躇滿志表示。

不再跟隨?創(chuàng)新當(dāng)?shù)?/p>

在AIGC熱潮掀起通用GPU的算力革命之際,一個更值得業(yè)界深思的問題也浮出水面。

“業(yè)界均認(rèn)為AIGC大模型是一大風(fēng)口,一大史詩級機遇。但值得深思的是,中國這么多AI公司和GPU公司,為什么美國開大模型之先河?如果不深刻反省,下次再有風(fēng)口出現(xiàn)時我們還是被動跟隨的境況?!崩钤谋硎鲋胁刂恍┥顚拥膬?nèi)省。

李原進一步提議,對國內(nèi)高科技界來說,最重要的是要思考未來十年會向什么方向演變?如果只是一味地跟隨或Repeating,實際上沒有太大價值,也走不出這一循環(huán)。

著眼于通用GPU發(fā)展,李原高瞻遠矚地表示,下一個十年比拼的是它的效率,而不僅是性能。為持續(xù)降低時延和提高帶寬,將衍生出眾多新技術(shù),業(yè)界應(yīng)著力解決芯片外部互聯(lián)挑戰(zhàn),并嘗試采用光電子技術(shù),突破原有的方式才有可能實現(xiàn)超越。

此外,chiplet成為未來算力芯片“擴張”的必然之路,也將產(chǎn)生更多Cost Effective的效果。李原提到,芯動力也將在這一方向持續(xù)耕耘,加強與FPGA廠商合作共贏,切入更多場景,為客戶帶來更具想象力的價值。

對于CUDA兼容的走向,李原也洞察道,客戶不在意底層是用CUDA或別的語言,最重要的是能夠快速迭代、快速開發(fā)。在已經(jīng)選用了CUDA語言的領(lǐng)域里,我們會尊重客戶的選擇,但在新的領(lǐng)域里,完全可以有自由的選擇。

伴隨生成式AI帶動下的這場新興科技革命,邊緣計算的價值將被如芯動力這批“搶灘登陸”的企業(yè)率先釋放,而芯動力的未來之路,也將成為國內(nèi)眾多行業(yè)的數(shù)字化、智能化轉(zhuǎn)型升級的動力之源。

(來源/愛集微)

審核編輯 黃宇


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    453

    文章

    50249

    瀏覽量

    421111
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4678

    瀏覽量

    128612
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29852

    瀏覽量

    268151
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2283

    瀏覽量

    2372
收藏 人收藏

    評論

    相關(guān)推薦

    啟源成為產(chǎn)業(yè)發(fā)展方陣會員單位

    近日,由中國信息通信研究院(以下簡稱“信通院”)牽頭成立的產(chǎn)業(yè)發(fā)展方陣在合肥市成功召開第一次工作組全會,啟源電子科技有限公司受邀參與此次大會并正式成為
    的頭像 發(fā)表于 11-04 09:34 ?152次閱讀

    一體架構(gòu)創(chuàng)新助力國產(chǎn)大AI芯片騰飛

    在灣展SEMiBAY2024《AI芯片與高性能計算(HPC)應(yīng)用論壇》上,億鑄科技高級副總裁徐芳發(fā)表了題為《存一體架構(gòu)創(chuàng)新助力國產(chǎn)大
    的頭像 發(fā)表于 10-23 14:48 ?199次閱讀

    芯片 高性能 CPU/GPU/NPU 微架構(gòu)分析》第1-4章閱讀心得——之巔:從基準(zhǔn)測試到CPU微架構(gòu)的深度探索

    。這一方法突顯了現(xiàn)代超的核心優(yōu)勢——并行計算能力。舉一個具體實例來說,天河二號采用了異構(gòu)架構(gòu),集成了英特爾至強處理器和中國自主研發(fā)的申威眾核加速器。這種CPU與協(xié)處理器的結(jié)合不僅提升了整體計算性能
    發(fā)表于 10-19 01:21

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽

    、GPU、NPU,給我們剖析了芯片的微架構(gòu)。書中有對芯片方案商處理器的講解,理論聯(lián)系實際,使讀者能更好理解芯片。 全書共11章,
    發(fā)表于 10-15 22:08

    【「大模型時代的基礎(chǔ)架構(gòu)」閱讀體驗】+ 未知領(lǐng)域的感受

    國慶前就收到《大模型時代的基礎(chǔ)架構(gòu)》一書,感謝電子發(fā)燒友論壇。歡度國慶之余,今天才靜下心來體驗此書,書不厚,200余頁,彩色圖例,印刷精美! 當(dāng)初申請此書,主要是看到副標(biāo)題“大模型
    發(fā)表于 10-08 10:40

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    試用評測資格! 前言 不知不覺中,我們來到一個計算機科學(xué)飛速發(fā)展的時代,手機和計算機中各類便捷的軟件已經(jīng)融入日常生活,在此背景下,硬件特別是強勁的芯片,對于軟件服務(wù)起到不可替代的支撐作用。芯片的
    發(fā)表于 09-02 10:09

    大模型時代需求

    現(xiàn)在AI已進入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    名單公布!【書籍評測活動NO.41】大模型時代的基礎(chǔ)架構(gòu):大模型中心建設(shè)指南

    工作日內(nèi)未聯(lián)系,視為放棄本次試用評測資格! 書籍介紹 大模型是近年來引人注目的熱點之一。大模型蓬勃發(fā)展的基礎(chǔ),是針對其需求設(shè)計的及基礎(chǔ)架構(gòu)。本書針對如何為大模型構(gòu)建基礎(chǔ)架構(gòu)進行深入
    發(fā)表于 08-16 18:33

    人工智能榮獲“2024AI創(chuàng)新企業(yè)獎”

    近日,稀疏計算引領(lǐng)者墨人工智能宣布,公司榮獲由中國科技產(chǎn)業(yè)智庫「甲子光年」主辦的“甲子引力X:星辰100榜單”評選的“2024AI創(chuàng)新企業(yè)獎”。
    的頭像 發(fā)表于 05-17 09:06 ?402次閱讀
    墨<b class='flag-5'>芯</b>人工智能榮獲“2024AI<b class='flag-5'>算</b><b class='flag-5'>力</b>層<b class='flag-5'>創(chuàng)新</b>企業(yè)獎”

    動力和儲能電的區(qū)別

    動力和儲能電雖然都基于鋰離子電池技術(shù),但它們在設(shè)計、應(yīng)用和性能要求上存在顯著差異。
    的頭像 發(fā)表于 04-25 16:11 ?2629次閱讀

    力系列基礎(chǔ)篇——101:從零開始了解

    相信大家已經(jīng)感受到,我們正處在一個人工智能時代。如果要問在人工智能時代最重要的是什么?那必須是:!
    的頭像 發(fā)表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎(chǔ)篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    時代, 如何打破內(nèi)存墻

    設(shè)計的不斷革新,進入了大時代。 目前,主流AI芯片的架構(gòu)仍然沿用了傳統(tǒng)的馮·諾依曼模型,這一設(shè)計將計算單元與數(shù)據(jù)存儲分離。在這種架構(gòu)下,
    的頭像 發(fā)表于 03-06 19:51 ?288次閱讀
    大<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>時代</b>, 如何打破內(nèi)存墻

    是德科技智能’技術(shù)研討會回顧

    2023年12月20日,是德科技成功舉辦了智能’技術(shù)研討會。此次研討會由是德科技的行業(yè)市場經(jīng)理周巍策劃并主持,研討會聚焦網(wǎng)絡(luò),
    的頭像 發(fā)表于 01-17 09:34 ?658次閱讀

    銳成微亮相智能網(wǎng)聯(lián)汽車“動力成果發(fā)布暨技術(shù)交流對接會

    12月21日,由工信部產(chǎn)業(yè)發(fā)展促進中心等主辦的智能網(wǎng)聯(lián)汽車“動力成果發(fā)布暨技術(shù)交流對接會在福州圓滿舉辦,作為本次大會的重頭戲,《“動力汽車芯片產(chǎn)品評審規(guī)程》《汽車AI芯片
    的頭像 發(fā)表于 12-27 18:16 ?772次閱讀

    燧原科技與青云科技達成戰(zhàn)略合作,創(chuàng)新異構(gòu)調(diào)度

    NEWS 燧原科技與青云科技日前達成戰(zhàn)略合作,攜手創(chuàng)新異構(gòu)資源池的靈活調(diào)度,共建支持場景落地的AI生態(tài),為AI應(yīng)用快速落地、AI
    的頭像 發(fā)表于 12-11 12:20 ?588次閱讀