0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

燧原科技集群式AI算力服務(wù)將助國產(chǎn)大模型“百舸爭流”

燧原科技Enflame ? 來源:上海經(jīng)信委 ? 2024-03-28 11:03 ? 次閱讀

根據(jù)《上海打造未來產(chǎn)業(yè)創(chuàng)新高地發(fā)展壯大未來產(chǎn)業(yè)集群行動方案》(滬府發(fā)〔2022〕11號)部署,市經(jīng)濟信息化委聯(lián)合市委組織部、市發(fā)展改革委、市教委、市科委、市市場監(jiān)管局、市國資委等單位共同指導(dǎo)舉辦了2023全球“未來產(chǎn)業(yè)之星”大賽(簡稱“大賽”),立足國際視野、面向全球聚焦前沿科技與應(yīng)用創(chuàng)新,以“項目+人才”雙輪驅(qū)動的模式,推進(jìn)未來產(chǎn)業(yè)領(lǐng)域的技術(shù)創(chuàng)新和成果產(chǎn)業(yè)化,為上海打造未來產(chǎn)業(yè)創(chuàng)新高地提供項目和人才支撐。

首屆大賽吸引海內(nèi)外536個高能級項目和高層次人才報名,全面覆蓋5大未來產(chǎn)業(yè)領(lǐng)域、16個技術(shù)方向。經(jīng)過初、復(fù)、決賽多輪競逐,涌現(xiàn)出一批未來產(chǎn)業(yè)優(yōu)秀項目及人才。2024年上海市產(chǎn)業(yè)技術(shù)創(chuàng)新大會上,舉行了大賽頒獎儀式,10個項目和10位人才獲超能獎。

即日起,上海經(jīng)信委推出“未來產(chǎn)業(yè)之星”專欄,宣傳介紹大賽優(yōu)秀項目,展示未來產(chǎn)業(yè)前沿技術(shù)及企業(yè)風(fēng)采。

未來智能

涵蓋了人工智能、大數(shù)據(jù)、云計算等前沿技術(shù)的智能計算技術(shù)正以驚人的速度改變著我們的生活和工作方式,也是未來科技的“航向標(biāo)”。前年底,以ChatGPT為標(biāo)志性事件的包括對話機器人、文字續(xù)寫等文生文領(lǐng)域的一系列示范性創(chuàng)新應(yīng)用的出現(xiàn),迅速引領(lǐng)人工智能進(jìn)入了以內(nèi)容生成為核心特色的AI2.0時代。在大模型“百家爭鳴”、風(fēng)起云涌的契機下,應(yīng)如何做好準(zhǔn)備,迎接人工智能的大規(guī)模產(chǎn)業(yè)化?

在上海燧原科技有限公司產(chǎn)品市場高級總監(jiān)陳超看來,人工智能對人類生產(chǎn)力產(chǎn)生巨大影響的同時,對于基礎(chǔ)設(shè)施的算力服務(wù)范式同樣產(chǎn)生了根本性的變革?!拔磥淼耐ㄓ萌斯ぶ悄蹵GI必然需要通過集群式的AI算力提供持續(xù)的、規(guī)模性的、集約性的算力服務(wù)提供,”陳超說,在這一趨勢下,面向超大模型的云燧智算機CloudBlazer POD,即旨在滿足AIGC時代對超大規(guī)模算力的迫切需求。

據(jù)了解,燧原科技專注人工智能芯片、板卡和集群產(chǎn)品的研發(fā),其基于云燧智算機的系統(tǒng)產(chǎn)品形態(tài),可提供高算力密度、高性能的同時具備高擴展性和高性價比的集群算力形態(tài),為包括各類型的智算中心和大模型訓(xùn)練與開發(fā)提供極具性價比優(yōu)勢的系統(tǒng)方案。

陳超指出,當(dāng)前智算中心以及客戶端針對系統(tǒng)集群有幾大痛點,一是從智算中心需求立項,到集群架構(gòu)方案確定、采購招標(biāo)、交付建設(shè)直到上線運營,時間跨度非常大;二是智算中心一直詬病算力利用率較低,不能充分發(fā)揮集群的算力優(yōu)勢,導(dǎo)致企業(yè)的投入產(chǎn)出效率太低,收回投入遙遙無期;三是當(dāng)集群規(guī)模越大,設(shè)備的穩(wěn)定性嚴(yán)重影響到業(yè)務(wù)的持續(xù)運行,降低了集群的可用時間占比,極致嚴(yán)重的情況下會導(dǎo)致業(yè)務(wù)不可運行。

針對這些問題,燧原科技基于云燧智算機的方案打通了生產(chǎn)供應(yīng)全流程,從整體方案層面進(jìn)行設(shè)計優(yōu)化,平衡算力、存儲和網(wǎng)絡(luò)的配比與配置,從而大幅度提高了集群的算力利用率,同時云燧智算機從芯片、板卡、服務(wù)器、單POD機柜到多機柜聯(lián)合設(shè)計了一系列的系統(tǒng)級壓力測試方案,保證提供24小時穩(wěn)定的算力基礎(chǔ)設(shè)施。

在產(chǎn)品落地和大規(guī)模產(chǎn)業(yè)化的過程中,這一未來技術(shù)會遇到怎樣的挑戰(zhàn)?

陳超表示,一方面,部署場景是多元化的,數(shù)據(jù)中心的選址和布局,客戶的應(yīng)用場景都是不一樣的。如何在軟硬件層面兼容客戶多元化的需求,提供面向應(yīng)用的高效能支撐,是云燧智算機持續(xù)迭代優(yōu)化的源動力。

另一方面,客戶對于降本增效的需求是持續(xù)存在的。如何納入新的技術(shù)與產(chǎn)品形態(tài),如何打造匹配不同訴求的集群方案,是云燧智算機持續(xù)優(yōu)化方案、優(yōu)化供應(yīng)鏈、優(yōu)化生產(chǎn)各環(huán)節(jié)的聚焦點。

此外,在算力密度持續(xù)增高,算力規(guī)模持續(xù)放大的形勢下,數(shù)據(jù)中心對于能效提出了更高的要求,系統(tǒng)級散熱方案也在持續(xù)優(yōu)化,從傳統(tǒng)的風(fēng)冷向液冷的多技術(shù)方案持續(xù)演進(jìn)。

在陳超看來,大賽面向全球聚焦前沿科技與應(yīng)用創(chuàng)新,這種國際化的平臺不僅為參賽選手提供了廣闊的機會來展示自己的才華和創(chuàng)新力,也為其提供了與來自世界各地的優(yōu)秀人才互動的機會,促進(jìn)了國際間的技術(shù)和經(jīng)驗交流。

此外,“國際交流與合作能加速創(chuàng)新成果的轉(zhuǎn)化和應(yīng)用,為全球經(jīng)濟和社會發(fā)展帶來更多的機遇和變革,”陳超說,燧原科技參與大賽的初衷,正是希望其專為大模型量身定做的AI集群產(chǎn)品得到國內(nèi)外產(chǎn)、學(xué)、研、用各界專家的關(guān)注,進(jìn)一步加強與全球范圍內(nèi)產(chǎn)業(yè)專家與合作伙伴的深入溝通交流。

在陳超看來,國際科技競爭日益加劇,集成電路與人工智能的形勢尤為嚴(yán)峻。AI芯片是集成電路與人工智能的交匯之處,具有重要戰(zhàn)略意義與現(xiàn)實意義,加快建設(shè)國產(chǎn)AI芯片生態(tài)十分必要且萬分緊迫?!岸嗄陙?,上海及長三角地區(qū)一直是中國集成電路和人工智能產(chǎn)業(yè)的創(chuàng)新高地,產(chǎn)業(yè)鏈條完整、龍頭企業(yè)眾多、頂尖人才匯聚,擁有全生態(tài)技術(shù)產(chǎn)品開發(fā)及商業(yè)化應(yīng)用的能力,已經(jīng)具備建設(shè)國產(chǎn)AI芯片產(chǎn)業(yè)生態(tài)的各項準(zhǔn)備條件?!?/p>

針對國產(chǎn)AI算力芯片產(chǎn)業(yè)的未來發(fā)展,陳超建議,一是要重視有效算力,推動算盡其用,讓國產(chǎn)算力落地見效、開花結(jié)果,推動AI技術(shù)賦能更多行業(yè);第二,立足國內(nèi)市場,放眼世界舞臺,一方面要逐步實現(xiàn)自主、可控、安全的目標(biāo),另一方面要以更加長遠(yuǎn)的戰(zhàn)略眼光,謀劃中長期全球科技發(fā)展格局,面向全球打造AI芯片生態(tài)的更多可能性;三是“AI芯片企業(yè)需要加速向規(guī)模化方向發(fā)展,更快更好地實現(xiàn)自我造血,追求長遠(yuǎn)的、可持續(xù)的、可預(yù)測的發(fā)展?!?/p>



審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 云計算
    +關(guān)注

    關(guān)注

    39

    文章

    7701

    瀏覽量

    137116
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46652

    瀏覽量

    237090
  • 大數(shù)據(jù)
    +關(guān)注

    關(guān)注

    64

    文章

    8854

    瀏覽量

    137212
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1850

    瀏覽量

    34849
  • 燧原科技
    +關(guān)注

    關(guān)注

    0

    文章

    115

    瀏覽量

    8258

原文標(biāo)題:【未來產(chǎn)業(yè)之星】燧原科技:持續(xù)、規(guī)模、集約的集群式AI算力服務(wù)將助國產(chǎn)大模型“百舸爭流”

文章出處:【微信號:gh_1222367b8780,微信公眾號:燧原科技Enflame】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    【「大模型時代的基礎(chǔ)架構(gòu)」閱讀體驗】+ 未知領(lǐng)域的感受

    算法的引擎GPU、GPU硬件架構(gòu)剖析、GPU服務(wù)器的設(shè)計與實現(xiàn)、GPU集群的網(wǎng)絡(luò)設(shè)計與實現(xiàn)、GPU板卡級調(diào)度技術(shù)、基于云平臺的GPU集群
    發(fā)表于 10-08 10:40

    AI計算平臺4.0震撼發(fā)布

    在2024年度云智大會的璀璨舞臺上,度智能云重磅推出了AI異構(gòu)計算平臺的全新力作——4.0版本。此次升級,標(biāo)志著
    的頭像 發(fā)表于 09-26 14:46 ?360次閱讀

    百舸爭流,邁向深藍(lán)

    云沐資本自創(chuàng)立伊始就聚焦科技品牌領(lǐng)域的投資賦能,深度挖掘產(chǎn)業(yè)資源,聯(lián)動各方投資機構(gòu),陪伴優(yōu)秀創(chuàng)業(yè)者共同成長。歷經(jīng)多年實踐和迭代,云沐資本近日正式宣布全球化基金完成首關(guān),云沐團隊繼續(xù)秉持科技品牌
    發(fā)表于 09-24 17:21 ?338次閱讀
    <b class='flag-5'>百舸爭流</b>,邁向深藍(lán)

    弘信電子集團子公司弘綠色與首都在線共建慶陽萬卡集群

    弘信電子旗下子公司甘肅弘綠色有限公司(以下簡稱“弘綠色”)與北京首都在線科技股份有限公司(以下簡稱“首都在線”)共同簽署《共建慶陽萬卡集群
    的頭像 發(fā)表于 09-20 10:47 ?427次閱讀

    弘華創(chuàng)助力慶陽構(gòu)建產(chǎn)業(yè)生態(tài)

    全國一體化網(wǎng)絡(luò)慶陽樞紐節(jié)點首批萬P成功上線,首個國產(chǎn)萬卡
    的頭像 發(fā)表于 09-20 10:38 ?393次閱讀

    模型時代的需求

    現(xiàn)在AI已進(jìn)入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型,以及相關(guān)的穩(wěn)定性和性能
    發(fā)表于 08-20 09:04

    名單公布!【書籍評測活動NO.41】大模型時代的基礎(chǔ)架構(gòu):大模型中心建設(shè)指南

    工作日內(nèi)未聯(lián)系,視為放棄本次試用評測資格! 書籍介紹 大模型是近年來引人注目的熱點之一。大模型蓬勃發(fā)展的基礎(chǔ),是針對其需求設(shè)計的及基礎(chǔ)架構(gòu)。本書針對如何為大
    發(fā)表于 08-16 18:33

    蘭洋科技與原科技深化江蘇地區(qū)智合作 共筑基石

    供需正呈現(xiàn)“雙向奔赴”的趨勢。 近日,國內(nèi)領(lǐng)先的浸沒液冷解決方案技術(shù)服務(wù)提供商蘭洋(寧波)科技有限公司(以下簡稱“蘭洋科技”),與專注人工智能領(lǐng)域云端產(chǎn)品的上海
    的頭像 發(fā)表于 08-16 10:53 ?249次閱讀

    從千卡集群卡到萬卡集群原科技打造更好的AI底座

    :WAIC 2024)上,不僅有國內(nèi)各大模型廠商同場競技,也有豐富的基礎(chǔ)設(shè)施展示,其中包括專注人工智能領(lǐng)域云端產(chǎn)品的
    的頭像 發(fā)表于 07-07 09:45 ?2139次閱讀
    從千卡<b class='flag-5'>集群</b>卡到萬卡<b class='flag-5'>集群</b>,<b class='flag-5'>燧</b>原科技打造更好的<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>底座

    萬卡集群解決大模型訓(xùn)需求,建設(shè)面臨哪些挑戰(zhàn)

    解決大模型訓(xùn)練對需求的巨大增長問題,尤其是現(xiàn)在模型參數(shù)量從百億級、千億級邁向萬億級。 ? 國內(nèi)外企業(yè)積極構(gòu)建萬卡集群 ? 目前,在國際上
    的頭像 發(fā)表于 06-02 06:18 ?4512次閱讀
    萬卡<b class='flag-5'>集群</b>解決大<b class='flag-5'>模型</b>訓(xùn)<b class='flag-5'>算</b><b class='flag-5'>力</b>需求,建設(shè)面臨哪些挑戰(zhàn)

    摩爾線程張建中:以國產(chǎn)助力數(shù)智世界,滿足大模型需求

    摩爾線程創(chuàng)始人兼CEO張建中在會上透露,為了滿足國內(nèi)對AI的迫切需求,他們正在積極尋求與國內(nèi)頂尖科研機構(gòu)的深度合作,共同推動更大規(guī)模的AI
    的頭像 發(fā)表于 05-10 16:36 ?798次閱讀

    聯(lián)想向弘華創(chuàng)交付首臺搭載國產(chǎn)AI芯片的問天WA5480 G3服務(wù)

    3月19日,在聯(lián)想集團(全球)最大的智能計算設(shè)備研發(fā)和制造基地——聯(lián)寶科技,聯(lián)想集團向弘華創(chuàng)交付聯(lián)想首臺可搭載國產(chǎn)AI芯片的聯(lián)想問天W
    的頭像 發(fā)表于 03-22 09:40 ?790次閱讀

    中國電信規(guī)劃在上海建設(shè)首個國產(chǎn)超大規(guī)模液冷集群

    中國電信規(guī)劃建設(shè)首個國產(chǎn)超大規(guī)模液冷集群 人工智能技術(shù)的快速發(fā)展催生了巨大的需求;中國電
    的頭像 發(fā)表于 02-22 18:48 ?1289次閱讀

    上海電信攜手徐匯區(qū),發(fā)布人工智能公共服務(wù)產(chǎn)品,擬建平臺

    根據(jù)計劃,2024年上半年,上海市徐匯區(qū)規(guī)劃建設(shè)總算超過四千五PFLOPS(即每秒千萬億次)的15000卡智集群,該
    的頭像 發(fā)表于 01-24 09:50 ?597次閱讀

    原科技與青云科技達(dá)成戰(zhàn)略合作,創(chuàng)新異構(gòu)調(diào)度

    ,AIGC內(nèi)容生成類模型正在重構(gòu)互聯(lián)網(wǎng)商業(yè)模式,催生數(shù)字經(jīng)濟新突破。隨著計算任務(wù)的多樣化和復(fù)雜化,更為高效和靈活的異構(gòu)計算是未來的發(fā)展方向。原的“云
    的頭像 發(fā)表于 12-11 12:20 ?583次閱讀