0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

存算一體化與邊緣計算:重新定義智能計算的未來

穎脈Imgtec ? 2024-11-12 01:05 ? 次閱讀

來源:邊緣計算社區(qū)


隨著數(shù)據(jù)量爆炸式增長和智能化應(yīng)用的普及,計算與存儲的高效整合逐漸成為科技行業(yè)關(guān)注的重點。數(shù)據(jù)存儲和處理需求的快速增長推動了對計算架構(gòu)的重新設(shè)計,“存算一體化”技術(shù)應(yīng)運(yùn)而生。同時,隨著物聯(lián)網(wǎng)、5G網(wǎng)絡(luò)人工智能AI)等技術(shù)的發(fā)展,數(shù)據(jù)量的分布性、實時性需求增加,邊緣計算也逐漸從概念走向落地。本文將介紹存算一體化與邊緣計算的核心思想及其發(fā)展趨勢,探討兩者在智能計算模式中的應(yīng)用前景。


從“馮·諾依曼架構(gòu)”說起:傳統(tǒng)計算模式的困境

上世紀(jì)40年代,著名數(shù)學(xué)家馮·諾依曼提出了一個開創(chuàng)性的計算架構(gòu),被稱為“馮·諾依曼架構(gòu)”。它提出了計算機(jī)系統(tǒng)的五大基本組成部分:輸入單元、輸出單元、存儲單元、控制單元和運(yùn)算單元,并定義了它們之間的交互方式。馮·諾依曼架構(gòu)的核心思想是將計算和存儲分離,數(shù)據(jù)和指令通過統(tǒng)一的總線在中央處理單元(CPU)和內(nèi)存之間傳輸。該架構(gòu)的經(jīng)典特征為存儲程序概念,即程序和數(shù)據(jù)同樣存儲在內(nèi)存中,由CPU讀取并執(zhí)行。

328bd964-a04f-11ef-8084-92fbcf53809c.png

盡管結(jié)構(gòu)簡單、通用性強(qiáng),適用于多種計算任務(wù),但在今天,它的局限性越來越明顯。1. 數(shù)據(jù)傳輸瓶頸:在馮·諾依曼架構(gòu)中,數(shù)據(jù)頻繁在內(nèi)存和CPU之間搬運(yùn)。這一過程帶來顯著的延遲,系統(tǒng)難以高效處理數(shù)據(jù),尤其在大數(shù)據(jù)和AI模型的應(yīng)用場景中表現(xiàn)尤為突出。

2. 高能耗:頻繁的數(shù)據(jù)傳輸不僅增加了電力消耗,還帶來了硬件的發(fā)熱和散熱成本,在能源要求越來越高的計算任務(wù)中成為一大限制。

3. 資源利用率低:CPU和內(nèi)存之間常?;ハ嗟却绕湓诿芗嬎闳蝿?wù)中,導(dǎo)致系統(tǒng)資源的利用效率低下。

這種“馮·諾依曼瓶頸”直接制約了當(dāng)今的人工智能、大數(shù)據(jù)分析等計算任務(wù)的發(fā)展。存算一體化和邊緣計算被視為解決這一瓶頸的有力方案。


存算一體化:突破馮·諾依曼瓶頸的創(chuàng)新

存算一體化(Processing-In-Memory,PIM)打破了“存儲-計算分離”的模式,直接在存儲單元內(nèi)部集成計算單元,實現(xiàn)了數(shù)據(jù)的“就地處理”。這一創(chuàng)新從根本上優(yōu)化了計算結(jié)構(gòu),帶來了巨大的性能提升。存算一體化的三大優(yōu)勢:

顯著降低延遲:數(shù)據(jù)在存儲器內(nèi)直接處理,無需頻繁搬運(yùn),大大減少了延遲。

降低能耗:減少數(shù)據(jù)搬運(yùn)所需的電力消耗,延長設(shè)備續(xù)航,提高系統(tǒng)能效。

提升并行計算效率:特別適用于大規(guī)模并發(fā)計算任務(wù),如深度學(xué)習(xí)和大數(shù)據(jù)分析。

根據(jù)計算單元與存儲單元的距離,存算一體化主要分為三類:近存計算(PNM)、存內(nèi)處理(PIM)和存內(nèi)計算(CIM)。

1. 近存計算(PNM):近存計算是一種較為成熟的技術(shù)路徑,采用先進(jìn)的封裝技術(shù),將計算邏輯芯片和存儲器封裝在一起,縮短內(nèi)存和處理單元之間的路徑,以實現(xiàn)更高的I/O密度,帶來高帶寬和低訪問開銷。該方案主要依托2.5D、3D堆疊等技術(shù),廣泛應(yīng)用于CPU和GPU等高性能處理器中,是實現(xiàn)存算一體化的首選方案之一。

2. 存內(nèi)處理(PIM):存內(nèi)處理旨在盡可能多地將計算過程嵌入到存儲器內(nèi)部,減少處理器對存儲器的訪問頻率。通過在存儲器中直接完成大部分計算任務(wù),這一技術(shù)有效降低了數(shù)據(jù)搬運(yùn)需求,有助于緩解馮·諾依曼瓶頸帶來的限制。這種方案在內(nèi)存密集型任務(wù)上具有顯著的性能優(yōu)勢,被認(rèn)為是未來智能計算的重要實現(xiàn)路徑。

3. 存內(nèi)計算(CIM):存內(nèi)計算也稱為國內(nèi)一些公司推崇的“存算一體”。它通過對存儲器結(jié)構(gòu)進(jìn)行改進(jìn),使其直接具備計算能力。存內(nèi)計算有兩種實現(xiàn)思路:

  • 電路革新:通過改動SRAM或MRAM等存儲器,使其具備計算功能,這種方法能效比高,但計算精度可能受限。
  • 集成計算單元:在存儲器(如DRAM)中集成額外計算單元,以支持高精度計算。然而,由于DRAM工藝對計算邏輯電路的適應(yīng)性差,這一方式面臨較大的工藝挑戰(zhàn)。

不同公司在存算一體化領(lǐng)域有各自的技術(shù)策略。部分企業(yè)聚焦于優(yōu)化存儲與計算的協(xié)同效率,提升大數(shù)據(jù)處理的性能;另一些公司則注重架構(gòu)的靈活性和可擴(kuò)展性,以應(yīng)對動態(tài)的市場需求。此外,存算一體化的存儲介質(zhì)也日趨多元,包括以SRAM、DRAM為代表的易失性存儲器和以Flash為代表的非易失性存儲器等。


邊緣計算:讓數(shù)據(jù)在源頭處理的高效模式

邊緣計算(Edge Computing)則是一種將數(shù)據(jù)處理資源部署在網(wǎng)絡(luò)邊緣的計算模式,使得數(shù)據(jù)可以直接在靠近源頭的位置處理。與云計算相比,邊緣計算能滿足低延遲和實時響應(yīng)的需求,尤其適用于自動駕駛、智能制造等場景。邊緣計算的三大優(yōu)勢:

低延遲:數(shù)據(jù)在靠近源頭的位置處理,無需傳輸至云端,響應(yīng)時間顯著降低。

減輕網(wǎng)絡(luò)負(fù)擔(dān):邊緣計算設(shè)備完成初步數(shù)據(jù)處理,僅上傳關(guān)鍵信息至云端,減少了網(wǎng)絡(luò)流量壓力。

提升數(shù)據(jù)隱私保護(hù):在本地處理敏感數(shù)據(jù),無需頻繁上傳至云端,有助于保護(hù)用戶隱私。邊緣計算在智能家居、智能交通、工業(yè)自動化等領(lǐng)域已經(jīng)取得了顯著成果。隨著物聯(lián)網(wǎng)設(shè)備的普及,邊緣計算需求將不斷增加,并與云計算形成相輔相成的架構(gòu)。


存算一體化與邊緣計算的結(jié)合:智能計算的加速器

存算一體化和邊緣計算的結(jié)合,正逐步催生出一套更加高效的智能計算模式。由于邊緣設(shè)備往往體積小、功耗低、算力有限,難以承擔(dān)復(fù)雜的計算任務(wù),而存算一體化能顯著增強(qiáng)邊緣設(shè)備的處理能力,使其更加高效、低能耗。以下是存算一體化與邊緣計算的結(jié)合應(yīng)用:

·物聯(lián)網(wǎng)設(shè)備的數(shù)據(jù)處理

物聯(lián)網(wǎng)設(shè)備大多部署在網(wǎng)絡(luò)邊緣位置,用于實時監(jiān)測環(huán)境數(shù)據(jù)。采用存算一體化技術(shù)的邊緣設(shè)備能夠在本地完成數(shù)據(jù)處理,減少不必要的上傳。例如,搭載存算一體化芯片的智能攝像頭可以直接分析視頻數(shù)據(jù),僅傳輸關(guān)鍵事件至云端,大大降低網(wǎng)絡(luò)流量。

·邊緣AI推理

邊緣計算在AI推理中的應(yīng)用越來越廣泛,如自動駕駛、智能醫(yī)療等場景。邊緣AI推理通常需要處理大量實時數(shù)據(jù),而存算一體化技術(shù)能夠提高推理速度。比如,自動駕駛車輛可以在攝像頭數(shù)據(jù)中直接完成識別和決策,確保快速響應(yīng)。

·工業(yè)實時控制

在工業(yè)場景中,設(shè)備需實時監(jiān)控和控制。例如機(jī)械臂的控制、工廠設(shè)備的狀態(tài)監(jiān)測等。存算一體化使邊緣設(shè)備具備實時數(shù)據(jù)處理能力,保障系統(tǒng)的快速響應(yīng),提升了工廠的自動化和智能化水平。

·數(shù)據(jù)隱私保護(hù)

邊緣設(shè)備常處理敏感數(shù)據(jù),直接上傳至云端會帶來隱私風(fēng)險。存算一體化在本地完成數(shù)據(jù)處理,減少上傳需求,有助于提升數(shù)據(jù)隱私性和安全性。


技術(shù)趨勢與挑戰(zhàn)

雖然存算一體化和邊緣計算結(jié)合前景廣闊,但在技術(shù)落地過程中仍面臨挑戰(zhàn):

硬件研發(fā)復(fù)雜:存算一體化技術(shù)涉及復(fù)雜的芯片設(shè)計和制造,如何在存儲芯片內(nèi)部高效集成計算單元仍是關(guān)鍵難題。芯片的工藝和計算精度也需要進(jìn)一步提升。

設(shè)備多樣性與適配難題:邊緣設(shè)備種類繁多、資源配置差異較大,如何提供通用的存算一體化解決方案是技術(shù)難點。未來需設(shè)計低成本、高通用性的存算一體化邊緣芯片。

軟件生態(tài)支持:存算一體化架構(gòu)需要完整的軟件支持,例如優(yōu)化的編譯器、計算框架和編程工具鏈,開發(fā)者需針對硬件架構(gòu)優(yōu)化算法和模型。

  1. 隱私和安全保障:邊緣計算設(shè)備處理大量數(shù)據(jù),如何保障數(shù)據(jù)加密和隱私安全也是技術(shù)發(fā)展的重點。

展望:智能計算的未來

隨著存算一體化和邊緣計算技術(shù)的成熟,智能計算將迎來低延遲、低能耗、高效率的新階段。我們可以預(yù)見以下趨勢:

邊緣AI應(yīng)用普及:存算一體化和邊緣計算的結(jié)合使得邊緣AI計算變得高效,更多智能應(yīng)用將在邊緣設(shè)備上實現(xiàn)。

智能終端設(shè)備的自主化:存算一體化提升了邊緣設(shè)備的計算能力,減少對云端依賴,使設(shè)備更具自主性。

  • 低能耗的分布式計算模式:存算一體化減少數(shù)據(jù)傳輸能耗,邊緣計算的分布式架構(gòu)能降低云端負(fù)荷,使得網(wǎng)絡(luò)資源更高效。

未來,存算一體化與邊緣計算的融合將推動智能計算從集中化向分布式發(fā)展、從高能耗走向低能耗。它們將成為構(gòu)建智能社會的重要基石,使我們身邊的智能設(shè)備更高效、更安全,朝著真正的“萬物互聯(lián)”時代邁進(jìn)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 一體化
    +關(guān)注

    關(guān)注

    0

    文章

    238

    瀏覽量

    14390
  • 智能計算
    +關(guān)注

    關(guān)注

    0

    文章

    172

    瀏覽量

    16449
  • 邊緣計算
    +關(guān)注

    關(guān)注

    22

    文章

    3049

    瀏覽量

    48507
收藏 人收藏

    評論

    相關(guān)推薦

    中偉視界:AI邊端云一體化平臺的智能化全流程解析

    AI邊端云一體化管控平臺通過將邊緣計算與云端服務(wù)整合,實現(xiàn)了從數(shù)據(jù)采集到?jīng)Q策的全流程智能化管理,提升了效率與安全性。平臺支持多種設(shè)備的靈活集成及自動
    的頭像 發(fā)表于 09-19 11:41 ?178次閱讀

    ARMxy ARM物聯(lián)網(wǎng)邊緣計算網(wǎng)關(guān)支持Node-RED用于云邊端一體化

    隨著工業(yè)物聯(lián)網(wǎng)(IIoT)的蓬勃發(fā)展,邊緣計算網(wǎng)關(guān)成為實現(xiàn)數(shù)據(jù)采集、處理與轉(zhuǎn)發(fā)的關(guān)鍵設(shè)備。ARMxy ARM物聯(lián)網(wǎng)邊緣計算網(wǎng)關(guān)憑借其強(qiáng)大的處理能力和靈活的軟件配置選項,成為實現(xiàn)云邊端
    的頭像 發(fā)表于 08-19 16:05 ?312次閱讀
    ARMxy ARM物聯(lián)網(wǎng)<b class='flag-5'>邊緣</b><b class='flag-5'>計算</b>網(wǎng)關(guān)支持Node-RED用于云邊端<b class='flag-5'>一體化</b>

    云邊一體化物聯(lián)網(wǎng)平臺如何實現(xiàn)?有什么功能

    云邊一體化物聯(lián)網(wǎng)平臺(CloudEdge Integration IoT Platform)是種結(jié)合了云計算邊緣計算優(yōu)勢的物聯(lián)網(wǎng)解決方案
    的頭像 發(fā)表于 07-29 14:34 ?386次閱讀

    澎峰科技CA100智能計算一體機(jī)核心優(yōu)勢解讀

    CA100 智能計算一體機(jī) 日前,澎峰科技正式對外發(fā)布CA100智能計算一體機(jī)產(chǎn)品, CA100
    的頭像 發(fā)表于 07-08 10:59 ?680次閱讀
    澎峰科技CA100<b class='flag-5'>智能</b><b class='flag-5'>計算</b><b class='flag-5'>一體</b>機(jī)核心優(yōu)勢解讀

    什么是機(jī)電一體化?它有哪些應(yīng)用?

    在科技飛速發(fā)展的今天,機(jī)電一體化技術(shù)已成為現(xiàn)代工業(yè)生產(chǎn)的核心驅(qū)動力之。它融合了機(jī)械工程、電子技術(shù)、計算機(jī)技術(shù)、信息技術(shù)等多學(xué)科的理論與技術(shù),實現(xiàn)了機(jī)械與電子的有機(jī)結(jié)合,極大地推動了制造業(yè)的
    的頭像 發(fā)表于 06-11 14:02 ?4076次閱讀

    邊緣計算網(wǎng)關(guān):數(shù)字轉(zhuǎn)型浪潮的基石

    摘要:在數(shù)字轉(zhuǎn)型的浪潮中,邊緣計算網(wǎng)關(guān)成為連接中心計算邊緣設(shè)備的重要橋梁。本文將探討邊緣
    的頭像 發(fā)表于 05-30 18:09 ?743次閱讀

    內(nèi)計算原理分類——數(shù)字內(nèi)計算與模擬內(nèi)計算

    數(shù)字內(nèi)計算與模擬內(nèi)計算各有優(yōu)劣,都是一體發(fā)展
    的頭像 發(fā)表于 05-21 16:26 ?2118次閱讀
    <b class='flag-5'>存</b>內(nèi)<b class='flag-5'>計算</b>原理分類——數(shù)字<b class='flag-5'>存</b>內(nèi)<b class='flag-5'>計算</b>與模擬<b class='flag-5'>存</b>內(nèi)<b class='flag-5'>計算</b>

    探索內(nèi)計算—基于 SRAM 的內(nèi)計算與基于 MRAM 的一體的探究

    本文深入探討了基于SRAM和MRAM的一體技術(shù)在計算領(lǐng)域的應(yīng)用和發(fā)展。首先,介紹了基于SRAM的內(nèi)邏輯
    的頭像 發(fā)表于 05-16 16:10 ?2399次閱讀
    探索<b class='flag-5'>存</b>內(nèi)<b class='flag-5'>計算</b>—基于 SRAM 的<b class='flag-5'>存</b>內(nèi)<b class='flag-5'>計算</b>與基于 MRAM 的<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>的探究

    科技攜手北大共建一體化技術(shù)實驗室,推動AI創(chuàng)新

    揭牌儀式結(jié)束后,王紹迪在北大集成電路學(xué)院舉辦的“未名·芯”論壇上做了主題演講,分享了他對于多模態(tài)大模型時代內(nèi)計算發(fā)展的見解。他強(qiáng)調(diào)了一體
    的頭像 發(fā)表于 05-08 17:25 ?862次閱讀

    什么是一體化PFC模塊

    格平科技與脫離傳統(tǒng)PFC模塊定義,推出一體化的PFC 模塊,無需加外圍電路,上電即可使用
    的頭像 發(fā)表于 02-25 10:19 ?696次閱讀
    什么是<b class='flag-5'>一體化</b>PFC模塊

    什么是通感一體化?通感一體化的應(yīng)用場景

    通感一體化可廣泛應(yīng)用于智能家居、智慧城市、智慧交通、醫(yī)療健康等方面。文檔君為大家搜集了些典型的應(yīng)用場景。 智能家居 通感
    發(fā)表于 01-18 16:12 ?1w次閱讀
    什么是通感<b class='flag-5'>算</b><b class='flag-5'>一體化</b>?通感<b class='flag-5'>算</b><b class='flag-5'>一體化</b>的應(yīng)用場景

    墨芯人工智能CEO王維:需要重新定義和設(shè)計AI計算機(jī)

    AI時代,我們需要重新定義和設(shè)計AI計算機(jī)。僅依靠硅基的摩爾定律,2年翻倍的線性增長的力供給遠(yuǎn)不能滿足指數(shù)級增長的需求問題。
    的頭像 發(fā)表于 01-12 11:12 ?1012次閱讀

    乘用車一體化電池的發(fā)展現(xiàn)狀和未來趨勢

    佐思汽研發(fā)布《2024年乘用車CTP、CTC和CTB一體化電池行業(yè)研究報告》,對乘用車一體化電池發(fā)展現(xiàn)狀及主機(jī)廠、供應(yīng)商相關(guān)產(chǎn)品布局進(jìn)行了梳理研究,并對乘用車一體化電池未來發(fā)展趨勢進(jìn)行
    的頭像 發(fā)表于 01-10 14:06 ?900次閱讀
    乘用車<b class='flag-5'>一體化</b>電池的發(fā)展現(xiàn)狀和<b class='flag-5'>未來</b>趨勢

    一體芯片如何支持Transformer等不同模型?

    后摩智能致力于打造通用人工智能芯片,自主研發(fā)的一體芯片在支持各類模型方面表現(xiàn)突出,包括YOLO系列網(wǎng)絡(luò)、BEV系列網(wǎng)絡(luò)、點云系列網(wǎng)絡(luò)等。
    的頭像 發(fā)表于 01-05 14:14 ?1272次閱讀

    SRAM一體芯片的研究現(xiàn)狀和發(fā)展趨勢

    人工智能時代對計算芯片的力和能效都提出了極高要求。一體芯片技術(shù)被認(rèn)為是有望解決處理器芯片“
    的頭像 發(fā)表于 01-02 11:02 ?2258次閱讀
    SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>芯片的研究現(xiàn)狀和發(fā)展趨勢