0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

優(yōu)化AI可傳輸計(jì)算架構(gòu)

星星科技指導(dǎo)員 ? 來(lái)源:嵌入式計(jì)算設(shè)計(jì) ? 作者:Braden Cooper ? 2022-11-07 11:20 ? 次閱讀

軍事電子行業(yè)的人工智能AI)正在以超現(xiàn)實(shí)的速度增長(zhǎng)。各個(gè)領(lǐng)域的最新創(chuàng)新恰逢將計(jì)算、傳感器技術(shù)和軟件方面最強(qiáng)大的進(jìn)步帶到關(guān)鍵任務(wù)場(chǎng)景中。正如GPU在原始計(jì)算能力方面繼續(xù)超過(guò)摩爾定律一樣,新的傳感器和網(wǎng)絡(luò)接口帶來(lái)了越來(lái)越大的數(shù)據(jù)集需要計(jì)算。這些新技術(shù)為將商業(yè)和科學(xué)人工智能進(jìn)步的力量帶入軍事可運(yùn)輸設(shè)施提供了關(guān)鍵機(jī)會(huì)。民用數(shù)據(jù)中心型人工智能應(yīng)用和軍用可運(yùn)輸部署之間的主要區(qū)別(和障礙)是任務(wù)的環(huán)境、電力和安全要求。

需要在邊緣部署人工智能系統(tǒng)的一個(gè)明顯例子是軍用陸地、空中或海上車(chē)輛的威脅檢測(cè)。與民用自動(dòng)駕駛汽車(chē)物體識(shí)別一樣,軍事威脅檢測(cè)系統(tǒng)正在捕獲傳入的傳感器數(shù)據(jù),將數(shù)據(jù)提供給預(yù)先訓(xùn)練的AI模型,并在傳感器數(shù)據(jù)中推斷威脅的跡象。此工作流雖然只有幾個(gè)步驟,但需要幾個(gè)不同的復(fù)雜硬件層。傳感器向計(jì)算節(jié)點(diǎn)提供數(shù)據(jù)流,計(jì)算節(jié)點(diǎn)又將可操作的智能分發(fā)到適當(dāng)?shù)淖酉到y(tǒng),所有這些子系統(tǒng)都在高速存儲(chǔ)和互連的框架上運(yùn)行。

構(gòu)建硬件架構(gòu)圖成為根據(jù)車(chē)輛的尺寸、重量和功率 (SWaP) 限制優(yōu)化連續(xù)數(shù)據(jù)吞吐量的一項(xiàng)練習(xí)。雖然可以通過(guò)添加另一個(gè)計(jì)算機(jī)系統(tǒng)機(jī)架來(lái)優(yōu)化民用數(shù)據(jù)中心的工作流程,但大多數(shù)軍用車(chē)輛的獨(dú)特功率、外形和環(huán)境條件使得對(duì)優(yōu)化的人工智能可移動(dòng)系統(tǒng)的挑戰(zhàn)和需求顯而易見(jiàn)。

應(yīng)對(duì)此工作流程挑戰(zhàn)的可能解決方案是將傳感器數(shù)據(jù)流廣播到遠(yuǎn)程或移動(dòng)數(shù)據(jù)中心,這可以支持邊緣優(yōu)化程度較低的計(jì)算機(jī)系統(tǒng);從而消除了對(duì) AI 計(jì)算節(jié)點(diǎn)進(jìn)行加固的需要。然而,隨著數(shù)據(jù)量的增長(zhǎng),傳感器數(shù)據(jù)存儲(chǔ)與“云”或遠(yuǎn)程數(shù)據(jù)中心之間的通信路徑很快成為吞吐量瓶頸。為了在軍事可移動(dòng)人工智能應(yīng)用中充分利用最新的人工智能技術(shù),應(yīng)使用邊緣優(yōu)化的融合系統(tǒng)來(lái)集成整個(gè)工作流程。

這些堅(jiān)固耐用的軍用系統(tǒng)可最大限度地提高傳感器數(shù)據(jù)攝取速率,并將其與整個(gè)計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)速度相匹配。在這種無(wú)瓶頸體系結(jié)構(gòu)中,平衡的數(shù)據(jù)流可以以可縮放的方式滿足數(shù)據(jù)的計(jì)算需求,該方式可以隨著數(shù)據(jù)的增長(zhǎng)而增長(zhǎng)。無(wú)需遠(yuǎn)程計(jì)算意味著可以捕獲、處理傳感器數(shù)據(jù)并將其用于實(shí)時(shí)推理和決策。

打破對(duì)遠(yuǎn)程數(shù)據(jù)中心和云計(jì)算的依賴(lài)可以?xún)?yōu)化AI工作流程的吞吐量,但確實(shí)帶來(lái)了新的挑戰(zhàn)。與軍用車(chē)輛中的所有電子系統(tǒng)一樣,融合AI系統(tǒng)的設(shè)計(jì)必須滿足嚴(yán)格的MIL-STD環(huán)境條件以及各自車(chē)輛的獨(dú)特動(dòng)力傳輸系統(tǒng)。為數(shù)據(jù)中心構(gòu)建的商用現(xiàn)貨 (COTS) 服務(wù)器可在配備 220VAC 單相電源的空調(diào)房中運(yùn)行。為了真正優(yōu)化通常在不太理想條件下運(yùn)行的軍用車(chē)輛的AI工作流程,托管AI構(gòu)建塊的系統(tǒng)必須經(jīng)過(guò)設(shè)計(jì),測(cè)試和認(rèn)證,以滿足它們將繼續(xù)支持的任務(wù)的嚴(yán)格要求。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 傳感器
    +關(guān)注

    關(guān)注

    2546

    文章

    50490

    瀏覽量

    751186
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    46691

    瀏覽量

    237179
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    華迅光通AI計(jì)算加速800G光模塊部署

    ChatGPT引爆的AI大模型市場(chǎng),數(shù)據(jù)中心的東西流量和內(nèi)部服務(wù)器流量比例增加。 更新數(shù)據(jù)中心拓?fù)浣Y(jié)構(gòu) 數(shù)據(jù)中心計(jì)算規(guī)模和東西向流量不斷擴(kuò)大,數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)也在不斷變化。在傳統(tǒng)的三層拓?fù)浣Y(jié)構(gòu)中
    發(fā)表于 11-13 10:16

    如何優(yōu)化SOC芯片性能

    的核心數(shù)量、頻率和架構(gòu)。例如,對(duì)于高性能計(jì)算應(yīng)用,可能需要高頻率、多核心的設(shè)計(jì);而對(duì)于低功耗應(yīng)用,則可能需要優(yōu)化功耗效率的核心。 總線與接口優(yōu)化
    的頭像 發(fā)表于 10-31 15:50 ?177次閱讀

    未來(lái)AI大模型的發(fā)展趨勢(shì)

    未來(lái)AI大模型的發(fā)展趨勢(shì)將呈現(xiàn)多元化和深入化的特點(diǎn),以下是對(duì)其發(fā)展趨勢(shì)的分析: 一、技術(shù)驅(qū)動(dòng)與創(chuàng)新 算法與架構(gòu)優(yōu)化 : 隨著Transformer架構(gòu)的廣泛應(yīng)用,
    的頭像 發(fā)表于 10-23 15:06 ?401次閱讀

    AI大模型的性能優(yōu)化方法

    AI大模型的性能優(yōu)化是一個(gè)復(fù)雜而關(guān)鍵的任務(wù),涉及多個(gè)方面和策略。以下是一些主要的性能優(yōu)化方法: 一、模型壓縮與優(yōu)化 模型蒸餾(Model Distillation) 原理:通過(guò)訓(xùn)練一個(gè)
    的頭像 發(fā)表于 10-23 15:01 ?374次閱讀

    AI云平臺(tái)與傳統(tǒng)云計(jì)算的區(qū)別

    AI云平臺(tái)與傳統(tǒng)云計(jì)算在定義、技術(shù)架構(gòu)、應(yīng)用場(chǎng)景和服務(wù)模式等方面存在顯著差異。
    的頭像 發(fā)表于 10-14 10:08 ?228次閱讀

    3D DRAM內(nèi)嵌AI芯片,AI計(jì)算性能暴增

    當(dāng)前高帶寬內(nèi)存(HBM)中的DRAM芯片,通過(guò)在3D DRAM中實(shí)現(xiàn)AI處理來(lái)解決數(shù)據(jù)總線問(wèn)題。 ? 通常來(lái)說(shuō),當(dāng)前的 AI芯片架構(gòu)將數(shù)據(jù)存儲(chǔ)在高帶寬內(nèi)存中,并通過(guò)數(shù)據(jù)總線將數(shù)據(jù)傳輸
    的頭像 發(fā)表于 08-16 00:08 ?3083次閱讀
    3D DRAM內(nèi)嵌<b class='flag-5'>AI</b>芯片,<b class='flag-5'>AI</b><b class='flag-5'>計(jì)算</b>性能暴增

    AI云服務(wù)器:開(kāi)啟智能計(jì)算新時(shí)代

    一、AI云服務(wù)器的定義與特點(diǎn) AI云服務(wù)器的定義 AI云服務(wù)器是一種基于云計(jì)算技術(shù),專(zhuān)為處理人工智能相關(guān)工作負(fù)載而構(gòu)建的服務(wù)器。它集成了強(qiáng)大的計(jì)算
    的頭像 發(fā)表于 08-09 16:08 ?667次閱讀

    ai服務(wù)器是什么架構(gòu)類(lèi)型

    AI服務(wù)器,即人工智能服務(wù)器,是專(zhuān)門(mén)為人工智能應(yīng)用設(shè)計(jì)的高性能計(jì)算服務(wù)器。AI服務(wù)器的架構(gòu)類(lèi)型有很多種,以下是一些常見(jiàn)的架構(gòu)類(lèi)型: CPU
    的頭像 發(fā)表于 07-02 09:51 ?885次閱讀

    進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級(jí)芯片

    2024年3月19日,[英偉達(dá)]CEO[黃仁勛]在GTC大會(huì)上公布了新一代AI芯片架構(gòu)BLACKWELL,并推出基于該架構(gòu)的超級(jí)芯片GB200,將助推數(shù)據(jù)處理、工程模擬、電子設(shè)計(jì)自動(dòng)化、計(jì)算
    發(fā)表于 05-13 17:16

    risc-v多核芯片在AI方面的應(yīng)用

    在極低的能耗下實(shí)現(xiàn)高效的AI元器件的運(yùn)行。這對(duì)于需要長(zhǎng)時(shí)間運(yùn)行和依賴(lài)電池供電的AI設(shè)備來(lái)說(shuō)尤為重要。 其次,RISC-V的模塊化架構(gòu)允許其不同部分以模塊化的方式串在一起,從而滿足各種不同的應(yīng)用需求。這使
    發(fā)表于 04-28 09:20

    NanoEdge AI的技術(shù)原理、應(yīng)用場(chǎng)景及優(yōu)勢(shì)

    ,可以減少數(shù)據(jù)在傳輸過(guò)程中被竊取或篡改的風(fēng)險(xiǎn),提高數(shù)據(jù)安全性。 - 低能耗:通過(guò)優(yōu)化神經(jīng)網(wǎng)絡(luò)模型和硬件設(shè)計(jì),NanoEdge AI 可以在有限的資源下實(shí)現(xiàn)高效的計(jì)算,降低設(shè)備的能耗。
    發(fā)表于 03-12 08:09

    國(guó)科微:將持續(xù)優(yōu)化邊緣AI戰(zhàn)略布局

    國(guó)科微近日在接受調(diào)研時(shí)透露,公司正積極推進(jìn)搭載自研NPU架構(gòu)的芯片研發(fā),主要聚焦在邊緣側(cè)應(yīng)用。公司表示,將持續(xù)優(yōu)化邊緣AI戰(zhàn)略布局,加快AI技術(shù)在全系芯片中的普及化應(yīng)用進(jìn)程。
    的頭像 發(fā)表于 02-23 11:23 ?790次閱讀

    荷蘭AI芯片設(shè)計(jì)公司Axelera計(jì)劃推出新型汽車(chē)芯粒AI架構(gòu)

    荷蘭邊緣人工智能(AI)芯片設(shè)計(jì)領(lǐng)域的領(lǐng)軍企業(yè)Axelera AI Solutions正在積極開(kāi)發(fā)一款新型的汽車(chē)芯粒(chiplet)內(nèi)存計(jì)算AI
    的頭像 發(fā)表于 01-18 18:24 ?1711次閱讀

    加速計(jì)算卡與AI顯卡有什么區(qū)別?

    與原理 1. 加速計(jì)算卡:加速計(jì)算卡是一種用于高性能計(jì)算的硬件設(shè)備,主要用于加速?gòu)?fù)雜計(jì)算任務(wù),如科學(xué)計(jì)算、數(shù)據(jù)分析和大規(guī)模模擬等。它采用專(zhuān)用
    的頭像 發(fā)表于 01-09 14:10 ?1292次閱讀

    6G網(wǎng)絡(luò)架構(gòu)的核心方案報(bào)告

    6G網(wǎng)絡(luò)將同時(shí)支持連接、感知、AI、計(jì)算、數(shù)據(jù)等多種服務(wù),網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)應(yīng)進(jìn)行網(wǎng)絡(luò)邏輯功能的重構(gòu)、接口及協(xié)議的優(yōu)化﹐避免簡(jiǎn)單地功能和服務(wù)疊加造成架構(gòu)
    發(fā)表于 01-04 11:18 ?426次閱讀
    6G網(wǎng)絡(luò)<b class='flag-5'>架構(gòu)</b>的核心方案報(bào)告