0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

云端、邊緣和終端AI芯片的挑戰(zhàn)

工程師 ? 來源:是德科技快訊 ? 作者:是德科技快訊 ? 2020-10-16 09:27 ? 次閱讀

5年前,在大基金的東風(fēng)下,芯片產(chǎn)業(yè)風(fēng)起云涌。芯片設(shè)計公司的數(shù)量從2015年的736家,一越到了2016年的1362家,幾乎翻了一倍。其中,AI芯片是當時一顆耀眼的新星。

經(jīng)過幾年的探索和沉淀,AI的發(fā)展也許已經(jīng)悄然進入2.0階段。大家更加注重與特定應(yīng)用場景的結(jié)合,比如智能汽車,智能安防等;有部分則從單純的基于ASIC的方式轉(zhuǎn)向嘗試通用計算道路的探索,兼顧通用性并針對一些重點應(yīng)用做相應(yīng)的優(yōu)化。少了吵吵嚷嚷的熱鬧,多了踏踏實實的落地。

隨著應(yīng)用的深入和落地,云端、邊緣和終端側(cè)多點開花。每個節(jié)點的芯片側(cè)重點可能略有不同,云端更加強調(diào)性能的極致,通常采用異構(gòu)的芯片架構(gòu),用GPU或者專用的ASIC芯片與CPU配合,處理復(fù)雜的數(shù)據(jù)訓(xùn)練或者inference的工作,那GPU/ASIC之間以及GPU/ASIC與CPU之間以及GPU/ASIC與存儲模塊之間都需要極高性能的接口來支撐,如PCIe、CCIX、GenZ、DDR等;

邊緣或者終端側(cè)雖然不像云端對性能要求那么高,但是他們需要面對更多復(fù)雜的應(yīng)用場景,如前面提到的智能駕駛、智能醫(yī)療、工業(yè)智能等,那么他們會在兼顧性能的同時更加看重能耗比的指數(shù),因此也會有一些新的接口或者總線類型來適應(yīng)他們的應(yīng)用,如MIPI、UFS、LPDDR等。

從云端的總線來看,前面提到有很多種,我們以PCIe來舉例。雖然它的效率和性能并不是最高的,但它目前是最成熟的,用的也比較多。目前商用落地的是PCIe 4.0技術(shù),那到今年年底,有一些領(lǐng)先的服務(wù)器廠商就會推出PCIe 5.0的樣品。那PCIe 5.0的速率已經(jīng)達到了32Gbps,而且在這個速率下還要考慮到與前代的兼容,它的channel loss會非常大,在奈奎斯特頻率下會達到36dB。在如此高的速率下要保證這么高的設(shè)計余量,對設(shè)計工程師來說,這是一個非常大的挑戰(zhàn)。

舉例來說,即使經(jīng)過非常復(fù)雜的預(yù)加重、均衡、信道訓(xùn)練等,那最終達到芯片接收端,芯片內(nèi)部的眼高不會超過15mW,眼寬不會超過10ps。這是非常非常小的余量。如果設(shè)計的余量不夠,那總線的丟包率就會比較高,就會導(dǎo)致重傳,那芯片的效率就大大降低了。那如何實現(xiàn)更大的設(shè)計余量?如何去測試設(shè)計的余量,如何將設(shè)計和測試做閉環(huán)驗證都是工程師面臨的巨大挑戰(zhàn)。

那對于邊緣或者終端側(cè)來說,要考慮成本、要考慮功耗。所以它的總線技術(shù)不會像云端走的那么快,但它會采用一些特殊的總線來適應(yīng)終端場景的需求。比如在云端更多的采用類似PCIe這種來做計算,但在終端/邊緣側(cè)則更多的采用類似MIPI這種總線進行計算或者數(shù)據(jù)的傳輸;在云端的數(shù)據(jù)存儲總線可能會用到DDR4或者DDR5,但在終端/邊緣,可能更多的會用到LPDDR;對于云端,可能更多的使用PCIe等去做擴展,而終端會更多傾向于用USB去做擴展。所以兩者差異還是很大的。

除了速率上的不同,終端側(cè)其實還需要考慮連接的簡潔性以及功耗的性能,所以終端側(cè)的總線的內(nèi)部協(xié)議或者信號的調(diào)整方式上反而更加復(fù)雜一些。比如Type-C接口,它外面的連接非常簡潔,但是其實它內(nèi)部協(xié)議非常復(fù)雜。它要考慮正反插,要考慮供電,要兼容顯示和數(shù)據(jù)傳輸?shù)鹊?。所以終端側(cè)的這些總線的設(shè)計要求與云端又不一樣。

? 當然,無論是什么樣的AI芯片,無論是什么樣的技術(shù)浪潮,是德科技都能陪伴在您的產(chǎn)品設(shè)計和研發(fā)過程中,為您的芯片質(zhì)量提供堅實的保障。

? 無論是計算總線還是內(nèi)存接口總線,無論是仿真還是產(chǎn)品測試,是德科技都有全面的解決方案,為您的產(chǎn)品保駕護航。

順便廣告一下,是德科技的產(chǎn)品中也加入了AI的算法,對于特定的測試波形,是德科技的AI測試能給您一些必要的線索,讓您快速定位到問題所在,幫助產(chǎn)品快速推向市場。

責(zé)任編輯:haq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    453

    文章

    50254

    瀏覽量

    421121
  • 終端
    +關(guān)注

    關(guān)注

    1

    文章

    1107

    瀏覽量

    29804
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29862

    瀏覽量

    268152
  • 云端
    +關(guān)注

    關(guān)注

    0

    文章

    116

    瀏覽量

    16839
收藏 人收藏

    評論

    相關(guān)推薦

    Orin芯片邊緣計算結(jié)合

    Orin芯片,作為英偉達推出的一款高性能AI處理器,與邊緣計算的結(jié)合,無疑將為智能計算領(lǐng)域帶來革命性的變化。 一、Orin芯片的創(chuàng)新特點 Orin
    的頭像 發(fā)表于 10-27 16:51 ?616次閱讀

    邊緣計算的技術(shù)挑戰(zhàn)與解決方案

    邊緣計算作為一種新型的計算架構(gòu),在帶來諸多優(yōu)勢的同時,也面臨著一些技術(shù)挑戰(zhàn)。以下是對邊緣計算的技術(shù)挑戰(zhàn)及相應(yīng)解決方案的分析: 一、技術(shù)挑戰(zhàn)
    的頭像 發(fā)表于 10-24 14:36 ?300次閱讀

    云端ai開發(fā)環(huán)境怎么樣

    隨著云計算技術(shù)的成熟與普及,云端AI開發(fā)環(huán)境應(yīng)運而生,為AI開發(fā)者提供了一個高效、靈活、可擴展的開發(fā)與部署平臺。下面,一起探討云端ai開發(fā)環(huán)
    的頭像 發(fā)表于 10-24 09:37 ?129次閱讀

    NVIDIA IGX平臺加速實時邊緣AI應(yīng)用

    實時邊緣 AI 對于醫(yī)療、工業(yè)和科學(xué)計算至關(guān)重要,因為這些任務(wù)關(guān)鍵型應(yīng)用需要即時數(shù)據(jù)處理、低延遲和高可靠性,以確保作出及時準確的決策。這些挑戰(zhàn)不僅涉及硬件平臺上的高帶寬傳感器處理和 AI
    的頭像 發(fā)表于 09-09 10:14 ?463次閱讀
    NVIDIA IGX平臺加速實時<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>應(yīng)用

    什么是邊緣AI邊緣AI的供電挑戰(zhàn)

    RECOM 的 RACM1200-V 采用數(shù)字通信,可輕松集成到邊緣 AI設(shè)計中。
    的頭像 發(fā)表于 09-02 11:52 ?371次閱讀
    什么是<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>?<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>的供電<b class='flag-5'>挑戰(zhàn)</b>

    華邦電子為邊緣設(shè)備打造生成式AI性能

    在以大模型為基礎(chǔ)的云端 AI 廣泛賦能各行各業(yè)后,邊緣設(shè)備對于 AI 也釋放出巨大需求,AI 也在從云端
    的頭像 發(fā)表于 08-19 16:14 ?556次閱讀

    邊緣AI芯片市場升溫!英特爾、AMD出大招,本土芯片廠商爭發(fā)新品

    邊緣 AI 是指在邊緣設(shè)備(例如智能手機、物聯(lián)網(wǎng)設(shè)備和嵌入式系統(tǒng))上實現(xiàn) AI 算法,而不是依賴于基于云的基礎(chǔ)設(shè)施。AI手機和
    的頭像 發(fā)表于 08-01 00:17 ?4246次閱讀
    <b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>市場升溫!英特爾、AMD出大招,本土<b class='flag-5'>芯片</b>廠商爭發(fā)新品

    后摩智能引領(lǐng)AI芯片革命,推出邊端大模型AI芯片M30

    在人工智能(AI)技術(shù)飛速發(fā)展的今天,AI大模型的部署需求正迅速從云端向端側(cè)和邊緣側(cè)設(shè)備遷移。這一轉(zhuǎn)變對AI
    的頭像 發(fā)表于 06-28 15:13 ?621次閱讀

    邊緣側(cè)AI芯片提供商超星未來完成數(shù)億元 Pre-B輪融資

    AI產(chǎn)業(yè)生態(tài)中,計算芯片被視為行業(yè)的“賣水人”。依據(jù)云端/邊緣端、訓(xùn)練/推理兩大分類標準,AI芯片
    的頭像 發(fā)表于 05-09 09:38 ?507次閱讀

    risc-v多核芯片AI方面的應(yīng)用

    得RISC-V多核芯片能夠更好地適應(yīng)AI算法的不同需求,包括深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等,從而提高芯片的性能和效率,降低成本,使AI邊緣計算晶片更具
    發(fā)表于 04-28 09:20

    英偉達、英特爾、AMD等大廠的邊緣AI芯片匯總

    需將數(shù)據(jù)傳輸?shù)?b class='flag-5'>云端進行處理。 ??????????????????????????????????????????????? 邊緣AI芯片的出現(xiàn),極大地提升了
    的頭像 發(fā)表于 04-24 02:15 ?9546次閱讀
    英偉達、英特爾、AMD等大廠的<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>匯總

    谷歌發(fā)布Axion新款數(shù)據(jù)中心AI芯片,性能超越x86及云端

    谷歌預(yù)計將通過Google Cloud提供Axion AI芯片給客戶。谷歌強調(diào)這款基于ARM的CPU產(chǎn)品具有優(yōu)越的性能表現(xiàn),甚至超越了傳統(tǒng)的x86芯片云端通用ARM
    的頭像 發(fā)表于 04-10 16:32 ?828次閱讀

    NanoEdge AI的技術(shù)原理、應(yīng)用場景及優(yōu)勢

    NanoEdge AI 是一種基于邊緣計算的人工智能技術(shù),旨在將人工智能算法應(yīng)用于物聯(lián)網(wǎng)(IoT)設(shè)備和傳感器。這種技術(shù)的核心思想是將數(shù)據(jù)處理和分析從云端轉(zhuǎn)移到設(shè)備本身,從而減少數(shù)據(jù)傳輸延遲、降低
    發(fā)表于 03-12 08:09

    邊緣AI它到底是什么?能做什么?

    邊緣,減少了數(shù)據(jù)的傳輸延遲和依賴云端的通信需求。邊緣AI能夠在接近數(shù)據(jù)源的設(shè)備上進行實時決策和推理,這為許多應(yīng)用領(lǐng)域帶來了革命性的改變。 邊緣
    的頭像 發(fā)表于 01-11 14:44 ?1211次閱讀

    算力強勁的AI邊緣計算盒子# 邊緣計算

    AI邊緣計算
    成都華江信息
    發(fā)布于 :2023年11月24日 16:31:06