0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI大模型在端側(cè)加速落地已成必然趨勢(shì),芯片廠商提前布局!

Carol Li ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2023-12-29 00:47 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)2023年對(duì)于AI行業(yè)來(lái)說(shuō)可謂是非同尋常的一年,AI大模型的蓬勃發(fā)展帶來(lái)新一輪技術(shù)變革。在此背景下,AI產(chǎn)品創(chuàng)新、落地應(yīng)用、商業(yè)模式探索成了業(yè)界探討的重點(diǎn)話(huà)題,業(yè)界普遍認(rèn)為,2024年AI大模型在商業(yè)應(yīng)用會(huì)有極大突破。

“AI大模型在端側(cè)的加速落地已成必然趨勢(shì)?!痹谛清?a href="http://www.ttokpm.com/v/" target="_blank">科技上周舉辦的2023開(kāi)發(fā)者大會(huì)暨產(chǎn)品發(fā)布會(huì)上,該公司董事長(zhǎng)&總經(jīng)理林永育談到。事實(shí)確實(shí)如此,AI大模型如果想要實(shí)現(xiàn)大規(guī)模落地應(yīng)用,離不開(kāi)在端側(cè)的部署??梢钥吹?,過(guò)去近半年時(shí)間里,無(wú)論是算法、芯片企業(yè),還是終端設(shè)備廠商,都在嘗試推動(dòng)AI大模型在邊緣/端側(cè)的部署。

基于五大核心IP,持續(xù)對(duì)端側(cè)AI戰(zhàn)略布局

AI大模型時(shí)代,云邊端深度協(xié)同發(fā)展很有必要。云端主要能夠進(jìn)行大模型訓(xùn)練,同時(shí)也能運(yùn)行規(guī)模較大的模型,其特點(diǎn)是通用性強(qiáng),成本高;端側(cè)可以用于模型推理,在端側(cè)可以運(yùn)行小模型、低時(shí)延、低功耗任務(wù),其特點(diǎn)是成本低、隱私安全,能夠讓AI應(yīng)用更為個(gè)性化。林永育表示:“目前端側(cè)產(chǎn)品面臨著更新迭代,我們也在思考大模型的輕量化部署需求?!?br />
wKgaomWNUnqALUWMAANkOpYTwD8371.jpg

星宸科技成立于2017年,專(zhuān)注于音視頻處理芯片,產(chǎn)品覆蓋IP Cam、USB Cam、NVR、DVR、車(chē)載電子、運(yùn)動(dòng)相機(jī)、智能家居機(jī)器人、工業(yè)等領(lǐng)域。據(jù)其官網(wǎng)介紹,星宸科技在SoC設(shè)計(jì)全流程具有豐富經(jīng)驗(yàn),堅(jiān)持主要IP自主研發(fā),在圖像信號(hào)處理(ISP),音視頻編解碼等領(lǐng)域具有領(lǐng)先優(yōu)勢(shì),并積極投入人工智能等新領(lǐng)域芯片的研發(fā)。

林永育表示,在新趨勢(shì)下,星宸科技過(guò)去幾年高度聚焦視頻、音頻、顯示、連接、AI五大核心IP,未來(lái)將在更高性能、更低功耗、更先進(jìn)制程、更易部署等領(lǐng)域持續(xù)演進(jìn)。他強(qiáng)調(diào),如果沒(méi)有閉環(huán)的商業(yè)模式,沒(méi)有特定的應(yīng)用場(chǎng)景,算法、數(shù)據(jù)都無(wú)從談起。未來(lái)星宸科技將基于五大核心IP,持續(xù)對(duì)端側(cè)AI戰(zhàn)略布局,加速AI普惠應(yīng)用。

wKgZomWNUoKAaP4_AAPG_tAIEeI098.jpg


wKgaomWNUouAVaYqAAM9awhSjY8309.jpg


星宸科技的愿景是實(shí)現(xiàn)Leading AI Everywhere。可以看到,星宸科技在智慧視覺(jué)、智慧家庭、智慧辦公、智慧出行、智慧教育、智慧商業(yè)等方面都有布局。比如智慧視覺(jué)的IP Camera、NVR、運(yùn)動(dòng)相機(jī)等;智慧家庭的智能影音娛樂(lè)終端、掃地機(jī)、家電顯示控制、家居智能中控、智能門(mén)鎖;智慧辦公的會(huì)議攝像頭、服務(wù)機(jī)器人、會(huì)議音頻設(shè)備、會(huì)議大屏、PC攝像頭、智能門(mén)禁等;智慧出行的智能后視鏡、自主泊車(chē)、智能中控、ADAS、車(chē)內(nèi)監(jiān)控系統(tǒng)等。

wKgZomWNUpKAfDr9AANBxR1k3-E154.jpg

L2-L3 ADAS以及獨(dú)立AI視覺(jué)場(chǎng)景將成為主力應(yīng)用

車(chē)載市場(chǎng)是星宸科技重點(diǎn)布局的領(lǐng)域之一。當(dāng)前,汽車(chē)智能化滲透率正在穩(wěn)步提升,車(chē)載對(duì)于感知計(jì)算芯片的需求空間極大。星宸科技智慧車(chē)載產(chǎn)品線(xiàn)負(fù)責(zé)人唐本冰表示,未來(lái)5-8年,L2-L3 ADAS以及獨(dú)立AI視覺(jué)場(chǎng)景將會(huì)成為主力應(yīng)用。星宸科技針對(duì)此市場(chǎng)已經(jīng)推出系列ADAS感知計(jì)算SOC芯片以及方案開(kāi)發(fā)平臺(tái),在此次發(fā)布會(huì)上,星宸科技也發(fā)布了新一代的ADAS芯片及解決方案。

wKgaomWNUpmAEtb_AAQF5PCS9pU036.jpg

星宸科技在車(chē)載領(lǐng)域的規(guī)劃,第一步是在車(chē)規(guī)智能感知芯片方面進(jìn)行布局,第二步是功能安全ADAS,第三則是進(jìn)行跨域布局。據(jù)該公司智慧車(chē)載產(chǎn)品線(xiàn)負(fù)責(zé)人唐本冰介紹,在一系列核心技術(shù)支持下,2022年星宸科技已經(jīng)發(fā)布并量產(chǎn)車(chē)規(guī)系列SAC8542、SAC8539,面向DVR、CMS、DMS、E-Mirror等場(chǎng)景,2023年發(fā)布并量產(chǎn)功能安全演進(jìn)系列SAC8904、SAC8702等,面向ADAS、APA、行泊一體、DMS、AVM等場(chǎng)景,規(guī)劃2024年及之后AD跨域處理器SAC8A20等,將逐步實(shí)現(xiàn)完整產(chǎn)品線(xiàn)三步走戰(zhàn)略目標(biāo)。

具體來(lái)看,在極致性?xún)r(jià)比的車(chē)載視覺(jué)感知計(jì)算場(chǎng)景中,星宸科技可以提供與各個(gè)細(xì)分場(chǎng)景匹配的芯片,如CMS/DMS/OMS:SAC8542/8902;DVR:SAC8539;E-Mirror:SAC8539/8902;APA:SAC8702;智能車(chē)燈:SAC8542;新國(guó)標(biāo):SAC8542。

在行泊艙感知計(jì)算一體化場(chǎng)景,同樣有相應(yīng)的芯片匹配各個(gè)應(yīng)用。比如,行車(chē)場(chǎng)景中的ACC(自適應(yīng)巡航)、LDW(車(chē)道偏離預(yù)警)、LKA(車(chē)道保持輔助)、TJA(交通擁堵輔助)、AEB(自動(dòng)緊急制動(dòng))、NOA(領(lǐng)航系統(tǒng)),可以使用SAC8904+SAC8702、SAC8916、SAC8950。泊車(chē)場(chǎng)景中的APA/AVP(自動(dòng)/自主泊車(chē))可以使用SAC8904/89048702。座艙智能感知場(chǎng)景中的CMS(電子外后視鏡)、DMS(駕駛員疲勞監(jiān)測(cè))、OMS(乘客監(jiān)測(cè))、IMS(車(chē)廂內(nèi)檢測(cè)),有SAC8702/SAC8542芯片可以匹配使用。

在發(fā)布會(huì)現(xiàn)場(chǎng),唐本冰還同步分享了基于SAC8542的CMS架構(gòu)、DMS/OMS+DVR架構(gòu),基于SAC8904的前視ADAS架構(gòu)等創(chuàng)新方案。如下圖:

wKgaomWNUqKAJucnAAPccq56fVY171.jpg
wKgaomWNUquARRwzAAOfg2wFlcI041.jpg
wKgaomWNUrSADynRAAOkm7uQ5xY781.jpg

星宸科技的車(chē)規(guī)產(chǎn)品已經(jīng)通過(guò)GB/T 38892認(rèn)證,具有豐富的外設(shè)適應(yīng)能力、穩(wěn)定可靠的SDK。唐本冰介紹說(shuō),公司車(chē)載芯片出貨量已超千萬(wàn),合作車(chē)企包括上汽集團(tuán)、吉利、一汽大眾、廣汽本田、奇瑞、一汽奧迪等,公司未來(lái)將繼續(xù)與產(chǎn)業(yè)鏈伙伴加大合作力度,加速實(shí)現(xiàn)汽車(chē)領(lǐng)域入門(mén)及腰部市場(chǎng)的差異化和智能化發(fā)展。

就如上文所言,星宸科技具備強(qiáng)大的核心IP自研能力,其自研的ISP已進(jìn)化到第三代,自研IPU也針對(duì)行車(chē)智駕、自動(dòng)泊車(chē)、座艙智能感知等汽車(chē)智能化應(yīng)用進(jìn)行計(jì)算效率優(yōu)化,并將在下一代ADAS芯片支持BEV+Transformer等大網(wǎng)絡(luò)模型高效率在腰部市場(chǎng)的落地應(yīng)用。同時(shí)星宸科技還提供StarEngine自研算法工具鏈平臺(tái),以及開(kāi)放式StarEngine解決方案SDK開(kāi)發(fā)平臺(tái),與全產(chǎn)業(yè)鏈各環(huán)節(jié)合作伙伴和開(kāi)發(fā)者一起構(gòu)建高效的、差異化的汽車(chē)智能化功能。

wKgaomWNUruAV47tAAPIt-T47Ds723.jpg

寫(xiě)在最后

除了車(chē)載市場(chǎng)應(yīng)用解決方案,此次大會(huì),星宸科技也發(fā)布了面向智能機(jī)器人場(chǎng)景的全新解決方案。就智能機(jī)器人對(duì)行走、導(dǎo)航、避障、交互、連接、多融合感知、多任務(wù)執(zhí)行、低功耗、高性?xún)r(jià)比等需求,星宸科技結(jié)合自身在CPU、IPU、MCU、PMU、ISP等領(lǐng)域的深厚積累,提出了多核異構(gòu)、多傳感融合、高能效算力智能機(jī)器人芯片解決方案。

總的來(lái)說(shuō),AI大模型在端側(cè)的部署是必然趨勢(shì)??梢灶A(yù)想,手機(jī)、PC、車(chē)載、機(jī)器人等終端設(shè)備未來(lái)都將能夠看到大模型的應(yīng)用。而所有這些的實(shí)現(xiàn)都離不開(kāi)芯片的支持,就如專(zhuān)家們預(yù)計(jì)的那樣,如果大模型的商業(yè)應(yīng)用在2024年會(huì)迎來(lái)突破,那么芯片是不是也將迎來(lái)新一輪機(jī)會(huì)。






聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    28875

    瀏覽量

    266212
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    281

    瀏覽量

    212
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    四大廠商業(yè)績(jī)大漲背后,積極探索側(cè)AI SoC芯片創(chuàng)新迭代

    電子產(chǎn)品的各個(gè)形態(tài),這也為側(cè)AI SoC芯片帶來(lái)機(jī)會(huì)。 ? 近日,多家布局側(cè)
    的頭像 發(fā)表于 08-27 01:28 ?3600次閱讀
    四大<b class='flag-5'>廠商</b>業(yè)績(jī)大漲背后,積極探索<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b> SoC<b class='flag-5'>芯片</b>創(chuàng)新迭代

    能效比較GPGPU高一個(gè)數(shù)量級(jí),國(guó)產(chǎn)AI芯片側(cè)AI模型高質(zhì)量落地

    的方案越來(lái)越多。也就是說(shuō),AI模型不僅完成了從“能用”到“好用”的蛻變,也從高高在上的云端,走到更靠近應(yīng)用場(chǎng)景的邊側(cè)側(cè),這給作為方案核
    的頭像 發(fā)表于 07-10 16:28 ?1607次閱讀
    能效比較GPGPU高一個(gè)數(shù)量級(jí),國(guó)產(chǎn)<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>讓<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>高質(zhì)量<b class='flag-5'>落地</b>

    后摩智能引領(lǐng)AI芯片革命,推出邊模型AI芯片M30

    人工智能(AI)技術(shù)飛速發(fā)展的今天,AI模型的部署需求正迅速?gòu)脑贫讼?b class='flag-5'>端側(cè)和邊緣
    的頭像 發(fā)表于 06-28 15:13 ?495次閱讀

    Opera瀏覽器引領(lǐng)潮流,全球首接側(cè)AI模型

    昆侖萬(wàn)維旗下海外平臺(tái)Opera宣布,其旗艦瀏覽器Opera One和游戲?yàn)g覽器Opera GX將正式接入側(cè)AI模型,成為全球首個(gè)實(shí)現(xiàn)這一突破的主流瀏覽器。
    的頭像 發(fā)表于 06-03 09:18 ?532次閱讀

    模型側(cè)部署加速,都有哪些芯片可支持?

    小型化、場(chǎng)景化需求的增加,推理逐步從云端擴(kuò)展向側(cè)。這種趨勢(shì)PC和手機(jī)等終端產(chǎn)品上尤為明顯。 ? 大模型
    的頭像 發(fā)表于 05-24 00:14 ?3495次閱讀

    模型側(cè)迅速落地,面臨哪些挑戰(zhàn)

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)大模型技術(shù)正在快速發(fā)展,并在不同領(lǐng)域取得顯著進(jìn)展。如在設(shè)計(jì)領(lǐng)域,近日消息,騰訊混元大模型文生圖已經(jīng)深度應(yīng)用在B和C,此外,騰訊混元大
    的頭像 發(fā)表于 05-15 01:16 ?2704次閱讀

    商湯發(fā)布業(yè)內(nèi)最快推理速度「日日新 5.0 側(cè)模型

    現(xiàn)在,就是AI模型側(cè)應(yīng)用的春天!
    的頭像 發(fā)表于 04-29 10:32 ?404次閱讀
    商湯發(fā)布業(yè)內(nèi)最快推理速度「日日新 5.0 <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>」

    RISC-V廠商正在AI領(lǐng)域積極布局

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)AI大浪潮的席卷下,越來(lái)越多具備多模態(tài)能力的AI模型加速涌現(xiàn),AI
    的頭像 發(fā)表于 04-09 00:13 ?4335次閱讀
    RISC-V<b class='flag-5'>廠商</b>正在<b class='flag-5'>AI</b>領(lǐng)域積極<b class='flag-5'>布局</b>!

    NVIDIA加速識(shí)因智能AI模型落地應(yīng)用方面的重要作用介紹

    本案例介紹了 NVIDIA 加速識(shí)因智能 AI模型落地應(yīng)用方面的重要作用。生成式大模型已廣
    的頭像 發(fā)表于 03-29 15:28 ?489次閱讀

    通義千問(wèn)首次落地天璣9300移動(dòng)平臺(tái)!阿里云攜手MediaTek探索側(cè)AI智能體

    ,實(shí)現(xiàn)手機(jī)AI體驗(yàn)的大幅提升。這是通義大模型首次完成芯片級(jí)的軟硬適配,僅依靠終端算力便能擁有極佳的推理性能及功耗表現(xiàn),標(biāo)志著Model-on-Chip的探索正式從驗(yàn)證走向商業(yè)化落地新階
    發(fā)表于 03-28 10:51 ?183次閱讀
    通義千問(wèn)首次<b class='flag-5'>落地</b>天璣9300移動(dòng)平臺(tái)!阿里云攜手MediaTek探索<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>智能體

    榮耀引領(lǐng)側(cè)AI新時(shí)代

    今年的MWC盛會(huì)上,榮耀宣布與高通、Meta攜手,將70億參數(shù)大模型引入側(cè),這一創(chuàng)新舉措預(yù)示著側(cè)
    的頭像 發(fā)表于 03-01 10:28 ?465次閱讀

    AI模型接入手機(jī),行業(yè)迎來(lái)新一輪競(jìng)賽

    選擇側(cè)部署,看上去最劃算 當(dāng)前,AI模型接入手機(jī)存在兩種選擇:云端部署和側(cè)部署。 目前,大多數(shù)廠商選擇
    發(fā)表于 12-05 10:11 ?599次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>接入手機(jī),行業(yè)迎來(lái)新一輪競(jìng)賽

    RISC-V內(nèi)核突破百億顆 RVV1.0如何解鎖側(cè)AI市場(chǎng)應(yīng)用潛能

    ,從而推動(dòng)高性能RISC-V芯片落地應(yīng)用。AI芯片廠商嘉楠科技也發(fā)布了基于平頭哥玄鐵C908,業(yè)界首款支持RVV1.0標(biāo)準(zhǔn)的
    發(fā)表于 12-01 13:17

    云邊AI必然趨勢(shì)和硬件承載

    云邊AI是指把AI模型和算法云端訓(xùn)練和優(yōu)化后,部署到邊緣設(shè)備上運(yùn)行,從而將AI能力融入終端設(shè)備。在前期的
    的頭像 發(fā)表于 11-07 17:46 ?537次閱讀
    云邊<b class='flag-5'>AI</b>的<b class='flag-5'>必然趨勢(shì)</b>和硬件承載

    聯(lián)發(fā)科與vivo強(qiáng)強(qiáng)聯(lián)手,行業(yè)首次在手機(jī)側(cè)落地70億AI大語(yǔ)言模型

    最近,聯(lián)發(fā)科和vivo聯(lián)袂宣告了行業(yè)第一的合作突破,他們成功將10億和70億AI大語(yǔ)言模型,以及10億AI視覺(jué)大模型的最高模型規(guī)模應(yīng)用帶到手
    的頭像 發(fā)表于 10-18 12:40 ?797次閱讀