搜索歷史

清空
搜索熱詞
      0
      • 聊天消息
      • 系統(tǒng)消息
      • 評(píng)論與回復(fù)
      VIP于 到期 續(xù)費(fèi)
      登錄后你可以
      • 下載海量資料
      • 學(xué)習(xí)在線(xiàn)課程
      • 觀(guān)看技術(shù)視頻
      • 寫(xiě)文章/發(fā)帖/加入社區(qū)
      會(huì)員中心
      創(chuàng)作中心
      發(fā)布
      創(chuàng)作活動(dòng)

      完善資料讓更多小伙伴認(rèn)識(shí)你，還能領(lǐng)取20積分哦，立即完善>

      3天內(nèi)不再提示

      高通在A(yíng)I領(lǐng)域的布局，驍龍 8 Gen 2支持Transformer大模型！

      lPCU_elecfans ? 來(lái)源：未知 ? 2022-12-01 07:45 ? 次閱讀
      電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）前不久，在2022驍龍技術(shù)峰會(huì)上，高通正式發(fā)布了全新一代旗艦移動(dòng)平臺(tái)驍龍 8 Gen 2。驍龍 8 Gen 2搭載一顆專(zhuān)門(mén)面向AI計(jì)算的Hexagon處理器，在手機(jī)AI加速計(jì)算、計(jì)算式攝影、手游光線(xiàn)追蹤、5G雙卡雙通方面均較上一代有較大突破。
      高通高級(jí)副總裁兼手機(jī)業(yè)務(wù)總經(jīng)理Christopher Patrick在峰會(huì)上表示，“我們把人工智能作為設(shè)計(jì)第二代驍龍8的關(guān)鍵技術(shù)。”

      驍龍 8 Gen 2的AI技術(shù)體現(xiàn)在哪些方面

      驍龍8 Gen 2搭載的Hexagon處理器，之前是用來(lái)命名驍龍芯片內(nèi)部DSP的，它在此之前更像是協(xié)處理器。如今Hexagon已經(jīng)進(jìn)化為專(zhuān)用的AI加速計(jì)算芯片，具有專(zhuān)門(mén)為其供電的系統(tǒng)，內(nèi)置Tensor、Scalar加速器、HVX矢量擴(kuò)展處理器，支持Micro Tile Inferencing等技術(shù)。
      據(jù)介紹，驍龍8 Gen 2這次的Hexagon處理器具備INT4精度AI計(jì)算的能力。這讓驍龍8 Gen 2成為世界上第一顆，也是目前已知的唯一一顆支持INT4精度AI計(jì)算的移動(dòng)平臺(tái)處理器。
      INT4是一種更新、近年來(lái)多受關(guān)注的AI計(jì)算精度模式，和之前經(jīng)常被提起的浮點(diǎn)計(jì)算精度模式相比起來(lái)，INT4能夠讓模型占用空間顯著縮小，從而可以在計(jì)算/能耗資源更為有限的移動(dòng)平臺(tái)上，保存和運(yùn)行更多和更大的預(yù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型。
      根據(jù)高通的表述，支持了INT4之后，開(kāi)發(fā)者可以讓驍龍8 Gen 2來(lái)跑超大規(guī)模的神經(jīng)網(wǎng)絡(luò)，比如Transformer。在此之前沒(méi)有已知的移動(dòng)平臺(tái)具有本地運(yùn)行Transformer類(lèi)預(yù)訓(xùn)練模型的能力，而驍龍8 Gen 2也成為了第一顆支持Transformer大模型的移動(dòng)處理器。
      通過(guò)支持INT4精度計(jì)算，Hexagon處理器還可以更加有效地替代GPU和CPU，在運(yùn)行各種AI計(jì)算任務(wù)時(shí)顯著降低能耗。在持續(xù)AI推理計(jì)算任務(wù)上，驍龍8 Gen 2相比8 Gen 1的性能提升最高可達(dá)4.35倍，每瓦性能提升程度高達(dá)60%。
      Christopher Patrick在講解中表示，在Hexagon處理器和Qualcomm Spectra ISP之間，還增加了一個(gè)名為“Hexagon直連”的物理連接，以此打造了移動(dòng)行業(yè)首創(chuàng)的“認(rèn)知ISP”。
      “認(rèn)知ISP”應(yīng)用在影像處理過(guò)程中，通過(guò)實(shí)時(shí)語(yǔ)義分割實(shí)現(xiàn)照片和視頻的自動(dòng)增強(qiáng)，利用AI神經(jīng)網(wǎng)絡(luò)讓攝像頭在情境中感知人臉、面部特征、頭發(fā)、衣服和天空等，進(jìn)行獨(dú)立優(yōu)化，從而讓每個(gè)細(xì)節(jié)獲得定制的專(zhuān)業(yè)圖像調(diào)優(yōu)。而之前由于A(yíng)I性能較弱，用戶(hù)在拍攝完照片之后通常需要一段處理時(shí)間，手機(jī)才會(huì)顯示成片。
      在A(yíng)I性能提升的情況下，驍龍8 Gen 2也帶來(lái)了實(shí)時(shí)硬件加速光線(xiàn)追蹤。高通技術(shù)人士表示，硬件光追可以做到每秒數(shù)百億次光線(xiàn)相交，對(duì)光線(xiàn)、反射、照明等處理會(huì)更加真實(shí)。在網(wǎng)絡(luò)連接方面，5G芯片中植入了AI功能，可以改善網(wǎng)絡(luò)中的時(shí)延、網(wǎng)速、覆蓋不到位等問(wèn)題。

      高通軟硬件布局，應(yīng)對(duì)終端AI落地挑戰(zhàn)

      如今AI幾乎滲透進(jìn)各行各業(yè)，終端應(yīng)用場(chǎng)景豐富，這也造成終端AI在落地上面臨挑戰(zhàn)。包括：不同終端產(chǎn)品對(duì)性能和功耗需求不同；各類(lèi)終端產(chǎn)品所需的深度學(xué)習(xí)架構(gòu)和算子也差異巨大，比如智能手機(jī)需要使用生成模型、計(jì)算領(lǐng)域要用到Transformer模型，汽車(chē)ADAS則需要激光雷達(dá)模型；各類(lèi)終端產(chǎn)品對(duì)AI特性的需求也不盡相同，比如汽車(chē)和XR需要支持更多的并發(fā)場(chǎng)景。
      為了應(yīng)對(duì)這些挑戰(zhàn)，從硬件層面，高通推出的AI解決方案已經(jīng)實(shí)現(xiàn)從500毫瓦到15瓦的性能水平擴(kuò)展，甚至可以滿(mǎn)足200瓦的性能水平。
      另外為了解決不同場(chǎng)景對(duì)AI能力需求的差異，高通在Hexagon處理器中打造了高度可配置的硬件解決方案，使高通能夠?qū)I解決方案從智能手機(jī)擴(kuò)展到更多業(yè)務(wù)線(xiàn)。比如面向汽車(chē)、云端等高性能場(chǎng)景，高通可以調(diào)整Hexagon處理器內(nèi)的加速器和內(nèi)存組件，還可以拼接多個(gè)Hexagon處理器，通過(guò)更多Hexagon處理器協(xié)同工作實(shí)現(xiàn)性能的拓展提升。
      在A(yíng)I軟件層面，高通也做了深入布局。今年6月，高通宣布推出AI軟件棧產(chǎn)品組合，以提升高通在A(yíng)I和智能網(wǎng)聯(lián)邊緣領(lǐng)域的領(lǐng)先優(yōu)勢(shì)。高通AI軟件棧是面向OEM廠(chǎng)商和開(kāi)發(fā)者的一套完整的AI解決方案，集合了高通各種AI軟件產(chǎn)品并進(jìn)行了升級(jí)，通過(guò)豐富的AI軟件權(quán)限和兼容性能夠支持各種智能終端。
      高通AI軟件棧支持包括TensorFlow、PyTorch和ONNX在內(nèi)的不同AI框架與主流runtimes，以及開(kāi)發(fā)者庫(kù)與服務(wù)、系統(tǒng)軟件、工具和編譯器，從而使任何面向單一終端開(kāi)發(fā)的AI特性都可在其他終端上輕松部署。高通AI軟件棧產(chǎn)品組合還支持一系列工具套件，包括高通AI模型增效工具包（AIMET）、AI開(kāi)發(fā)圖形用戶(hù)界面（GUI）、用于增強(qiáng)量化與優(yōu)化的模型分析器以及神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索（NAS）。

      小結(jié)

      如今AI的發(fā)展勢(shì)頭迅猛，各家芯片廠(chǎng)商都布局其中，包括英偉達(dá)、英特爾等。高通在該領(lǐng)域也已經(jīng)布局許久，近些年更是加大了在該領(lǐng)域的投入。因?yàn)楸旧響?yīng)用場(chǎng)景多樣的特性，終端AI在落地應(yīng)用上一直存在挑戰(zhàn)，可以看到高通正在從軟硬件各方面解決這些業(yè)界難題。

      聲明：本文由電子發(fā)燒友原創(chuàng)，轉(zhuǎn)載請(qǐng)注明以上來(lái)源。如需入群交流，請(qǐng)?zhí)砑游⑿舉lecfans999，投稿爆料采訪(fǎng)需求，請(qǐng)發(fā)郵箱huangjingjing@elecfans.com。


      更多熱點(diǎn)文章閱讀

      • 最高漲幅25%，AMD宣布上調(diào)Xilinx FPGA售價(jià)，供應(yīng)短缺讓TOP 2廠(chǎng)商受益
      • 時(shí)隔20年，莫斯科人汽車(chē)再次復(fù)產(chǎn)，背后全是中國(guó)車(chē)企的影子
      • 歐盟超430億歐元投向芯片領(lǐng)域，對(duì)上游半導(dǎo)體設(shè)備有何影響？
      • 24W以下電源，新型自供電BJT方案將全面取代其他方案？
      • 車(chē)用芯片不再缺？芯片大廠(chǎng)表示有所緩解，真實(shí)情況究竟如何呢？

      原文標(biāo)題：高通在A(yíng)I領(lǐng)域的布局，驍龍 8 Gen 2支持Transformer大模型！

      文章出處：【微信公眾號(hào)：電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

      聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
      • 電子發(fā)燒友網(wǎng)

        關(guān)注

        1010

        文章

        544

        瀏覽量

        164249
      • 大模型
        +關(guān)注

        關(guān)注

        2

        文章

        2274

        瀏覽量

        2356

      原文標(biāo)題：高通在A(yíng)I領(lǐng)域的布局，驍龍 8 Gen 2支持Transformer大模型！

      文章出處：【微信號(hào)：elecfans，微信公眾號(hào)：電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

      收藏 人收藏

        評(píng)論

        相關(guān)推薦

        高通驍龍8 Gen4將于今年Q4亮相

        9月28日的最新消息揭示，知名爆料人Yogesh Brar透露，高通即將在今年的第四季度推出其旗艦處理器——高通驍龍8
        的頭像 發(fā)表于 09-29 14:41 ?617次閱讀

        高通驍龍8 Gen4將開(kāi)創(chuàng)性地集成自家研發(fā)的Oryon CPU

        近日，高通公司在其盛大的官方活動(dòng)中震撼宣布，其旗艦級(jí)移動(dòng)處理器領(lǐng)域的最新力作——驍龍8 Gen4
        的頭像 發(fā)表于 07-26 15:07 ?515次閱讀

        小米K80系列曝光：搭載驍龍8 Gen 4，支持120W快充

        據(jù)悉，小米已加快紅米K80系列手機(jī)的研發(fā)進(jìn)程，預(yù)計(jì)將推出搭載驍龍8Gen3及驍龍8Gen4兩種版
        的頭像 發(fā)表于 05-27 10:24 ?1035次閱讀

        高通支持Meta Llama 3大語(yǔ)言模型在驍龍旗艦平臺(tái)上實(shí)現(xiàn)終端側(cè)執(zhí)行

        高通和Meta合作優(yōu)化Meta Llama 3大語(yǔ)言模型，支持在未來(lái)的驍龍旗艦平臺(tái)上實(shí)現(xiàn)終端側(cè)執(zhí)
        的頭像 發(fā)表于 04-20 09:13 ?434次閱讀

        Redmi Turbo 3搭載高通驍龍8s Gen 3芯片，配備AI隔空手勢(shì)與AI魔法功能

        據(jù)悉，Redmi Turbo 3內(nèi)置AI隔空手勢(shì)操作功能，利用高通驍龍8s Gen 3芯片的旗艦
        的頭像 發(fā)表于 04-09 15:28 ?1464次閱讀

        高通全新中端旗艦芯片驍龍8s Gen 3發(fā)布

        驍龍 8s Gen 3 的尺寸僅為 8.40×10.66mm，相較于驍龍
        的頭像 發(fā)表于 04-08 15:30 ?2162次閱讀

        驍龍8s Gen 3與驍龍8 Gen 3性能對(duì)比

        知名博主@萬(wàn)扯淡曝光的一組實(shí)際測(cè)試圖展現(xiàn)出驍龍 8s Gen 3的具體情況，其尺寸僅為8.40×10.66mm，相比之下，驍
        的頭像 發(fā)表于 04-07 14:32 ?1w次閱讀

        高通驍龍8 Gen 4即將發(fā)布，采用定制“Phoenix”核心，人工智能不受影響

        據(jù)了解，高通驍龍8Gen 4芯片將搭載獨(dú)家Phoenix核心和“2+6”的多核架構(gòu)，以及創(chuàng)新的Slice GPU架構(gòu)。值得注意的是，
        的頭像 發(fā)表于 02-29 09:59 ?618次閱讀

        手機(jī)AI大模型來(lái)襲，存儲(chǔ)來(lái)到16GB+512GB？

        強(qiáng)大的CPU、GPU和NPU的支持下，驍龍8 Gen可以在設(shè)備端運(yùn)行生成式
        的頭像 發(fā)表于 01-19 09:54 ?6265次閱讀
        手機(jī)<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>來(lái)襲，存儲(chǔ)來(lái)到16GB+512GB？

        持續(xù)深入合作，歌爾聯(lián)合高通推出驍龍XR2 Gen 2和驍龍XR2+Gen 2 MR 參考設(shè)計(jì)

        1月8日，歌爾聯(lián)合高通公司推出了基于驍龍XR2 Gen 2
        發(fā)表于 01-08 09:17 ?467次閱讀

        歌爾聯(lián)合高通推出驍龍XR2 Gen 2和XR2+Gen 2 MR參考設(shè)計(jì)

        1月8日，歌爾聯(lián)合高通公司推出了基于驍龍XR2 Gen 2
        的頭像 發(fā)表于 01-08 09:15 ?813次閱讀

        三星和谷歌計(jì)劃采用高通驍龍XR2+ Gen 2芯片

        近日，高通宣布推出了一款全新芯片，名為驍龍XR2+ Gen 2。這款芯片是專(zhuān)門(mén)為混合現(xiàn)實(shí)（XR）
        的頭像 發(fā)表于 01-07 16:32 ?1006次閱讀

        Linux 6.8主線(xiàn)內(nèi)核將支持驍龍8 Gen 3，但仍需額外適配

        　Linux 6.8主線(xiàn)內(nèi)核對(duì)高通驍龍8 Gen 3的支持將為開(kāi)發(fā)人員和用戶(hù)帶來(lái)更多的選擇和便利
        的頭像 發(fā)表于 12-19 15:46 ?1676次閱讀

        天璣9400性能將超越驍龍8 Gen4？

        高通已經(jīng)確認(rèn)，明年的驍龍8 Gen4將使用自研的定制Oryon CPU核心。這一轉(zhuǎn)換可能會(huì)使驍
        的頭像 發(fā)表于 12-18 16:29 ?1707次閱讀

        高通驍龍8Gen3性能如何？

        驍龍8Gen3沒(méi)有用上3nm工藝，而是從N4升級(jí)為性能更強(qiáng)的N4P，性能強(qiáng)了6.6%。驍龍8Gen
        發(fā)表于 11-21 12:36 ?6568次閱讀
        <b class='flag-5'>高</b>通<b class='flag-5'>驍</b><b class='flag-5'>龍</b><b class='flag-5'>8Gen</b>3性能如何？

        感谢您访问我们的网站，您可能还对以下资源感兴趣：

        好色先生污app