2022年11月29日,紫光展銳正式發(fā)布了系統(tǒng)級(jí)安全的高性能5G SoC 新品T820,引起了廣泛關(guān)注。
T820采用八核CPU架構(gòu),6nm EUV先進(jìn)工藝,金融級(jí)全內(nèi)置安全方案,在性能、功耗與5G通信體驗(yàn)等方面,較上一代產(chǎn)品更為出色。
此前,已經(jīng)為大家講解過(guò)T820的安全性能。今天,小展將帶你一同探索T820的AI性能。
日新月異的AI技術(shù),重塑著移動(dòng)設(shè)備的交互方式和應(yīng)用體驗(yàn),也推動(dòng)著端側(cè)SoC不斷突破AI計(jì)算能力的邊界。紫光展銳系統(tǒng)級(jí)安全的高性能5G移動(dòng)平臺(tái)T820,采用了新一代高能效NPU+VDSP架構(gòu),垂直優(yōu)化計(jì)算能力,NPU算力達(dá)到8TOPS,相比上一代提升67%。T820在蘇黎世聯(lián)邦理工學(xué)院AI Benchmark Mobile SoCs榜單上的推理測(cè)試,取得了134K的不俗成績(jī)。
(來(lái)自AI Benchmark官網(wǎng))
基于紫光展銳T820構(gòu)建的全新一代AI計(jì)算平臺(tái),提供算法、軟件、硬件全棧解決方案,將全面釋放AI能力,拓展應(yīng)用邊界。
小身板大能量
一般來(lái)說(shuō),存儲(chǔ)單元會(huì)占據(jù)了SoC芯片的大量面積,紫光展銳在T820平臺(tái)上采用了創(chuàng)新設(shè)計(jì)的數(shù)據(jù)存儲(chǔ)和計(jì)算模式,充分利用了卷積數(shù)據(jù)復(fù)用特征來(lái)降低存儲(chǔ)占用。結(jié)合展銳新一代圖優(yōu)化和圖切分技術(shù),在保證計(jì)算單元利用率的前提下,進(jìn)一步降低了存儲(chǔ)單元空間占用。
T820使用第三代神經(jīng)網(wǎng)絡(luò)加速核,提供8TOPS的AI算力同時(shí),能效比達(dá)到業(yè)界領(lǐng)先水平。T820支持接入多種運(yùn)算核心,如CPU/GPU/VDSP/NPU,統(tǒng)一內(nèi)存模型的采用,顯著提升異構(gòu)運(yùn)算效率。
T820支持超過(guò)200+主流神經(jīng)網(wǎng)絡(luò)算子,性能對(duì)標(biāo)業(yè)界一流水平,海量網(wǎng)絡(luò)模型輕松接入。
降低NPU使用門(mén)檻
NPU作為專(zhuān)門(mén)負(fù)責(zé)AI計(jì)算的部件,用于加速神經(jīng)網(wǎng)絡(luò)的運(yùn)算,解決傳統(tǒng)芯片在神經(jīng)網(wǎng)絡(luò)運(yùn)算時(shí)效率低下的問(wèn)題。但NPU技術(shù)門(mén)檻相當(dāng)高,紫光展銳將一直以來(lái)的軟硬算一體化Turnkey解決方案思路,也貫徹到了NPU的能力開(kāi)發(fā)上:不僅支持業(yè)界幾乎所有的主流AI計(jì)算框架,還打通了可以通用的統(tǒng)一接口,它將大幅降低用戶(hù)模型和方案部署的復(fù)雜度,降低開(kāi)發(fā)及維護(hù)的成本。
業(yè)界主流AI計(jì)算框架,包括 TensorFlow,TensorFlow-Lite,PyTorch,Caffe,MxNet,PaddlePaddle,ONNX 等,展銳T820都能支持,還為用戶(hù)提供了多種交互式開(kāi)發(fā)環(huán)境,讓業(yè)務(wù)快速部署、靈活應(yīng)用。T820支持標(biāo)準(zhǔn)化Android NN代理和定制化直連模式,讓推理性能和通用性二者兼顧。
多樣化模型優(yōu)化,讓部署更靈活
T820集成了多種模型優(yōu)化方案和工具。量化工具支持4-16bit模型權(quán)重和激活的量化,配合數(shù)據(jù)訪存自適應(yīng)無(wú)損壓縮技術(shù),解決了帶寬瓶頸問(wèn)題,讓AI澎湃算力充分得到釋放。
T820提供了精度穩(wěn)定性模擬系統(tǒng),允許用戶(hù)校準(zhǔn)量化模型精度,降低用戶(hù)解決跨平臺(tái)精度差異的難度。無(wú)損壓縮工具支持權(quán)重和激活的無(wú)損壓縮,大幅降低帶寬壓力,讓“大模型”在端側(cè)部署成為可能。?
針對(duì)不同的應(yīng)用場(chǎng)景,T820的AI計(jì)算平臺(tái)支持動(dòng)態(tài)編譯,適應(yīng)全場(chǎng)景獨(dú)立部署。T820支持圖像超分、視頻增強(qiáng)、語(yǔ)義分割、目標(biāo)檢測(cè)、文本識(shí)別、語(yǔ)音識(shí)別等豐富AI應(yīng)用,助力客戶(hù)快速構(gòu)建專(zhuān)屬AI應(yīng)用,極大縮短端到端部署時(shí)間,提升用戶(hù)體驗(yàn)。
算力強(qiáng),安全也有保障
在人臉識(shí)別的時(shí)候,用戶(hù)的臉部特征數(shù)據(jù)安全需要得到保障。外部應(yīng)用如果試圖訪問(wèn)這些數(shù)據(jù),或者篡改計(jì)算結(jié)果,硬件保護(hù)單元會(huì)自動(dòng)阻止這些操作,并立刻報(bào)告異常。
T820支持在TEE安全環(huán)境中運(yùn)行AI計(jì)算任務(wù),提供硬件DRM安全防護(hù),保障每一次訪問(wèn)都是授信訪問(wèn),使AI相關(guān)數(shù)據(jù)和算法避免受到惡意軟件的攻擊,從而保護(hù)用戶(hù)數(shù)據(jù)不被竊取或篡改,在高效運(yùn)行各種AI神經(jīng)網(wǎng)絡(luò)算法的同時(shí),全方位保護(hù)用戶(hù)的數(shù)據(jù)和隱私。
同時(shí),紫光展銳T820將金融級(jí)iSE安全單元集成在SoC中,相比外置SE方案,更難攻擊定位,安全性更高,支持國(guó)際主流算法,擴(kuò)展能力更為出色,存儲(chǔ)容量提升20倍,可支持銀行卡、數(shù)字貨幣等數(shù)百個(gè)金融類(lèi)場(chǎng)景應(yīng)用。
T820不僅能夠輕松應(yīng)對(duì)當(dāng)前的各種AI計(jì)算任務(wù),也為未來(lái)更復(fù)雜的AI算法提供了算力延伸空間,更進(jìn)一步的是,T820以開(kāi)放式的架構(gòu)、歸一化的應(yīng)用入口、軟硬協(xié)同優(yōu)化,整合芯片的計(jì)算能力,大幅降低AI部署落地的門(mén)檻,為各行各業(yè)的智能化提供技術(shù)基石。
作為世界領(lǐng)先的平臺(tái)型芯片設(shè)計(jì)企業(yè),2022年,紫光展銳在吳勝武董事長(zhǎng)和CEO任奇?zhèn)ゲ┦康裙芾韺拥膸ьI(lǐng)下克服了多種困難,步入穩(wěn)健有序發(fā)展的新征程,在業(yè)務(wù)領(lǐng)域取得了顯著成績(jī),獲得了國(guó)家級(jí)、行業(yè)級(jí)的諸多獎(jiǎng)項(xiàng),增強(qiáng)了行業(yè)與組織自信。紫光展銳將繼續(xù)踐行紫光集團(tuán)“志高行遠(yuǎn)、創(chuàng)造價(jià)值”的價(jià)值觀,持續(xù)投入5G先進(jìn)技術(shù)研發(fā),為產(chǎn)業(yè)和社會(huì)創(chuàng)造價(jià)值,為讓世界變得“更智能、更開(kāi)放、更公平、更美好”而貢獻(xiàn)力量。
編輯:黃飛
?
評(píng)論
查看更多