肇觀電子AI視覺芯片N161的性能如何?

近日，半導(dǎo)體行業(yè)觀察記者從《人民日?qǐng)?bào)》客戶端看到了一篇文章，提出：“人工智能計(jì)算機(jī)視覺芯片性能利用率衡量標(biāo)準(zhǔn)就是：在運(yùn)算圖片的時(shí)候，既要保證圖片的精度（準(zhǔn)），又要保證運(yùn)算的速度（快），是否又‘快’又‘準(zhǔn)’?！?這引發(fā)記者深刻的思考一個(gè)問題：我們經(jīng)常高舉著“名義算力”的旗幟，卻忽略了芯片的實(shí)際計(jì)算效率、功耗、成本、以及元器件是否穩(wěn)定可靠。在單位算力下，是否能將圖片運(yùn)算又“快”又“準(zhǔn)”，實(shí)際上是每一個(gè)應(yīng)用和系統(tǒng)廠商切實(shí)關(guān)心的實(shí)際問題，也是衡量智能視覺處理器的標(biāo)準(zhǔn)。

為了弄清楚“名義算力” 和 “芯片實(shí)際利用率” 之間的差異，記者非常好奇的將一顆在計(jì)算機(jī)視覺領(lǐng)域長(zhǎng)期處于翹楚的Intel Movidius Myriad X 芯片，與《人民日?qǐng)?bào)》提到的肇觀電子N161進(jìn)行了比較。

之所以把這兩顆芯片進(jìn)行比較，是因?yàn)槲覀兪煜ntel。無(wú)論在任何品牌的PC機(jī)，還是筆記本，或者是平板電腦上，都能夠看到無(wú)處不在的 “Intel 某款芯片 inside” 標(biāo)簽。而我們知道，英特爾的威力根本不僅限于此，在數(shù)據(jù)中心、工業(yè)制造等各個(gè)方面所占據(jù)的霸主地位，也如同它為PC、筆記本、平板電腦提供芯片的地位一樣，無(wú)可撼動(dòng)。

2016年，Intel芯片設(shè)計(jì)將觸角伸到了計(jì)算機(jī)視覺領(lǐng)域，收購(gòu)了計(jì)算機(jī)視覺公司Movidius。 Movidius Myriad VPU 是Intel第一個(gè)用于深度神經(jīng)網(wǎng)絡(luò)推理的視覺處理單元芯片。 Intel的這項(xiàng)收購(gòu)也可想而知的，在計(jì)算機(jī)視覺領(lǐng)域，移植了它在其他領(lǐng)域的霸主慣性思維。

在計(jì)算機(jī)視覺領(lǐng)域，讓機(jī)器像人一樣去分析圖片，不管是把圖片上的內(nèi)容進(jìn)行分類（分辨出人、車、房、樹）， 還是將圖片內(nèi)容進(jìn)行檢測(cè)（檢測(cè)出男人、女人、老人、孩子，以及他們所處于圖片中的位置），或者是將一張圖片的不同內(nèi)容進(jìn)行分割（人臉上哪里是眼睛、哪里是口罩），等等，都需要用高性能的芯片將不同的算法部署到實(shí)際的應(yīng)用上。

針對(duì)于實(shí)現(xiàn)圖片分類、檢測(cè)、分割等功能的算法，每個(gè)算法公司會(huì)根據(jù)自己的需求研發(fā)出不同的算法，衡量一顆計(jì)算機(jī)視覺芯片的AI性能是否優(yōu)秀，需要看它在跑不同算法的時(shí)候，是否能夠在單位算力下運(yùn)行更多幀圖片，并且還要保證算法精度不損失。

記者邀請(qǐng)了算法工程師隨意挑選了幾種常用的圖片分類算法和圖片檢測(cè)算法，讓兩顆芯片同時(shí)跑這些算法，驚訝的發(fā)現(xiàn)了兩顆芯片在單位算力下，每秒能跑的幀率所呈現(xiàn)出的不同的結(jié)果。ResNet-50、Inception V3、MobileNetV1、MobileNetV2 是常見的用于圖片分類的神經(jīng)網(wǎng)絡(luò)算法，MobileNetV1_SSD、YOLOV3 是常見的用于圖片檢測(cè)的神經(jīng)網(wǎng)絡(luò)算法。以MobileNetV1算法為例，為了達(dá)到圖片分類的目的，算法工程師用肇觀電子N161芯片跑算法，每單位算力/每秒可以跑181.49幀，用英特爾Myriad X芯片來跑同樣的算法，每單位算力/每秒只能跑106.15幀。

單位算力下跑得快有什么現(xiàn)實(shí)的意義？

在一個(gè)用于貨品分類的智能工業(yè)相機(jī)場(chǎng)景，傳送帶上面的貨物需要被連續(xù)拍攝、檢測(cè)和分類，傳送帶的傳送速度要和智能相機(jī)的計(jì)算能力相匹配，如果傳送帶傳得快但是相機(jī)計(jì)算不過來，就會(huì)導(dǎo)致整個(gè)自動(dòng)控制系統(tǒng)的失效；智能相機(jī)計(jì)算得越快，傳送帶就可以傳送的越快，產(chǎn)線吞吐率就能得到相應(yīng)的提升，生產(chǎn)效率就能提升。

在智能安防領(lǐng)域，建設(shè)城市視頻監(jiān)控系統(tǒng)是實(shí)現(xiàn)城市安全和穩(wěn)定的重要基礎(chǔ)，是“平安城市”建設(shè)的重要組成部分，更成為“智慧城市”的重要載體。傳統(tǒng)的安防監(jiān)控只能達(dá)到“看得見”的功能，公安機(jī)關(guān)需要靠人眼追溯錄下的視頻來破案，而肇觀的芯片應(yīng)用到智能安防領(lǐng)域，能夠讓攝像頭“看得清”，“看得懂”，極大提高破案效率，甚至將案件防范于未然，把大量重復(fù)簡(jiǎn)單的工作留給機(jī)器去解決。

每個(gè)應(yīng)用和系統(tǒng)廠商都在尋找在性能、功耗、成本等方面綜合因素下合用的AI芯片。 AI芯片是否適合使用，往往從每元錢能獲得的性能、每度電能獲得的性能、部署實(shí)施的成本、元器件是否穩(wěn)定可靠等幾個(gè)方面來衡量。 據(jù)悉，肇觀電子的N161芯片得到的某些客戶反饋稱： 用1T的算力部署的系統(tǒng)的性能達(dá)到了其他廠商宣稱的4~5T的水平。 這充分說明了芯片實(shí)際利用率是檢驗(yàn)芯片AI性能的金標(biāo)準(zhǔn)。
責(zé)任編輯:tzh