寒武紀(jì)MLUv01架構(gòu)采用臺(tái)積電16FF，MLU-100芯片

寒武紀(jì)科技公司與華為海思合作，為麒麟970智能手機(jī)芯片組提供AI IP，并為數(shù)據(jù)中心創(chuàng)建了自己的系列芯片。

麒麟970內(nèi)部的IP被稱為Cambricon-1A，是該公司的第一個(gè)可授權(quán)IP。當(dāng)時(shí)，查找寒武紀(jì)的信息非常困難：它的網(wǎng)站是一系列靜態(tài)圖像，中文嵌入圖像本身。有趣的是，我們的AI加速翻譯功能應(yīng)用在華為Mate 10上來翻譯網(wǎng)站內(nèi)容?？爝M(jìn)12-18個(gè)月，寒武紀(jì)網(wǎng)站現(xiàn)在可以互動(dòng)并提供即將推出的產(chǎn)品的相關(guān)信息，包括一些最近發(fā)布的信息。

大芯片：走向數(shù)據(jù)中心

基于臺(tái)積電16FF，MLU-100是一款80W芯片，在1.0 GHz，或'標(biāo)準(zhǔn)'模式下，使用機(jī)器學(xué)習(xí)算法中常用的8位整數(shù)度量，具有64 TFLOPS的傳統(tǒng)半精度或128 TOPS功能。寒武紀(jì)的首席執(zhí)行官陳天石博士表示，他們的新芯片具有1.30 GHz的高性能模式，允許83.2 TFLOPS（16位浮點(diǎn)）或166.4 TOPS（ 8位整數(shù)），但功耗上升到110W。 這在技術(shù)上降低了能源效率，但是允許使用更快的芯片。 所有這些數(shù)據(jù)都依賴于啟用稀疏數(shù)據(jù)模式。

該芯片背后的技術(shù)是寒武紀(jì)最新的MLUv01架構(gòu)，該架構(gòu)被理解為是用于麒麟芯片組的Cambricon-1A的一種變體，但規(guī)模更大更快。顯然，與移動(dòng)IP相比，必須對(duì)數(shù)據(jù)和電源管理實(shí)施額外的優(yōu)化。 寒武紀(jì)也有它的1H架構(gòu)和最新公布的1M架構(gòu)，但是沒有公開如何將數(shù)據(jù)傳遞到芯片。

WikiChip的David Schor指出，如果提供給商業(yè)合作伙伴，這可能是NVIDIA的首次機(jī)器學(xué)習(xí)ASIC競賽。為此，寒武紀(jì)還在制造PCIe卡。

很明顯，NVIDIA在這方面擁有強(qiáng)大的用戶群和多代產(chǎn)品，以及利用其硬件優(yōu)勢(shì)的軟件。 Cambricon沒有詳細(xì)說明他們計(jì)劃如何支持新芯片的SDK，但是它的網(wǎng)站上有一系列的SDK，支持TensorFlow，Caffe和MXNet。

進(jìn)入數(shù)據(jù)中心：PCIe

在數(shù)據(jù)中心中即插即用的最佳方式是通過PCIe卡。 Cambricon的MLU100加速器卡就是這樣的：一個(gè)PCIe 3.0 x16實(shí)現(xiàn)256位16或32 GB DDR4-3200內(nèi)存，這對(duì)于102.4 GB / s的帶寬是有好處的。要在NVIDIA上獲得大量內(nèi)存，需要高端顯卡，但這些顯卡提供多倍的顯存帶寬。 MLU100卡上的存儲(chǔ)器也啟用了ECC。

迄今為止的報(bào)告稱，聯(lián)想將其卡作為ThinkSystem SR650雙Intel Xeon服務(wù)器的附加產(chǎn)品; 每臺(tái)機(jī)器最多兩個(gè)。 從聯(lián)想網(wǎng)站上看，它目前并不能使用。 鑒于華為在企業(yè)中的巨大影響力，我們很可能會(huì)看到這些系統(tǒng)中的芯片。

下一代：5TOPS/Watt

另外報(bào)道的是新的Cambricon-1M IP，盡管該公司沒有提供細(xì)節(jié)。 WikiChip公司表示，這款新IP主要針對(duì)7nm制造，所以當(dāng)華為/海思開始發(fā)布7nm移動(dòng)處理器，然后進(jìn)入下一代面向服務(wù)器的產(chǎn)品時(shí)，我們很可能會(huì)看到它。與ARM的IP所宣傳的3 TOPS /瓦特相比，這個(gè)IP的目標(biāo)是達(dá)到5 TOPS /瓦特。 寒武紀(jì)今年晚些時(shí)候會(huì)有一個(gè)培訓(xùn)和推理芯片計(jì)劃，并在2019年再次進(jìn)行更新。