寒武紀(jì)推出新一代云端AI芯片“思元270”

寒武紀(jì)近日宣布，推出云端 AI 芯片中文品牌“思元”、第二代云端 AI 芯片思元 270（MLU270）及板卡產(chǎn)品。

寒武紀(jì)曾于去年正式推出云端 AI 芯片品牌“ MLU”（Machine Learning Unit），此次推出中文品牌“思元”是對(duì) MLU 品牌的有機(jī)補(bǔ)充，其含義為“思考的基本單元”。

最新發(fā)布的思元 270 芯片集成了寒武紀(jì)在處理器架構(gòu)領(lǐng)域的一系列創(chuàng)新性技術(shù)，處理非稀疏深度學(xué)習(xí)模型的理論峰值性能提升至上一代 MLU100 的 4 倍，達(dá)到 128TOPS（INT8）；同時(shí)兼容 INT4 和 INT16 運(yùn)算，理論峰值分別達(dá)到256TOPS 和 64TOPS；支持浮點(diǎn)運(yùn)算和混合精度運(yùn)算。思元 270 采用寒武紀(jì)公司自主研發(fā)的 MLUv02 指令集，可支持視覺(jué)、語(yǔ)音、自然語(yǔ)言處理以及傳統(tǒng)機(jī)器學(xué)習(xí)等高度多樣化的人工智能應(yīng)用，更為視覺(jué)應(yīng)用集成了充裕的視頻和圖像編解碼硬件單元。

寒武紀(jì)在定點(diǎn)訓(xùn)練領(lǐng)域已實(shí)現(xiàn)關(guān)鍵性突破，思元 270 訓(xùn)練版板卡將可通過(guò) 8 位或 16 位定點(diǎn)運(yùn)算提供卓越的人工智能訓(xùn)練性能，該技術(shù)有望成為AI芯片發(fā)展的重要里程碑。在系統(tǒng)軟件和工具鏈方面，思元 270 繼續(xù)支持寒武紀(jì) Neuware 軟件工具鏈，支持業(yè)內(nèi)各主流編程框架。此外，為方便開(kāi)發(fā)者更好地挖掘思元270 超強(qiáng)的運(yùn)算能力、開(kāi)拓更多的應(yīng)用領(lǐng)域，寒武紀(jì)將在近期向社區(qū)和開(kāi)發(fā)者開(kāi)放專(zhuān)用編程語(yǔ)言。

思元 270 芯片采用 TSMC 16nm 工藝制造，其板卡產(chǎn)品可以通過(guò) PCIe 接口快速部署在服務(wù)器和工作站內(nèi)。寒武紀(jì)本次公開(kāi)的思元 270 板卡產(chǎn)品面向人工智能推斷任務(wù)，在 ResNet50 上推理性能超過(guò) 10000fps。MLU270-S4 型板卡（半高半長(zhǎng)）面向數(shù)據(jù)中心部署，集成16GB DDR4 內(nèi)存，支持ECC；MLU270-F4 型板卡（全高全長(zhǎng)）采用主動(dòng)散熱設(shè)計(jì)，面向非數(shù)據(jù)中心部署場(chǎng)景，集成 16GB DDR4 內(nèi)存，支持 ECC。面向人工智能訓(xùn)練任務(wù)的思元 270 訓(xùn)練版板卡產(chǎn)品將于本年度第四季度推出。

寒武紀(jì)第一代云端 AI 芯片 MLU100 及板卡于 2018 年 5月發(fā)布。經(jīng)過(guò)在一年的適配和部署，MLU100 系列產(chǎn)品已為客戶(hù)在智能視頻分析、語(yǔ)音合成、推薦引擎、AI 云等多個(gè)領(lǐng)域提供了高能效比的解決方案。思元 270 的發(fā)布，將進(jìn)一步完善寒武紀(jì)端云一體產(chǎn)品體系，繼續(xù)為客戶(hù)提供性能卓越、高度優(yōu)化的人工智能算力支撐。

寒武紀(jì) CEO 陳天石表示：“寒武紀(jì)始終致力于為合作伙伴提供性能卓越、高度靈活的人工智能芯片。最新推出的思元 270 芯片和板卡產(chǎn)品將為客戶(hù)帶來(lái)速度更快、功耗更低、性?xún)r(jià)比更高的 AI 加速解決方案。作為人工智能芯片的先行者和引領(lǐng)者之一，寒武紀(jì)將持續(xù)推動(dòng)該領(lǐng)域的技術(shù)和產(chǎn)品創(chuàng)新，為全球人工智能產(chǎn)業(yè)注入新鮮的血液，帶來(lái)全新的動(dòng)力。”