曠視宣布開源深度學(xué)習(xí)框架“天元”，開源成為AI發(fā)展新趨勢

一、曠視宣布開源深度學(xué)習(xí)框架“天元”

3月25日下午，曠視科技舉辦線上發(fā)布會，宣布開源新一代AI生產(chǎn)力平臺Brain++的核心深度學(xué)習(xí)框架曠視天元（MegEngine）。

據(jù)了解，天元的前身是曠視內(nèi)部自用的算法訓(xùn)練推理引擎MegEngine，由曠視3名實習(xí)生在2013年啟動研發(fā)，并與2014年正式完成上線。這款自研的深度學(xué)習(xí)框架支撐了曠視6年以來在國際AI競賽的表現(xiàn)，以及公司產(chǎn)品和業(yè)務(wù)的落地，

二、天元框架采用推理一體化的機制

據(jù)介紹，在傳統(tǒng)深度學(xué)習(xí)研發(fā)中，產(chǎn)品從原型到生產(chǎn)部署往往需要分開設(shè)計和調(diào)用訓(xùn)練框架和推理框架兩種框架，這就導(dǎo)致模型在訓(xùn)練和推理的轉(zhuǎn)換的過程中出現(xiàn)不明原因的性能或精度損失，需要開發(fā)者手工進行優(yōu)化，而算法在計算平臺部署的時候出現(xiàn)各種問題也無法追溯。

天元框架避免了這樣的問題，通過訓(xùn)練、推理一體化的機制省去模型轉(zhuǎn)換的過程，可直接將訓(xùn)練后的模型進行推理，并保證跨設(shè)備的模型精度對齊，同時天元內(nèi)置自動模型優(yōu)化、簡化流程，減少因手工操作的機會，降低出錯概率。

除此之外，天元配置了 Python 和 C++ 接口，支持動態(tài)圖、靜態(tài)圖一鍵轉(zhuǎn)換和混合編程，可使用高級編程語言進行圖優(yōu)化和圖編譯。在運行時管理環(huán)節(jié)，天元具備執(zhí)行流與調(diào)度器，采用動態(tài)、靜態(tài)內(nèi)存分配并存的方式，并通過自動的亞線性內(nèi)存管理優(yōu)化器可以得到更好的內(nèi)存優(yōu)化效果；在底層設(shè)計上，天元的計算內(nèi)核兼容主流計算設(shè)備，且支持多機多卡和分布式訓(xùn)練。而為了解決模型復(fù)現(xiàn)困難的問題，天元則支持 PyTorch Module 導(dǎo)入，可針對計算機視覺任務(wù)進行優(yōu)化。

目前，曠視已在中國新一代人工智能開源開放平臺OpenI啟智社區(qū)和開源社區(qū) GitHub 上同步發(fā)布了天元 Alpha 版源代碼，開發(fā)者也可以通過天元官方網(wǎng)站的在線深度學(xué)習(xí)工具免費調(diào)用算力、獲取最新數(shù)據(jù)集和訓(xùn)練腳本，進行簡單訓(xùn)練和試用。

三、開源MegEngine，逐步釋放Brain++生產(chǎn)力

在MegEngine框架基礎(chǔ)之上，曠視研究院還提出了“三位一體”概念，將數(shù)據(jù)和算力平臺融合，構(gòu)建了集“算法、數(shù)據(jù)和算力”于一體的AI生產(chǎn)力套件Brain++。

曠視Brain++本質(zhì)上是一個超級工具套件，初衷是降低人工智能的使用成本。唐文斌曾提到，希望Brain++能夠為研發(fā)人員提供端到端的解決方案，提升大家的工作效率，不用再重復(fù)“造輪子”。

曠視做了這一一個類比：一個餐館的核心價值是為客人提供美味的菜品（就像AI產(chǎn)業(yè)的核心價值是提供專業(yè)可靠的AI解決方案），那么實現(xiàn)這個價值最重要的人則是大廚（開發(fā)者）。小作坊里的廚師需要自己洗菜（數(shù)據(jù)清洗）、配菜（搭模型）、炒菜（訓(xùn)模型）、調(diào)火候和口味（調(diào)參數(shù)），一個中午也許只能為三桌客人提供菜品。而在現(xiàn)代化、自動化中央廚房里工作的大廚，他將擁有標準化、流水線管理的配菜間和智能化的爐灶等套件工具，那么或許他一個人就可以搞定一棟樓菜品供應(yīng)。曠視Brain++就是希望為開發(fā)者提供這樣一套“中央廚房”式的解決方案。

Brain++這個生產(chǎn)力套件最為核心的部分就是能夠批量生產(chǎn)算法的深度學(xué)習(xí)框架，曠視希望通過MegEngine的開源，逐步將Brain++的生產(chǎn)力賦能給學(xué)術(shù)界和產(chǎn)業(yè)界的廣大開發(fā)者。

三、開源成為人工智能下一階段發(fā)展新趨勢

2012 年后，深度學(xué)習(xí)的發(fā)展帶動人工智能進入拐點，前者擁有高于傳統(tǒng)機器學(xué)習(xí)十倍、百倍的神經(jīng)網(wǎng)絡(luò)參數(shù)，在人工智能最先落地的語音識別、圖像識別領(lǐng)域，深度學(xué)習(xí)都是不可或缺的重要工具。商業(yè)落地中的數(shù)據(jù)反哺，也帶動了算力、框架上的不斷升級。開發(fā)者口中通用的深度學(xué)習(xí)開源框架基本不出這幾種：TensorFlow、 PyTorch、Caffe、CNTK、ONNX 等，這背后又分別站著谷歌、Facebook、微軟等巨頭。

唐文斌在發(fā)布會上提到，技術(shù)信仰是曠視人的基因，相信技術(shù)的變革能夠改變世界。對于曠視來說，自研的AI生產(chǎn)力套件已經(jīng)能夠滿足企業(yè)發(fā)展需要，但一個人的力量始終是有限的，一群人在一起才能創(chuàng)造奇跡。只有開源才能讓更多優(yōu)秀的開發(fā)者凝聚起來共享、共建、共贏，打破堅硬的技術(shù)壁壘，碰撞激發(fā)出更多優(yōu)秀的代碼。

更重要的是，開源是推進技術(shù)實現(xiàn)產(chǎn)業(yè)發(fā)展的催化劑。AI要真正實現(xiàn)產(chǎn)業(yè)化、通用化，需要大規(guī)模部署AI能力，在數(shù)據(jù)、計算、部署場景、硬件解決方案上具備一系列“工業(yè)級”的基礎(chǔ)，但眼前本質(zhì)的問題在于AI技術(shù)的基礎(chǔ)條件尚未成熟，曠視希望能夠通過開源為AI產(chǎn)業(yè)基礎(chǔ)設(shè)施添磚加瓦。

人工智能算法從研發(fā)到部署是一套龐大的系統(tǒng)工程，深度學(xué)習(xí)框架作為通用性的底層支持平臺，可實現(xiàn)算法訓(xùn)練和模型部署的高效流程化和深度神經(jīng)網(wǎng)絡(luò)模型設(shè)計自動化。在減少人員參與而不犧牲訓(xùn)練質(zhì)量的條件下，能夠大幅提高算法生產(chǎn)效率，對于人工智能技術(shù)及應(yīng)用研發(fā)人員的重要性不言而喻。