OPPO自研推理引擎ShaderNN加入LF AI&Data基金會(huì)

近日，OPPO 宣布向 LF AI&Data 基金會(huì)無(wú)償捐贈(zèng)一項(xiàng) AI 項(xiàng)目——ShaderNN，它是業(yè)界首個(gè)支持 OpenGL 和 Vulkan 全圖形棧的高效輕量推理引擎, 面向移動(dòng)端圖形、圖像、游戲?qū)崟r(shí) AI 應(yīng)用。

目前，越來(lái)越多的深度學(xué)習(xí)推理任務(wù)從云端轉(zhuǎn)移到移動(dòng)端，移動(dòng)平臺(tái)上的深度學(xué)習(xí)推理場(chǎng)景需要解決硬件平臺(tái)、驅(qū)動(dòng)、編譯優(yōu)化、模型壓縮、算子算法優(yōu)化和部署等諸多問(wèn)題，現(xiàn)有的推理平臺(tái)與第三方庫(kù)和硬件平臺(tái)又通常存在驅(qū)動(dòng)適配、模型驗(yàn)證、數(shù)據(jù)交互等問(wèn)題，導(dǎo)致對(duì)應(yīng)的優(yōu)化部署和維護(hù)升級(jí)過(guò)程繁瑣。同時(shí)，移動(dòng)平臺(tái)對(duì)圖形圖像類應(yīng)用的實(shí)時(shí)性和功耗要求越來(lái)越高。

ShaderNN 應(yīng)運(yùn)而生， ShaderNN 專注于通過(guò) GPU 著色器進(jìn)行推理加速，它基于原生 OpenGL ES 和 Vulkan 構(gòu)建，可以輕松與圖形渲染管線深度集成，最大限度地利用計(jì)算資源，適用于渲染、圖像/視頻和游戲 AI 實(shí)時(shí)應(yīng)用，它具有通用性、高性能、可移植性、可擴(kuò)展性，其推理時(shí)間及平均功耗比同行業(yè)推理引擎在典型場(chǎng)景有顯著優(yōu)勢(shì)。

ShaderNN 加入 LF AI&Data 基金會(huì)沙箱項(xiàng)目后，通過(guò)在基金會(huì)內(nèi)部的合作，可以為開(kāi)發(fā)者帶來(lái)更快捷的開(kāi)發(fā)體驗(yàn)，讓手機(jī)用戶獲得更流暢、更沉浸真實(shí)的體驗(yàn)。