谷歌近日為其Android上的TensorFlow框架開發(fā)了新的基于OpenCL的移動GPU推理引擎,與現(xiàn)有的OpenGL后端相比,新的推理引擎速度是前者的2倍。
OpenGL是一種渲染圖形API,其應用已近30年之久,目前常用的GPU推理引擎均是以OpenGL開發(fā)。雖然在?OpenGL?ES?3.1中新增了計算著色器Compute?Shader,但TensorFlow團隊表示,向后兼容的設計限制了GPU的運算能力。
而OpenCL從一開始就是為使用各種計算加速而設計的,因此更為適合移動GPU推理領域。這促使TensorFlow團隊對基于OpenCL的移動推理引擎進行了考察,并最終決定采用該引擎。TFLite開發(fā)團隊提到,與OpenGL相比,最佳化OpenCL后端要簡單許多,因為OpenCL提供良好的分析功能,利用概要分析API,開發(fā)團隊能夠精確地量測核心調(diào)度效能。
值得一提的是,這一推理引擎具有完整的效能分析功,也就是說優(yōu)化器會選擇適合大小的神經(jīng)網(wǎng)絡工作組以提高GPU的效率。且原生支持FP16,即使在比較老舊的GPU硬件上,如2012年的Adreno?305也可完美發(fā)揮出GPU的效能。
責任編輯:pj
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
相關推薦
谷歌近日宣布,在其廣受歡迎的Chrome瀏覽器中引入了三項前沿的AI技術功能,旨在為用戶提供更加智能、便捷的瀏覽體驗。這些新功能由Gemini技術強力驅(qū)動,目前已在Chrome桌面版上線,標志著
發(fā)表于 08-05 11:26
?501次閱讀
科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能(AI)模型——Llama 3.1,這一舉措標志著Meta在AI領域的又一重大突破。Meta創(chuàng)始人馬克·扎克伯格親自站臺,盛贊Llama 3.
發(fā)表于 07-24 18:25
?1298次閱讀
電子發(fā)燒友網(wǎng)站提供《OpenGL+ES+2.0+編程指南.pdf》資料免費下載
發(fā)表于 05-07 14:20
?0次下載
值得注意的是,早在2021年3月,谷歌已在Chrome 89穩(wěn)定版中推出了全新的“閱讀清單”功能,方便用戶在瀏覽網(wǎng)頁時將需后續(xù)閱讀的文章加入“閱讀清單”,以便隨時查閱。
發(fā)表于 04-28 14:11
?355次閱讀
領域,現(xiàn)在也有一些新技術,例如,光線追蹤等等,都可以給計算機帶來更高的渲染質(zhì)量和視覺效果。在進行跨平臺渲染時,需要用到OpenGL,著色器編程是Op
發(fā)表于 04-25 08:40
(gl.ARRAY_BUFFER, verticesColors.buffer, gl.STATIC_DRAW);
// 獲取著色器中attribute變量a_Position的地址
var
發(fā)表于 03-13 15:22
無著色器繪制2D圖形
使用WebGL開發(fā)時,為保證界面圖形顯示效果,請使用真機運行。
此場景為未使用WebGL繪制的2D圖形(CPU繪制非GPU繪制)。開發(fā)示例如下:
1.創(chuàng)建頁面布局
發(fā)表于 03-12 15:42
。
一、 著色器
可以理解為運行在顯卡中的指令和數(shù)據(jù)。在WebGL中,著色器是用OpenGL
發(fā)表于 03-08 14:24
著色器
可以理解為運行在顯卡中的指令和數(shù)據(jù)。在WebGL中,著色器是用OpenGL
發(fā)表于 02-25 21:56
汽車座椅的健康與舒適也是座艙體驗的重要部分,符合人體工學設計和關愛脊背健康的座椅才能給乘坐者帶來長久的舒適。蔚來全新ES6在今年獲得了德國脊背健康協(xié)會(AGR)的座椅健康認證,全新
發(fā)表于 01-08 09:50
?628次閱讀
愛立信于今日發(fā)布了愛立信RAN Compute產(chǎn)品組合中的最新一代處理器 ,旨在幫助運營商(CSP)充分受益于當前與未來的無線接入技術演進。這些迄今為止最先進的RAN
發(fā)表于 11-15 00:55
?591次閱讀
說到云計算的起源,公眾普遍認為,谷歌前 CEO 埃里克·施密特是云計算概念的第一個提出者。 2006 年 8 月 9 日,在搜索引擎大會(SES San Jose 2006)上,他提出
發(fā)表于 11-09 15:23
?876次閱讀
科學家們提供無憂服務,其中,智能電動旗艦SUV蔚來全新ES8作為科學家接待用車,提供了高規(guī)格的全天候用車服務。 作為為高端精英人士打造的全場景智能旗艦SUV,全新
發(fā)表于 11-08 09:24
?1037次閱讀
Moku:Lab、Moku:Pro新增支持邏輯分析儀多儀器并行模式支持同時多窗口界面交互!LiquidInstruments宣布發(fā)布Moku3.1版本重要升級。此次更新對Moku:Pro、Moku
發(fā)表于 11-03 08:16
?355次閱讀
的 Cortex-A715 內(nèi)核和六個 Cortex-A510 內(nèi)核(頻率未知)。 同時輔以 Mali G610 MC4 GPU,這款 GPU 與天璣 9000 中的 G710 很相似,不過著色器核心較少
發(fā)表于 10-16 16:15
?3.1w次閱讀
評論