0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾FPGA 助力Microsoft Azure機器學習提供AI推理性能

西西 ? 作者:廠商供稿 ? 2018-05-16 17:25 ? 次閱讀

新特性:在近日舉行的 Microsoft Build 大會上,Microsoft推出了 基于 Project Brainwave 的 Azure 機器學習硬件加速模型,并與 Microsoft Azure Machine Learning SDK 相集成以供預覽。客戶可以使用 Azure 大規(guī)模部署的英特爾? FPGA(現(xiàn)場可編程邏輯門陣列)技術,為其模型提供行業(yè)領先的人工智能 (AI) 推理性能。

“作為一家整體技術提供商,我們通過與 Microsoft 密切合作為人工智能提供支持。人工智能適用于從訓練到推斷,從語音識別到圖像分析等各種使用場景,英特爾擁有廣泛的硬件、軟件和工具組合,可滿足這些工作負載的需求?!?/p>

-- Daniel McNamara,英特爾公司副總裁兼可編程解決方案事業(yè)部總經(jīng)理

意義:數(shù)據(jù)科學家和開發(fā)人員可以在全球最大的加速計算云中輕松地使用深度神經(jīng)網(wǎng)絡 (DNN) 處理各種實時工作負載,應用的領域涵蓋制造、零售和醫(yī)療領域等。不論是在云計算還是邊緣計算中,他們都可以利用英特爾FPGA來訓練模型,并將其部署到 Project Brainwave上。

重要性:Project Brainwave使用英特爾 FPGA來提供實時人工智能,釋放了可編程硬件的潛能并展示了人工智能的未來。基于 FPGA 的架構具有高吞吐和經(jīng)濟節(jié)能的特點:比如可以運行 ResNet 50——這是一種行業(yè)標準的 DNN,需要近 80 億次計算——而無需批處理。AI 客戶無需在高性能和低成本之間進行選擇。

操作方法:通過使用 Azure Machine Learning SDK for Python,客戶可以重新訓練基于 ResNet 50 的模型及其數(shù)據(jù),專門處理圖像識別任務。

對于實時 AI 工作負載,由于計算強度較高,因此需要專用的硬件加速器。英特爾 FPGA 支持 Azure 針對任務配置硬件,以實現(xiàn)峰值性能。

微軟公司杰出工程師 Doug Burger 表示:“客戶現(xiàn)在可以利用英特爾 FPGA 和英特爾至強技術,在云端和邊緣使用微軟的一系列 AI 突破性技術。這些新功能支持將 AI 集成到實時處理流程中,以利用 Microsoft Azure 和 Microsoft AI 的強大功能推動業(yè)務轉(zhuǎn)型?!?/p>

用戶可以根據(jù) Azure 工作負載的特定要求進一步完善 FPGA 或完全改變其用途。采用英特爾 FPGA 和英特爾? 至強? 處理器開發(fā)的 Azure 架構支持根據(jù)用戶的定制軟件和硬件配置條款,通過加速 AI 實現(xiàn)創(chuàng)新。

Project Brainwave 的限量預覽版現(xiàn)已提供,用戶可在本地訪問 Microsoft 設計的基于英特爾 FPGA 的系統(tǒng),后者充當 Azure IoT Edge設備并連接到 Azure IoT Hub。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • FPGA
    +關注

    關注

    1620

    文章

    21510

    瀏覽量

    598880
  • 英特爾
    +關注

    關注

    60

    文章

    9747

    瀏覽量

    170640
  • AI
    AI
    +關注

    關注

    87

    文章

    28875

    瀏覽量

    266201
收藏 人收藏

    評論

    相關推薦

    開箱即用,AISBench測試展示英特爾至強處理器的卓越推理性能

    。 中國電子技術標準化研究院賽西實驗室依據(jù)國家標準《人工智能服務器系統(tǒng)性能測試規(guī)范》(征求意見稿)相關要求,使用AISBench?2.0測試工具,完成了第五代英特爾至強可擴展處理器的AI大模型
    的頭像 發(fā)表于 09-06 15:33 ?139次閱讀
    開箱即用,AISBench測試展示<b class='flag-5'>英特爾</b>至強處理器的卓越<b class='flag-5'>推理性能</b>

    英特爾以生成式AI RAG解決方案,為巴黎奧運健兒提供便捷體驗

    英特爾通過開放、易獲取的AI系統(tǒng)和生態(tài)協(xié)作,以創(chuàng)新的方式為運動員提供支持,并助力企業(yè)客戶創(chuàng)造更多可能。 英特爾分享了與國際奧林匹克委員會(I
    的頭像 發(fā)表于 07-19 19:43 ?1613次閱讀
    <b class='flag-5'>英特爾</b>以生成式<b class='flag-5'>AI</b> RAG解決方案,為巴黎奧運健兒<b class='flag-5'>提供</b>便捷體驗

    英特爾CEO:AI時代英特爾動力不減

    英特爾CEO帕特·基辛格堅信,在AI技術的飛速發(fā)展之下,英特爾的處理器仍能保持其核心地位。基辛格公開表示,摩爾定律仍然有效,而英特爾在處理器和芯片技術上的創(chuàng)新能力將持續(xù)驅(qū)動公司前進。
    的頭像 發(fā)表于 06-06 10:04 ?298次閱讀

    英特爾助力京東云用CPU加速AI推理,以大模型構建數(shù)智化供應鏈

    英特爾助力京東云用CPU加速AI推理,以大模型構建數(shù)智化供應鏈
    的頭像 發(fā)表于 05-27 11:50 ?382次閱讀
    <b class='flag-5'>英特爾</b><b class='flag-5'>助力</b>京東云用CPU加速<b class='flag-5'>AI</b><b class='flag-5'>推理</b>,以大模型構建數(shù)智化供應鏈

    寧暢B5000 G5多節(jié)點服務器采用第五代英特爾至強可擴展處理器

    “基于第五代英特爾 至強 可擴展處理器的寧暢B5000 G5多節(jié)點服務器,可以在滿足大量AI推理場景在吞吐量、時延、容量、并發(fā)能力等方面的需求,而且與專用的GPU服務器相比,在靈活性方面更具優(yōu)勢。我們希望能夠與
    的頭像 發(fā)表于 05-27 11:46 ?628次閱讀
    寧暢B5000 G5多節(jié)點服務器采用第五代<b class='flag-5'>英特爾</b>至強可擴展處理器

    BittWare提供基于英特爾Agilex? 7 FPGA最新加速板

    BittWare 當前的加速板產(chǎn)品組合包括最新的英特爾 Agilex 7 FPGA F、I 和 M 系列,包括 Compute Express Link (CXL) 和 PCIe* 5.0
    的頭像 發(fā)表于 04-30 15:22 ?681次閱讀
    BittWare<b class='flag-5'>提供</b>基于<b class='flag-5'>英特爾</b>Agilex? 7 <b class='flag-5'>FPGA</b>最新加速板

    英特爾旗下FPGA公司Altera正式亮相

    日前,英特爾 FPGA Vision線上直播中發(fā)布,將英特爾編程解決方案事業(yè)部 (PSG) 作為獨立的FPGA公司——Altera。
    的頭像 發(fā)表于 03-18 14:11 ?385次閱讀

    英特爾首推面向AI時代的系統(tǒng)級代工

    Advanced System Assembly and Test)能力,以助力客戶在AI領域取得成功。 ?英特爾代工宣布新的
    的頭像 發(fā)表于 02-26 15:41 ?292次閱讀
    <b class='flag-5'>英特爾</b>首推面向<b class='flag-5'>AI</b>時代的系統(tǒng)級代工

    英特爾首推面向AI時代的系統(tǒng)級代工—英特爾代工

    英特爾首推面向AI時代的系統(tǒng)級代工——英特爾代工(Intel Foundry),在技術、韌性和可持續(xù)性方面均處于領先地位。
    的頭像 發(fā)表于 02-25 10:38 ?420次閱讀
    <b class='flag-5'>英特爾</b>首推面向<b class='flag-5'>AI</b>時代的系統(tǒng)級代工—<b class='flag-5'>英特爾</b>代工

    英特爾專家為您揭秘第五代英特爾? 至強? 可擴展處理器如何為AI加速

    % 1 ,AI 推理性能提升42% 2 。 這一系列性能提升的背后,存在著怎樣的創(chuàng)新與突破?第五代英特爾 至強 可擴展處理器為什么要強調(diào)為AI
    的頭像 發(fā)表于 12-23 12:20 ?628次閱讀

    CPU也可以完美運行大模型 英特爾第五代至強重磅發(fā)布

    處理器,它來了! 若是用一句話來概括它的特點,那就是——AI味道越發(fā)得濃厚。 以訓練、推理大模型為例: ? ? ? ? ? ? 與第四代相比,訓練性能提升多達29%,推理性能提升高達4
    的頭像 發(fā)表于 12-22 11:52 ?511次閱讀
    CPU也可以完美運行大模型 <b class='flag-5'>英特爾</b>第五代至強重磅發(fā)布

    AI PC助力創(chuàng)新無限想象,英特爾人工智能創(chuàng)新應用大賽正式啟動

    睿??Ultra等設備及軟件工具套件,助力開發(fā)者利用基于英特爾AI PC出色的計算和圖形性能進行創(chuàng)意開發(fā),讓每一位用戶都能真切體驗到AI
    的頭像 發(fā)表于 12-19 11:23 ?573次閱讀

    英特爾新處理器,掀AI PC戰(zhàn)火

    隨著ai時代的到來,英特爾正在構想新的酷睿Ultra處理器(代號Meteor Lake),這是英特爾的第一個基于npu的處理器,旨在在pc上應用ai加速和邊緣
    的頭像 發(fā)表于 12-11 11:26 ?816次閱讀

    用上這個工具包,大模型推理性能加速達40倍

    作者: 英特爾公司 沈海豪、羅嶼、孟恒宇、董波、林俊 編者按: 只需不到9行代碼, 就能在CPU上實現(xiàn)出色的LLM推理性能。 英特爾 ?Extension for Transformer 創(chuàng)新
    的頭像 發(fā)表于 12-01 20:40 ?965次閱讀
    用上這個工具包,大模型<b class='flag-5'>推理性能</b>加速達40倍

    #高通 #英特爾 #Elite 高通X Elite芯片或終結蘋果、英特爾的芯片王朝

    高通英特爾蘋果
    深圳市浮思特科技有限公司
    發(fā)布于 :2023年10月27日 16:46:07