0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾大模型全適配,大語言模型已成功部署于CPU

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2023-12-11 15:41 ? 次閱讀

據(jù)媒體報(bào)道,美當(dāng)?shù)貢r(shí)間12月8日,聯(lián)想集團(tuán)舉辦了“AI PC產(chǎn)業(yè)創(chuàng)新論壇”活動(dòng),在會(huì)議中,英特爾中國區(qū)技術(shù)總經(jīng)理高宇強(qiáng)調(diào)新一代酷睿Ultra處理器已適配超過10款中國國內(nèi)的大型計(jì)算機(jī)模型。

他進(jìn)一步指出,英特爾作為芯片制造商,始終致力于對(duì)“合適尺寸”模型的全面適配。面對(duì)大模型領(lǐng)域激烈的市場(chǎng)競(jìng)爭,每個(gè)季度大約有4-5款新模型上市,一旦發(fā)現(xiàn)任何新的模型,英特爾承諾將立即派遣技術(shù)團(tuán)隊(duì)與相關(guān)模型廠商展開聯(lián)合研究,推動(dòng)目標(biāo)模型在平臺(tái)上的移植工作。

此外,在AI算力解決方案方面,英特爾采取XPU策略,即GPU、NPU和CPU并行使用。高宇也提到,目前在英特爾CPU上已成功應(yīng)用大語言模型,且運(yùn)行速度流暢;未來,這一模型也將在英特爾NPU上完成部署。展望未來,英特爾將持續(xù)深化與其包括聯(lián)想集團(tuán)在內(nèi)的國內(nèi)產(chǎn)業(yè)鏈的合作關(guān)系。

英特爾曾在上文提及的文章中明確表示,AI PC是指具備完整AI功能的PC設(shè)備。通過讓AI在云端和PC之間協(xié)同工作,或者使大語言模型在單機(jī)環(huán)境下獨(dú)立運(yùn)行,實(shí)現(xiàn)對(duì)PC用戶體驗(yàn)的根本性改造以及生產(chǎn)能力和創(chuàng)造力的充分釋放。

值得一提的是,隨著12月15日在國內(nèi)的酷睿Ultra系列處理器發(fā)布會(huì)日益臨近,這款新品同樣擁有集成式NPU,能夠提供低延時(shí)的Al計(jì)算服務(wù)。同時(shí),英特爾表態(tài)自MeteorLake開始,將把Al廣泛引入PC,引領(lǐng)全球數(shù)億臺(tái)PC邁入Al時(shí)代。此外,基于強(qiáng)大的x86生態(tài)系統(tǒng),英特爾為廣大用戶提供豐富多樣的軟件模型和工具。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    452

    文章

    50206

    瀏覽量

    420894
  • 英特爾
    +關(guān)注

    關(guān)注

    60

    文章

    9861

    瀏覽量

    171289
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2274

    瀏覽量

    2356
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    使用PyTorch在英特爾獨(dú)立顯卡上訓(xùn)練模型

    《PyTorch 2.5重磅更新:性能優(yōu)化+新特性》中的一個(gè)新特性就是:正式支持在英特爾獨(dú)立顯卡上訓(xùn)練模型!
    的頭像 發(fā)表于 11-01 14:21 ?152次閱讀
    使用PyTorch在<b class='flag-5'>英特爾</b>獨(dú)立顯卡上訓(xùn)練<b class='flag-5'>模型</b>

    英特爾IT的發(fā)展現(xiàn)狀和創(chuàng)新動(dòng)向

    AI大模型的爆發(fā),客觀上給IT的發(fā)展帶來了巨大的機(jī)會(huì)。作為把IT發(fā)展上升為戰(zhàn)略高度的英特爾,自然在推動(dòng)IT發(fā)展中注入了強(qiáng)勁動(dòng)力。英特爾IT不僅專注創(chuàng)新、AI和優(yōu)化,以及
    的頭像 發(fā)表于 08-16 15:22 ?482次閱讀

    如何將Llama3.1模型部署英特爾酷睿Ultra處理器

    本文從搭建環(huán)境開始,一步一步幫助讀者實(shí)現(xiàn)只用五行代碼便可將Llama3.1模型部署英特爾 酷睿 Ultra 處理器上。
    的頭像 發(fā)表于 07-26 09:51 ?1895次閱讀
    如何將Llama3.1<b class='flag-5'>模型</b><b class='flag-5'>部署</b>在<b class='flag-5'>英特爾</b>酷睿Ultra處理器

    英特爾助力京東云用CPU加速AI推理,以大模型構(gòu)建數(shù)智化供應(yīng)鏈

    英特爾助力京東云用CPU加速AI推理,以大模型構(gòu)建數(shù)智化供應(yīng)鏈
    的頭像 發(fā)表于 05-27 11:50 ?474次閱讀
    <b class='flag-5'>英特爾</b>助力京東云用<b class='flag-5'>CPU</b>加速AI推理,以大<b class='flag-5'>模型</b>構(gòu)建數(shù)智化供應(yīng)鏈

    已有超過500款A(yù)I模型英特爾酷睿Ultra處理器上得以優(yōu)化運(yùn)行

    近日,英特爾宣布在全新英特爾 酷睿 Ultra處理器上,有超過500款A(yù)I模型得以優(yōu)化運(yùn)行。
    的頭像 發(fā)表于 05-11 09:31 ?640次閱讀

    英特爾酷睿Ultra處理器突破500個(gè)AI模型優(yōu)化

    英特爾在最新推出的英特爾? 酷睿? Ultra處理器上宣布,超過500款A(yù)I模型已得到優(yōu)化運(yùn)行。這款處理器無疑是市場(chǎng)上領(lǐng)先的AI PC處理器,它不僅帶來了前所未有的AI體驗(yàn),還集成了沉浸式圖形處理和出色的電池續(xù)航能力。
    的頭像 發(fā)表于 05-09 11:18 ?710次閱讀

    【大語言模型:原理與工程實(shí)踐】大語言模型的應(yīng)用

    ,它通過抽象思考和邏輯推理,協(xié)助我們應(yīng)對(duì)復(fù)雜的決策。 相應(yīng)地,我們?cè)O(shè)計(jì)了兩類任務(wù)來檢驗(yàn)大語言模型的能力。一類是感性的、無需理性能力的任務(wù),類似人類的系統(tǒng)1,如情感分析和抽取式問答等。大
    發(fā)表于 05-07 17:21

    【大語言模型:原理與工程實(shí)踐】大語言模型的評(píng)測(cè)

    在知識(shí)獲取、邏輯推理、代碼生成等方面的能力。這些評(píng)測(cè)基準(zhǔn)包括語言建模能力、綜合知識(shí)能力、數(shù)學(xué)計(jì)算能力、代碼能力和垂直領(lǐng)域等多個(gè)維度。對(duì)于微調(diào)模型,對(duì)話能力的評(píng)測(cè)關(guān)注模型在對(duì)話任務(wù)中的
    發(fā)表于 05-07 17:12

    【大語言模型:原理與工程實(shí)踐】大語言模型的基礎(chǔ)技術(shù)

    語言模型基礎(chǔ)技術(shù)21隨著Transformer結(jié)構(gòu)在機(jī)器翻譯領(lǐng)域取得巨大成功,研究人員開始探索其在其他自然語言處理任務(wù)中的潛力。很快,Transformer 結(jié)構(gòu)被證明不僅適用于序列
    發(fā)表于 05-05 12:17

    【大語言模型:原理與工程實(shí)踐】揭開大語言模型的面紗

    了如BERT和GPT等劃時(shí)代的模型。BERT通過雙向訓(xùn)練增強(qiáng)了文本理解能力,而GPT則展示了強(qiáng)大的文本生成能力。 大語言模型,擁有數(shù)百億甚至更多參數(shù),已成為自然
    發(fā)表于 05-04 23:55

    英特爾AI產(chǎn)品助力其運(yùn)行Meta新一代大語言模型Meta Llama 3

    英特爾豐富的AI產(chǎn)品——面向數(shù)據(jù)中心的至強(qiáng)處理器,邊緣處理器及AI PC等產(chǎn)品為開發(fā)者提供最新的優(yōu)化,助力其運(yùn)行Meta新一代大語言模型Meta Llama 3
    的頭像 發(fā)表于 04-28 11:16 ?556次閱讀

    浪潮信息&quot;源2.0&quot;大模型YuanChat支持英特爾最新商用AI PC

    北京2024年3月27日 /美通社/ -- 3月26日, 浪潮信息與英特爾正式宣布,浪潮信息"源2.0系列基礎(chǔ)大模型"已和最新的英特爾? 酷睿? Ultra處理器平臺(tái)完成適配,本地推理
    的頭像 發(fā)表于 03-27 22:52 ?440次閱讀
    浪潮信息&quot;源2.0&quot;大<b class='flag-5'>模型</b>YuanChat支持<b class='flag-5'>英特爾</b>最新商用AI PC

    浪潮信息與英特爾合作推出一種大模型效率工具“YuanChat”

    3月26日,浪潮信息與英特爾正式宣布,浪潮信息“源2.0系列基礎(chǔ)大模型”已和最新的英特爾? 酷睿? Ultra處理器平臺(tái)完成適配,本地推理速度提升100%。
    的頭像 發(fā)表于 03-27 13:50 ?561次閱讀
    浪潮信息與<b class='flag-5'>英特爾</b>合作推出一種大<b class='flag-5'>模型</b>效率工具“YuanChat”

    英特爾CPU部署Qwen 1.8B模型的過程

    本文介紹了在英特爾 13 代酷睿 CPU i5 - 13490F 設(shè)備上部署 Qwen 1.8B 模型的過程,你需要至少 16GB 內(nèi)存的機(jī)器來完成這項(xiàng)任務(wù),我們將使用
    的頭像 發(fā)表于 01-12 10:28 ?2487次閱讀

    CPU如何加速AI部署與應(yīng)用?第五代英特爾? 至強(qiáng)? 給你支招!

    屬于各自所有者資產(chǎn)。 12月15日|2023英特爾新品發(fā)布會(huì)暨AI技術(shù)創(chuàng)新派對(duì)等你來! 平臺(tái)賦能,算力共建,智貫東西 “2023 英特爾算力大會(huì)暨東數(shù)西算大會(huì)”成功舉辦 2023 英特爾
    的頭像 發(fā)表于 12-16 16:15 ?484次閱讀
    <b class='flag-5'>CPU</b>如何加速AI<b class='flag-5'>部署</b>與應(yīng)用?第五代<b class='flag-5'>英特爾</b>? 至強(qiáng)? 給你支招!