0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Meta發(fā)布Llama 3.2量化版模型

CHANBAEK ? 來源:網(wǎng)絡(luò)整理 ? 2024-10-29 11:05 ? 次閱讀

近日,Meta在開源Llama 3.2的1B與3B模型后,再次為人工智能領(lǐng)域帶來了新進展。10月24日,Meta正式推出了這兩個模型的量化版本,旨在進一步優(yōu)化模型性能,拓寬其應(yīng)用場景。

據(jù)Meta介紹,量化后的Llama 3.2模型在大小上平均減少了56%,RAM使用量也平均降低了41%。這一顯著的優(yōu)化使得模型在運行過程中能夠占用更少的資源,同時速度提高了2至4倍。此外,量化后的模型還降低了功耗,這對于將其部署到移動設(shè)備上具有重要意義。

此次Meta推出的量化版Llama 3.2模型,不僅展示了其在人工智能領(lǐng)域的持續(xù)創(chuàng)新能力,也為更多開發(fā)者提供了高效、便捷的工具。隨著這些模型在移動設(shè)備上的廣泛應(yīng)用,人工智能將更深入地融入人們的日常生活,為社會帶來更多的便利和可能性。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46599

    瀏覽量

    236938
  • 開源
    +關(guān)注

    關(guān)注

    3

    文章

    3212

    瀏覽量

    42294
  • Meta
    +關(guān)注

    關(guān)注

    0

    文章

    257

    瀏覽量

    11329
收藏 人收藏

    評論

    相關(guān)推薦

    使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

    前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日,Meta發(fā)布Llama3.2:一個多語言大型語言
    的頭像 發(fā)表于 10-12 09:39 ?369次閱讀
    使用OpenVINO 2024.4在算力魔方上部署<b class='flag-5'>Llama-3.2</b>-1B-Instruct<b class='flag-5'>模型</b>

    亞馬遜云科技上線Meta Llama 3.2模型

    亞馬遜云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
    的頭像 發(fā)表于 10-11 18:08 ?393次閱讀

    亞馬遜云科技正式上線Meta Llama 3.2模型

    亞馬遜云科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模態(tài)模型,現(xiàn)已在Amazon Bedrock和Amazon SageM
    的頭像 發(fā)表于 10-11 09:20 ?424次閱讀

    Meta發(fā)布多模態(tài)LLAMA 3.2人工智能模型

    Meta Platforms近日宣布了一項重要技術(shù)突破,成功推出了多模態(tài)LLAMA 3.2人工智能模型。這一創(chuàng)新模型不僅能夠深度解析文本信息
    的頭像 發(fā)表于 09-27 11:44 ?340次閱讀

    Meta Llama 3.1系列模型可在Google Cloud上使用

    我們很高興宣布,Llama 3.1 系列模型已添加到 Vertex AI Model Garden,這包括全新的 405B,即 Meta 迄今為止功能最強大、用途最廣泛的模型。這些
    的頭像 發(fā)表于 08-02 15:42 ?329次閱讀

    Meta發(fā)布全新開源大模型Llama 3.1

    科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能(AI)模型——Llama 3.1,這一舉措標(biāo)志著Meta在AI領(lǐng)域的又一重大突破。
    的頭像 發(fā)表于 07-24 18:25 ?1370次閱讀

    Meta即將發(fā)布超強開源AI模型Llama 3-405B

    在人工智能領(lǐng)域的激烈競爭中,Meta公司再次擲出重磅炸彈,宣布將于7月23日正式發(fā)布其最新力作——Llama 3-405B,一個擁有驚人4050億參數(shù)的開源大模型。這一舉措不僅標(biāo)志著
    的頭像 發(fā)表于 07-18 09:58 ?920次閱讀

    Meta Llama 3基礎(chǔ)模型現(xiàn)已在亞馬遜云科技正式可用

    亞馬遜云科技近日宣布,Meta公司最新發(fā)布的兩款Llama 3基礎(chǔ)模型——Llama 3 8B和Llam
    的頭像 發(fā)表于 05-09 10:39 ?354次閱讀

    英特爾AI產(chǎn)品助力其運行Meta新一代大語言模型Meta Llama 3

    英特爾豐富的AI產(chǎn)品——面向數(shù)據(jù)中心的至強處理器,邊緣處理器及AI PC等產(chǎn)品為開發(fā)者提供最新的優(yōu)化,助力其運行Meta新一代大語言模型Meta Llama 3
    的頭像 發(fā)表于 04-28 11:16 ?555次閱讀

    高通支持Meta Llama 3大語言模型在驍龍旗艦平臺上實現(xiàn)終端側(cè)執(zhí)行

    高通和Meta合作優(yōu)化Meta Llama 3大語言模型,支持在未來的驍龍旗艦平臺上實現(xiàn)終端側(cè)執(zhí)行。
    的頭像 發(fā)表于 04-20 09:13 ?429次閱讀

    Meta推出最強開源模型Llama 3 要挑戰(zhàn)GPT

    Meta推出最強開源模型Llama 3 要挑戰(zhàn)GPT Facebook母公司Meta Platforms(META.US)推出了開源AI大
    的頭像 發(fā)表于 04-19 17:00 ?784次閱讀

    LLaMA 2是什么?LLaMA 2背后的研究工作

    Meta 發(fā)布LLaMA 2,是新的 sota 開源大型語言模型 (LLM)。LLaMA 2 代表著
    的頭像 發(fā)表于 02-21 16:00 ?907次閱讀

    Meta發(fā)布CodeLlama70B開源大模型

    Meta發(fā)布CodeLlama70B開源大模型 Meta發(fā)布了開源大模型CodeLlama70B
    的頭像 發(fā)表于 01-31 10:30 ?1343次閱讀

    Meta發(fā)布開源大模型Code Llama 70B

    近日,Meta宣布推出了一款新的開源大模型Code Llama 70B,這是其“Code Llama家族中體量最大、性能最好的模型版本”。這
    的頭像 發(fā)表于 01-31 09:24 ?850次閱讀

    【飛騰派4G版免費試用】仙女姐姐的嵌入式實驗室之五~LLaMA.cpp及3B“小模型”O(jiān)penBuddy-StableLM-3B

    和語法規(guī)則,將這些詞匯串聯(lián)起來,形成一個完整的回答 關(guān)于LLaMALLaMA.cpp LLaMA全稱是Large Language Model Meta AI,是由
    發(fā)表于 12-22 10:18