0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

李開復(fù):中國擅長(zhǎng)打造經(jīng)濟(jì)實(shí)惠的AI推理引擎

要長(zhǎng)高 ? 2024-10-22 16:54 ? 次閱讀

10月22日上午,零一萬物公司的創(chuàng)始人兼首席執(zhí)行官李開復(fù)在與外媒的交流中透露,其公司旗下的Yi-Lightning(閃電模型)在推理成本上已實(shí)現(xiàn)了顯著優(yōu)勢(shì),比OpenAI的GPT-4o模型低了31倍。他強(qiáng)調(diào),中國擅長(zhǎng)打造經(jīng)濟(jì)實(shí)惠的AI推理引擎,這是推動(dòng)AI應(yīng)用快速發(fā)展的關(guān)鍵因素。

根據(jù)加州大學(xué)伯克利分校SkyLab和LMSYS研究人員最新發(fā)布的大模型排名,零一萬物與Grok-2和馬斯克創(chuàng)立的xAI一同位列全球第三,僅次于OpenAI和谷歌的最新模型。李開復(fù)透露,Yi-Lightning的推理成本僅為每百萬token 0.99元人民幣(14美分),而OpenAI的較小模型o1-mini則需26美分每百萬token,其更大的GPT-4o模型更是高達(dá)4.40美元每百萬token。

此外,李開復(fù)還提到,Yi-Lightning的“預(yù)訓(xùn)練”成本為300萬美元,僅為OpenAI訓(xùn)練GPT-4成本的3%,但性能卻超越了后者。

面對(duì)尖端AI芯片供應(yīng)緊張的現(xiàn)狀,國內(nèi)AI企業(yè)過去一年紛紛致力于開發(fā)高質(zhì)量數(shù)據(jù)集,以訓(xùn)練出具有特色的“混合專家”模型。李開復(fù)指出,零一萬物采用了優(yōu)于傳統(tǒng)網(wǎng)絡(luò)抓取的數(shù)據(jù)收集方法,如掃描書籍、爬取深網(wǎng)數(shù)據(jù)以及使用創(chuàng)新的合成數(shù)據(jù)技術(shù)等。

他進(jìn)一步強(qiáng)調(diào),中國在數(shù)據(jù)標(biāo)注和排序方面擁有大量技術(shù)精湛且勤奮的工程師,這使得中國在AI應(yīng)用落地方面更具優(yōu)勢(shì)?!爸袊膬?yōu)勢(shì)不在于無預(yù)算限制的突破性研究,而在于能夠以更好、更快、更可靠和更低成本的方式實(shí)現(xiàn)AI技術(shù)的實(shí)際應(yīng)用?!崩铋_復(fù)表示。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29780

    瀏覽量

    268055
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1033

    瀏覽量

    6378
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    城西科創(chuàng)大走廊打造中國AI+”產(chǎn)業(yè)地標(biāo) “中國云谷”正式啟動(dòng)建設(shè)

    全力打造中國AI+”產(chǎn)業(yè)地標(biāo),10月30日,“中國云谷”建設(shè)發(fā)展大會(huì)在杭州城西科創(chuàng)大走廊紫金港科技城召開,“中國云谷”正式啟動(dòng)建設(shè),著力
    的頭像 發(fā)表于 10-31 12:29 ?89次閱讀
    城西科創(chuàng)大走廊<b class='flag-5'>打造</b>“<b class='flag-5'>中國</b><b class='flag-5'>AI</b>+”產(chǎn)業(yè)地標(biāo) “<b class='flag-5'>中國</b>云谷”正式啟動(dòng)建設(shè)

    NVIDIA助力麗蟾科技打造AI訓(xùn)練與推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺(tái)集成 NVIDIA AI Enterprise,為企業(yè)和科研機(jī)構(gòu)提供了一套高效、靈活的 AI 訓(xùn)練與推理加速解決方案。無論是在復(fù)雜的 AI 開發(fā)
    的頭像 發(fā)表于 10-27 10:03 ?138次閱讀
    NVIDIA助力麗蟾科技<b class='flag-5'>打造</b><b class='flag-5'>AI</b>訓(xùn)練與<b class='flag-5'>推理</b>加速解決方案

    澎峰科技高性能大模型推理引擎PerfXLM解析

    模型的高性能推理框架,并受到廣泛關(guān)注。在歷經(jīng)數(shù)月的迭代開發(fā)后,澎峰科技重磅發(fā)布升級(jí)版本,推出全新的高性能大模型推理引擎:PerfXLM。
    的頭像 發(fā)表于 09-29 10:14 ?326次閱讀
    澎峰科技高性能大模型<b class='flag-5'>推理</b><b class='flag-5'>引擎</b>PerfXLM解析

    AMD助力HyperAccel開發(fā)全新AI推理服務(wù)器

    提高成本效率。HyperAccel 針對(duì)新興的生成式 AI 應(yīng)用提供超級(jí)加速的芯片 IP/解決方案。HyperAccel 已經(jīng)打造出一個(gè)快速、高效且低成本的推理系統(tǒng),加速了基于轉(zhuǎn)換器的大型語言模型
    的頭像 發(fā)表于 09-18 09:37 ?305次閱讀
    AMD助力HyperAccel開發(fā)全新<b class='flag-5'>AI</b><b class='flag-5'>推理</b>服務(wù)器

    摩爾線程攜手東華軟件完成AI大模型推理測(cè)試與適配

    近日,摩爾線程與東華軟件云筑AI創(chuàng)新中心宣布,雙方已完成大模型推理測(cè)試與適配。依托摩爾線程的全功能GPU國產(chǎn)算力,東華軟件打造安全可信的基于私有化大模型的“智多型(A.I.Cogniflex)”
    的頭像 發(fā)表于 07-31 10:51 ?615次閱讀

    深度學(xué)習(xí)編譯器和推理引擎的區(qū)別

    深度學(xué)習(xí)編譯器和推理引擎在人工智能領(lǐng)域中都扮演著至關(guān)重要的角色,但它們各自的功能、應(yīng)用場(chǎng)景以及優(yōu)化目標(biāo)等方面存在顯著的差異。以下是對(duì)兩者區(qū)別的詳細(xì)探討。
    的頭像 發(fā)表于 07-17 18:12 ?1175次閱讀

    李開復(fù)展望AI未來:2025年AI或超博士水平

    在6月29日舉辦的知乎第十屆鹽Club新知青年大會(huì)上,科技巨頭李開復(fù),身兼零一萬物CEO和創(chuàng)新工場(chǎng)董事長(zhǎng)雙重身份,發(fā)表了對(duì)人工智能(AI)未來的深度見解。他回顧了自己與AI相伴的40年歷程,并大膽預(yù)測(cè),大模型技術(shù)的飛速進(jìn)步將使
    的頭像 發(fā)表于 06-29 15:56 ?728次閱讀

    如何基于OrangePi?AIpro開發(fā)AI推理應(yīng)用

    。通過昇騰CANN軟件棧的AI編程接口,可滿足大多數(shù)AI算法原型驗(yàn)證、推理應(yīng)用開發(fā)的需求。AscendCL(AscendComputingLanguage,昇騰計(jì)算
    的頭像 發(fā)表于 06-04 14:23 ?435次閱讀
    如何基于OrangePi?AIpro開發(fā)<b class='flag-5'>AI</b><b class='flag-5'>推理</b>應(yīng)用

    李開復(fù)中國須獨(dú)立研發(fā)ChatGPT?

    李開復(fù)援引“ChatGPT 時(shí)刻”概念,指出美國在約 17 個(gè)月前就已體驗(yàn)到這一波熱潮(注:ChatGPT 最早于 2022 年 12 月走紅)。然而,他認(rèn)為中國尚未達(dá)到這一階段,目前國內(nèi)的聊天機(jī)器人或工具仍有待改進(jìn)。
    的頭像 發(fā)表于 05-13 16:05 ?467次閱讀

    開發(fā)者手機(jī) AI - 目標(biāo)識(shí)別 demo

    識(shí)別demo: JS實(shí)現(xiàn)UI界面的功能; Native接口及實(shí)現(xiàn)主要為JS提供接口進(jìn)行AI推理。通過Native方式完成推理的前處理、推理以及后處理,這里通過調(diào)用opencv、Mind
    發(fā)表于 04-11 16:14

    蘋果收購加拿大AI初創(chuàng)公司DarwinAI,積極布局生成式人工智能領(lǐng)域

    DarwinAI以研發(fā)能夠在制造環(huán)節(jié)實(shí)現(xiàn)零部件視覺檢測(cè)的AI技術(shù)見長(zhǎng),目前已向諸多行業(yè)接觸客戶。值得注意的是,他們擅長(zhǎng)打造緊湊型快速的AI系統(tǒng),蘋果對(duì)此技術(shù)頗感興趣,因其正致力于研發(fā)能實(shí)現(xiàn)在移動(dòng)設(shè)備上運(yùn)行
    的頭像 發(fā)表于 03-15 15:33 ?569次閱讀

    AI推理框架軟件ONNX Runtime正式支持龍架構(gòu)

    近日,知名AI推理框架開源社區(qū)ONNX Runtime正式發(fā)布支持龍架構(gòu)的版本1.17.0。
    的頭像 發(fā)表于 03-12 12:23 ?523次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>框架軟件ONNX Runtime正式支持龍架構(gòu)

    新火種AI | AI發(fā)展何去何從?李開復(fù):中美大模型只能存活五六家

    12月14日,在一場(chǎng)與AI相關(guān)的對(duì)話中,零一萬物的CEO李開復(fù)被問到了一個(gè)問題:大模型賽道最終能有幾家活下來?對(duì)此,李開復(fù)也算是知無不言,他認(rèn)為,除了大廠,中美加起來應(yīng)該可以支撐五六家左右。
    的頭像 發(fā)表于 12-21 09:19 ?305次閱讀
    新火種<b class='flag-5'>AI</b> | <b class='flag-5'>AI</b>發(fā)展何去何從?<b class='flag-5'>李開復(fù)</b>:中美大模型只能存活五六家

    HarmonyOS:使用MindSpore Lite引擎進(jìn)行模型推理

    場(chǎng)景介紹 MindSpore Lite 是一款 AI 引擎,它提供了面向不同硬件設(shè)備 AI 模型推理的功能,目前已經(jīng)在圖像分類、目標(biāo)識(shí)別、人臉識(shí)別、文字識(shí)別等應(yīng)用中廣泛使用。 本文介紹
    發(fā)表于 12-14 11:41

    澎峰科技發(fā)布大模型推理引擎PerfXLLM

    要的巨額開銷也引發(fā)了相關(guān)研究者的關(guān)注。如何高效地進(jìn)行推理,并盡可能地減少成本,從而促進(jìn)大模型應(yīng)用的落地成為了目前的關(guān)鍵問題。 于是,澎峰科技研發(fā)了一款 大模型推理引擎—PerfXLLM ,并且已經(jīng)在 高通的 驍龍8Gen2 平臺(tái)
    的頭像 發(fā)表于 11-25 15:35 ?1028次閱讀
    澎峰科技發(fā)布大模型<b class='flag-5'>推理</b><b class='flag-5'>引擎</b>PerfXLLM