0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

李彥宏:開源模型將逐漸滯后,文心大模型提升訓(xùn)練與推理效率

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2024-04-16 14:37 ? 次閱讀

4 月 16 日,據(jù)報道,百度公司首席執(zhí)行官李彥宏在其舉辦的Create 2024 AI 開發(fā)者大會上指出,開源模型正在逐漸過時。

李彥宏解釋道,百度自研的基礎(chǔ)模型——文心 4.0,能夠根據(jù)需求塑造出適應(yīng)各類場景的微型版模型,并支持精細調(diào)整以及后預(yù)訓(xùn)練。相較于直接使用開源模型,這種經(jīng)過降維處理的模型在同等尺寸下表現(xiàn)更為出色,且在相同效果下成本更低,因此,“開源模型將逐步被淘汰”。

此外,李彥宏還推出了文心大模型 4.0 的工具版本,該模型的算法訓(xùn)練效率已提高至原有的 5.1 倍,每周訓(xùn)練有效率高達 98.8%,推理性能提升了 105 倍,而推理成本則降低至原先的 1%。

值得關(guān)注的是,360 集團創(chuàng)始人周鴻祎在哈佛大學(xué)的一場演講中提出了不同觀點。他認(rèn)為“沒有開源便無Linux、無互聯(lián)網(wǎng),甚至包括我們自身的發(fā)展也離不開開源技術(shù)”。同時,他預(yù)測在未來一至兩年內(nèi),開源技術(shù)的影響力或?qū)⒊介]源技術(shù)。

周鴻祎表示:“盡管目前開源模型的能力尚未達到GPT 4水平,但若專注于某一領(lǐng)域,利用企業(yè)內(nèi)部的專屬數(shù)據(jù)及專業(yè)訓(xùn)練進行強化,便有望在專業(yè)能力上超越GPT 4?!?/p>

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4587

    瀏覽量

    92503
  • 開源
    +關(guān)注

    關(guān)注

    3

    文章

    3215

    瀏覽量

    42329
  • 模型
    +關(guān)注

    關(guān)注

    1

    文章

    3112

    瀏覽量

    48660
收藏 人收藏

    評論

    相關(guān)推薦

    【《大語言模型應(yīng)用指南》閱讀體驗】+ 基礎(chǔ)知識學(xué)習(xí)

    、機器翻譯、文本生成等領(lǐng)域具有廣泛應(yīng)用。它們能夠基于用戶的提問或描述生成相關(guān)的答案或執(zhí)行指令,極大地提升了信息檢索和利用的效率。 2. 局限性 盡管大語言模型在自然語言理解方面取得了顯著進展,但它們?nèi)匀淮嬖?/div>
    發(fā)表于 08-02 11:03

    百度預(yù)計2025年下半年推出文模型5.0版本

    根據(jù)去年十月份的披露,模型4.0在發(fā)布后已經(jīng)在性能方面全面超越了GPT-4。據(jù)已知信
    的頭像 發(fā)表于 05-29 11:27 ?465次閱讀

    現(xiàn)身法國談AI發(fā)展 為中國AI“代言”

    發(fā)展更偏向應(yīng)用驅(qū)動,“認(rèn)為中國走的是一種更加偏向于應(yīng)用驅(qū)動的方式”。 在與陽獅集團監(jiān)
    的頭像 發(fā)表于 05-24 12:11 ?863次閱讀

    百度模型擴展合作領(lǐng)域

    百度創(chuàng)始人兼CEO在2024年第一季度財報電話會上宣布,模型API在繼與中國三星、榮
    的頭像 發(fā)表于 05-17 11:17 ?505次閱讀

    高度評價百度一言模型及AI技術(shù),強調(diào)商業(yè)化持續(xù)推進

    據(jù)了解,目前已有近10萬家企業(yè)使用了一言的能力,其中10%的大搜流量由該模型產(chǎn)生,每日有250萬用戶受益于文庫的AI功能。未來,百度計劃進一步降低大模型的成本與門檻,以吸引更多開發(fā)
    的頭像 發(fā)表于 05-11 10:44 ?472次閱讀

    【大語言模型:原理與工程實踐】大語言模型的應(yīng)用

    。 關(guān)于大語言模型是否具備與人類“系統(tǒng)2”相似的能力,存在廣泛的爭議。然而,隨著模型參數(shù)量的增加和大規(guī)模預(yù)訓(xùn)練的實施,大語言模型展現(xiàn)出了與人類相似的
    發(fā)表于 05-07 17:21

    【大語言模型:原理與工程實踐】大語言模型的預(yù)訓(xùn)練

    如此卓越的性能,就是通過其核心能力對海量數(shù)據(jù)進行預(yù)訓(xùn)練,再進行微調(diào)或?qū)ζ涫裁葱透玫母鶕?jù)人類的指令和偏好,發(fā)揮這些性能。隨著語言模型參數(shù)的不斷增加,模型完成各個任務(wù)的效果也得到了不同程度的提升
    發(fā)表于 05-07 17:10

    【大語言模型:原理與工程實踐】揭開大語言模型的面紗

    豐富的常識知識,能夠基于常識進行推理,填補信息空白,并作出合理推斷。隨著訓(xùn)練規(guī)模和參數(shù)量的增加,大語言模型推理能力持續(xù)
    發(fā)表于 05-04 23:55

    開源模型會越來越落后,為什么很多人不認(rèn)同?

    上周,百度董事長兼CEO對于開源模型的一番言論引發(fā)了爭議。
    的頭像 發(fā)表于 04-24 09:37 ?410次閱讀
    <b class='flag-5'>李</b><b class='flag-5'>彥</b><b class='flag-5'>宏</b>說<b class='flag-5'>開源</b><b class='flag-5'>模型</b>會越來越落后,為什么很多人不認(rèn)同?

    官宣第二屆“杯”創(chuàng)業(yè)大賽,最高投資獎勵達5000萬

    4月16日,百度創(chuàng)始人、董事長兼首席執(zhí)行官在Create 2024百度AI開發(fā)者大會上宣布,第二屆“杯”創(chuàng)業(yè)大賽正式啟動,參賽選手
    的頭像 發(fā)表于 04-16 16:20 ?366次閱讀

    百度一言用戶破2億,AI原生應(yīng)用開發(fā)數(shù)量達19萬

    此外,還提到,百度在去年 8 月宣布開放一言后,不僅在C端借助大模型改造用戶產(chǎn)品,
    的頭像 發(fā)表于 04-16 15:05 ?570次閱讀

    百度CEO:不會受制于美國限制,中國AI發(fā)展仍有強大動力

    指出,對于模型這類情境,他并不依賴英偉達的尖端芯片,百度現(xiàn)有芯片儲備以及可采購的替代
    的頭像 發(fā)表于 03-08 15:17 ?539次閱讀

    百度:大模型最大價值在于對現(xiàn)有應(yīng)用的改造

    強調(diào),此類生成式AI能為現(xiàn)有業(yè)務(wù)設(shè)計提質(zhì)升級,如微軟及Adobe正是典型案例,親身體驗其潛力后,發(fā)現(xiàn)產(chǎn)品收入及利潤率均有顯著提升。
    的頭像 發(fā)表于 12-18 10:43 ?234次閱讀

    極客公園對談 大模型時代真正的價值在于原生應(yīng)用

    極客公園對談 大模型時代真正的價值在于原生應(yīng)用 在極客公園創(chuàng)新大會2024 上李極客公
    的頭像 發(fā)表于 12-17 18:20 ?1200次閱讀

    耀烏鎮(zhèn),“大模型之光”展現(xiàn)了什么?

    當(dāng)烏鎮(zhèn)目光投向AI,4.0成為大模型之光。
    的頭像 發(fā)表于 11-12 08:53 ?871次閱讀
    <b class='flag-5'>文</b><b class='flag-5'>心</b>耀烏鎮(zhèn),“大<b class='flag-5'>模型</b>之光”展現(xiàn)了什么?