0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

2023年人工智能狀態(tài)報(bào)告

vliwulianw ? 來(lái)源:軟件質(zhì)量報(bào)道 ? 2023-10-16 16:59 ? 次閱讀

去年年底開(kāi)始和chatGPT聊天,生成測(cè)試用例、自動(dòng)化腳本、代碼等,這兩天我用bing生成自己想要的海報(bào),這比較直觀地呈現(xiàn)了人工智能AI)所發(fā)生的變化。

要全面了解AI發(fā)生的具體變化,值得好好閱讀由Nathan Benaich等人完成的這份報(bào)告。

32f017de-6bf9-11ee-939d-92fbcf53809c.png

因?yàn)檫@么多內(nèi)容,無(wú)法詳細(xì)解讀,自己根據(jù)需要,選擇性地閱讀相關(guān)內(nèi)容。該報(bào)告的總結(jié),給出了一些有價(jià)值的結(jié)論,供大家參考。

1. 研究(research)

1)GPT-4目前是無(wú)所不知的大師,無(wú)論是在經(jīng)典基準(zhǔn)測(cè)試還是在評(píng)估人類的考試中擊敗了所有其他LLM,驗(yàn)證了專有架構(gòu)和通過(guò)人類反饋進(jìn)行強(qiáng)化學(xué)習(xí)的強(qiáng)大力量。

32fc56e8-6bf9-11ee-939d-92fbcf53809c.png

2)人們開(kāi)始努力用更小的模型、更好的數(shù)據(jù)集、更長(zhǎng)的上下文來(lái)克隆或超越專有模型的性能。..由LLaMa-1/2提供支持,在人類生成的數(shù)據(jù)可能只能維持人工智能擴(kuò)展趨勢(shì)幾年之后,這些努力可能變得更加緊迫。

3)目前尚不清楚人工生成的數(shù)據(jù)能夠支撐AI擴(kuò)展趨勢(shì)的時(shí)間有多長(zhǎng)(一些人估計(jì)到2025年LLMs將用盡數(shù)據(jù)),以及添加合成數(shù)據(jù)的影響。企業(yè)中的視頻和數(shù)據(jù)可能是下一個(gè)問(wèn)題。

4)LLMs和擴(kuò)散模型繼續(xù)推動(dòng)現(xiàn)實(shí)世界的突破,尤其是在生命科學(xué)領(lǐng)域,在分子生物學(xué)和藥物發(fā)現(xiàn)方面取得了有意義的進(jìn)展。

5)多模態(tài)成為新的前沿,對(duì)各種類型的代理人的興奮度大大增加。

6)被引用的AI論文的70%作者來(lái)自美國(guó)大學(xué)、研究機(jī)構(gòu)。

33080114-6bf9-11ee-939d-92fbcf53809c.png

2. 行業(yè)(industry)

1)計(jì)算力是新的石油,NVIDIA憑借其GPU在國(guó)家、初創(chuàng)企業(yè)、大型科技公司和研究人員中的巨大需求,成功進(jìn)入了1萬(wàn)億美元市值俱樂(lè)部。

331cc860-6bf9-11ee-939d-92fbcf53809c.png

332c6b4e-6bf9-11ee-939d-92fbcf53809c.png

2)出口管制限制了向中國(guó)的先進(jìn)芯片銷售,但主要芯片供應(yīng)商N(yùn)VIDIA、英特爾AMD推出了無(wú)法受到出口管制限制的替代產(chǎn)品,開(kāi)始大規(guī)模銷售符合出口管制的芯片

3)在科技估值低迷的情況下,GenAI挽救了風(fēng)險(xiǎn)投資界。在ChatGPT的帶領(lǐng)下,GenAI應(yīng)用在圖像、視頻、編碼、語(yǔ)音等方面取得了突破性進(jìn)展,推動(dòng)了180億美元的風(fēng)險(xiǎn)投資和企業(yè)投資。

3. 政治(politics)

1)全球已經(jīng)分為明確的監(jiān)管陣營(yíng),但全球治理進(jìn)展較慢。最大的AI實(shí)驗(yàn)室正在填補(bǔ)這一空白。

2)芯片戰(zhàn)爭(zhēng)仍在繼續(xù),美國(guó)正在動(dòng)員其盟友參與芯片戰(zhàn)爭(zhēng),加強(qiáng)對(duì)中國(guó)的貿(mào)易限制。

3)預(yù)計(jì)AI將影響選舉和就業(yè)等一系列敏感領(lǐng)域,但我們尚未看到明顯的影響。

4. 安全性(Safety)

1)安全辯論已經(jīng)成為主流,引發(fā)了全球政府和監(jiān)管機(jī)構(gòu)的行動(dòng)。然而,這股活動(dòng)的浪潮掩蓋了人工智能社區(qū)內(nèi)的深刻分歧和全球治理方面的實(shí)質(zhì)性進(jìn)展不足,因?yàn)槭澜绺鲊?guó)政府追求著相互沖突的方法。

2)許多高性能模型很容易被“越獄”。為了解決RLHF挑戰(zhàn),研究人員正在探索替代方案,例如自我對(duì)齊和基于人類偏好的預(yù)訓(xùn)練。

3)在評(píng)估最先進(jìn)模型的過(guò)程中面臨的挑戰(zhàn)日益增加,標(biāo)準(zhǔn)LLM往往難以保持穩(wěn)健性。隨著能力的提升,評(píng)估SOTA模型變得越來(lái)越困難。僅憑直覺(jué)是不夠的。

5. 并附上大家關(guān)心的幾個(gè)領(lǐng)域

1)代碼語(yǔ)言模型的現(xiàn)狀

在編碼能力方面,毫不意外的是GPT-4是領(lǐng)先者,其代碼解釋器、高級(jí)數(shù)據(jù)分析功能令用戶驚嘆不已。像WizardLM的WizardCoder-34B和Unnatural CodeLLaMa這樣的開(kāi)放替代品在編碼基準(zhǔn)測(cè)試中與ChatGPT持平,但它們?cè)趯?shí)際生產(chǎn)中的性能仍有待確定。

Unnatural CodeLLaMa和WizardCoder都不僅在大型預(yù)訓(xùn)練編碼數(shù)據(jù)集上進(jìn)行訓(xùn)練,還使用了適用于代碼數(shù)據(jù)的額外LM生成的指令微調(diào)技術(shù)。Meta使用了他們的Unnatural Instructions,而WizardLM使用了他們的EvolInstruct。值得注意的是,CodeLLaMa的訓(xùn)練方式使模型能夠進(jìn)行補(bǔ)充填充,并且所有的CodeLLaMa模型都已發(fā)布,除了Unnatural CodeLLaMa。

在代碼完成任務(wù)中的性能表現(xiàn)。它們對(duì)邊緣推理的支持(例如,在Apple Silicon上的ggml)較小的代碼語(yǔ)言模型(包括replit-code-v1-3b和StarCoder 3B)既具有低延遲又具有良好的代碼完成能力,這促使了對(duì)隱私意識(shí)的替代品的開(kāi)發(fā),以應(yīng)對(duì)GitHub Copilot。

2)機(jī)器人:從視覺(jué)-語(yǔ)言模型到低層次的機(jī)器人控制

From vision-language models to low-level robot control: RT-2、RoboCat

RoboCat是一個(gè)用于機(jī)器人操作的基礎(chǔ)代理,可以在零樣本或少樣本(100-1000個(gè)示例)情況下適應(yīng)新任務(wù)和新機(jī)器人。在各種平臺(tái)上表現(xiàn)出令人印象深刻的實(shí)時(shí)性能。它是基于DeepMind的多模態(tài)、多任務(wù)和多體現(xiàn)Gato構(gòu)建的。它使用了在各種視覺(jué)和控制數(shù)據(jù)集上訓(xùn)練、凍結(jié)VQ-GAN分詞器。雖然Gato只預(yù)測(cè)動(dòng)作,但RoboCat還額外預(yù)測(cè)未來(lái)的VQ-GAN標(biāo)記。

在策略學(xué)習(xí)方面,論文只提到了行為克隆。RoboCat通過(guò)少量示范(通過(guò)遠(yuǎn)程操作)進(jìn)行微調(diào),并重新部署以生成給定任務(wù)的新數(shù)據(jù),在后續(xù)訓(xùn)練迭代中自我改進(jìn)。

RobotCat可以以令人印象深刻的速度(20Hz)在253個(gè)任務(wù)上操作36個(gè)具有不同動(dòng)作規(guī)范的真實(shí)機(jī)器人,涉及134個(gè)真實(shí)物體。

機(jī)器人在競(jìng)技體育中已經(jīng)取得勝利。Swift是一個(gè)自主系統(tǒng),可以使用僅依靠機(jī)載傳感器和計(jì)算,在與人類世界冠軍的比賽中駕駛四旋翼無(wú)人機(jī)。它在與三位冠軍的比賽中贏得了幾場(chǎng)比賽,并創(chuàng)下了最快的時(shí)間紀(jì)錄。

3)今天AIGC有太多的生成方式

333b0e1a-6bf9-11ee-939d-92fbcf53809c.png

6. 未來(lái)一年十大預(yù)測(cè)

一部好萊塢級(jí)的制作利用AIGC完成其視覺(jué)效果。

一家AIGC媒體公司因在2024年美國(guó)選舉期間的濫用行為而受到調(diào)查。

自我進(jìn)化的AI代理在復(fù)雜環(huán)境中會(huì)擊敗最先進(jìn)技術(shù)(例如AAA游戲、工具使用、科學(xué))。

科技IPO市場(chǎng)解凍,我們將看到至少有一家以AI為重點(diǎn)的公司(例如Databricks)進(jìn)行重大上市。

GenAI的擴(kuò)展熱潮導(dǎo)致一組人花費(fèi)超過(guò)10億美元來(lái)訓(xùn)練一個(gè)大模型。

美國(guó)的聯(lián)邦貿(mào)易委員會(huì)(FTC)或英國(guó)的競(jìng)爭(zhēng)與市場(chǎng)管理局(CMA)因競(jìng)爭(zhēng)原因調(diào)查微軟/OpenAI的交易。

在全球AI治理方面,除了高層次的自愿承諾外,我們看到的進(jìn)展有限。

金融機(jī)構(gòu)推出GPU債務(wù)基金,以取代風(fēng)險(xiǎn)投資股權(quán)資金用于計(jì)算資金。

一首由AIGC生成的歌曲進(jìn)入Billboard Hot 100 前十名或2024年Spotify熱門歌曲榜。

隨著推理工作負(fù)載和成本的顯著增長(zhǎng),一家大型AI公司(如OpenAI)收購(gòu)了一家專注于推理的AI芯片公司。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46652

    瀏覽量

    237085
  • 數(shù)據(jù)集
    +關(guān)注

    關(guān)注

    4

    文章

    1200

    瀏覽量

    24619
  • ChatGPT
    +關(guān)注

    關(guān)注

    29

    文章

    1546

    瀏覽量

    7359

原文標(biāo)題:2023年人工智能狀態(tài)報(bào)告(附完整報(bào)告下載)

文章出處:【微信號(hào):軟件質(zhì)量報(bào)道,微信公眾號(hào):軟件質(zhì)量報(bào)道】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第6章AI與能源科學(xué)讀后感

    幸得一好書(shū),特此來(lái)分享。感謝平臺(tái),感謝作者。受益匪淺。 在閱讀《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》的第6章后,我深刻感受到人工智能在能源科學(xué)領(lǐng)域中的巨大潛力和廣泛應(yīng)用。這一章詳細(xì)
    發(fā)表于 10-14 09:27

    名單公布!【書(shū)籍評(píng)測(cè)活動(dòng)NO.44】AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新

    后2個(gè)星期內(nèi)提交不少于2篇試讀報(bào)告要求300字以上圖文并茂。 4、試讀報(bào)告發(fā)表在電子發(fā)燒友論壇>>社區(qū)活動(dòng)專版標(biāo)題名稱必須包含【「AI for Science:人工智能
    發(fā)表于 09-09 13:54

    智能機(jī)械臂人臉識(shí)別特效丨國(guó)產(chǎn)Cortex-A55人工智能實(shí)驗(yàn)箱案例分享

    智能機(jī)械臂人臉識(shí)別特效丨國(guó)產(chǎn)Cortex-A55人工智能實(shí)驗(yàn)箱案例分享
    的頭像 發(fā)表于 08-30 13:03 ?391次閱讀
    <b class='flag-5'>智能</b>機(jī)械臂人臉識(shí)別特效丨國(guó)產(chǎn)Cortex-A55<b class='flag-5'>人工智能</b>實(shí)驗(yàn)箱案例分享

    報(bào)名開(kāi)啟!深圳(國(guó)際)通用人工智能大會(huì)將啟幕,國(guó)內(nèi)外大咖齊聚話AI

    呈現(xiàn)、產(chǎn)業(yè)展覽、技術(shù)交流、學(xué)術(shù)論壇于一體的世界級(jí)人工智能合作交流平臺(tái)。本次大會(huì)暨博覽會(huì)由工業(yè)和信息化部政府采購(gòu)中心、廣東省工商聯(lián)、前海合作區(qū)管理局、深圳市信局等單位指導(dǎo),深圳市人工智能產(chǎn)業(yè)協(xié)會(huì)主辦
    發(fā)表于 08-22 15:00

    智能目標(biāo)顏色識(shí)別抓取丨國(guó)產(chǎn)Cortex-A55人工智能實(shí)驗(yàn)箱機(jī)械臂案例分享

    智能目標(biāo)顏色識(shí)別抓取丨國(guó)產(chǎn)Cortex-A55人工智能實(shí)驗(yàn)箱機(jī)械臂案例分享
    的頭像 發(fā)表于 08-10 08:32 ?294次閱讀
    <b class='flag-5'>智能</b>目標(biāo)顏色識(shí)別抓取丨國(guó)產(chǎn)Cortex-A55<b class='flag-5'>人工智能</b>實(shí)驗(yàn)箱機(jī)械臂案例分享

    中控技術(shù)榮獲“2024人工智能創(chuàng)新企業(yè)”

    “2024人工智能創(chuàng)新企業(yè)”。這一殊榮不僅是對(duì)中控技術(shù)在工業(yè)AI領(lǐng)域創(chuàng)新性與先進(jìn)性的權(quán)威認(rèn)可,更是國(guó)內(nèi)人工智能產(chǎn)業(yè)蓬勃發(fā)展與持續(xù)創(chuàng)新的生動(dòng)注腳。
    的頭像 發(fā)表于 08-02 15:53 ?592次閱讀

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場(chǎng)可編程門陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個(gè)方面: 一、深度學(xué)習(xí)加速 訓(xùn)練和推理過(guò)程加速:FPGA可以用來(lái)加速深度學(xué)習(xí)的訓(xùn)練和推理過(guò)程。由于其高并行性和低延遲特性
    發(fā)表于 07-29 17:05

    2024 人工智能安全報(bào)告

    近日,奇安信集團(tuán)對(duì)外發(fā)布《2024人工智能安全報(bào)告》(以下簡(jiǎn)稱《報(bào)告》)。據(jù)悉,這是我國(guó)首份人工智能安全報(bào)告?!?/div>
    的頭像 發(fā)表于 03-15 08:26 ?561次閱讀
    2024 <b class='flag-5'>人工智能</b>安全<b class='flag-5'>報(bào)告</b>

    嵌入式人工智能的就業(yè)方向有哪些?

    嵌入式人工智能的就業(yè)方向有哪些? 在新一輪科技革命與產(chǎn)業(yè)變革的時(shí)代背景下,嵌入式人工智能成為國(guó)家新型基礎(chǔ)建設(shè)與傳統(tǒng)產(chǎn)業(yè)升級(jí)的核心驅(qū)動(dòng)力。同時(shí)在此背景驅(qū)動(dòng)下,眾多名企也紛紛在嵌入式人工智能領(lǐng)域布局
    發(fā)表于 02-26 10:17

    福布斯公布關(guān)于2024人工智能發(fā)展的十大預(yù)見(jiàn)

    近日,福布斯公布了他們對(duì)2024人工智能發(fā)展的十大預(yù)見(jiàn),這些預(yù)測(cè)簡(jiǎn)潔而又充滿洞察力。
    的頭像 發(fā)表于 01-12 10:18 ?970次閱讀

    OpenHarmony社區(qū)運(yùn)營(yíng)報(bào)告202312月)

    ,華中科技大學(xué)人工智能與自動(dòng)化學(xué)院副院長(zhǎng)鐘勝、網(wǎng)絡(luò)空間安全學(xué)院副院長(zhǎng)陳凱擔(dān)任本次技術(shù)論壇的主持,邀請(qǐng)到了北京大學(xué)計(jì)算機(jī)學(xué)院教授、副院長(zhǎng)郭耀;中國(guó)科學(xué)院自動(dòng)化研究所副總工程師、武漢人工智能研究院院長(zhǎng)王
    發(fā)表于 01-10 15:44

    2024人工智能四大趨勢(shì)

    2023,世人見(jiàn)證了ChatGPT在全球范圍的大火。以生成式人工智能為代表的新一代人工智能問(wèn)世,改變了人工智能(AI)技術(shù)與應(yīng)用的發(fā)展軌跡
    的頭像 發(fā)表于 01-05 10:37 ?1083次閱讀

    如祺出行自動(dòng)駕駛解決方案入選“2023人工智能年度杰出解決方案TOP 10”

    日前,由人工智能與前沿科技媒體量子位主辦的“MEET 2024智能未來(lái)大會(huì)”在北京舉行,同期揭曉了“2023人工智能年度評(píng)選”結(jié)果,如祺出行自動(dòng)駕駛解決方案入選“
    的頭像 發(fā)表于 12-17 14:59 ?605次閱讀
    如祺出行自動(dòng)駕駛解決方案入選“<b class='flag-5'>2023</b><b class='flag-5'>人工智能</b>年度杰出解決方案TOP 10”

    2023人工智能產(chǎn)業(yè)概況及應(yīng)用趨勢(shì)分析

    電子發(fā)燒友網(wǎng)站提供《2023人工智能產(chǎn)業(yè)概況及應(yīng)用趨勢(shì)分析.pdf》資料免費(fèi)下載
    發(fā)表于 12-11 16:27 ?7次下載
    <b class='flag-5'>2023</b><b class='flag-5'>年</b><b class='flag-5'>人工智能</b>產(chǎn)業(yè)概況及應(yīng)用趨勢(shì)分析

    2023人工智能計(jì)算大會(huì)AICC將于11月29日舉行,精彩看點(diǎn)前瞻

    11月29日,2023人工智能計(jì)算大會(huì)AICC即將在北京啟幕。本屆AICC以"智算力就是創(chuàng)新力"為主題,設(shè)立1場(chǎng)主論壇、6場(chǎng)主題論壇、1500㎡實(shí)景AI創(chuàng)新科技展,展示智能計(jì)算時(shí)代最前沿的技術(shù)革新和落地走向。
    的頭像 發(fā)表于 11-24 09:09 ?812次閱讀