2022年11月9日,OPPO語音語義研究部融智團(tuán)隊(duì)提出的中文預(yù)訓(xùn)練大模型CHAOS ,在中文自然語言理解測評基準(zhǔn)CLUE上登頂,以30億參量同時(shí)刷新了CLUE總排行榜、CLUE分類任務(wù)排行榜和CLUE閱讀理解排行榜的最好成績。其中在“AFQMC,TNEWS,CSL,CHID1.1”4個(gè)賽道的成績超過了人類識別精確準(zhǔn)確度,總成績距離超越人類表現(xiàn)僅差0.1。
同期,在業(yè)界首個(gè)大規(guī)模中文多模態(tài)評測基準(zhǔn)MUGE上,該團(tuán)隊(duì)自主訓(xùn)練的中文多模態(tài)預(yù)訓(xùn)練模型也在綜合“圖文檢索、看圖說話、文本到圖像生成”三個(gè)賽道的總成績上位列總榜第一名。
OPPO 中文預(yù)訓(xùn)練大模型CHAOS登頂CLUE
OPPO中文多模態(tài)預(yù)訓(xùn)練模型登頂MUGE
CLUE (Chinese Language Understanding Evaluation) 是中文自然語言理解最權(quán)威測評榜單之一,包含了文本分類、閱讀理解、句間關(guān)系等眾多語義分析和語義理解類子任務(wù),旨在推動(dòng)NLP(自然語言處理)訓(xùn)練模型技術(shù)的不斷進(jìn)步和突破,對學(xué)術(shù)界和工業(yè)界都產(chǎn)生了較大的影響。
MUGE(Multimodal Understanding and Generation Evaluation)是業(yè)界首個(gè)大規(guī)模中文多模態(tài)評測基準(zhǔn),由達(dá)摩院聯(lián)合浙江大學(xué)、阿里云天池平臺聯(lián)合發(fā)布,中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)視覺專委會(CCF-CV專委)協(xié)助推出,旨在幫助中文多模態(tài)研究人員全方位評估算法模型。
NLP(自然語言處理)技術(shù)是人工智能領(lǐng)域的一個(gè)核心研究方向,其目的是使得計(jì)算機(jī)具備人類的聽、說、讀、寫等能力,并利用知識和常識進(jìn)行推理和決策。而圖文融合的多模態(tài)能力的建設(shè),目前工作主要集中在建立圖像模態(tài)和文本模態(tài)的聯(lián)系,相關(guān)能力的構(gòu)建能夠廣泛落地到搜索、推薦、服飾設(shè)計(jì)、智能文案等真實(shí)場景中。
“融合多種智能,研發(fā)統(tǒng)一的基礎(chǔ)模型”是OPPO語音語義研究部融智團(tuán)隊(duì)的目標(biāo),也是“融智”二字的含義。未來融智團(tuán)隊(duì)將在推進(jìn)感知認(rèn)知融合,更可控/可編輯的視覺生成,及促進(jìn)工業(yè)化落地轉(zhuǎn)化的模型小型化等方向上繼續(xù)突破。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報(bào)投訴
相關(guān)推薦
計(jì)算機(jī)視覺技術(shù)對圖像進(jìn)行處理、分析和理解,從而實(shí)現(xiàn)對圖像中的目標(biāo)、場景、行為等信息的識別和理解。圖像識別技術(shù)包括圖像預(yù)處理、特征提取、分類器設(shè)計(jì)、模型訓(xùn)練等多個(gè)環(huán)節(jié)。 1.2 自然語言處理的定義
發(fā)表于 07-16 10:54
?394次閱讀
自然語言處理(NLP)前饋網(wǎng)絡(luò)是人工智能和語言學(xué)領(lǐng)域的一個(gè)重要交叉學(xué)科,旨在通過計(jì)算機(jī)模型理解和處理人類語言。前饋神經(jīng)網(wǎng)絡(luò)(Feedforward Neural Networks, F
發(fā)表于 07-12 10:10
?172次閱讀
隨著人工智能技術(shù)的飛速發(fā)展,自然語言處理(NLP)領(lǐng)域取得了顯著的進(jìn)步。其中,Transformer架構(gòu)的提出,為NLP領(lǐng)域帶來了革命性的變革。本文將深入探討Transformer架構(gòu)的核心思想、組成部分以及在自然語言處理領(lǐng)域的應(yīng)用,旨在幫助讀者全面
發(fā)表于 07-09 11:42
?530次閱讀
在探討使用Python進(jìn)行自然語言處理(NLP)的廣闊領(lǐng)域時(shí),我們首先需要理解NLP的基本概念、其重要性、Python在NLP中的優(yōu)勢,以及如何通過Python實(shí)現(xiàn)一些基礎(chǔ)的NLP任務(wù)。本文將從這些方面展開,并深入介紹幾個(gè)關(guān)鍵的NLP技術(shù)和應(yīng)用實(shí)例。
發(fā)表于 07-04 14:40
?275次閱讀
自然語言處理(Natural Language Processing,簡稱NLP)是人工智能領(lǐng)域的一個(gè)分支,它致力于使計(jì)算機(jī)能夠理解、解釋和生成人類語言。自然語言處理技術(shù)的發(fā)展已經(jīng)取得
發(fā)表于 07-03 14:30
?601次閱讀
自然語言處理(Natural Language Processing,簡稱NLP)是人工智能領(lǐng)域的一個(gè)重要分支,它致力于使計(jì)算機(jī)能夠理解、生成和處理人類語言。隨著技術(shù)的發(fā)展,自然語言處
發(fā)表于 07-03 14:24
?408次閱讀
自然語言處理(Natural Language Processing,簡稱NLP)是人工智能領(lǐng)域的一個(gè)重要分支,其核心目標(biāo)是使計(jì)算機(jī)能夠理解、生成和處理人類語言。NLP技術(shù)的發(fā)展已經(jīng)取得了顯著的進(jìn)展
發(fā)表于 07-03 14:20
?340次閱讀
自然語言處理(Natural Language Processing,簡稱NLP)是人工智能和語言學(xué)領(lǐng)域的一個(gè)分支,它涉及到使用計(jì)算機(jī)技術(shù)來處理、分析和生成自然語言文本。自然語言處理技
發(fā)表于 07-03 14:18
?310次閱讀
自然語言處理(Natural Language Processing,簡稱NLP)是人工智能領(lǐng)域的一個(gè)重要分支,它涉及到計(jì)算機(jī)與人類語言之間的交互。NLP的目標(biāo)是讓計(jì)算機(jī)能夠理解、生成和處理人類
發(fā)表于 07-03 14:15
?517次閱讀
自然語言處理(Natural Language Processing,簡稱NLP)是人工智能領(lǐng)域的一個(gè)重要分支,它涉及到計(jì)算機(jī)與人類語言之間的交互。自然語言處理技術(shù)使得計(jì)算機(jī)能夠理解、
發(fā)表于 07-03 14:13
?679次閱讀
之間的交互,旨在使計(jì)算機(jī)能夠理解、生成和處理自然語言。 自然語言處理:人工智能的皇冠上的明珠 引言 人工智能作為一門跨學(xué)科的研究領(lǐng)域,涵蓋了計(jì)算機(jī)科學(xué)、數(shù)學(xué)、心理學(xué)、語言學(xué)等多個(gè)學(xué)科。
發(fā)表于 07-03 14:09
?695次閱讀
自然語言處理(Natural Language Processing, NLP)是人工智能領(lǐng)域中的一個(gè)重要分支,它專注于構(gòu)建能夠理解和生成人類語言的計(jì)算機(jī)系統(tǒng)。NLP的目標(biāo)是使計(jì)算機(jī)能夠像人類一樣
發(fā)表于 07-02 18:16
?598次閱讀
自然語言處理(Natural Language Processing, NLP)作為人工智能(AI)領(lǐng)域的一個(gè)重要分支,旨在使計(jì)算機(jī)能夠理解和處理人類自然語言。隨著互聯(lián)網(wǎng)的普及和大數(shù)據(jù)技術(shù)的發(fā)展
發(fā)表于 07-02 12:50
?242次閱讀
自然語言處理(NLP)是人工智能領(lǐng)域中的一個(gè)重要分支,它研究的是如何使計(jì)算機(jī)能夠理解和生成人類自然語言。隨著人工智能技術(shù)的飛速發(fā)展,神經(jīng)網(wǎng)絡(luò)在自然語言處理中的應(yīng)用逐漸展現(xiàn)出其強(qiáng)大的潛力
發(fā)表于 07-01 14:09
?287次閱讀
自然語言處理(NLP)的最新發(fā)展改變了我們與AI系統(tǒng)的交互方式: 1. 預(yù)訓(xùn)練模型:像 GPT-3 這樣的模型已經(jīng)進(jìn)步,使人工智能能夠在聊天機(jī)器人和虛擬助手中生成更連貫的上下文感知響應(yīng)。 2. 多
發(fā)表于 01-18 16:39
?350次閱讀
評論