訊飛星火大模型技術(shù)進(jìn)展及落地

近日，2024科大訊飛全球1024開(kāi)發(fā)者節(jié)正式開(kāi)幕!

訊飛星火4.0 Turbo重磅發(fā)布，七大核心能力全面超過(guò)GPT-4 Turbo，數(shù)學(xué)和代碼能力超越GPT-4o，國(guó)內(nèi)外中英文14項(xiàng)主流測(cè)試集中訊飛星火4.0 Turbo實(shí)現(xiàn)9項(xiàng)第一。大模型的產(chǎn)業(yè)藍(lán)圖正在徐徐展開(kāi)，AI日益進(jìn)入場(chǎng)景化的深水區(qū)。

聚焦大模型技術(shù)躍遷與創(chuàng)新應(yīng)用，訊飛開(kāi)放平臺(tái)特別舉辦“星火開(kāi)發(fā)者生態(tài)論壇”，匯聚千萬(wàn)生態(tài)伙伴的代表、人工智能領(lǐng)域的專家學(xué)者，以及海內(nèi)外合作伙伴，分享訊飛星火的嶄新成績(jī)，探索通用人工智能的未來(lái)。

“AI底層技術(shù)與大模型的結(jié)合正在產(chǎn)生意外的化學(xué)反應(yīng)，開(kāi)發(fā)者們的交流與發(fā)現(xiàn)才是這場(chǎng)活動(dòng)真正的意義”，科大訊飛高級(jí)副總裁、消費(fèi)者BG總裁于繼棟在開(kāi)場(chǎng)致辭時(shí)說(shuō)道。

01從追趕到引領(lǐng)

國(guó)產(chǎn)大模型逆風(fēng)發(fā)力

訊飛AI研究院副院長(zhǎng)李亞，率先帶來(lái)了《星火大模型技術(shù)進(jìn)展及落地》的主題分享。

從2022年ChatGPT爆火，到今年諾貝爾物理學(xué)獎(jiǎng)授予AI先驅(qū)，通用人工智能迎來(lái)黃金期。具體到技術(shù)層面，Sora、GPT4-o的發(fā)布驗(yàn)證了大模型在多模的成功應(yīng)用;OpenAI o1系列模型進(jìn)一步提升復(fù)雜任務(wù)和專業(yè)領(lǐng)域天花板。

通用人工智能的潛能不斷被印證，也不斷被刷新。但與此同時(shí)李亞認(rèn)為，目前通用大模型從“可用”到“好用”仍面臨三個(gè)主要挑戰(zhàn)：

首先是大模型的可信可解釋問(wèn)題，其次是端到端等新框架推廣性問(wèn)題，最后是大模型個(gè)性化“最后一公里”問(wèn)題。

通過(guò)利用高質(zhì)量數(shù)據(jù)以及反向?qū)R技術(shù)，訊飛星火此次帶來(lái)全新的底層技術(shù)突破，優(yōu)化這些問(wèn)題的同時(shí)，不斷提升大模型應(yīng)用落地效果。

星火評(píng)語(yǔ)大模型，幫助大模型效果進(jìn)行自迭代優(yōu)化，降低人工參與度30%的同時(shí)，有效改善了大模型的知識(shí)幻覺(jué)。

星火大模型與教育相結(jié)合，打造AI交互式答疑輔學(xué);星火代碼大模型，為師生提供編程教與學(xué)助手;星火醫(yī)療大模型，打造每個(gè)醫(yī)生的AI診療助理、每個(gè)人的AI健康助手。

星火多模態(tài)交互全面升級(jí)，在端到端框架的基礎(chǔ)上，結(jié)合語(yǔ)音及多模態(tài)屬性解耦表征訓(xùn)練，打造星火極速多模態(tài)交互系統(tǒng)。

長(zhǎng)文本智能體經(jīng)過(guò)架構(gòu)升級(jí)和效果優(yōu)化，實(shí)現(xiàn)了句級(jí)溯源，多輪對(duì)話效果顯著提升，長(zhǎng)文本處理能力提高20%以上。同時(shí)，采用多模態(tài)0采編技術(shù)進(jìn)一步增強(qiáng)了文檔問(wèn)答效率。搭載這些技術(shù)的星火原生應(yīng)用訊飛智文2.0，在長(zhǎng)文本處理方面表現(xiàn)更加出色。

個(gè)性化角色深度復(fù)刻技術(shù)，具備長(zhǎng)劇情演繹對(duì)話、角色風(fēng)格精準(zhǔn)匹配、RAG角色增強(qiáng)回復(fù)三大能力點(diǎn)。基于AI人格角色大模型，已上線C端應(yīng)用麥芽島，并合作重磅生態(tài)伙伴“三體宇宙”。

從通用理解能力、多模態(tài)端到端能力、代碼能力、長(zhǎng)文本能力、個(gè)性化能力到端側(cè)能力，星火大模型能力全面提升，為開(kāi)發(fā)者生態(tài)建設(shè)夯實(shí)基礎(chǔ)。

同時(shí)，星火大模型API已經(jīng)全面開(kāi)放，為各模態(tài)模型提供高效多樣化的服務(wù)，為生態(tài)開(kāi)發(fā)者提供靈活可靠的大模型能力。

02從生態(tài)到應(yīng)用

爆發(fā)的大模型場(chǎng)景價(jià)值

信息量滿滿的技術(shù)分享后，訊飛開(kāi)放平臺(tái)產(chǎn)品負(fù)責(zé)人丁瑞和技術(shù)負(fù)責(zé)人汪艦，緊隨其后進(jìn)行了一系列生動(dòng)的產(chǎn)品分享和真機(jī)演示。訊飛星火的快速迭代，已成為開(kāi)發(fā)者生態(tài)蓬勃發(fā)展的新引擎，一系列標(biāo)桿應(yīng)用也為開(kāi)發(fā)者提供了創(chuàng)新靈感!

語(yǔ)音語(yǔ)義份額第一 大模型開(kāi)發(fā)者生態(tài)第一

截止目前，訊飛開(kāi)放平臺(tái)已開(kāi)放AI能力達(dá)到759項(xiàng)，鏈接超千萬(wàn)生態(tài)伙伴，2024年的調(diào)用開(kāi)發(fā)者規(guī)模實(shí)現(xiàn)133%增長(zhǎng)，加速推動(dòng)技術(shù)能力走向剛需場(chǎng)景。培育生態(tài)新力量，2024年訊飛AI開(kāi)發(fā)者大賽參賽團(tuán)隊(duì)達(dá)到新高度，超過(guò)3.5萬(wàn)參賽團(tuán)隊(duì)來(lái)自14個(gè)國(guó)家的348座城市。

深耕智能語(yǔ)音20余載，科大訊飛在語(yǔ)音技術(shù)穩(wěn)居世界前列水平。根據(jù)國(guó)際數(shù)據(jù)公司IDC2024年報(bào)告顯示，在調(diào)研的主流語(yǔ)音語(yǔ)義廠商中，科大訊飛市場(chǎng)份額位居榜首，已有優(yōu)勢(shì)領(lǐng)域進(jìn)一步夯實(shí)。

根據(jù)已發(fā)布公開(kāi)市場(chǎng)數(shù)據(jù)，訊飛星火擁有78.1萬(wàn)的大模型開(kāi)發(fā)者，成為國(guó)內(nèi)大模型開(kāi)發(fā)者生態(tài)第一。根據(jù)媒體發(fā)布的國(guó)內(nèi)大模型中標(biāo)排行榜來(lái)看，“訊飛星火在中標(biāo)金額和數(shù)量均領(lǐng)先，已成為央國(guó)企大模型的第一選擇?！?/p>

從國(guó)內(nèi)走向海外，讓世界享受AI的樂(lè)趣!訊飛開(kāi)放平臺(tái)國(guó)際站自2020年正式上線，已經(jīng)向45萬(wàn)海外開(kāi)發(fā)者開(kāi)放667項(xiàng)AI能力，賦能全球200+國(guó)家和地區(qū)。

從既有優(yōu)勢(shì)領(lǐng)域到大模型賽道，從國(guó)內(nèi)到海外，訊飛開(kāi)發(fā)者生態(tài)保持繁榮發(fā)展!生態(tài)繁榮的背后，是強(qiáng)大的API矩陣，為開(kāi)發(fā)者構(gòu)筑靈活可靠的能力底座。

星火API全面開(kāi)放 模型定制與智能體創(chuàng)建升級(jí)

在分論壇現(xiàn)場(chǎng)，丁瑞介紹了全新發(fā)布的星火大模型API。產(chǎn)品矩陣100%覆蓋行業(yè)主流場(chǎng)景，模型推理效果穩(wěn)居國(guó)產(chǎn)大模型頭部梯隊(duì)。同時(shí)，易用穩(wěn)定的引擎架構(gòu)設(shè)計(jì)，讓開(kāi)發(fā)者可以根據(jù)不同場(chǎng)景下的需求進(jìn)行靈活定制。

對(duì)于垂直領(lǐng)域的大模型定制，全新升級(jí)的訊飛星辰MaaS平臺(tái)降低了應(yīng)用開(kāi)發(fā)門檻。依托主流MoM混合模型應(yīng)用開(kāi)發(fā)架構(gòu)，首次實(shí)現(xiàn)應(yīng)用場(chǎng)景驅(qū)動(dòng)全鏈路大小模型微調(diào)定制，為企業(yè)和開(kāi)發(fā)者提供1(星火通用大模型)+N(星火行業(yè)大模型)+X(星火+開(kāi)源微調(diào)大模型)的模型定制開(kāi)發(fā)范式。

面對(duì)響應(yīng)速度快、數(shù)據(jù)隱私安全要求高等場(chǎng)景需求，訊飛星火端側(cè)大模型也已提供多尺寸版本可自由定制，讓每一個(gè)需要人工智能的場(chǎng)景，都能找到可用的解決方案!

從日常核心需求到專業(yè)垂直場(chǎng)景，3.6萬(wàn)+公開(kāi)上架的星火智能體為個(gè)體和企業(yè)提供開(kāi)箱即用的大模型應(yīng)用。

定位解決復(fù)雜任務(wù)的低代碼智能體，已上線星火desk，并支持用戶自主創(chuàng)建。10月24日全新升級(jí)后，通過(guò)接入微調(diào)平臺(tái)實(shí)現(xiàn)定制優(yōu)化、升級(jí)RAG方案擴(kuò)充專業(yè)知識(shí)、上線創(chuàng)建模板降低創(chuàng)建門檻，讓更多人有機(jī)會(huì)去構(gòu)建更有價(jià)值的Agent。

基于低代碼智能體，在C端可以輕松打造了一批專業(yè)垂直的AI助手，比如實(shí)時(shí)推送大模型最新資訊、高效寫(xiě)圖文并茂的影評(píng)和書(shū)摘;在B端，低代碼智能體已經(jīng)應(yīng)用于法律、醫(yī)療、海關(guān)、個(gè)人助理等場(chǎng)景：法律文件解析正確率93%;輔助導(dǎo)診小程序已服務(wù)20多家醫(yī)院。

人機(jī)交互新玩法 多平臺(tái)齊升級(jí)

AIUI平臺(tái)整合了星火大模型能力，開(kāi)發(fā)者只要上傳文檔即可生成知識(shí)問(wèn)答，并直接引用信源和實(shí)時(shí)內(nèi)容，省去了重復(fù)開(kāi)發(fā)的麻煩。同時(shí)，影視、音樂(lè)、美食、醫(yī)療等大模型垂域交互，讓用戶更清晰地感受到了大模型帶來(lái)的便捷：比如影視音樂(lè)顧問(wèn)，聊劇情也可以搜劇找歌。再結(jié)合超擬人合成、一句話聲音復(fù)刻和共情閑聊，讓對(duì)話在解決具體問(wèn)題的同時(shí)，也更加自然有溫度。AIUI人機(jī)交互平臺(tái)能力，如今已應(yīng)用在電視、機(jī)器人、虛擬人一體機(jī)等產(chǎn)品上，為不同企業(yè)創(chuàng)造新質(zhì)生產(chǎn)力。

機(jī)器人超腦平臺(tái)推出兩大全新的軟硬件一體方案：定制人形機(jī)器人的麥克風(fēng)陣列方案、更小巧的多模態(tài)交互套件，賦能多種形態(tài)機(jī)器人在不同應(yīng)用場(chǎng)景實(shí)際落地。面向智能營(yíng)銷全流程，以機(jī)器人為服務(wù)載體，打通多模態(tài)交互、用戶畫(huà)像和主動(dòng)推薦系統(tǒng)，融合行業(yè)知識(shí)內(nèi)容，開(kāi)發(fā)主動(dòng)迎賓、銷售導(dǎo)購(gòu)等功能，打造兼具科技感、個(gè)性化的服務(wù)體驗(yàn)，實(shí)現(xiàn)零售營(yíng)銷場(chǎng)景智能化升級(jí)。

虛擬人交互平臺(tái)為用戶提供了一站式虛擬人應(yīng)用構(gòu)建服務(wù)，基于虛擬人對(duì)話應(yīng)用模板，用戶可以開(kāi)箱即用，1天完成虛擬人對(duì)話應(yīng)用的創(chuàng)建與發(fā)布。對(duì)話模板任意選擇，知識(shí)庫(kù)大模型自由問(wèn)答，200+虛擬人形象資產(chǎn)可自主定義，響應(yīng)時(shí)間<2.5s隨時(shí)暢聊。平臺(tái)提供多場(chǎng)景的虛擬人交互解決方案，融合交互機(jī)、數(shù)據(jù)大屏、PAD、手機(jī)等終端設(shè)備，滿足不同應(yīng)用場(chǎng)景的虛擬人互動(dòng)需求。

大模型落地應(yīng)用 帶來(lái)百花齊放

在分論壇現(xiàn)場(chǎng)，訊飛開(kāi)放平臺(tái)技術(shù)負(fù)責(zé)人汪艦，現(xiàn)場(chǎng)真機(jī)演示了星火原生應(yīng)用如何解決場(chǎng)景剛需，創(chuàng)造真實(shí)的業(yè)務(wù)價(jià)值。

訊飛智文2.0，支持一鍵生成PPT、Word文檔。在《量子位AI應(yīng)用月報(bào)》中位列AIPPT 用戶使用時(shí)長(zhǎng)第一，深受大學(xué)生歡迎;面向行業(yè)場(chǎng)景，服務(wù)中國(guó)海油、徽商銀行等百萬(wàn)企業(yè)機(jī)構(gòu)用戶，快速提升生產(chǎn)率，高效轉(zhuǎn)化企業(yè)智慧。

訊飛繪文，一站式解決新媒體的選題、創(chuàng)作、發(fā)布與運(yùn)營(yíng)。支持小紅書(shū)、公眾號(hào)、百家號(hào)等數(shù)十種文體，服務(wù)了企業(yè)、自媒體、商戶等不同人群，累計(jì)生成千萬(wàn)文章，平均閱讀量提升率25%。

在企業(yè)場(chǎng)景，星火大模型圍繞剛需場(chǎng)景創(chuàng)造價(jià)值!

上傳產(chǎn)品說(shuō)明書(shū)即可模擬真實(shí)銷售與客服場(chǎng)景的星火智能陪練;閱讀時(shí)可以人機(jī)對(duì)話共創(chuàng)的智慧伴讀;為企業(yè)用戶提供知識(shí)管理與高效應(yīng)用方案的星火文檔知識(shí)庫(kù)。

訊飛智能翻譯方案已幫助比亞迪集團(tuán)的2萬(wàn)員工跨語(yǔ)種交流，加速全球化業(yè)務(wù)發(fā)展。科大訊飛虛擬人則為央國(guó)企、金融、文旅行業(yè)客戶賦能創(chuàng)新，與圓明園聯(lián)合打造虛擬導(dǎo)游，與上海市中醫(yī)文獻(xiàn)館聯(lián)合打造首任AI館長(zhǎng)“顧爺爺”;文旅展覽方案，在博物館、科技館、展覽館等場(chǎng)景提供知識(shí)問(wèn)答、游覽推薦、多語(yǔ)種游覽等服務(wù)。

在文娛領(lǐng)域，訊飛星火同樣在釋放無(wú)窮想象力!

AI人格角色大模型與IP結(jié)合，正打造授權(quán)新資產(chǎn)。在最新上線的AI陪伴應(yīng)用麥芽島，用戶可以與1300+上架角色一起馳騁天馬行空的劇情宇宙;三體宇宙攜手科大訊飛共同開(kāi)啟“智子大模型開(kāi)發(fā)計(jì)劃“，旨在打造一個(gè)能夠深度理解《三體》原著、具備沉浸逼真的多模態(tài)交互體驗(yàn)、完美接入各類應(yīng)用場(chǎng)景的AI智能體，賦能全場(chǎng)景下的軟硬件開(kāi)發(fā)者合作伙伴，為全球的三體粉絲帶來(lái)更加卓越的沉浸式內(nèi)容消費(fèi)體驗(yàn)。

03攜手開(kāi)發(fā)者奔赴行業(yè)場(chǎng)景

共創(chuàng)人工智能的時(shí)代紅利

在人工智能的黃金時(shí)代，生態(tài)協(xié)作的力量正將其推向前所未有的高度。

論壇現(xiàn)場(chǎng)，訊飛AI工程院常務(wù)副院長(zhǎng)龍明康、訊飛開(kāi)放平臺(tái)各業(yè)務(wù)負(fù)責(zé)人走上舞臺(tái)，與現(xiàn)場(chǎng)開(kāi)發(fā)者和企業(yè)伙伴進(jìn)行了一場(chǎng)別開(kāi)生面的AI面對(duì)面交流，共同探討大模型的最新發(fā)展趨勢(shì)，分享訊飛星火業(yè)務(wù)的精彩內(nèi)容。

從宏觀戰(zhàn)略到具體鏈接，訊飛不斷緊密與開(kāi)發(fā)者的共生共榮、共創(chuàng)共贏關(guān)系。2024年以內(nèi)，訊飛開(kāi)放平臺(tái)共策劃了15站城市活動(dòng)，30場(chǎng)社區(qū)互動(dòng)，邀請(qǐng)50位優(yōu)質(zhì)講師，與2000位開(kāi)發(fā)者面對(duì)面交流。走近開(kāi)發(fā)者，聆聽(tīng)開(kāi)發(fā)者，讓人工智能的創(chuàng)意加速落地。

在論壇現(xiàn)場(chǎng)，訊飛開(kāi)放平臺(tái)通過(guò)一座座獎(jiǎng)杯，感謝生態(tài)合作伙伴一路的并肩前行，以及在戰(zhàn)略合作、行業(yè)先鋒、產(chǎn)品創(chuàng)新、技術(shù)應(yīng)用、社區(qū)共建和公益等方面的卓越成就。

— 獲獎(jiǎng)名單 —年度最佳戰(zhàn)略合作伙伴華為技術(shù)有限公司、比亞迪股份有限公司 智能翻譯項(xiàng)目組年度最佳海外戰(zhàn)略合作伙伴華為云計(jì)算

年度最佳行業(yè)先鋒獎(jiǎng)愛(ài)可聲數(shù)字文化(北京)有限公司、上海核工程研究設(shè)計(jì)院股份有限公司、軟通動(dòng)力信息技術(shù)(集團(tuán))股份有限公司、南京銀行股份有限公司、上海聲網(wǎng)科技有限公司、廈門科技館管理有限公司、中國(guó)煙草總公司浙江省公司、山東高速集團(tuán)有限公司、南方電網(wǎng)數(shù)字傳媒科技有限公司、深圳市優(yōu)必選科技股份有限公司、中材智能科技(成都)有限公司年度最佳產(chǎn)品創(chuàng)新獎(jiǎng)

深圳市云希谷科技有限公司、深圳市火樂(lè)科技發(fā)展有限公司、上海智元新創(chuàng)技術(shù)有限公司、杭州李未可科技有限公司、深圳市倍思科技有限公司、深圳市艾問(wèn)科技有限公司、深圳市光速時(shí)代科技有限公司、上海容么么數(shù)字科技有限公司、上海九方云智能科技有限公司

年度最佳技術(shù)應(yīng)用獎(jiǎng)

深圳市九學(xué)王信息科技有限公司、北京具身智能機(jī)器人創(chuàng)新中心有限公司、蘇州穿山甲機(jī)器人股份有限公司、深圳市萬(wàn)屏?xí)r代科技有限公司、四川影目科技有限公司、廣州成至智能機(jī)器科技有限公司、深圳市康冠科技股份有限公司、上海市中醫(yī)文獻(xiàn)館、森麗康科技(北京)有限公司

年度最佳社區(qū)共建獎(jiǎng)

傳智教育、Datawhale、InfoQ極客傳媒、OSC開(kāi)源中國(guó)、openKylin社區(qū)

年度最佳公益開(kāi)發(fā)者

西藏拜云信息科技有限公司、深圳作為科技有限公司、上海和寧永遠(yuǎn)健康科技有限公司

只有生態(tài)的繁榮，才有加速人工智能時(shí)代的到來(lái)!

訊飛開(kāi)放平臺(tái)將秉持開(kāi)放賦能的理念，持續(xù)開(kāi)放前沿的AI能力及方案，攜手生態(tài)伙伴共創(chuàng)人工智能的大未來(lái)。