解鎖大模型落地之道，你最Pick哪一個(gè)？

大模型技術(shù)的實(shí)際應(yīng)用成為了越來越多行業(yè)共同關(guān)注和探討的重要話題。隨著大模型技術(shù)的不斷發(fā)展和成熟，人們開始深刻認(rèn)識(shí)到其在解決實(shí)際問題和推動(dòng)創(chuàng)新方面的潛力。從自然語(yǔ)言處理到圖像識(shí)別，從智能推薦到智能決策，大模型技術(shù)正逐漸拓展其影響力和應(yīng)用范圍。

為了加速推動(dòng)全球大模型相關(guān)技術(shù)創(chuàng)新發(fā)展及工程化應(yīng)用落地，助力數(shù)字經(jīng)濟(jì)發(fā)展。InfoQ 大模型技術(shù)應(yīng)用創(chuàng)新大賽，圍繞大模型的技術(shù)創(chuàng)新與應(yīng)用開展討論，期望發(fā)掘更多能夠解決產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型過程中實(shí)際問題的創(chuàng)新解決方案，共同推動(dòng)大模型等技術(shù)在不同行業(yè)的落地實(shí)踐。

目前，大賽正在火熱進(jìn)行中！六大賽道報(bào)名總?cè)藬?shù)超 200 人，其中個(gè)人開發(fā)者占比 50%、企業(yè)開發(fā)者占比 33%、學(xué)生占比 16%。這些參賽選手的作品方向是什么？有哪些技術(shù)上的創(chuàng)新突破？針對(duì)這些問題，InfoQ 與參賽選手做了初步探討，在探討中發(fā)現(xiàn)了一些創(chuàng)新性、落地性都很高的參賽作品，看看你最 Pick 哪個(gè)？

智能保險(xiǎn)顧問：顛覆性的銷售方式

大模型時(shí)代，算力、算法、數(shù)據(jù)構(gòu)成了新范式的“三駕馬車”，其中，數(shù)據(jù)更可視為決定大模型質(zhì)量和商業(yè)化落地的核心要素。作為一個(gè)業(yè)務(wù)流程規(guī)范、數(shù)據(jù)和知識(shí)沉淀完備的行業(yè)，金融業(yè)天然具有應(yīng)用大模型的基礎(chǔ)優(yōu)勢(shì)。在金融服務(wù)和業(yè)務(wù)中，利用大規(guī)模的數(shù)據(jù)、深度學(xué)習(xí)和自然語(yǔ)言處理等技術(shù)，開發(fā)和應(yīng)用龐大、復(fù)雜的模型，以解決各種金融問題、優(yōu)化業(yè)務(wù)流程，提高決策效率和用戶體驗(yàn)。

在本屆大賽金融賽道的報(bào)名團(tuán)隊(duì)中涌現(xiàn)出了一支將大模型技術(shù)賦能于保險(xiǎn)銷售領(lǐng)域的創(chuàng)新團(tuán)隊(duì)，他們的作品在引導(dǎo)用戶走進(jìn)保險(xiǎn)話題、解讀保險(xiǎn)產(chǎn)品、分析用戶保險(xiǎn)需求等方面有著獨(dú)特的亮點(diǎn)。同時(shí)，該智能顧問既能主動(dòng)聯(lián)系用戶，提供個(gè)性化的保險(xiǎn)建議，也能被動(dòng)回答用戶的保險(xiǎn)疑問，為用戶提供全方位的保險(xiǎn)服務(wù)。這一創(chuàng)新方案憑借著大模型的語(yǔ)義理解、信息抽取和銷售階段規(guī)劃等關(guān)鍵技術(shù)，能為企業(yè)提供一套高效的銷售場(chǎng)景解決方案。

此外，在被問到作品未來落地的商業(yè)價(jià)值時(shí)，該團(tuán)隊(duì)表示，“有銷售業(yè)務(wù)的企業(yè)可以使用這套方案并結(jié)合大模型技術(shù)實(shí)現(xiàn)降本增效，從而讓越來越多企業(yè)認(rèn)可大模型的價(jià)值并在更多的業(yè)務(wù)中探索如何應(yīng)用大模型技術(shù)，對(duì)大模型商業(yè)化有很大的促進(jìn)作用。”

私域大模型：全棧 AI 能力的創(chuàng)新成果

在技術(shù)創(chuàng)新賽道中，已經(jīng)出現(xiàn)了成熟的大模型作品并實(shí)現(xiàn)了落地。該團(tuán)隊(duì)研發(fā)的是聚焦在法律領(lǐng)域的私域大模型，主要技術(shù)原理是通過具備向量能力的數(shù)據(jù)庫(kù) Hubble 支撐了證監(jiān)會(huì)全部法規(guī)（不含更新數(shù)據(jù)），并做遷移學(xué)習(xí)。通過 AI-PaaS 平臺(tái)采集相關(guān)數(shù)據(jù)，進(jìn)行數(shù)據(jù)標(biāo)注及數(shù)據(jù)處理，基于遷移學(xué)習(xí)對(duì)大語(yǔ)言模型進(jìn)行微調(diào)，同時(shí)利用 Hubble-vector 的向量存儲(chǔ)及查詢能力，使模型語(yǔ)境更適用于當(dāng)前私域數(shù)據(jù)場(chǎng)景，并且做到答案可精確溯源，最后通過模型管理進(jìn)行服務(wù)的發(fā)布供用戶使用。在生成時(shí)可以引用原有法條做準(zhǔn)確嚴(yán)謹(jǐn)回答，對(duì)比通用大模型，更適合機(jī)構(gòu)私有數(shù)據(jù)。

團(tuán)隊(duì)在介紹作品時(shí)表示，“相比于傳統(tǒng)的通用 AI 模型，私域大模型更加專業(yè)化和定制化，能夠更好地適應(yīng)行業(yè)場(chǎng)景的需求，提供更準(zhǔn)確、高效的解決方案，這無疑對(duì)行業(yè)場(chǎng)景的深入落地產(chǎn)生積極的影響?！?/p>

AI 驅(qū)動(dòng)音視頻轉(zhuǎn)換文字：簡(jiǎn)單高效的實(shí)用工具

大模型在語(yǔ)音識(shí)別方面具有顯著的優(yōu)勢(shì)，大型模型憑借數(shù)以億計(jì)的參數(shù)，使其能夠更好地捕捉語(yǔ)音信號(hào)中的復(fù)雜模式和特征。這些模型可以學(xué)習(xí)不同的聲音頻率、韻律、音素、語(yǔ)速等變化，從而提高了對(duì)各種說話人和語(yǔ)音情境的適應(yīng)能力。在產(chǎn)品經(jīng)理賽道，就有選手帶來了 AI 驅(qū)動(dòng)的視頻、播客轉(zhuǎn)文字、字幕的工具。該作品可以將視頻轉(zhuǎn)換為翻譯文本、字幕和筆記，無論是 YouTube、播客還是本地音頻和視頻文件，都能輕松將其轉(zhuǎn)換為文本并提煉精華。同時(shí)，該作品還支持多語(yǔ)言，可以在中文、英文、日文和 90 多種語(yǔ)言之間進(jìn)行轉(zhuǎn)錄和翻譯。

智慧校園 AI：小模型基礎(chǔ)上的答疑助手

在教育賽道中，我們看到了新的探索和創(chuàng)新思路。一支來自專注高校信息化的企業(yè)團(tuán)隊(duì)正在調(diào)研大模型與智慧校園的結(jié)合應(yīng)用。他們的參賽作品最大的特點(diǎn)就是探索如何在較小模型的基礎(chǔ)上實(shí)現(xiàn)為全體師生答疑解惑，這里最大的難點(diǎn)在于較小模型的二次訓(xùn)練。此外，團(tuán)隊(duì)表示，針對(duì)高校場(chǎng)景需要解決的問題還有很多，例如，二次訓(xùn)練的知識(shí)遺忘、高校的數(shù)據(jù)安全以及與應(yīng)用廠商的協(xié)同推進(jìn)問題等。目前在大模型的探索中既有機(jī)遇也有挑戰(zhàn)，希望做出成果實(shí)現(xiàn)大模型在教育領(lǐng)域的落地。