智能座艙大模型，混合算力還是全靠端側(cè)輸出

電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）除了傳統(tǒng)的LLM模型外，不少垂直領(lǐng)域的大模型也在飛速發(fā)展，尤其是在汽車領(lǐng)域，越來越多的車企開始考慮在車內(nèi)引入AI大模型。如今汽車此前由于車端算力的限制，大模型很難運(yùn)行在智能座艙上，而全程聯(lián)網(wǎng)跑的座艙大模型在使用體驗(yàn)上又有所欠缺。然而，隨著新一代智能汽車算力硬件紛紛進(jìn)入下一階段，如今智能座艙開始在新車型上鋪開。

理想Mind GPT

去年年底，理想發(fā)布了最新的OTA 5.0版本，率先為Max車型升級(jí)了AD MAX 3.0智能駕駛。然而，這一次OTA還包括了最新的智能空間SS 3.0，為Max、Pro和Air車型正式引入了Mind GPT這一智能座艙多模態(tài)認(rèn)知大模型。

理想從零構(gòu)建了Mind GPT的原始基座模型，并采用了自研的TaskFormer神經(jīng)網(wǎng)絡(luò)架構(gòu)，Mind GPT使得理想語音助手“理想同學(xué)”獲得了聽感和自行能力全面升級(jí)，并基于其重點(diǎn)場景，定制了111個(gè)領(lǐng)域、1000種以上的專屬能力，比如理解語義、多語種交流、模糊感知和行程安排規(guī)劃等。

從中文大模型排行榜C-Eval網(wǎng)站上可以看到，12月4日發(fā)布的Mind GPT在當(dāng)時(shí)斬獲了閉源模型第一的成績。盡管隨后被榮耀、海思和vivo的大模型超過，但Mind GPT目前依然以89.7的成績高居第四的位置。

可以看出，理想Mind GPT對(duì)于硬件的要求并不算高，從理想分享的Mind GPT推理引擎來看，其推理負(fù)載被分配給了云端GPT和端側(cè)的NPU，從而降低智能座艙的算力要求，使得更多老車型也可以享受到大模型的完整體驗(yàn)。

蔚來NOMI GPT

蔚來宣稱NOMI GPT是業(yè)內(nèi)首家純端側(cè)部署的多模態(tài)感知大模型，新的NOMI借由這一大模型，可以在無需聯(lián)網(wǎng)的前提下識(shí)別數(shù)千種物體，且做到快速響應(yīng)，還可以根據(jù)非顏色類磁珠，完成氛圍燈的顏色組合。由于是純端側(cè)處理，NOMI GPT做到了車主隱私數(shù)據(jù)不出車，提高了信息安全性。

之所以能做到純端側(cè)，自然離不開計(jì)算硬件的支撐。2024款蔚來全系車型均將采用全新的中央計(jì)算平臺(tái)ADAM，在智艙上搭載了高通最新的驍龍8295智能座艙芯片。在5nm工藝和架構(gòu)優(yōu)化下，8295相較上一代8155在性能上有了巨大的提升，除了通用計(jì)算與圖形處理的CPU和GPU算力分別翻了2倍和3倍外，用于AI計(jì)算的NPU算力也提升了8倍，達(dá)到了30TOPS。

除此之外，蔚來的ADAM通過系統(tǒng)級(jí)創(chuàng)新實(shí)現(xiàn)了艙駕融合，不僅可以拓展算力，更可以實(shí)現(xiàn)跨域算力共享。如此一來，類似NOMI GPT這樣的多模大模型端側(cè)部署，就可以調(diào)用來自智駕芯片Orin X的算力，從而提高CPU、GPU和NPU的使用效率。

寫在最后

可以看出，理想和蔚來在智能座艙大模型上采用了不盡相同的策略，理想的Mind GPT主打讓所有L系列車主都能享受到大模型的智能空間，而蔚來則是追求極致的硬件算力，把一切推理計(jì)算都留在端側(cè)。這兩種方式都各有優(yōu)劣，未來隨著更多車企跟進(jìn)智能座艙大模型，我們屆時(shí)將看到究竟何種技術(shù)路線更受歡迎。