昆侖芯科技攜手生態(tài)伙伴領跑大模型產(chǎn)業(yè)落地

近日，2023百度云智大會于北京圓滿落幕。眾多人工智能領域專家、行業(yè)精英、意見領袖等齊聚一堂，共同站在大模型重構未來的新起點，展望大模型創(chuàng)新發(fā)展之路。

作為百度四層架構的堅實算力底座，昆侖芯攜兩代芯片產(chǎn)品重磅亮相主會場及“智能計算&大模型技術論壇”展區(qū)。昆侖芯科技芯片研發(fā)總監(jiān)漆維在專題論壇上進行精彩主題演講，獲得與會嘉賓及各級媒體的廣泛關注。

大會期間，昆侖芯以多媒體形式展示芯片產(chǎn)品的領先性能優(yōu)勢，為嘉賓直觀呈現(xiàn)昆侖芯產(chǎn)品強大性能以及賦能千行百業(yè)的落地成果。

在百度的四層架構中，昆侖芯作為強大算力底座，通過對市場需求的深刻洞察，率先布局大模型領域。同時，昆侖芯與框架、模型、應用層高效協(xié)同，通過端到端軟硬逐層優(yōu)化，攜手打造大模型端到端解決方案，實現(xiàn)了百家客戶、數(shù)萬片規(guī)模部署。

“智能計算&大模型技術論壇”上，昆侖芯科技芯片研發(fā)總監(jiān)漆維帶來了“昆侖芯端到端大模型算力解決方案”主題分享。面對大模型時代計算的效率和成本問題，昆侖芯通過架構創(chuàng)新、產(chǎn)品定義創(chuàng)新以及軟件創(chuàng)新，打造出基于自研核心架構XPU-R的大模型產(chǎn)品矩陣。針對不同參數(shù)量級的大模型場景，昆侖芯兼具顯存和成本優(yōu)勢：

昆侖芯AI加速卡R200-8F面向百億以內(nèi)參數(shù)量級，相比同類型產(chǎn)品性能提升20%；

昆侖芯AI加速器組R480-X8面向百億至千億參數(shù)量級，性能達到同類型產(chǎn)品的1.5倍以上；

昆侖芯AI加速器組R480-X8集群針對千億以上參數(shù)量級，可實現(xiàn)多機多卡分布式推理。

“作為一款人工智能芯片，從芯片完成設計到真正走向行業(yè)落地，生態(tài)是其中非常重要的環(huán)節(jié)?！逼峋S在演講中分享了昆侖芯在軟件生態(tài)方面的成果。目前，昆侖芯提供了針對大模型場景的昆侖芯XFT（XPU Faster Transformer）推理加速庫、豐富的云原生插件。同時，昆侖芯已全面擁抱最大的大模型開源社區(qū)HuggingFace，打造了xHuggingface開源推理套件，并攜手飛槳等生態(tài)伙伴構建軟硬一體的AI芯片生態(tài)。

當前，大模型的技術生態(tài)正快速發(fā)展，驅動產(chǎn)業(yè)實踐、行業(yè)創(chuàng)新應用，而這離不開AI產(chǎn)業(yè)鏈各企業(yè)的加持。在圓桌論壇環(huán)節(jié)，漆維與同臺專家、優(yōu)秀企業(yè)家代表圍繞“大模型創(chuàng)新發(fā)展之路”展開深入探討。

漆維表示：“大模型技術的發(fā)展為國內(nèi)AI芯片企業(yè)帶來了良好的前景，但也帶來了算力需求及成本的挑戰(zhàn)。昆侖芯始終堅持開拓創(chuàng)新，降低AI算力成本與使用門檻，加強與AI產(chǎn)業(yè)鏈上下游企業(yè)的合作，為市場提供更優(yōu)質的產(chǎn)品和服務。目前，已有兩代昆侖芯AI芯片實現(xiàn)量產(chǎn)和規(guī)模部署，而在研的下一代產(chǎn)品將為大模型和AIGC等應用提供更佳的性能體驗?！?/p>

AI算力正成為數(shù)字基建的新抓手，以及制約大模型技術發(fā)展的關鍵要素。作為AI芯片領域的領軍企業(yè)，昆侖芯將繼續(xù)秉承“讓計算更智能”的使命，打造更高性能的芯片產(chǎn)品，提供更普惠的AI算力，攜手生態(tài)伙伴領跑大模型產(chǎn)業(yè)落地。

審核編輯：彭菁