摩爾線程攜手智源研究院完成基于Triton的大模型算子庫適配

近日，摩爾線程與北京智源人工智能研究院（簡稱：智源研究院）已順利完成基于Triton語言的高性能算子庫FlagGems的適配工作。得益于摩爾線程自研統(tǒng)一系統(tǒng)計算架構MUSA，雙方在短短一周多的時間里，即成功完成了近60個算子的功能驗證，精度符合交付標準，并實現(xiàn)對Bert-large模型的全面支持。FlagGems算子庫在摩爾線程MUSA架構上展現(xiàn)出了接近手寫算子的計算性能，且性能還在持續(xù)調優(yōu)，極大加速了開源大模型在摩爾線程全功能GPU上的部署速度。

智源研究院在今年的智源大會上推出了FlagGems算子庫，這是一個使用Triton編程語言實現(xiàn)的高性能通用算子庫，旨在為大語言模型提供一系列可應用于PyTorch框架的算子，加速模型的推理與訓練，降低新算法的開發(fā)門檻，促進芯片架構的創(chuàng)新。FlagGems算子庫以Triton編程語言的易用性和編譯器的標準接口為基礎，為多元芯片提供了一套易適配、高性能的算子解決方案，推動基于Triton的統(tǒng)一、開源的軟硬件生態(tài)建設。

在適配過程中，摩爾線程與智源研究院團隊緊密合作，共同克服了一系列技術挑戰(zhàn)，確保FlagGems算子庫在摩爾線程全功能GPU上的高效穩(wěn)定運行。摩爾線程研發(fā)團隊經過充分調研論證，還形成了Triton編譯器在MUSA架構上適配的完整方案，力求實現(xiàn)開發(fā)者在基于摩爾線程全功能GPU進行Triton開發(fā)算子過程中，也能獲得與原來一致的體驗，做到CUDA框架和MUSA框架的無縫遷移。

此次合作不僅充分展示了摩爾線程全功能GPU強大的兼容性、靈活性與擴展性，也為開發(fā)者和用戶帶來了更廣泛的選擇和更高效的開發(fā)體驗。摩爾線程和智源研究院將繼續(xù)深化合作，共同促進AI技術的發(fā)展和應用，為中國大模型的發(fā)展貢獻力量。

關于智源研究院

北京智源人工智能研究院（簡稱：智源研究院）是北京市于2018年11月推動成立的新型研發(fā)機構。智源研究院的核心目標是聚焦人工智能原始創(chuàng)新和核心技術，推動人工智能理論、方法、工具、系統(tǒng)和應用取得變革性、顛覆性突破，支撐北京建設成為全球人工智能學術思想、基礎理論、頂尖人才、企業(yè)創(chuàng)新和發(fā)展政策的源頭。

關于摩爾線程

摩爾線程成立于2020年10月，以全功能GPU為核心，致力于向全球提供加速計算的基礎設施和一站式解決方案，為各行各業(yè)的數(shù)智化轉型提供強大的AI計算支持。

我們的目標是成為具備國際競爭力的GPU領軍企業(yè)，為融合人工智能和數(shù)字孿生的數(shù)智世界打造先進的加速計算平臺。我們的愿景是為美好世界加速。