開拓大模型新邊界，蘋芯展示存算一體“芯”方向

2024 AI大模型創(chuàng)新發(fā)展研討會(huì)暨清華上海自動(dòng)化年會(huì)于2024年3月16日在上海楊浦區(qū)成功召開?；顒?dòng)內(nèi)容包括專家主旨演講、圓桌討論、校友企業(yè)路演等交流活動(dòng)。蘋芯科技CEO楊越出席會(huì)議并進(jìn)行項(xiàng)目分享。

本次會(huì)議得到了上海市楊浦區(qū)的大力支持，楊浦區(qū)委副書記、區(qū)長(zhǎng)周海鷹，清華校友總會(huì)自動(dòng)化系分會(huì)會(huì)長(zhǎng)、清華大學(xué)自動(dòng)化系主任張濤，清華校友總會(huì)自動(dòng)化系分會(huì)秘書長(zhǎng)、清華大學(xué)自動(dòng)化系黨委書記古槿，清華大學(xué)上海校友會(huì)會(huì)長(zhǎng)、華虹計(jì)通董事長(zhǎng)秦偉芳，清華大學(xué)上海校友會(huì)監(jiān)事長(zhǎng)、昕諾飛亞太區(qū)高級(jí)總監(jiān)宿為民，清華大學(xué)上海校友會(huì)副會(huì)長(zhǎng)兼秘書長(zhǎng)、啟迪控股副總裁韓威，清華大學(xué)上海校友會(huì)自動(dòng)化專委會(huì)主任、軟銀中國(guó)創(chuàng)業(yè)投資有限公司合伙人宋安瀾，清華大學(xué)上海校友會(huì)自動(dòng)化專委會(huì)副主任、上海交通大學(xué)計(jì)算機(jī)系教授、思必馳創(chuàng)始人俞凱，上海歐美同學(xué)會(huì)副會(huì)長(zhǎng)張海曉，啟迪控股執(zhí)行總裁、啟迪之星董事長(zhǎng)張金生，清華大學(xué)上海校友會(huì)自動(dòng)化專委會(huì)秘書長(zhǎng)、元鈦基金合伙人陳剛以及來(lái)自學(xué)術(shù)界、產(chǎn)業(yè)界的大模型領(lǐng)域?qū)＜覍W(xué)者、企業(yè)代表、清華校友悉數(shù)出席會(huì)議，共同探討AI大模型領(lǐng)域的發(fā)展趨勢(shì)、技術(shù)挑戰(zhàn)以及未來(lái)應(yīng)用前景等業(yè)內(nèi)焦點(diǎn)問(wèn)題。

蘋芯科技CEO楊越受邀出席本次會(huì)議并進(jìn)行題為《從通用到專用 -- AI大模型推理專用加速芯片》的分享。

現(xiàn)階段，隨著大模型在人工智能領(lǐng)域快速發(fā)展，大模型的訓(xùn)練和推理對(duì)計(jì)算資源提出了前所未有的挑戰(zhàn)。Groq TSP作為專門針對(duì)超低延遲應(yīng)用而設(shè)計(jì)的確定性ML推理芯片，一經(jīng)推出便引起廣泛關(guān)注。但是，通過(guò)專業(yè)人士分析，其實(shí)際部署與應(yīng)用仍然存在很大的成本問(wèn)題，產(chǎn)品的應(yīng)用前景依然在等待市場(chǎng)的反饋。

面對(duì)當(dāng)前情況中的具體問(wèn)題，蘋芯團(tuán)隊(duì)提出了新思路，打造存算一體AI大模型端側(cè)推理專用加速芯片，通過(guò)三條路徑針對(duì)性解決難題：首先，利用存內(nèi)計(jì)算技術(shù)，降低數(shù)據(jù)搬運(yùn)，大幅提升計(jì)算能效；其次，打造大模型專屬架構(gòu)設(shè)計(jì)，完成高內(nèi)聚低耦合數(shù)據(jù)處理單元設(shè)計(jì)，切實(shí)降低總體設(shè)計(jì)制造成本；最后，融入大模型完整產(chǎn)業(yè)生態(tài)，滿足國(guó)產(chǎn)大模型對(duì)芯片設(shè)計(jì)需求，實(shí)現(xiàn)軟硬件一體設(shè)計(jì)，打通上下游合作鏈，實(shí)現(xiàn)算力算法架構(gòu)融合。

作為專注于存算一體AI芯片的創(chuàng)新型企業(yè)，蘋芯科技將繼續(xù)加快深入探索端側(cè)大模型加速芯片的步伐，推出面向大模型應(yīng)用場(chǎng)景的芯片產(chǎn)品與解決方案，為AI大模型時(shí)代提供強(qiáng)勁的“芯動(dòng)力”。

審核編輯：劉清