日月光用于AI和HPC的異質(zhì)整合先進封裝解決方案

作者：Yin Chang?-日月光銷售與行銷資深副總

世界正迅速從網(wǎng)絡(luò)經(jīng)濟轉(zhuǎn)向人工智能經(jīng)濟。在網(wǎng)絡(luò)時代，我們通過手機、個人電腦和物聯(lián)網(wǎng)設(shè)備等，可以一天24小時不間斷地保持網(wǎng)絡(luò)連接；在AI時代，我們所做的一切都將與人工智能相關(guān)聯(lián)。您可能已經(jīng)聽說過像 ChatGPT 或 Google Gemini 這樣的AI工具，它們可以回答問題并創(chuàng)建非常類人的(human-like)文字、圖像、甚至視頻文件。未來，多模態(tài)人工智能(multimodal AI)甚至可以模仿人類的生物感官，使其能夠看到、聽到、甚至聞到所需事物。此外，主動式人工智能(agentic AI)將能夠理解其周遭環(huán)境，自主設(shè)定目標，并在幾乎沒有直接人為監(jiān)督的情況下，采取行動以實現(xiàn)這些目標。這僅僅只是人工智能給我們生活帶來變革的幾個例子。要實現(xiàn)AI變革還需要更多創(chuàng)新和更先進的半導體及封裝解決方案。

人工智能帶來哪些影響？

回顧歷史上由科技驅(qū)動的成長機會，我們可以看到每個科技轉(zhuǎn)折點都增加了對半導體元器件的需求。50 年前，一臺航天器僅需數(shù)千個半導體元件，但隨著用戶手機需求的劇增，這個數(shù)字已增加到 20 億，而智能物聯(lián)網(wǎng)需求量更是高達 100 億。

我們相信，AI的需求量將在短時間上升至300 億。因為我們預期PMMP（People-Machine-Machine-People）通訊模式將成為新常態(tài)，每個用戶的手機都將運行各式各樣的AI應(yīng)用程序并連通多個云端服務(wù)器以提供大家所需的資訊和功能。這些機器與機器間的相互協(xié)作將大幅增加，推動半導體產(chǎn)值沖破1萬億美元。

邁向AI時代：通過異質(zhì)整合克服挑戰(zhàn)

進入人工智能(AI)時代，規(guī)模擴展(scaling)面臨許多重大挑戰(zhàn)。過去兩年（2021~2022），對于AI/ML 的市場需求增加至將近 6.8倍~11倍，遠超摩爾定律晶體管數(shù)量每 18 個月翻一番的增幅。

能耗是另一個挑戰(zhàn)，在未來十年內(nèi)，AI產(chǎn)業(yè)將建置達千兆位(zettabyte)級別的數(shù)據(jù)中心，需要 500 兆瓦(MW)電力驅(qū)動，約相當于半個核電廠的輸出。從長遠而言，這是非常之不具備可持續(xù)性的，我們需要找到更節(jié)能的方式來滿足人工智能經(jīng)濟算力（Computing Power）需求。

成本也是考慮重點之一，盡管半導體制程新節(jié)點導入速度正在減緩，但生產(chǎn)成本仍在不斷增加。5 納米(5 nm)先進 IC 設(shè)計的開發(fā)成本可能高達 5 億美元，大部分用戶都無法負擔。

我們需要尋找新的突破點，日月光認為異質(zhì)整合是關(guān)鍵，它提供了一種可減少能耗、超越“摩爾定律”并降低整體開發(fā)成本的方法。

用于AI & HPC的異質(zhì)整合先進封裝

日月光先進封裝技術(shù)可以將各種單一元件整合到小芯片(Chiplets)、系統(tǒng)級封裝(SiP) 或模塊中，即使這些組件的材料、制程節(jié)點和制造技術(shù)完全不同。異質(zhì)整合不僅可以增加功能密度，降低每個功能的成本，還為系統(tǒng)架構(gòu)師提供了設(shè)計靈活性，用以創(chuàng)建增強系統(tǒng)性能和效率的創(chuàng)新解決方案，以滿足人工智能(AI)和高性能計算(HPC)的需求。

我們的次世代 3D 異質(zhì)整合架構(gòu) VIPack 設(shè)計旨在擴展設(shè)計規(guī)則，實現(xiàn)以下目標：

通過頂尖的硅供應(yīng)商實現(xiàn)最大化的頻率速度與性能

優(yōu)化共同設(shè)計、產(chǎn)品開發(fā)和上市時程

與我們的晶圓廠/供應(yīng)鏈協(xié)同合作的開放式硅生態(tài)系統(tǒng)

VIPack 由六大核心封裝技術(shù)組成，包括: 基于高密度重布線( RDL)技術(shù)的 FOPoP、 FOCoS、FOCoS-Bridge和FOSiP，以及基于硅通孔(TSV)技術(shù)的 2.5D/3D IC 和Integrated Optics。通過利用我們的數(shù)據(jù)庫及與 EDA 供應(yīng)商（如 Cadence、Synopsys、Xilinx 等）合作，我們導入整合設(shè)計生態(tài)系統(tǒng) (Integrated Design Ecosystem，簡稱IDE)，旨在幫助客戶更快、更有效率地設(shè)計封裝解決方案。

請參考下圖，了解日月光為用于訓練的 GPU 和AI 加速器提供的先進封裝解決方案。

人工智能和數(shù)據(jù)將持續(xù)推動半導體創(chuàng)新呈指數(shù)級增長，以我們想象不到的方式重塑世界生活方式。異質(zhì)整合先進封裝在AI經(jīng)濟改變世界的過程中扮演關(guān)鍵角色，為 AI 芯片架構(gòu)師提供創(chuàng)新解決方案，優(yōu)化芯片布局提升性能與功耗效率。

我們堅信，人工智能經(jīng)濟的增長潛力是無限的。預期的1萬億美元半導體市場只是我們通過先進封裝解決方案和創(chuàng)新所能實現(xiàn)的開端。日月光很高興與客戶攜手合作，突破極限，共同塑造人工智能經(jīng)濟的未來。