Vicor引領(lǐng)生成式人工智能供電技術(shù)的創(chuàng)新浪潮

雖然人工智能有望帶來人類生產(chǎn)力的飛躍，但其運行時能耗巨大，導致溫室氣體的排放也顯著增加。如今，Vicor 電源模塊與垂直供電架構(gòu)相結(jié)合，為 GenAI 提供了高效的供電方法，實現(xiàn)行業(yè)領(lǐng)先的電流密度。

訓練生成式人工智能（GenAI）神經(jīng)網(wǎng)絡模型通常需要花費數(shù)月的時間，數(shù)千個基于 GPU 并包含數(shù)十億個晶體管的處理器、高帶寬 SDRAM 和每秒數(shù)太比特的光網(wǎng)絡交換機要同時連續(xù)運行。雖然人工智能有望帶來人類生產(chǎn)力的飛躍，但其運行時能耗巨大，所以導致溫室氣體的排放也顯著增加。

據(jù)《紐約時報》報道，到 2027 年，人工智能服務器每年的用電量將達到 85 至 134 太瓦時，大致相當于阿根廷一年的用電量。

為了應對日益加劇的能耗挑戰(zhàn)，AI 處理器的供電網(wǎng)絡經(jīng)歷了多代的發(fā)展。這種全面的演進發(fā)展涉及電路架構(gòu)、電源轉(zhuǎn)換拓撲、材料科學、封裝和機械/熱工程方面的創(chuàng)新。

生成式人工智能訓練處理器的供電方案

負載點模式和分比式模式的演變

從 2020 年到2022 年，熱設(shè)計功率（TDP）幾乎翻了一番，從 400W 增加到了 700W。TDP 指標是指生成式人工智能訓練應用中 GPU 引擎的連續(xù)功耗。自 2022 年起，半導體行業(yè)的 TDP 水平不斷攀升，到了 2024 年 3 月，市場上甚至出現(xiàn)了一款 TDP 高達 1000W 的 GPU。

用于生成式人工智能訓練的處理器復合體集成了一個 GPU 或ASIC 芯片，以及六到八個高帶寬存儲器（HBM）芯片。采用 4 納米 CMOS 工藝的 GPU 通常以 0.65V 的內(nèi)核 VDD 運行，可能包含 1000 億或更多的晶體管。HBM 提供 144GB 的存儲容量，其工作電壓一般為 1.1V 或 1.2V。該處理器的一個關(guān)鍵供電特性與人工神經(jīng)網(wǎng)絡算法負載有關(guān)。對比處于空閑狀態(tài)的 GPU 和算法滿載狀態(tài)的 GPU，瞬態(tài)電流消耗（dI/dt）差別可能非常大，可能達到每微秒 2000 安培或更多。此外，該處理器不能容忍較大的電源電壓下沖或過沖幅值；這些負載階躍瞬變必須限制在標稱 VDD 的 10% 以內(nèi)。設(shè)計用于生成式人工智能訓練處理器的供電解決方案時，由于這些動態(tài)操作條件的原因，峰值電流輸送能力通常設(shè)計為連續(xù)電流輸送能力的兩倍，峰值事件通常持續(xù)數(shù)十毫秒（圖 1）。

圖 1：基于 GPU 的生成式人工智能訓練處理器芯片復合體，加速器模塊（AM）上安裝有高帶寬存儲器（HBM）。

對于 CPU、FPGA、網(wǎng)絡交換機處理器以及現(xiàn)在的 AI 訓練和推理芯片發(fā)展最重要的供電架構(gòu)是負載點（PoL）方法。相較于傳統(tǒng)的多相并聯(lián)電源架構(gòu)，分比式 PoL 電源架構(gòu)實現(xiàn)了更高的功率和電流密度。這種電源架構(gòu)借鑒了理想變壓器的“匝數(shù)比”概念，通過分壓實現(xiàn)電流倍增。電流倍增的可擴展性使我們能夠根據(jù)不同的輸出電壓和電流需求，開發(fā)一系列全面的 PoL 轉(zhuǎn)換器。這對客戶來說至關(guān)重要，因為高級 AI 訓練處理器的需求正快速變化。

分比式電源架構(gòu)（FPA）

分解為穩(wěn)壓和變壓兩部分功能

生成式人工智能電源系統(tǒng)設(shè)計面臨的主要挑戰(zhàn)包括：

很高的電流輸送能力，范圍從 500 安培到 2000 安培

負載需要出色的動態(tài)性能

PDN 的損耗和阻抗較大

48V 母線基礎(chǔ)架構(gòu)的標準化使用，需要從 48V 轉(zhuǎn)換到 1V 以下的能力

要解決這種大電流和高密度負載點（PoL）問題，需要采用不同的方法。先進的分比式電源架構(gòu)將穩(wěn)壓和變壓/電流倍增功能進行了分解，可將這些供電級放置在最佳位置，從而達到最高的效率和功率/電流密度。

當輸入電壓（VIN）等于輸出電壓（VOUT）時，穩(wěn)壓器的效率最高，隨著輸入輸出比的增加，效率逐漸降低。在 36 至 60V 的典型輸入電壓范圍內(nèi)，最佳輸出母線電壓將是 48V，而不是中間母線架構(gòu)（IBA）中常見的傳統(tǒng) 12V 母線電壓。48V 輸出母線所需的電流是 12V 線的四分之一（P=VI），而 PDN 的損耗是電流的平方（P=I2R），這意味著損耗降低至原來的 1/16。因此，先安裝穩(wěn)壓器并將其調(diào)節(jié)至 48V 輸出，可以實現(xiàn)最高的效率。穩(wěn)壓器還必須接受有時低于 48V 的輸入電壓，這就需要一個降壓-升壓的功能來滿足這一設(shè)計需求。一旦輸入電壓得到了穩(wěn)壓，下一步便是將 48V 轉(zhuǎn)換為 1V。

在需要為 1V 負載供電的情況下，最佳變壓比為 48:1。在這種情況下，穩(wěn)壓器將輸入電壓降壓或升壓到 48V 輸出，再由變壓器將電壓從 48 降至 1V。降壓變壓器以相同的比率加大電流，因此變壓器組件也可以稱為電流倍增器。在這種情況下，1 安培的輸入電流將倍增至 48 安培的輸出電流。為了最大限度地減少大電流輸出的 PDN 損耗，電流倍增器必須小巧，以便盡可能靠近負載放置。

PRMTM 穩(wěn)壓器和 VTMTM/MCMTM 模塊化電流倍增器結(jié)合在一起，構(gòu)成 Vicor 分比式電源架構(gòu)。這兩個器件相互合作，各司其職，實現(xiàn)完整的 DC-DC 轉(zhuǎn)換功能。

PRM 通過調(diào)制未穩(wěn)壓的輸入電源提供穩(wěn)壓輸出電壓，即“分比式母線電壓”。該母線供電給 VTM，由 VTM 將分比式母線電壓轉(zhuǎn)換為負載所需的電平。

與 IBA 不同，F(xiàn)PA 不通過串聯(lián)電感器從中間母線電壓降壓至 PoL。FPA 不通過降低中間母線電壓來平均電壓，而是使用電流增益為 1:48 或更高的高壓穩(wěn)壓和電流倍增器模塊，以提供更高的效率、更小的尺寸、更快的響應和 1000 安培及以上的可擴展性（圖 2）。

圖 2：分比式電源架構(gòu)可以提供超過 1000 安培的大電流，并使供電網(wǎng)絡的電阻降低到 1/20。

垂直放置 PoL 轉(zhuǎn)換器減少功耗耗散

在前幾代大電流生成式人工智能處理器電源架構(gòu)中，PoL 轉(zhuǎn)換器被放在處理器復合體的橫向（旁邊）位置。由于銅的電阻率和 PCB 上的走線長度，橫向放置的 PoL 供電網(wǎng)絡（PDN）的集總阻抗相當高，可能達到 200μΩ 或更高。隨著生成式人工智能訓練處理器的連續(xù)電流需求增加到 1000 安培，這意味著 PCB 本身就會消耗掉 200 瓦的功率?？紤]到在 AI 超級計算機中用于大型語言模型訓練的加速器模塊（AM）多達數(shù)千個，而且?guī)缀鯊牟粩嚯?，通常會持續(xù)運行 10 年或更長時間，這 200 瓦的功率損耗在整體上變得非常龐大。

認識到這種能源浪費后，AI 計算機設(shè)計師已經(jīng)開始評估采用垂直供電（VPD）結(jié)構(gòu)，將 PoL 轉(zhuǎn)換器直接放置在處理器復合體的下方。在垂直供電網(wǎng)絡中，集總阻抗可能降至 10μΩ 或更低，這意味著在內(nèi)核電壓域 1000 安培的連續(xù)電流下，只會消耗 10 瓦的功率。也就是說，通過將 PoL 轉(zhuǎn)換器從橫向放置改為縱向放置，PCB 的功耗減少了 200–10=190 瓦（WPCB ）（圖 3）。

圖 3：生成式人工智能加速模塊從橫向（頂部）供電改為縱向（背部）供電，可將 PDN 損耗降低至 1/20。

VPD 的另一個優(yōu)點是降低了 GPU 芯片表面電壓梯度，這也有助于節(jié)省電力。如前所述，典型的 4 納米 CMOS GPU 的標稱工作電壓為 0.65VDD。使用橫向供電時，將電源提供給處理器復合體的四邊，由于集成電路的配電阻抗較高（通常使用電阻率高于銅的鋁導體），可能需要 0.70V 的電壓，才能確保 GPU 芯片中心的電壓達到標稱值 0.65V。而采用縱向供電時，可以確保整個芯片表面的電壓為 0.65V。0.70–0.65=50mV，這個差值乘以 1000 安培，可額外節(jié)省 50 瓦（WVDD）的功率。在本例中，節(jié)省的總功率為 190WPCB + 50WVDD = 240 瓦（圖 4）。

圖 4：使用 VPD 時，處理器芯片的表面電壓均勻，有助于最大限度地提高計算性能，同時最小化功率損耗。

根據(jù)未來幾年公共領(lǐng)域?qū)铀倨髂K（AM）需求的預測（2024 年超過 250 萬件），以及對電力成本的合理估計（每兆瓦時 75 美元），每個 AM 節(jié)省 240W 電力，到 2026 年將在全球范圍內(nèi)實現(xiàn)太瓦時的電力節(jié)省，相當于每年節(jié)約數(shù)十億美元的電力運營成本，而且根據(jù)可再生能源的使用比例，每年還能永久性地減少數(shù)百萬噸的二氧化碳排放。

遏制失控的生成式人工智能功耗

Vicor 正引領(lǐng)生成式人工智能供電技術(shù)的創(chuàng)新浪潮。他們提供的分比式負載點轉(zhuǎn)換器解決方案有助于提升生成式人工智能處理器的功效，使生成式人工智能的功耗與社會層面的環(huán)境保護和節(jié)能目標相一致。Vicor 持續(xù)推動電源架構(gòu)的創(chuàng)新，并開發(fā)先進的新產(chǎn)品，致力于解決生成式人工智能模型訓練帶來的功耗增加問題。通過采用先進的分比式電流倍增器方法進行負載點 DC-DC 轉(zhuǎn)換，就可以充分發(fā)揮生成式人工智能優(yōu)勢，同時有效控制全球范圍內(nèi)的能源消耗。

審核編輯：彭菁