一文解析AI服務器技術(shù) AI服務器和傳統(tǒng)通用服務器的區(qū)別

AI 服務器有望加速增長。根據(jù) TrendForce，在自動駕駛汽車、AIoT 與邊緣運算等新興應用的帶領下，自 2018 年起諸多大型云端業(yè)者開始大量投入 AI 相關(guān)的設備建設，預計 2022 年搭載 GPGPU（General Purpose GPU）的 AI 服務器年出貨量占整體服務器比重近 1%，而 2023 年 ChatGPT 相關(guān)應用有望再度刺激 AI 相關(guān)領域，預計 2023 年出貨量增長率可達 8%，2022-2026 年復合成長率將達 10.8%。2022年北美四大 CSP（云服務提供商）Google、AWS、Meta、Microsoft 的 AI 服務器采購占比合計 66.2%，而中國近年來隨著國產(chǎn)化進程加速，AI 建設浪潮升溫，字節(jié)跳動的采購量最大，年采購占比達 6.2%，其次則是騰訊、阿里巴巴與百度，分別約為2.3%、1.5%與 1.5%。?

AI服務器和傳統(tǒng)通用服務器在設計方案上主要區(qū)別在于對高性能計算資源、內(nèi)存和存儲、網(wǎng)絡連接（PCB）、電源管理等。AI服務器為應對AI工作負載需求，對資源進行了優(yōu)化。

計算資源方面：總體而言：AI服務器通常具有更強的計算能力，不僅包括高性能的CPU（通用服務器及AI服務器均以配置INTEL 5318為例），還包括一個或多個高性能GPU以處理大量并行計算，從而強化深度學習和機器學習任務上的優(yōu)勢。尤其GPU自身數(shù)目的提高（如從兩張升級到八張），或升級到H800等，都會使得計算能力進一步強化（同時在BOM表的占比也會持續(xù)提高）。

通用服務器：假設雙路服務器（一臺服務器中含兩個CPU）。由于無需含GPU，其CPU可能占BOM的近30%。

AI服務器：分為訓練服務器和推理服務器:?

訓練服務器：由于CPU數(shù)量與型號不變，CPU的占比從近30%下降到10%以下；AI芯片方面，假設使用A800，相對應的增加的GPU，會占成本的50%以上，如果后續(xù)升級，不管是使用更多張A800（從兩張到8張），或者升級到H800，GPU在BOM表的占比會更高。以8張A800為例，單機價值量高達76萬，占比80%以上?。

推理服務器：以搭載GPU為T4卡（單價3500$），單機掛4個GPU為例，單機價值量近10萬，成本占比約42%。

AI服務器和傳統(tǒng)通用服務器在設計方案上主要區(qū)別在于對高性能計算資源、內(nèi)存和存儲、網(wǎng)絡連接（PCB）等。AI服務器為應對AI工作負載需求，對資源進行了優(yōu)化。

存儲資源方面：?

普通服務器：12根內(nèi)存條，單價150美金，對應價值量12420元。SSD需要5-10塊，單塊500美金，對應約2.4萬元。存儲整體占比56%左右。

訓練服務器方面，使用32G的內(nèi)存，滿插24根內(nèi)存條，價值量約24800元，占比約3%；SSD 500美金/塊，需要20塊，對應價值量69000元，占比7.6%。存儲整體占比下降到10%左右，但價值量提高1.5倍，主要原因是GPU價值量提高幅度大導致占比被動下滑。推理服務器存儲用量與訓練服務器差別不大。

服務器中使用RAID卡的主要原因是為了提高數(shù)據(jù)的可靠性和存儲性能。通過使用RAID卡對磁盤陣列進行管理，服務器可以更有效地存儲和訪問數(shù)據(jù)，同時在硬盤出現(xiàn)故障時保護關(guān)鍵數(shù)據(jù)。RAID卡的滲透率在通用服務器的滲透率約30%，而AI服務器滲透率可能是80%，甚至是標配，帶來價值量提升。

網(wǎng)絡連接方面：

網(wǎng)卡：假設低配為主，通用服務器使用1張雙口萬兆網(wǎng)卡，870元，對應占服務器價值量1.3%（若25G則均價可上升為1360元）；AI服務器以兩張雙口萬兆網(wǎng)卡，對應總價1740元拉平計算，占訓練服務器比例不足1%。實際隨著客戶提出200G網(wǎng)卡需求，乃至8塊DPU配套8張A800制程大模型的需求，會使得網(wǎng)卡價值量有較大提升空間?

PCB：通用服務器PCB 8-10層M6板為主，價值量約3400元，占比5%；訓練服務器PCB 18-20層M8板為主，價值量約10350元；推理型服務器PCB 14-16層M6，價值量約7140元；整體增幅明顯。由于以下需求，PCB層數(shù)及型號都持續(xù)上升。

復雜性：高性能服務器通常具有更復雜的設計，需要處理更多的信號和電源路徑多層板有利于路徑布局。

信號完整性：高層PCB板可以提供更多的屏蔽層，減少信號干擾和反射，在高速數(shù)據(jù)傳輸中提高信息傳遞質(zhì)量。

電源管理及散熱：高層PCB板提供更多的電源平面和散熱通道，更好實現(xiàn)電源分布和管理，并將熱量傳輸?shù)缴崞鳌?/p>

電磁兼容性：多層PCB可以更好地控制電磁干擾和射頻噪聲，從而提高設備的EMC性能。

服務器 PCB 性能要求高，單機價值量持續(xù)上升。高端服務器所用 PCB 一般要求具有高層數(shù)、高縱橫比、高密度和高傳輸速度，常規(guī)服務器一般層數(shù)在 8-24 層，板厚2-4mm，厚徑比最高達到 15:1；高端服務器層數(shù)為 28-46 層，板厚 4-5mm，厚徑比最高達到 20:1。服務器產(chǎn)品具有高電氣性能和高可靠性，在高端服務器中的應用主要包括背板、高層數(shù)線卡、HDI 卡、GF 卡等。目前，目前普遍使用的 PCIe 4.0 接口的傳輸速率為 16Gbps，服務器 PCB 層數(shù)為 12-16 層。隨著服務器平臺升級到PCIe 5.0，傳輸速率達到 36Gbps，PCB 的層數(shù)將達到 18 層以上，層數(shù)的提高也會帶來板厚的升級，從 12 層板的 2 毫米逐漸升級到 3 毫米以上。此外，信號頻率越高，PCB 傳輸損耗越大，服務器 PCB 產(chǎn)品的材料亦會從低損耗材料升級為超低損耗材料。PCle5.0 要求 CCL 材料升級到 Very Low Loss 等級，為了滿足高速高頻，減少信號在傳輸過程中的介質(zhì)損耗，介電常數(shù) Dk、介質(zhì)損耗因子 Df 進一步下降。根據(jù) Prismark 數(shù)據(jù)，2021 年全球服務器領域 PCB 市場規(guī)模為 78.04 億美元，預計2026 年達到 132.94 億美元，復合增長率為 11.2%。服務器 PCB 單機價值量有望由2021 年的 576 美元上升到 2026 年的 705 美元。

目前，目前普遍使用的 PCIe 4.0 接口的傳輸速率為 16Gbps，服務器 PCB 層數(shù)為 12-16 層。隨著服務器平臺升級到 PCIe 5.0，傳輸速率達到 36Gbps，PCB 的層數(shù)將達到 18 層以上，層數(shù)的提高也會帶來板厚的升級，從 12 層板的 2 毫米逐漸升級到 3 毫米以上。此外，信號頻率越高，PCB 傳輸損耗越大，服務器 PCB 產(chǎn)品的材料亦會從低損耗材料升級為超低損耗材料。PCle5.0 要求 CCL 材料升級到 Very Low Loss 等級，為了滿足高速高頻，減少信號在傳輸過程中的介質(zhì)損耗，介電常數(shù) Dk、介質(zhì)損耗因子 Df 進一步下降，將進一步提升服務器 PCB 的價值量。

目前滬電股份、深南電路、生益電子等國內(nèi) PCB 廠商已具備相關(guān)技術(shù)能力，產(chǎn)品最高層數(shù)可達到40 層，PCB 龍頭鵬鼎控股在高階 HDI 領域有深厚技術(shù)積累和顯著優(yōu)勢，同時積極擴張服務器PCB 產(chǎn)能，有望受益于 AI 技術(shù)升級帶來的算力需求增長。

編輯：黃飛

?