光學(xué)器件在人工智能集群中不斷演變的作用

近期，市場(chǎng)研究機(jī)構(gòu)LightCounting （以下簡(jiǎn)稱LC）發(fā)布了主題為“人工智能光學(xué)”的新報(bào)告。報(bào)告指出人工智能在眨眼之間就已嶄露頭角。LC 的首份《人工智能光學(xué)》報(bào)告強(qiáng)調(diào)了人工智能如何改變計(jì)算機(jī)架構(gòu)和網(wǎng)絡(luò)，而光學(xué)在其中發(fā)揮著關(guān)鍵作用。LC的人工智能預(yù)測(cè)側(cè)重于光學(xué)。但是，該機(jī)構(gòu)稱如果再加上一條預(yù)測(cè)，那就是：光學(xué)不僅將在人工智能系統(tǒng)的發(fā)展中發(fā)揮重要作用，而且人工智能將越來(lái)越多地在晶體管、芯片和系統(tǒng)層面為這些系統(tǒng)的設(shè)計(jì)做出貢獻(xiàn)。

整個(gè)行業(yè)的創(chuàng)新速度各不相同。新應(yīng)用的開(kāi)發(fā)速度很快。其中大多數(shù)會(huì)失敗，但也有一些會(huì)成功，似乎一夜之間就能改變世界。軟件和人工智能算法的創(chuàng)新速度之快超出了我們的想象。至少在外部觀察者看來(lái)是這樣，但專家們可能不這么認(rèn)為。

硬件領(lǐng)域的創(chuàng)新則是一個(gè)更為漸進(jìn)卻又無(wú)情的過(guò)程。光連接也不例外，對(duì)此有可靠的數(shù)據(jù)參考。硅光子技術(shù)的應(yīng)用花了十年時(shí)間，都在等待這項(xiàng)技術(shù)帶來(lái)真正顛覆性的解決方案，如可靠的協(xié)同封裝光學(xué)技術(shù)。毫無(wú)疑問(wèn)，這種情況將在本十年末出現(xiàn)，但本報(bào)告的預(yù)測(cè)重點(diǎn)是部署在人工智能集群中的可插拔光模塊--這是當(dāng)前和未來(lái)五年光連接的主要解決方案。

目前，90% 以上部署在人工智能集群中的光模塊用于 InfiniBand 和以太網(wǎng)連接。如下圖所示，NVLink 連接到 GPU 所需的帶寬是以太網(wǎng)和 InfiniBand 的 4 倍。人工智能集群設(shè)計(jì)的另一個(gè)瓶頸是 GPU 可用的高帶寬內(nèi)存（HBM）有限，這也是帶寬提高 3 倍的另一個(gè)因素。

事實(shí)證明，光交換機(jī)可以用來(lái)擴(kuò)展和重新配置其人工智能集群并以此提高集群性能，同時(shí)最大限度地降低成本和功耗。該研究機(jī)構(gòu)預(yù)計(jì)，在未來(lái) 3-5 年內(nèi)，將有更多公司采用這項(xiàng)技術(shù)。

人工智能集群中應(yīng)用的光學(xué)需求規(guī)模是 2023 年的一個(gè)驚喜，同時(shí)ChatGTP 在 2022 年底成為頭條新聞的時(shí)機(jī)尤為重要。對(duì)即將到來(lái)的經(jīng)濟(jì)衰退的擔(dān)憂和收入增長(zhǎng)下降的初步跡象迫使所有領(lǐng)先的云計(jì)算公司削減開(kāi)支，包括對(duì)數(shù)據(jù)中心的投資和光模塊的采購(gòu)。2024-2025 年的強(qiáng)勁增長(zhǎng)毋庸置疑。

大型網(wǎng)絡(luò)設(shè)備制造商業(yè)務(wù)的增長(zhǎng)是影響 2023-2025 年光模塊銷量的主要因素。人工智能集群的新設(shè)計(jì)需要更多的光模塊。以前的所有系統(tǒng)都只使用 InfiniBand 網(wǎng)絡(luò)進(jìn)行光連接，而且這些系統(tǒng)大多是 AOC?；?NDR（400G）InfiniBand 的最新系統(tǒng)使用可插拔的 400/800G SR4/SR8 和 DR4/DR8 光模塊，而不是 AOC。該公司還于 2022 年 3 月發(fā)布了專為 800G 光連接設(shè)計(jì)的 NVLink 機(jī)箱交換機(jī)。該公司目前正在內(nèi)部測(cè)試光纖 NVLink，但這些解決方案應(yīng)在 2024 年底前提供給最終用戶。如果需要更長(zhǎng)的時(shí)間，LC稱將不得不降低對(duì) 2025-2029 年的預(yù)測(cè)。

本報(bào)告首次對(duì)大型網(wǎng)絡(luò)設(shè)備制造商提供的光模塊進(jìn)行了預(yù)測(cè)，并將其與 AI 集群中使用的其他光模塊進(jìn)行了比較。該制造商設(shè)計(jì)的光模塊具有更嚴(yán)格的誤碼率規(guī)范，以最大限度地減少傳輸誤差。這并不妨礙客戶使用第三方光學(xué)器件，但不能保證系統(tǒng)性能。LC預(yù)計(jì)，終端用戶最終將過(guò)渡到使用第三方光學(xué)器件，以節(jié)省成本，但這將是一個(gè)逐步過(guò)渡的過(guò)程。

審核編輯 黃宇