連接器如何支持海量數(shù)據(jù)下的機(jī)器學(xué)習(xí)

數(shù)據(jù)、設(shè)備的互通互聯(lián)在當(dāng)今世界已經(jīng)不足為奇，海量的數(shù)據(jù)每時(shí)每刻都在不斷產(chǎn)生。在數(shù)據(jù)背后，神經(jīng)網(wǎng)絡(luò)通過(guò)處理數(shù)據(jù)獲取洞察，并以此識(shí)別模式對(duì)信息進(jìn)行分類、推理。數(shù)據(jù)中心的大部分資源都來(lái)自IT架構(gòu)或者需要通過(guò)IT架構(gòu)傳遞，因此數(shù)據(jù)中心的基礎(chǔ)架構(gòu)是實(shí)現(xiàn)IT架構(gòu)功能的關(guān)鍵。

在新一代的數(shù)據(jù)應(yīng)用中，機(jī)器學(xué)習(xí)是很重要的一環(huán)，因此可以說(shuō)擁有正確的架構(gòu)對(duì)于將機(jī)器學(xué)習(xí)功能完美地植入數(shù)據(jù)中心有著舉足輕重的作用。為數(shù)據(jù)中心開(kāi)發(fā)機(jī)器學(xué)習(xí)時(shí)，從一開(kāi)始就必須將影響性能、可擴(kuò)展性和彈性的所有因素納入考慮。硬件層面的規(guī)劃不得當(dāng)會(huì)導(dǎo)致數(shù)據(jù)架構(gòu)效率低下。

機(jī)器學(xué)習(xí)需要的硬件層面連接到底是什么樣？

目前關(guān)于機(jī)器學(xué)習(xí)的設(shè)計(jì)配置中，正在從專用基礎(chǔ)架構(gòu)轉(zhuǎn)向更靈活的基礎(chǔ)架構(gòu)，目的是增加靈活性和多樣性。因此在配置過(guò)程中，硬件層面的連接有非常多的考量，比如配電如何優(yōu)化、熱能級(jí)如何降低、互連的高速性如何實(shí)現(xiàn)以及低延遲通信如何實(shí)現(xiàn)等等。同時(shí)，因?yàn)閿?shù)據(jù)中心的所有環(huán)節(jié)都處于互相連接狀態(tài)，系統(tǒng)連接元件還需要盡可能支持小的安裝空間以提供所需的靈活性，并在不增加熱輸出的情況下滿足預(yù)期的速度要求。

互連的高速和低延遲是很容易想到的，但是不能忘了熱性能同樣是一個(gè)不可忽視的考量。通常由于功率水平較高而導(dǎo)致的高溫可直接影響數(shù)據(jù)機(jī)架中元件的壽命。如果不對(duì)熱設(shè)計(jì)進(jìn)行優(yōu)化，敏感元件的故障率會(huì)急速上升。

所以機(jī)器學(xué)習(xí)所需的連接器部件，既要保證小，又要保證快，同時(shí)還必須兼顧熱、機(jī)械和電氣性能上的可靠。

小型可插拔高速I/O連接器在機(jī)器學(xué)習(xí)中的重要性

在機(jī)器學(xué)習(xí)硬件配置中，選擇以太網(wǎng)和InfiniBand等協(xié)議來(lái)支持網(wǎng)絡(luò)連接，通常需要OSFP、QSFP、QSFP-DD等高速I/O連接。再利用PCIe將存儲(chǔ)設(shè)備、網(wǎng)絡(luò)接口卡和硬件加速器連接到CPU。

作為一類插拔式的I/O連接器，QSFP連接器是完整的四通道、小型的插拔式高速I/O連接器。QSFP連接器單個(gè)可插拔接口中可以包含四個(gè)數(shù)據(jù)傳輸通道，與其他連接器配套部件組合，通道數(shù)據(jù)傳輸速度可從10 Gbps NRZ拔高到至28 Gbps NRZ和56 Gbps PAM-4。每個(gè)通道能夠以10至56 Gbps的速度傳輸數(shù)據(jù)，因此每個(gè)端口支持總計(jì)高達(dá)200 Gbps的速度，傳輸性能之高足以滿足機(jī)器學(xué)習(xí)架構(gòu)所需要的速度。QSFP支持的通訊非常廣泛，從100 Gbps 以太網(wǎng)、200 Gbps 以太網(wǎng)、100 Gbps InfiniBand增強(qiáng)型數(shù)據(jù)速率、EDR到128G光纖信道、25G/50G聯(lián)盟、25G NRZ和56G PAM-4都能全覆蓋。

QSFP-DD連接器組件通過(guò)使用 PCB 前面的第二行觸點(diǎn)/墊位置，將通道增加一倍，達(dá)到8差分，實(shí)現(xiàn)了在QSFP連接器基礎(chǔ)上互連的密度的翻倍，支持28 Gbps NRZ或56Gbps以實(shí)現(xiàn)每端口200 或400 Gbps聚合。在信號(hào)完整性上的提升只是一方面，同樣重要的是QSFP-DD連接器能提供更多的散熱器和光導(dǎo)管選項(xiàng)，在散熱上的優(yōu)化也不止一星半點(diǎn)，可以說(shuō)實(shí)現(xiàn)了我們之前提到的降低熱能級(jí)同時(shí)提高互連的高速性能。

OSFP八通道小型可插拔連接器在熱性能和傳輸性能上與QSFP-DD連接器相似，OSFP連接器通過(guò)在插頭中運(yùn)用集成散熱器技術(shù)，熱性能也相當(dāng)優(yōu)異，也能夠支持400 Gps數(shù)據(jù)速率所需的信號(hào)完整性。另外值得一提的是，OSFP連接器可以通過(guò)埋管校準(zhǔn)實(shí)現(xiàn)堆疊式（Belly-to-Belly）安裝，降低PCB成本和噪聲。

小型的可插拔高速I/O連接器在整個(gè)數(shù)據(jù)中心架構(gòu)的建立中的重要性可見(jiàn)一斑，既保證了“小”，又保證了“快”，最重要的還是足夠可靠。

SAS連接再縮小－Mini SAS

在器件內(nèi)部金手指連接上，SAS連接器想必是大家耳熟能詳?shù)?。而Mini SAS連接器，則更為緊湊。高密度的Mini SAS連接器在高性能計(jì)算上，是既高速又緊湊的連接選擇。

高密度的Mini SAS連接器減小的互連尺寸可以節(jié)省額外30%到50%的PCB 空間，我們可以做一個(gè)對(duì)比，相同的小尺寸PCIe卡如果可以容納兩個(gè)SAS連接器，換成高密度Mini SAS連接器則可以容納四個(gè)（非高密度Mini SAS是三個(gè)）。用于內(nèi)部連接的高密度Mini SAS連接器除了尺寸小巧能節(jié)省大量空間之外，還能夠（12G×4）48 Gbps的聚合數(shù)據(jù)傳輸速率，有些甚至能做到以192 Gbps的聚合速率傳輸數(shù)據(jù)。

小結(jié)

和機(jī)器學(xué)習(xí)相關(guān)的硬件連接也不止上面這些，超大型陣列XLA插槽、卡邊緣連接、背板連接也都在其中經(jīng)常能見(jiàn)到的。數(shù)據(jù)中心各種機(jī)器學(xué)習(xí)類型配置的要求繁多，從超大規(guī)模配置到支持邊緣計(jì)算，每一種都需要連接元件給予可靠的性能和充足的靈活性。