0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

利用人工智能定時方案簡化高性能計算加速

Silicon Labs ? 來源:未知 ? 作者:工程師郭婷 ? 2018-08-07 15:30 ? 次閱讀

云計算人工智能AI)將會是解決一些世界上最大的挑戰(zhàn)的關(guān)鍵,如加速科學(xué)發(fā)現(xiàn)、加快醫(yī)學(xué)研究、能源、醫(yī)療保健和其他行業(yè)創(chuàng)新步伐。數(shù)據(jù)科學(xué)家現(xiàn)在有能力利用人工智能和高性能計算(HPC)來分析海量數(shù)據(jù),比以往更快地了解數(shù)據(jù)并解決問題。

隨著對HPC需求的增加,數(shù)據(jù)中心正在越來越多地針對高性能計算工作進行優(yōu)化。這反過來又刺激了對低延遲,高吞吐量數(shù)據(jù)處理和網(wǎng)絡(luò)連接性進行優(yōu)化的專用計算,網(wǎng)絡(luò)和存儲硬件的需求。這種市場趨勢同樣增加了對高性能定時解決方案的需求,以優(yōu)化HPC工作負載加速器的運行。

服務(wù)器加速

硬件加速器用于加速數(shù)據(jù)中心應(yīng)用中的HPC工作負載。雖然圖形處理單元(GPU)歷來被用于此目的,但現(xiàn)場可編程門陣列(FPGA)正日益成為另一種可行的選擇。兩種解決方案都能將并行處理、快速I / O和高速存儲器接口結(jié)合起來,以擴展處理性能,使服務(wù)器能夠高效地運行神經(jīng)網(wǎng)絡(luò),為搜索引擎、語音識別、自然語言翻譯和圖像處理提供動力。 GPU和FPGA正在向更高速度的25 Gbps I / O接口轉(zhuǎn)變,以便更輕松地擴展多個IC之間的協(xié)同處理。

如圖1所示,這些高速I / O接口需要低抖動定時參考,以最大限度地降低誤碼率并提高整體系統(tǒng)性能。低抖動晶振(XOs)和時鐘發(fā)生器非常適合GPU / FPGA I / O時鐘。 Silicon Labs的Si510 XO和Si5332時鐘發(fā)生器等高性能定時器件非常適合此應(yīng)用,因為它們結(jié)合了低抖動參考定時,小尺寸和內(nèi)置電源噪聲抑制功能,最大限度地降低了開關(guān)電源對高速I / O性能的電源噪聲的影響。

利用人工智能定時方案簡化高性能計算加速

FPGA/GPU加速卡的參考定時

網(wǎng)絡(luò)接口卡

網(wǎng)絡(luò)接口卡(NIC)用于連接數(shù)據(jù)中心網(wǎng)絡(luò)內(nèi)的服務(wù)器和存儲資源。隨著對帶寬需求的增加,數(shù)據(jù)中心正在從使用傳統(tǒng)10GbE / 40GbE光纖網(wǎng)絡(luò)轉(zhuǎn)向使用更高速度的25GbE / 50GbE / 100GbE網(wǎng)絡(luò)。這些網(wǎng)卡不僅需要協(xié)調(diào)大量數(shù)據(jù)的傳輸,還可以使用網(wǎng)卡將特定工作負載和應(yīng)用程序從軟件移動到硬件中,幫助數(shù)據(jù)中心更高效地運行。網(wǎng)卡將數(shù)據(jù)從PCIe傳輸?shù)?a target="_blank">以太網(wǎng),并為網(wǎng)絡(luò)提供高速接口。諸如Silicon Labs的Si53204 PCIe緩沖器等定時器件可用于PCIe時鐘分配,Si510 XO可用于為以太網(wǎng)MAC / PHY提供低抖動參考時鐘。

利用人工智能定時方案簡化高性能計算加速

網(wǎng)絡(luò)接口卡的參考定時

存儲

在存儲應(yīng)用中,業(yè)界正在迅速從使用基于低速SATA(6 Gbps)和SAS(12 Gbps)CPU /內(nèi)存互連解決方案的硬盤驅(qū)動器轉(zhuǎn)向使用基于NVMExpress?接口規(guī)范的固態(tài)存儲設(shè)備。 NVM Express(NVMe)的一個主要優(yōu)點是可以縮短延遲時間并提高內(nèi)存訪問速度,使其成為閃存數(shù)據(jù)傳輸?shù)睦硐虢鉀Q方案。 NVMe的另一個好處是它使用流行的PCI Express(PCIe)串行接口將SSD與服務(wù)器/ CPU互連,后者已經(jīng)支持用于高速串行數(shù)據(jù)傳輸?shù)?a href="http://www.ttokpm.com/soft/data/21-22/" target="_blank">嵌入式PCIe接口。

如下圖所示,SSD控制器需要一個高性能PCIe時鐘發(fā)生器來提供參考定時。該時鐘必須支持展頻時鐘生成,以減少EMI并確保符合輻射標準。此外,選擇符合最新批準的PCIe Gen 4標準的面向未來的時鐘源,并保持與PCIe Gen 1/2/3兼容至關(guān)重要。 Si52204緩沖器是展頻時鐘發(fā)生器的一個例子,符合PCIe Gen 1/2/3/4規(guī)范,并具有顯著的余量。

利用人工智能定時方案簡化高性能計算加速

PCIe/NVMe SSD的定時

快速到達市場時間

數(shù)據(jù)中心硬件通常每兩到三年更新一次。 HPC加速器和基于NVMe的SSD的主要優(yōu)勢在于,它們可以快速部署,以幫助數(shù)據(jù)中心運營商應(yīng)對市場需求轉(zhuǎn)變以及更快地推出新應(yīng)用程序和Web服務(wù)。另一個好處是可擴展性。附加卡使用PCIe連接器插入標準服務(wù)器主板,立即為現(xiàn)有服務(wù)器提供擴展功能。附加卡的設(shè)計時間可以短至六個月,使數(shù)據(jù)中心操作員能夠快速添加新功能并部署新的Web服務(wù),而無需在數(shù)據(jù)中心內(nèi)更換設(shè)備。

上市時間也是用于HPC加速器和基于NVMe的SSD的時鐘器件的關(guān)鍵考慮因素。硬件設(shè)計人員應(yīng)該考慮可編程定時解決方案,這些解決方案可以單獨定制和優(yōu)化以滿足其特定的性能,功耗和空間要求。

高性能計算加速的未來

在過去幾年中,定制硬件解決方案的重要性不斷增加,以解決HPC和工作負載處理問題。隨著新型GPU,F(xiàn)PGA和ASIC產(chǎn)品面市,這種趨勢預(yù)計會加速,這些產(chǎn)品支持更低的延遲,更高的IO速度,更高容量的存儲器接口以及更快的CPU,內(nèi)存和加速器卡之間的數(shù)據(jù)傳輸。

最近,PCI-SIG工作組批準了PCIe Gen 4標準,該標準支持16 Gbps速率的CPU存儲器I / O加速器互連。符合第四代標準的解決方案目前正在開發(fā)中,預(yù)計將于2019年開始大規(guī)模部署。此外,PCI-SIG剛剛啟動了PCIe Gen 5的工作,這將支持32 Gbps速率的CPU內(nèi)存I / O加速器互連。

不是靜止不動,已經(jīng)定義了三個競爭標準來為PCIe提供備用解決方案。這些新的總線/互連標準之一是CCIX(用于加速器的高速緩存一致互連)。 CCIX利用PCIe物理層,但將數(shù)據(jù)速率擴展到25 Gbps。它還指定處理器和加速器之間的高速緩存一致性。另一個競爭標準是OpenCAPI(相干加速器處理器接口)。

該擴展總線標準基于IBM Power9 BlueLink 25 Gbps I / O進行互連,并支持Nvidia的NVLink 2.0協(xié)議,以實現(xiàn)處理器之間的連貫存儲器共享。第三個標準是Gen-Z,這是一種內(nèi)存結(jié)構(gòu),使任何設(shè)備都能夠與其他設(shè)備進行通信,就好像它正在與自己的本地內(nèi)存進行通信一樣,從而使應(yīng)用程序能夠直接訪問任何類型的DRAM和NVM。

雖然很難預(yù)測哪些標準將在未來的CPU-內(nèi)存-I / O互連中占上風(fēng),但一個趨勢是明確的。未來的加速器互連技術(shù)將越來越依賴于高性能定時解決方案來優(yōu)化高速I / O性能。未來的定時解決方案必須具有出色的抖動性能,以最大限度地降低系統(tǒng)級誤碼率。與標準兼容性和與FPGA / GPU供應(yīng)商的經(jīng)過驗證的互操作性也將至關(guān)重要,從而可簡化多種標準和設(shè)備之間的互操作性。由于不斷增加的空間和功耗限制,未來的定時解決方案也必須高度集成,使單個組件能夠提供所有board-level的定時。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • FPGA
    +關(guān)注

    關(guān)注

    1620

    文章

    21510

    瀏覽量

    598901
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    10699

    瀏覽量

    209353
  • 云計算
    +關(guān)注

    關(guān)注

    38

    文章

    7612

    瀏覽量

    136732
  • 人工智能
    +關(guān)注

    關(guān)注

    1787

    文章

    46060

    瀏覽量

    234983

原文標題:【技術(shù)干貨】創(chuàng)新的定時方案簡化高性能計算加速

文章出處:【微信號:SiliconLabs,微信公眾號:Silicon Labs】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    人工智能ai4s試讀申請

    目前人工智能在繪畫對話等大模型領(lǐng)域應(yīng)用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個需要研究的課題,本書對ai4s基本原理和原則,方法進行描訴,有利于總結(jié)經(jīng)驗,擬按照要求準備相關(guān)體會材料??茨芊裼兄谌腴T和提高ss
    發(fā)表于 09-09 15:36

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內(nèi)外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會暨深圳(國際)通用人工智能產(chǎn)業(yè)博覽會將在深圳國際會展中心(寶安)舉辦。大會以“魅力AI·無限未來”為主題,致力于打造全球通用人工智能領(lǐng)域集產(chǎn)品
    發(fā)表于 08-22 15:00

    如何理解云計算

    訪問需求。 **數(shù)據(jù)分析和挖掘:**用戶可以使用云計算來處理和分析海量的數(shù)據(jù),通過云平臺可以提供高性能計算資源來加速數(shù)據(jù)分析的過程。 **人工智能
    發(fā)表于 08-16 17:02

    利用人工智能改變 PCB 設(shè)計

    人工智能在PCB設(shè)計中展現(xiàn)出不可否認的潛力,但是工程師們自然對其影響有所顧慮。關(guān)于工作保障和責(zé)任的等問題常常浮現(xiàn):人工智能會奪走我的工作嗎?如果人工智能出錯,我會被指責(zé)嗎?然而,人工智能
    的頭像 發(fā)表于 08-15 10:38 ?359次閱讀
    <b class='flag-5'>利用人工智能</b>改變 PCB 設(shè)計

    英偉達利用人工智能和Omniverse加速人形機器人開發(fā)

    8月6日,英偉達揭曉了一項創(chuàng)新工作流程,該流程深度融合了人工智能技術(shù)與其Omniverse平臺,旨在為人形機器人的研發(fā)按下加速鍵。通過巧妙結(jié)合蘋果Vision Pro的先進功能與英偉達的人工智能
    的頭像 發(fā)表于 08-06 17:29 ?566次閱讀

    FPGA在人工智能中的應(yīng)用有哪些?

    定制化的硬件設(shè)計,提高了硬件的靈活性和適應(yīng)性。 綜上所述,F(xiàn)PGA在人工智能領(lǐng)域的應(yīng)用前景廣闊,不僅可以用于深度學(xué)習(xí)的加速和云計算加速,還可以針對特定應(yīng)用場景進行定制化
    發(fā)表于 07-29 17:05

    國產(chǎn)Cortex-A55高性能人工智能實驗箱機械臂姿態(tài)識別案例

    國產(chǎn)Cortex-A55高性能人工智能實驗箱機械臂姿態(tài)識別案例
    的頭像 發(fā)表于 07-19 08:32 ?162次閱讀
    國產(chǎn)Cortex-A55<b class='flag-5'>高性能人工智能</b>實驗箱機械臂姿態(tài)識別案例

    人工智能數(shù)據(jù)中心的新型連接解決方案

    支持新型人工智能數(shù)據(jù)中心架構(gòu)的先進連接解決方案不斷涌現(xiàn)。高速板對板連接器、下一代電纜、背板和近似集成電路連接器對電纜解決方案的運行速度高達224Gb/s-PAM4,將加速未來
    的頭像 發(fā)表于 06-13 08:26 ?386次閱讀
    <b class='flag-5'>人工智能</b>數(shù)據(jù)中心的新型連接解決<b class='flag-5'>方案</b>

    COP28主席呼吁全球努力利用人工智能的崛起、能源轉(zhuǎn)型和全球南方的增長,加速所有人的可持續(xù)發(fā)展

    COP28主席Sultan Al Jaber博士在巴庫能源周開幕式上向代表們表示,所有利益相關(guān)者都需要利用人工智能( AI )的崛起、能源轉(zhuǎn)型和全球南方的增長來加速所有人的積極氣候可持續(xù)發(fā)展。 Al
    的頭像 發(fā)表于 06-04 20:09 ?427次閱讀

    高性能計算集群的能耗優(yōu)化

    、人工智能、大數(shù)據(jù)分析等。隨著高性能計算集群的規(guī)模和性能的不斷提升,其能耗問題也日益突出。高性能計算
    的頭像 發(fā)表于 05-25 08:27 ?231次閱讀
    <b class='flag-5'>高性能</b><b class='flag-5'>計算</b>集群的能耗優(yōu)化

    嵌入式人工智能的就業(yè)方向有哪些?

    嵌入式人工智能的就業(yè)方向有哪些? 在新一輪科技革命與產(chǎn)業(yè)變革的時代背景下,嵌入式人工智能成為國家新型基礎(chǔ)建設(shè)與傳統(tǒng)產(chǎn)業(yè)升級的核心驅(qū)動力。同時在此背景驅(qū)動下,眾多名企也紛紛在嵌入式人工智能領(lǐng)域布局
    發(fā)表于 02-26 10:17

    英特爾、谷歌、英偉達運用人工智能推動處理器設(shè)計與生產(chǎn)

    兩家著名的芯片設(shè)計軟件企業(yè),Cadence和Synopsys,均利用人工智能強化設(shè)計工具。谷歌展示了使用人工智能開發(fā)AI加速度器的方法。英偉達亦在產(chǎn)品制造過程中運用大量人工智能,替代低
    的頭像 發(fā)表于 12-15 10:16 ?491次閱讀

    人工智能服務(wù)器高性能計算需求

    人工智能(AI)服務(wù)器是一種專門為了運行人工智能應(yīng)用和提供大數(shù)據(jù)處理能力而設(shè)計的高性能計算機。它既可以支持本地應(yīng)用程序和網(wǎng)頁,也可以為云和本地服務(wù)器提供復(fù)雜的AI模型和服務(wù)。
    的頭像 發(fā)表于 12-08 09:44 ?394次閱讀

    Hailo拓展Hailo-8人工智能加速器產(chǎn)品陣列,助力邊緣設(shè)備實現(xiàn)高性能人工智能

    摘要:新的Hailo-8 Century和Hailo-8L AI加速器通過廣泛的人工智能平臺擴展了Hailo-8產(chǎn)品陣列,可在入門級和高要求邊緣設(shè)備中實現(xiàn)高性能人工智能。 邊緣人工智能
    的頭像 發(fā)表于 11-07 10:16 ?429次閱讀

    利用人工智能提升指控能力——人工智能在現(xiàn)代戰(zhàn)場上的5個優(yōu)勢

    一套強大的指揮控制傳感器集成系統(tǒng)需要強大的工具來收集、解析數(shù)據(jù)并將其融合為情報,從而為指揮官提供戰(zhàn)場感知優(yōu)勢。Systematic 公司利用人工智能技術(shù)設(shè)計了一套從機器學(xué)習(xí)到?jīng)Q策支持的AI 工具并將其集成到SitaWare 指控系統(tǒng)套件中,為所有梯隊提供真正的作戰(zhàn)優(yōu)勢。
    的頭像 發(fā)表于 09-22 16:35 ?747次閱讀