基于菲數(shù)科技FA728Q加速卡實現(xiàn)低時延LLT應用

菲數(shù)科技使用Stratix 10 FPGA和開源的開放式FPGA堆棧(OFS)基礎設施開發(fā)高性能FPGA加速卡。

概 述

基于FA728Q FPGA的加速卡現(xiàn)已出貨，它是一種基于PCIe*、搭載Stratix10 FPGA的高性能加速卡

菲數(shù)科技使用OFS基礎設施加速其自定義FPGA接口管理器 (FIM) 的開發(fā)，該管理器包括一個集成的TCP/IP卸載引擎

在運行LLT等時間關鍵型應用時，F(xiàn)A728Q加速卡的TCP傳輸時延不到100納秒

要 點 綜 述

LLT和其他時間敏感型應用是FPGA加速的理想使用場景。為了滿足這一市場需求，菲數(shù)科技開發(fā)了基于FA728Q FPGA的加速卡。FA728Q加速平臺為最終用戶提供了強大的FPGA資源、充足的存儲容量和易于使用的界面。菲數(shù)科技使用OFS基礎設施來加速、簡化、標準化其加速主板的開發(fā)。OFS基礎設施提供了一種強大的方法，支持以“量身定制”的方式加速FPGA解決方案的開發(fā)。借助OFS基礎設施，菲數(shù)科技將其TCP/IP卸載引擎集成至開源的基礎FIM中，它通常被稱作FPGA“shell”。

背 景 信 息 和 挑 戰(zhàn)

LLT以電子方式執(zhí)行金融證券交易，盡可能地減少訂單輸入與訂單之間的時延。如今，大型投資銀行、對沖基金和其他金融機構普遍使用該方法。過去，交易是手動執(zhí)行的，而不是以電子方式執(zhí)行，交易的時間長則數(shù)分鐘，短則數(shù)秒。然而，隨著硬件和相應軟件技術的進步，人們可以對系統(tǒng)進行編程，根據(jù)特定的市場信號和動態(tài)自動做出買入或賣出決策，從而將交易執(zhí)行時間縮短到毫秒級。近年來，隨著基于FPGA的加速產(chǎn)品的大規(guī)模出貨，交易時間進一步縮短至數(shù)微秒，甚至不到1微秒。

同時，LLT系統(tǒng)越來越多地使用復雜的交易算法模型來進行訂單薄交互。這些算法模型是根據(jù)每家交易公司的特定交易策略而專門定制的。解決方案需要借助通用處理器和專用協(xié)處理器的算力，以滿足交易公司在異構計算等方面的功率和性能要求。FPGA非常適合實施定制的交易算法，但是這款硬件加速設備的編程非常耗時，并且隨著FPGA家族的優(yōu)化升級，也很難遷移。

菲數(shù)科技是一家總部位于中國的公司，致力于滿足數(shù)據(jù)中心異構計算和高性能計算（包括LLT細分領域）領域的需求。他們向市場交付了基于FPGA的硬件加速器平臺、FPGA加速知識產(chǎn)權(IP)功能和基于FPGA的平臺設計服務。

解 決 方 案

為滿足LLT應用的低時延、標準化和可移植性要求，菲數(shù)科技開發(fā)了FA728Q加速卡，用于對集成式TCP/IP卸載引擎進行實例化。為此，菲數(shù)科技修改了開源版OFS中提供的基礎FIM。得益于可組合的架構和“量身定制”的方法，該公司使用OFS，將其算法輕松地移植到FA728Q加速卡，同時，該公司利用OFS提供的其它基礎設施，包括OFS軟件驅動程序和庫，從而盡可能地減少應用的修改。

運行在主機上的軟件

PCIe* 加速卡

圖 1. FA728Q上實施的采用TCP/IP卸載引擎 (TOE) 解決方案的OFS

OFS是一種開源硬件和軟件基礎設施，提供了所有必要的關鍵設計、軟件和基礎設施組件，支持快速開發(fā)基于FPGA的自定義主板或工作負載。OFS基礎設施由 FIM（通常被稱作“shell”）和加速器功能單元 (AFU) 區(qū)域（一種用于工作負載開發(fā)的指定區(qū)域）組成。借助OFS、FPGA主板或FIM，開發(fā)者可以利用開源基礎設施或基礎FIM，根據(jù)目標應用或行業(yè)，快速開發(fā)量身定制的主板FIM。OFS還附帶了oneAPI加速器支持包 (ASP)，開發(fā)者可以利用它對FPGA硬件和設計流程進行抽象化。OFS節(jié)省了開發(fā)者的時間，提高了不同F(xiàn)PGA代際間的可移植性，其采用行業(yè)標準接口，并且使用oneAPI提供可選的高層次設計流程。

FA728Q加速卡現(xiàn)已出貨，它是一款基于PCIe的高端FPGA加速主板，可提供 32GB板載DDR4內存和3個QSFP28插槽，每個接口支持高達100GbE。FA728Q加速卡還可以通過OFS基礎設施啟用oneAPI，以支持客戶在RTL中實施內核，或者將算法從CPU/GPU遷移到C/C++等高級設計語言。oneAPI基礎工具套件也可以助力客戶在內核中采用FPGA資源，從而進一步縮短上市時間。

表 1. FA728Q規(guī)格

菲數(shù)科技還開始開發(fā)基于AgilexFPGA的主板，包括使用Agilex7 FPGA I系列的FA927S卡和使用Agilex7 FPGA F系列的FA925E卡。

FA927S卡可提供高達116Gbps的收發(fā)器速率，并且支持PCIe 5.0 x16和 Compute Express Link (CXL)。它面向帶寬密集型應用，現(xiàn)在已用于基于RTL 的開發(fā)中。FA927S卡已于2024年第一季度支持OFS。

另一方面，F(xiàn)A925E卡提供了4個8GB內存條和4個4GB DDR4內存條，板載內存總計高達48GB。FA925E卡專為對外部內存容量和帶寬要求較高的應用而設計。它全面支持OFS。2023年底已量產(chǎn)。

這兩款加速卡的規(guī)格如下表所示。

表 2. FA927S規(guī)格

表 3. FA925E規(guī)格

成 效

菲數(shù)科技在FA728Q卡上實施的卸載引擎IP功能針對時延和性能進行了優(yōu)化，以滿足LLT要求。在加速模式下，TCP的傳輸時延低于100納秒，可為時間關鍵型網(wǎng)絡應用建立穩(wěn)定的低時延連接。下表顯示了各種連接所測量的時延。

表 4. TOE的規(guī)格

注：

1) 一個時鐘周期為6.4納秒；

2) TX時延計算的是從數(shù)據(jù)包EOP的下降邊緣到XGMII TXC中的有效數(shù)據(jù)的時間；

3) RX時延計算的是從數(shù)據(jù)包SOP到XGMII RXC中的有效數(shù)據(jù)的時間

FA728Q卡還提供了高帶寬PCIe 3.0 x16和DDR4接口。

表 5. 每個接口提供的帶寬

板級支持包

圖 2. OFS平臺中的高帶寬數(shù)據(jù)路徑

如何使用OFS和菲數(shù)科技解決方案 開始進行FPGA加速

FPGA開發(fā)者可以利用FA728Q加速卡和基于OFS的主板，借助開源文檔和源代碼來構建自己的自定義工作負載。

下表概述了開發(fā)者應如何使用菲數(shù)科技加速主板，開始開發(fā)基于FPGA的工作負載。

您可以訪問https://github.com/OFS，獲取開放式FPGA堆棧的基礎源代碼和文檔。請注意，您可以在OFS主板目錄中瀏覽所有基于OFS的第三方主板。

客戶評價

“OFS幫助我們更輕松、更快速地構建客戶所需的加速平臺，為客戶提供從軟件、API 、驅動程序到底層硬件的一整套方案?！?/p>

—— 菲數(shù)科技有限公司

Cheng Ailian