提高SoC設(shè)計中的內(nèi)存性能

無論電子設(shè)備被吹捧為多么新、多么快速或高性能，在用戶的請求和設(shè)備的響應(yīng)之間總是存在輕微的、幾乎無法察覺的延遲。那就是內(nèi)存以 80% 或更低的效率工作。當(dāng)然，用戶仍然認(rèn)為該設(shè)備速度極快，但工程組知道驅(qū)動該設(shè)備的片上系統(tǒng) （SoC） 設(shè)計的性能可能會更好——實際上要好得多。

處理器和內(nèi)存之間的高效、流線型通信是每個工程團(tuán)隊的夢想。這一夢想被當(dāng)今 SoC 的高度集成特性所阻撓，它由許多不同的客戶端組成，每個客戶端都向內(nèi)存子系統(tǒng)生成不同類型的請求流，可能需要數(shù)百個時鐘周期的延遲才能訪問。即使是具有多線程能力的單個客戶端運(yùn)行用于鏈表處理的指針追蹤代碼，也會產(chǎn)生隨機(jī)的客戶端請求流，并且似乎幾乎沒有引用位置。這使得無法從內(nèi)存子系統(tǒng)或與處理器的有效通信中獲得最佳性能。

所需要的是一種簡化的方式來收集和處理這些明顯隨機(jī)的請求信息，以創(chuàng)建一個虛擬的參考位置，以實現(xiàn)更好的決策和更高的效率。一項新技術(shù)——實際上是嵌入在 SoC 中的知識產(chǎn)權(quán) （IP） 塊——已準(zhǔn)備好做到這一點。它管理廣泛不同的請求流，以創(chuàng)建一個虛擬的參考位置，使請求看起來更線性。實施此類技術(shù)可提高內(nèi)存帶寬，并讓 SoC 從其內(nèi)存子系統(tǒng)中提取最佳性能。

不要與內(nèi)存調(diào)度程序混淆，IP 是一個內(nèi)存預(yù)取引擎，它通過將相似的請求組合在一起來與內(nèi)存調(diào)度程序一起工作。它分析來自客戶端的多個并發(fā)請求流，并確定哪些請求應(yīng)該優(yōu)化或預(yù)取，哪些不應(yīng)該。結(jié)果是高命中率和超低錯誤獲取率。

一旦客戶端請求被優(yōu)化，它就會存儲在請求優(yōu)化緩沖區(qū)（一個保存優(yōu)化客戶端請求的小型微緩存）中，直到客戶端需要它為止。緩沖區(qū)為多個客戶端接口中的任何一個提供非阻塞接口，以使峰值響應(yīng)帶寬超過內(nèi)存子系統(tǒng)的帶寬并減少平均內(nèi)存延遲。

支持 AXI 和 OCP 協(xié)議的多客戶端接口可以管理多達(dá) 16 個客戶端，由設(shè)計人員在配置技術(shù)時指定。配置工具將自動構(gòu)建指定數(shù)量的客戶端接口，每個接口獨(dú)立運(yùn)行并能夠支持并發(fā)操作。這允許 IP 為從請求優(yōu)化緩沖區(qū)發(fā)出的任何響應(yīng)發(fā)出多個并發(fā)客戶端請求。因此，IP 提供的峰值突發(fā)帶寬比底層內(nèi)存子系統(tǒng)提供的更高?；鶞?zhǔn)測試顯示，IP 將讀取延遲從 71% 降低到 78%。

每個工程組的夢想是減少內(nèi)存的延遲，以提高 SoC 中實現(xiàn)的每個系統(tǒng)組件的性能，從而在不增加功耗的情況下實現(xiàn)更快的設(shè)計。所有電子設(shè)備都可以從改進(jìn)的內(nèi)存子系統(tǒng)中受益，現(xiàn)在有一種使用 IP 塊的有效方法。不再落后！

審核編輯：郭婷