將AI置于SWaP的保護(hù)傘下

減小尺寸、重量和功耗 （SWaP） 的要求也影響著人工智能 （AI） 和機(jī)器學(xué)習(xí) （ML） 設(shè)計。

“將商業(yè)和消費者人工智能加速器硬件技術(shù)轉(zhuǎn)化為軍用/航空平臺通常需要的可部署、堅固耐用、尺寸、重量和功率（SWaP）受限的系統(tǒng)”是一項挑戰(zhàn)，Abaco Systems（阿拉巴馬州亨茨維爾）首席軟件工程師David Tetley說。

減少的SWaP往往與基于云的解決方案沒有協(xié)同作用，這些解決方案似乎具有無窮無盡的虛擬空間供應(yīng)。

不幸的是，現(xiàn)實情況是“許多軍事系統(tǒng)都受到SWaP的限制，這挑戰(zhàn)了當(dāng)今AI / ML解決方案的假設(shè)，”風(fēng)河（加利福尼亞州阿拉米達(dá)）航空航天與國防副總裁Ray Petty解釋說?！爱?dāng)今的解決方案通常是在云或企業(yè)環(huán)境中開發(fā)的，假設(shè)可用連接（如帶寬和延遲）以及可用的計算資源（如可擴(kuò)展性、內(nèi)存和 CPU 靈活性）。

另一個挑戰(zhàn)是管理可能非常耗費資源的 ML 系統(tǒng)的資源。

值得慶幸的是，“我們看到最近獲得大量報道的大多數(shù)深度學(xué)習(xí)ML系統(tǒng)在訓(xùn)練時都是非常資源密集型的，但在運行時并不是特別密集，”Charles River Analytics首席科學(xué)家Avi Pfeffer說?！斑@意味著如果它們非常適合該問題，它們是降低SWaP系統(tǒng)的不錯選擇;也就是說，有足夠的數(shù)據(jù)來訓(xùn)練他們。

然而，在設(shè)計傳統(tǒng)上受SWaP約束的ML / AI密集型系統(tǒng)（如飛機(jī)）時，空間成為一個問題。

“我們一直致力于將人工智能應(yīng)用于構(gòu)建安全系統(tǒng)，例如用于檢測我們?yōu)榭哲娧芯繉嶒炇医ㄔ斓娘w機(jī)航空電子系統(tǒng)中運行的惡意軟件的系統(tǒng)，”Charles River Analytics（馬薩諸塞州劍橋）的首席科學(xué)家Terry Patten說?！拔覀儼l(fā)現(xiàn)，有關(guān)系統(tǒng)運行狀況的最佳信息來源之一，也是實時攻擊中緩解資源的最佳來源之一，是冗余，這對于減少SWaP的系統(tǒng)來說是有問題的。

在管理 SWaP 約束時，加固也可能很棘手。

“尺寸可能是最具挑戰(zhàn)性的制約因素之一，因為大型設(shè)備比小型設(shè)備更難加固，”Mercury Systems（馬薩諸塞州安多弗）首席產(chǎn)品經(jīng)理Devon Yablonski說?！按蠖鄶?shù)經(jīng)過高振動測試并以BGA形式提供的嵌入式部件都是低功耗部件，它們犧牲了其‘全尺寸’對應(yīng)物的許多功能，而這些功能正是這些新的ML和AI應(yīng)用程序所期望的功能。例如，當(dāng)今許多處理器上的高帶寬內(nèi)存（HBM）無法很好地處理高溫，因此在嵌入式芯片上并不常見。對內(nèi)存的高速訪問對于ML和AI應(yīng)用程序至關(guān)重要。

問題在于，用戶無法“在SWaP受限的系統(tǒng)中部署廣泛用于AI的高功率，服務(wù)器級CPU和GPU，因此我們需要使用移動級設(shè)備［因為它們的功耗更低，散熱設(shè)計更低］，”Tetley解釋說。“理想情況下，這些設(shè)備包括特定的AI加速功能，可提供出色的每瓦IOPS ［每秒推理操作］。這方面的一個例子是 NVIDIA 圖靈類 GPU 和 NVIDIA Xavier SoC ［片上系統(tǒng)］ 上的深度學(xué)習(xí)加速器。此外，您需要確保通過使用 NVIDIA 的 TensorRT 等工具高度優(yōu)化您部署的神經(jīng)網(wǎng)絡(luò)（或“推理引擎”）。這確保了軟件針對目標(biāo)嵌入式硬件架構(gòu)進(jìn)行了理想優(yōu)化，從而盡可能高效地運行。

通常，SWaP 要求與許多 ML 模型和解決方案不兼容。

Petty補(bǔ)充說，同樣重要的是要注意，“許多軍事系統(tǒng)的SWaP約束與這些假設(shè)不兼容，需要重構(gòu)AI / ML解決方案?！叭欢貥?gòu)與AI / ML解決方案對工業(yè)控制，醫(yī)療和汽車等其他市場的適應(yīng)是一致的，并且解決方案可以跨領(lǐng)域利用。

當(dāng)然，在商業(yè)領(lǐng)域，人工智能/媒介與信息素養(yǎng)領(lǐng)域的統(tǒng)治君主“是世界上的Facebook、谷歌和亞馬遜，”Yablonski說?！八麄儗ψ钚』叽纭⒅亓亢凸牡囊笥邢?，除了如果可以減少其中任何一個，他們可以構(gòu)建更高效的數(shù)據(jù)中心。英特爾、英偉達(dá)、AMD等芯片供應(yīng)商迎合了這些市場。盡管追求很重要，但防御的數(shù)量要低得多。要從商業(yè)領(lǐng)域獲得高性能芯片和產(chǎn)品，這些芯片和產(chǎn)品在我們的市場上具有生存能力，并考慮到功率限制（每臺計算機(jī)通常為100-200瓦）和尺寸限制，這是一項挑戰(zhàn)。

審核編輯：郭婷