AI時代如何確保計算安全？

正如其他技術革新一樣，人工智能 (AI) 為人們的數(shù)字體驗帶來了新機遇，但同時也伴隨著諸多挑戰(zhàn)。除了潛在的變革性影響，有鑒于AI 應用的過程中，大量的敏感數(shù)據(jù)會被收集和保存，并進一步被使用在為最終用戶提供高度個性化的技術體驗上，它同時也帶來了獨特的安全威脅。對安全問題的關注正推動行業(yè)及社會各界展開密切討論，攜手尋找合適的解決方案，以更大限度地發(fā)揮 AI 的優(yōu)勢，并盡可能減少任何潛在的社會影響。

注重安全性深植于 Arm 的企業(yè)核心基因之中。積極應對安全挑戰(zhàn)是 Arm 為無處不在的 AI 奠定技術基礎的根基。在 AI 以空前的規(guī)模加速技術創(chuàng)新之時，Arm 在其業(yè)內(nèi)領先的 IP 中部署了基礎安全技術與相關標準，在 AI 的持續(xù)演進過程中繼續(xù)發(fā)揮重要作用，以應對新出現(xiàn)的安全威脅。

安全性在邊緣 AI 領域的作用

隨著 AI 日益普及，我們預計在網(wǎng)絡邊緣設備上運行 AI 推理工作負載的場景將大幅增長。由于推理工作使用的是經(jīng)過訓練的模型，其所需的算力較少，有助于廣泛地推動在邊緣領域?qū)崿F(xiàn)更高效的 AI 計算。與此同時，AI 工作負載將在更接近數(shù)據(jù)采集之處進行處理，也能夠提供更快響應的用戶體驗，減少延遲。

從安全角度來看，將 AI 處理分布到邊緣應用將使企業(yè)和用戶大受裨益。其中一個關鍵的安全優(yōu)勢在于，敏感的用戶數(shù)據(jù)可以在實際設備上進行處理，而無需再發(fā)送給第三方，這使得企業(yè)和消費者都能更好地掌控自己的數(shù)據(jù)。

目前市面上有很多基于 AI 的安全用例，其中，智能視覺可以充分展示邊緣 AI 的優(yōu)勢。許多企業(yè)正在研發(fā)智能攝像頭，以廣泛應用于家庭、護理院和醫(yī)院，用以監(jiān)測老年人的相關活動，以及時處理摔倒等意外情況的發(fā)生。在實際設備上提供圖像處理和場景識別的能力，實現(xiàn)了本質(zhì)上更安全的系統(tǒng)，消除了將敏感信息發(fā)送給第三方處理所帶來的風險。這也讓人們更容易接受在所需環(huán)境中安裝此類攝像頭，因為這些環(huán)境中往往也存在著重要的隱私考量。

打造可信賴的硬件

然而，企業(yè)還需要確保其硬件值得信賴，尤其是在 AI 時代，他們必須保護其成本高昂的生成式 AI 模型免受攻擊。此前發(fā)布的《PSA Certified 2023 安全性報告》強調(diào)了對安全硬件的需求，報告表明 69% 的技術決策者愿意為保護設備安全支付額外費用，其中 65% 的決策者在做出購買決策時特別關注安全認證。若要防止惡意攻擊者竊取基于 AI 和機器學習 (ML) 模型的知識產(chǎn)權，有效地保護邊緣設備至關重要。

處理器安全

不論是將 AI 的處理全權交給 CPU，或是結合 GPU 或 NPU 等協(xié)處理器一起提供支持，邊緣 AI 的發(fā)展趨勢都與 CPU 相關。大量 AI 計算正發(fā)生在 CPU 之上，因此 AI 時代的安全性取決于 CPU 的安全性。這也是為什么確保 AI 安全在很大程度上依賴于保障計算安全的基礎。

使用 AI 和 ML 工具及框架部署代碼有助于識別安全漏洞，但攻擊者也可以使用同樣的技術在數(shù)百萬行代碼中找出可利用的漏洞。這意味著計算機架構師需要加倍努力提高計算系統(tǒng)的安全性。多年來，Arm 朝著這個目標刻苦鉆研，不斷開發(fā)和投資新的安全架構功能。

內(nèi)存標記擴展

Arm 的內(nèi)存標記擴展 (Memory Tagging Extension, MTE) 功能內(nèi)建于最新一代 Armv9 架構 CPU 中。MTE 可以動態(tài)識別空間和時間內(nèi)存安全問題，這些問題占所有嚴重安全漏洞的 70%。隨著 AI 的發(fā)展，這些安全威脅持續(xù)存在。

MTE 已經(jīng)在移動設備市場上得到了廣泛應用。MediaTek 已將這項技術部署到面向旗艦智能手機的基于 Arm 架構的天璣 9300 系統(tǒng)級芯片 (SoC)上，而谷歌也已在 Android 14 中啟用了 MTE。vivo 在其 X100 和 X100 Pro 旗艦智能手機中搭載了天璣 9300，此前還宣布開放千鏡內(nèi)存安全檢測能力，將為其開發(fā)者提供 MTE 等技術。整個移動生態(tài)系統(tǒng)致力于支持 MTE，這將幫助全球數(shù)百萬開發(fā)者加快產(chǎn)品上市速度，提供更出色、更安全的用戶體驗。未來 MTE 的應用范圍將不再局限于移動領域，而是隨著采用 Arm A 系列架構處理器的設備進入到高性能的物聯(lián)網(wǎng) (IoT) 市場。

Arm 安全技術

作為 Armv9 架構的一部分，我們推出了機密領域管理擴展 (Realm Management Extensions, RME)，這是 Arm 機密計算架構 (CCA) 的基礎。這有助于保護運行虛擬機的數(shù)據(jù)安全，避免因虛擬機管理程序遭到破壞而受到攻擊。用于訓練先進 ML 模型的數(shù)據(jù)中心顯然需要這種技術，但在部署經(jīng)過訓練的 ML 模型的物聯(lián)網(wǎng)市場中，確保邊緣計算系統(tǒng)的安全也同樣重要。

我們還引入了指針驗證 (Pointer Authentication, PAC) 和分支目標識別 (Branch Target Identification, BTI)，作為內(nèi)置于 Armv9 架構中的安全技術，從而提供更強大的保護性能，防止返回導向編程 (Return-Orientated Programming, ROP) 和跳轉導向編程 (Jump-Orientated Programming, JOP) 等代碼復用攻擊。在 AI 時代，這一點非常重要，因為攻擊者將能夠利用 AI 和 ML 工具，開發(fā)出復用已有代碼的復雜方法。PAC 和 BTI 正部署到消費技術和物聯(lián)網(wǎng)市場的 Arm A 系列和 M 系列架構中。

此外，Arm 將繼續(xù)與業(yè)界伙伴展開協(xié)作，推動我們的安全框架和認證計劃 PSA Certified 的發(fā)展，創(chuàng)建面向所有聯(lián)網(wǎng)設備的最佳實踐基準。這一體系從核心層面構建，有助于改善系統(tǒng)的基礎安全狀況，滿足消費者的期望——即隨著設備的普及，其安全性也應得到保障。這一目標主要針對基于 Arm A 系列和 M 系列架構的物聯(lián)網(wǎng)設備。

Morello 與安全領域的未來

除了現(xiàn)有的安全功能外，Arm 始終關注新的技術、標準和合作，積極尋求提高安全性的機會。Morello 就是一個很好的例子，該計劃重點研究 CPU 架構的創(chuàng)新設計方法，致力于構建更加強大的處理器，防止產(chǎn)生某些關鍵的安全漏洞。我們與劍橋大學和 SRI International 合作，開發(fā)出了一種原型技術，如果進展順利的話，可能會實施到未來的硬件中。

加快推進 AI 時代的安全性

基于 AI 和 ML 的技術正日益滲透到計算的各個領域。隨著 AI 工作負載逐漸轉移到邊緣，機遇和挑戰(zhàn)將在安全領域并存。

在 AI 創(chuàng)新快速涌現(xiàn)的同時，我們?nèi)匀恍枰裱A的安全原則。事實上，在 AI 時代，許多目前已投入使用的 Arm 基礎安全技術將變得更為重要。

正因如此，我們將致力于提高相關架構、IP 和處理器的安全性，并為由此產(chǎn)生的技術組件和標準提供大力支持。Arm 將持續(xù)增加更多的 AI 和 ML 功能，同時推動安全性的加速發(fā)展，進而成為全球 AI 體驗的安全計算平臺。

審核編輯：劉清