在不久前結(jié)束的WWDC2024上,蘋果宣布了自己的AI方案Apple Intelligence,并計劃將其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通過生成式模型來改善用戶的使用體驗。事實上,蘋果一共有兩個自主開發(fā)的AI模型,一個用于設(shè)備端AI的30億參數(shù)模型,以及一個更大的LLM,其服務(wù)器資源滿足更多的查詢。
蘋果AI服務(wù)器的軟硬件組成
蘋果將其AI服務(wù)器稱為私有云計算節(jié)點(PCC),這是蘋果基于定制化服務(wù)器硬件打造的基礎(chǔ)設(shè)施,也是蘋果芯片在數(shù)據(jù)中心的首度應(yīng)用。不過PCC并沒有搭載蘋果的任一消費級系統(tǒng),而是基于iOS和macOS打造了一個強化子集系統(tǒng),專為支持LLM推理量身定制。
正因其硬件架構(gòu)的統(tǒng)一性,蘋果在設(shè)備端AI和AI服務(wù)器做到了高度一致。不過PCC用于推理,并不代表蘋果為其選擇了一樣的訓(xùn)練設(shè)備。根據(jù)蘋果的說法,他們在預(yù)訓(xùn)練階段,依然采用的是云端的TPU和GPU資源。由此也可以看出,在大模型的訓(xùn)練資源上,蘋果選擇了與谷歌合作。
這也完全可以理解,谷歌作為TensorFlow的開發(fā)者,不少基于TensorFlow開發(fā)的ML模型,都能在谷歌的TPU上獲得極高的訓(xùn)練效率。不過對于蘋果而言,他們的軟件棧并不會鎖死在一個云服務(wù)供應(yīng)商上,而是可以擴展并運行在其他平臺上。
AI服務(wù)器的安全性
相比起AI服務(wù)器的性能,用戶可能更在意的是隱私安全問題。畢竟在數(shù)據(jù)中心的強大AI硬件和大模型,如果沒有對用戶請求的未加密訪問和相關(guān)的個人數(shù)據(jù),也就很難給到精準的答案。對于終端設(shè)備廠商,同時也是這些AI服務(wù)器的擁有者而言,如何做好端到端加密,也就成為最大的挑戰(zhàn)。
蘋果也指出了AI服務(wù)器面臨的幾大挑戰(zhàn):1、云端AI安全和隱私保障難以得到驗證和執(zhí)行;2、很難在云端為AI提供運行時透明;3、云端AI環(huán)境很難對特權(quán)訪問做出強有力的限制。為了解決這些挑戰(zhàn),蘋果在AI服務(wù)器的設(shè)計上下了不少功夫,首先就是無狀態(tài)計算。用戶的設(shè)備將數(shù)據(jù)發(fā)送到PCC唯一目的就是滿足推理需求,PCC僅使用這些數(shù)據(jù)來執(zhí)行用戶請求的操作,且數(shù)據(jù)只停留在處理請求的PCC節(jié)點上,無論是蘋果、管理員都無法獲得用戶數(shù)據(jù)。
在可驗證的透明度上,蘋果甚至做到了超過一些主流云服務(wù)商,他們將會公開PCC的生產(chǎn)版本軟件鏡像用于安全研究。蘋果自己也會發(fā)布和維護一套官方軟件工具,供研究人員分析PCC節(jié)點上的軟件。除此之外,蘋果的安全賞金計劃也適用于PCC,重要的研究成果同樣可以獲得該計劃的獎勵。
當然了,硬件提供的安全性也不可忽視,由于PCC基于蘋果芯片打造,所以也包含了iPhone中的安全隔區(qū)和安全啟動兩大安全子系統(tǒng)。這為其提供了非定位的安全性,攻擊者無法針對特定用戶的數(shù)據(jù)來發(fā)動攻擊,只能靠大規(guī)模攻擊來實現(xiàn),這樣被發(fā)現(xiàn)的概率也會一并變高。
寫在最后
蘋果在大規(guī)模AI模型上的軟件開發(fā)倒是很早就開始了,不過在硬件上,蘋果還是落后于頭部的云服務(wù)廠商。不過蘋果只是基于自研芯片打造屬于自己的AI服務(wù)器,相較直接采用第三方方案,對于終端的用戶而言,或許這才是保證性能和安全性的最佳路徑。
-
蘋果
+關(guān)注
關(guān)注
61文章
24336瀏覽量
195552 -
AI服務(wù)器
+關(guān)注
關(guān)注
2文章
99瀏覽量
4866
發(fā)布評論請先 登錄
相關(guān)推薦
評論