0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

性能與安全同樣重要,蘋果的AI服務(wù)器

E4Life ? 來源:電子發(fā)燒友 ? 作者:周凱揚 ? 2024-06-25 00:10 ? 次閱讀

在不久前結(jié)束的WWDC2024上,蘋果宣布了自己的AI方案Apple Intelligence,并計劃將其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通過生成式模型來改善用戶的使用體驗。事實上,蘋果一共有兩個自主開發(fā)的AI模型,一個用于設(shè)備端AI的30億參數(shù)模型,以及一個更大的LLM,其服務(wù)器資源滿足更多的查詢。

蘋果AI服務(wù)器的軟硬件組成

蘋果將其AI服務(wù)器稱為私有云計算節(jié)點(PCC),這是蘋果基于定制化服務(wù)器硬件打造的基礎(chǔ)設(shè)施,也是蘋果芯片在數(shù)據(jù)中心的首度應(yīng)用。不過PCC并沒有搭載蘋果的任一消費級系統(tǒng),而是基于iOS和macOS打造了一個強化子集系統(tǒng),專為支持LLM推理量身定制。

正因其硬件架構(gòu)的統(tǒng)一性,蘋果在設(shè)備端AI和AI服務(wù)器做到了高度一致。不過PCC用于推理,并不代表蘋果為其選擇了一樣的訓(xùn)練設(shè)備。根據(jù)蘋果的說法,他們在預(yù)訓(xùn)練階段,依然采用的是云端的TPU和GPU資源。由此也可以看出,在大模型的訓(xùn)練資源上,蘋果選擇了與谷歌合作。

這也完全可以理解,谷歌作為TensorFlow開發(fā)者,不少基于TensorFlow開發(fā)的ML模型,都能在谷歌的TPU上獲得極高的訓(xùn)練效率。不過對于蘋果而言,他們的軟件棧并不會鎖死在一個云服務(wù)供應(yīng)商上,而是可以擴展并運行在其他平臺上。

AI服務(wù)器的安全性

相比起AI服務(wù)器的性能,用戶可能更在意的是隱私安全問題。畢竟在數(shù)據(jù)中心的強大AI硬件和大模型,如果沒有對用戶請求的未加密訪問和相關(guān)的個人數(shù)據(jù),也就很難給到精準的答案。對于終端設(shè)備廠商,同時也是這些AI服務(wù)器的擁有者而言,如何做好端到端加密,也就成為最大的挑戰(zhàn)。

蘋果也指出了AI服務(wù)器面臨的幾大挑戰(zhàn):1、云端AI安全和隱私保障難以得到驗證和執(zhí)行;2、很難在云端為AI提供運行時透明;3、云端AI環(huán)境很難對特權(quán)訪問做出強有力的限制。為了解決這些挑戰(zhàn),蘋果在AI服務(wù)器的設(shè)計上下了不少功夫,首先就是無狀態(tài)計算。用戶的設(shè)備將數(shù)據(jù)發(fā)送到PCC唯一目的就是滿足推理需求,PCC僅使用這些數(shù)據(jù)來執(zhí)行用戶請求的操作,且數(shù)據(jù)只停留在處理請求的PCC節(jié)點上,無論是蘋果、管理員都無法獲得用戶數(shù)據(jù)。

在可驗證的透明度上,蘋果甚至做到了超過一些主流云服務(wù)商,他們將會公開PCC的生產(chǎn)版本軟件鏡像用于安全研究。蘋果自己也會發(fā)布和維護一套官方軟件工具,供研究人員分析PCC節(jié)點上的軟件。除此之外,蘋果的安全賞金計劃也適用于PCC,重要的研究成果同樣可以獲得該計劃的獎勵。

當然了,硬件提供的安全性也不可忽視,由于PCC基于蘋果芯片打造,所以也包含了iPhone中的安全隔區(qū)和安全啟動兩大安全子系統(tǒng)。這為其提供了非定位的安全性,攻擊者無法針對特定用戶的數(shù)據(jù)來發(fā)動攻擊,只能靠大規(guī)模攻擊來實現(xiàn),這樣被發(fā)現(xiàn)的概率也會一并變高。

寫在最后

蘋果在大規(guī)模AI模型上的軟件開發(fā)倒是很早就開始了,不過在硬件上,蘋果還是落后于頭部的云服務(wù)廠商。不過蘋果只是基于自研芯片打造屬于自己的AI服務(wù)器,相較直接采用第三方方案,對于終端的用戶而言,或許這才是保證性能和安全性的最佳路徑。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 蘋果
    +關(guān)注

    關(guān)注

    61

    文章

    24336

    瀏覽量

    195552
  • AI服務(wù)器
    +關(guān)注

    關(guān)注

    2

    文章

    99

    瀏覽量

    4866
收藏 人收藏

    評論

    相關(guān)推薦

    萬協(xié)通高性能服務(wù)器安全芯片首發(fā)!驅(qū)動數(shù)智化安全新未來

    近日,國內(nèi)前沿的芯片解決方案提供商萬協(xié)通,攜其自主研發(fā)的高性能服務(wù)器安全芯片系列產(chǎn)品閃耀亮相2024中國國際社會公共安全產(chǎn)品博覽會(簡稱“安博會”),其憑借出色的
    的頭像 發(fā)表于 10-24 18:01 ?185次閱讀

    GPU高性能服務(wù)器配置

    GPU高性能服務(wù)器作為提升計算速度和效率的關(guān)鍵設(shè)備,在各大應(yīng)用場景中發(fā)揮著越來越重要的作用。在此,petacloud.ai小編為你介紹GPU高性能
    的頭像 發(fā)表于 10-21 10:42 ?134次閱讀

    最強服務(wù)器CPU來了!AI性能直接翻倍

    以及AI服務(wù)器AI數(shù)據(jù)中心場景的CPU產(chǎn)品。它不僅能支持廣泛的第三方GPU及AI加速,與它們組合形成強大的異構(gòu)計算平臺,還能在其中補足G
    的頭像 發(fā)表于 09-29 11:00 ?681次閱讀
    最強<b class='flag-5'>服務(wù)器</b>CPU來了!<b class='flag-5'>AI</b><b class='flag-5'>性能</b>直接翻倍

    什么是AI服務(wù)器?AI服務(wù)器的優(yōu)勢是什么?

    AI服務(wù)器是一種專門為人工智能應(yīng)用設(shè)計的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯(lián)的需求,為自然語言處理、計算機視覺、機器學(xué)習(xí)等人工智能應(yīng)用場景提
    的頭像 發(fā)表于 09-21 11:43 ?491次閱讀

    新加坡服務(wù)器vsping主機性能與配置測評

    新加坡服務(wù)器vsping主機在性能與配置上均表現(xiàn)出色。其配置通常包括高性能的CPU(如IntelXeon系列)、充足的內(nèi)存(如32GB至256GBDDR4類型)以及高速的SSD固態(tài)硬盤,確保數(shù)據(jù)處理
    的頭像 發(fā)表于 08-12 13:26 ?168次閱讀

    AI服務(wù)器:開啟智能計算新時代

    一、AI服務(wù)器的定義與特點 AI服務(wù)器的定義 AI服務(wù)器是一種基于云計算技術(shù),專為處理人工
    的頭像 發(fā)表于 08-09 16:08 ?659次閱讀

    如何評估美國洛杉磯高防服務(wù)器性能

    評估美國洛杉磯高防服務(wù)器性能對于確保網(wǎng)站或應(yīng)用程序的穩(wěn)定性和安全性至關(guān)重要。高防服務(wù)器通常被用來抵御分布式拒絕
    的頭像 發(fā)表于 07-31 09:52 ?213次閱讀

    ai服務(wù)器是什么架構(gòu)類型

    AI服務(wù)器,即人工智能服務(wù)器,是專門為人工智能應(yīng)用設(shè)計的高性能計算服務(wù)器AI
    的頭像 發(fā)表于 07-02 09:51 ?876次閱讀

    ai服務(wù)器和通用服務(wù)器的區(qū)別在哪

    AI服務(wù)器和通用服務(wù)器的區(qū)別主要體現(xiàn)在以下幾個方面: 硬件配置 AI服務(wù)器和通用服務(wù)器在硬件配置
    的頭像 發(fā)表于 07-02 09:46 ?840次閱讀

    蘋果攜手超微,加速AI服務(wù)器布局

    蘋果分析師郭明錤去年末曾經(jīng)透露,蘋果預(yù)期在2024年投入47.5億美元采購超過兩萬臺服務(wù)器來支持AI技術(shù),較2023年的6.2億美元增長明顯。
    的頭像 發(fā)表于 03-01 15:49 ?531次閱讀

    linux服務(wù)器和windows服務(wù)器

    應(yīng)用和企業(yè)環(huán)境中使用,那么Win dows服務(wù)器可能更適合你的需求。 綜上所述,Linux服務(wù)器和Windows服務(wù)器各有優(yōu)劣,選擇適合自己需求的服務(wù)器操作系統(tǒng)是確保
    發(fā)表于 02-22 15:46

    AI服務(wù)器簡介及晶振應(yīng)用

    AI服務(wù)器,是一種專門用于處理人工智能相關(guān)任務(wù)的高性能計算機。它具備強大的計算能力和存儲能力,能夠快速處理大量的數(shù)據(jù)和復(fù)雜的算法。與傳統(tǒng)的計算設(shè)備相比,AI
    的頭像 發(fā)表于 12-25 10:45 ?1051次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>簡介及晶振應(yīng)用

    物理服務(wù)器ai發(fā)展的應(yīng)用

    物理服務(wù)器AI發(fā)展中扮演著重要的角色。傳統(tǒng)的以CPU為計算部件的服務(wù)器架構(gòu)已難以滿足人工智能的新需求,因此,"CPU+ GPU/FPGA/ASIC"的異構(gòu)計算架構(gòu)成為人工智能
    的頭像 發(fā)表于 12-22 09:19 ?416次閱讀

    AI發(fā)展下服務(wù)器的選擇非常重要

    AI發(fā)展下,服務(wù)器的選擇非常重要。以下是一些選擇服務(wù)器時需要考慮的因素。
    的頭像 發(fā)表于 12-07 10:06 ?465次閱讀

    性能與成本如何兼顧,企業(yè)選擇輕量應(yīng)用云服務(wù)器為何推薦華為云?

    服務(wù)器是一種基于云計算技術(shù)的虛擬化服務(wù),它可以為企業(yè)建站提供靈活、可擴展、高效的計算資源。云服務(wù)器性能與成本是企業(yè)建站時需要考慮的重要
    的頭像 發(fā)表于 11-21 09:31 ?294次閱讀
    <b class='flag-5'>性能與</b>成本如何兼顧,企業(yè)選擇輕量應(yīng)用云<b class='flag-5'>服務(wù)器</b>為何推薦華為云?