0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA與思科合作打造企業(yè)級生成式AI基礎設施

NVIDIA英偉達企業(yè)解決方案 ? 來源: NVIDIA英偉達企業(yè)解決方案 ? 2024-10-10 09:35 ? 次閱讀

由 NVIDIA 加速計算平臺、NVIDIA AI Enterprise 軟件和 NVIDIA NIM 推理微服務加持的思科 Nexus HyperFabric AI 集群解決方案在 Cisco Live 上首次亮相。

大規(guī)模構建和部署 AI 應用程序需要一種新型計算基礎設施,此基礎設施能夠提供生成式 AI 模型所需的海量數(shù)據(jù)、算力和網(wǎng)絡帶寬。

為了更好地確保這些模型以最佳、高效的方式運行,NVIDIA 正在與思科合作,打造企業(yè)級生成式 AI 基礎設施。

思科與 NVIDIA 合作開發(fā)的全新 Nexus HyperFabric AI 集群解決方案為企業(yè)提供了實現(xiàn)生成式 AI 的途徑。思科 HyperFabric 是一款企業(yè)級端到端基礎設施解決方案,并可支持生成式 AI 工作負載。它將 NVIDIA 加速計算和 AI 軟件與思科 AI 原生網(wǎng)絡和強大的 VAST 數(shù)據(jù)平臺相結合。

思科網(wǎng)絡數(shù)據(jù)中心和提供商連接高級副總裁兼總經(jīng)理 Kevin Wollenweber 表示:“企業(yè)應用程序正在向生成式 AI 應用程序轉(zhuǎn)型,隨之而來的是大幅增加的數(shù)據(jù)處理要求和整體基礎設施的復雜性。思科與 NVIDIA 正在攜手推進 HyperFabric,為全球企業(yè)帶來生成式 AI,使其能夠?qū)⒆约旱臄?shù)據(jù)和領域?qū)iL轉(zhuǎn)化為生產(chǎn)力和洞察?!?/p>

助力企業(yè)級 AI 集群解決方案

該解決方案的基礎是NVIDIA Tensor Core GPU,它提供了處理海量數(shù)據(jù)集所需的加速計算。該解決方案所采用的NVIDIA AI Enterprise云原生軟件平臺可作為企業(yè) AI 操作系統(tǒng)。NVIDIA AI Enterprise 簡化了生產(chǎn)級 AI copilot 和其他生成式 AI 應用程序的開發(fā)和部署,確保了優(yōu)化的性能、安全性和應用編程接口的穩(wěn)定性。

包含在 NVIDIA AI Enterprise 中的NVIDIA NIM推理微服務能夠在加速基礎模型部署的同時確保數(shù)據(jù)安全。NIM 微服務旨在彌合復雜的 AI 開發(fā)與企業(yè)運營需求之間的差距。隨著各行各業(yè)的企業(yè)紛紛開始使用 AI,NVIDIA NIM 與思科 Nexus HyperFabric AI 集群的結合,將能夠支持從構思到開發(fā)和部署生產(chǎn)級 AI 應用程序的全過程。

思科 Nexus HyperFabric AI 集群解決方案集成了 NVIDIA Tensor Core GPU 以及NVIDIA BlueField-3 SuperNIC和 DPU,以增強系統(tǒng)性能和安全性。SuperNIC 提供先進的網(wǎng)絡功能,確?;A設施的無縫高速連接。BlueField-3 DPU 能夠卸載、加速和隔離基礎設施服務,從而創(chuàng)建更高效的 AI 解決方案。

BlueField-3 DPU 還可以運行思科 Hypershield 解決方案等安全服務,該解決方案支持 AI 原生、超分布式安全架構,讓安全性更接近需要保護的工作負載。作為兩家公司的又一項重要合作成果,思科 Hypershield 更側(cè)重于創(chuàng)建由 AI 驅(qū)動的安全解決方案。

與 NVIDIA 一起見證 Cisco Live

通過 Cisco Live 進一步了解思科與 NVIDIA 如何賦能生成式 AI。本屆 Cisco Live 在拉斯維加斯舉行,兩家公司在 Cisco AI Hub 上展示了 NVIDIA AI 技術,并分享企業(yè)開始使用 AI 的最佳實踐。

觀看以下會議,了解如何與 NVIDIA、思科和其他生態(tài)系統(tǒng)合作伙伴一起加速生成式 AI:

主題演講深度內(nèi)容:“駕馭大膽的新時代:轉(zhuǎn)變數(shù)據(jù)中心和服務提供商的連接”。主講人:NVIDIA 的 Kevin Deierling,以及思科的 Jonathan Davidson、Kevin Wollenweber、Jeremy Foster 和 Bill Gartner,時間:太平洋時間 6 月 5 日下午 1:00 - 2:00

AI Hub 會場演講:“利用 NVIDIA 推理微服務隨處加速和部署生成式 AI”。主講人:NVIDIA 銷售與業(yè)務開發(fā)副總裁 Marty Jain,時間:太平洋時間 6 月 4 日下午 2:15 - 2:45

WWT AI Hub 展位:NVIDIA 的 Jain 與 WWT 云、基礎設施和 AI 解決方案副總裁 Neil Anderson 的思想領導力訪談,時間:太平洋時間 6 月 5 日上午 10:00 - 11:00

NetApp 會場:“在 FlexPod 上利用 NVIDIA 推理微服務加速生成式 AI”。主講人:NVIDIA 戰(zhàn)略平臺和解決方案負責人 Sicong Ji,時間:太平洋時間 6 月 5 日下午 1:30 - 1:40

Pure Storage 會場:“在 FlashStack 上利用 NVIDIA 推理微服務加速生成式 AI”。主講人:NVIDIA 銷售聯(lián)盟經(jīng)理 Joslyn Shakur,時間:太平洋時間 6 月 5 日下午 2:00 - 2:10

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    4846

    瀏覽量

    102697
  • 思科
    +關注

    關注

    0

    文章

    298

    瀏覽量

    32166
  • 生成式AI
    +關注

    關注

    0

    文章

    478

    瀏覽量

    446

原文標題:NVIDIA 與思科攜手打造生成式 AI 基礎設施

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業(yè)解決方案】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關推薦

    NVIDIA助力印度打造AI基礎設施

    在孟買舉辦的 NVIDIA AI Summit 上,黃仁勛和穆克什·安巴尼(Mukesh Ambani)探討了關于 AI 基礎設施的投資,這些投資有望為各行各業(yè)帶來變革。
    的頭像 發(fā)表于 10-27 09:44 ?185次閱讀

    NVIDIA AI助力SAP生成AI助手Joule加速發(fā)展

    在美國佛羅里達州奧蘭多舉行的 SAP Sapphire 大會上,NVIDIA 與這家企業(yè)軟件公司公布了搭載NVIDIA AI Enterprise軟件的
    的頭像 發(fā)表于 09-09 09:37 ?354次閱讀

    NVIDIA 攜手全球合作伙伴推出 NIM Agent Blueprints,助力企業(yè)打造屬于自己的 AI

    可定制工作流目錄加快核心生成 AI 用例的部署速度。首批用例包括客戶服務、藥物研發(fā)和 PDF 數(shù)據(jù)提取,未來將加入更多用例 企業(yè)可以使用 NIM Agent Blueprints 以
    發(fā)表于 08-28 10:10 ?186次閱讀
    <b class='flag-5'>NVIDIA</b> 攜手全球<b class='flag-5'>合作</b>伙伴推出 NIM Agent Blueprints,助力<b class='flag-5'>企業(yè)</b><b class='flag-5'>打造</b>屬于自己的 <b class='flag-5'>AI</b>

    NVIDIA攜手Meta推出AI服務,為企業(yè)提供生成AI服務

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務與NVIDIA NIM(NVIDIA Inference
    的頭像 發(fā)表于 07-25 16:57 ?471次閱讀

    NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成 AI 模型

    Foundry 提供從數(shù)據(jù)策管、合成數(shù)據(jù)生成、微調(diào)、檢索、防護到評估的全方位生成 AI 模型服務,以便部署自定義 Llama 3.1 NVIDI
    發(fā)表于 07-24 09:39 ?669次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球<b class='flag-5'>企業(yè)</b><b class='flag-5'>打造</b>自定義 Llama 3.1 <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 模型

    NVIDIA推出NVIDIA AI Computing by HPE加速生成 AI 變革

    伙伴關系進一步深化。助力生成 AI企業(yè)級應用與發(fā)展加速駛?cè)肟燔嚨馈?HPE Private Cloud AI 是該解決方案的關鍵,開創(chuàng)
    的頭像 發(fā)表于 06-20 17:36 ?658次閱讀

    賽輪思與NVIDIA合作,利用生成AI打造下一代車內(nèi)體驗

    AI 驅(qū)動的移動出行創(chuàng)新企業(yè)NVIDIA 合作,打造下一代車內(nèi)體驗。
    的頭像 發(fā)表于 05-23 10:12 ?1188次閱讀

    SAP與NVIDIA攜手加速生成AI企業(yè)應用中的普及

    SAP SE 和 NVIDIA 宣布深化合作,致力于加速企業(yè)客戶在 SAP 云解決方案和應用組合中利用數(shù)據(jù)和生成
    的頭像 發(fā)表于 03-22 10:02 ?544次閱讀

    思科技攜手英偉達:基于加速計算、生成AI和Omniverse釋放下一代EDA潛能

    。這一合作將在集成電路設計、驗證、仿真及制造各環(huán)節(jié)實現(xiàn)最高15倍的效能提升; 將 Synopsys.ai 的芯片設計生成AI技術與英偉達
    發(fā)表于 03-20 13:43 ?217次閱讀
    新<b class='flag-5'>思科</b>技攜手英偉達:基于加速計算、<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>和Omniverse釋放下一代EDA潛能

    NVIDIA推出生成AI微服務,供開發(fā)者在CUDA GPU系統(tǒng)中創(chuàng)建部署生成AI助手

    NVIDIA 于今日推出數(shù)十項企業(yè)級生成 AI 微服務,企業(yè)可以利用這些微服務在自己的平臺上創(chuàng)
    的頭像 發(fā)表于 03-20 09:56 ?418次閱讀

    NVIDIA 發(fā)布全新交換機,全面優(yōu)化萬億參數(shù) GPU 計算和 AI 基礎設施

    NVIDIA Quantum-X800 InfiniBand 網(wǎng)絡,打造性能最強大的 AI 專用基礎設施 NVIDIA Spectrum-X
    發(fā)表于 03-19 10:05 ?303次閱讀
    <b class='flag-5'>NVIDIA</b> 發(fā)布全新交換機,全面優(yōu)化萬億參數(shù)<b class='flag-5'>級</b> GPU 計算和 <b class='flag-5'>AI</b> <b class='flag-5'>基礎設施</b>

    NVIDIA 通過企業(yè)級生成 AI 微服務為聊天機器人、AI 助手和摘要工具帶來商業(yè)智能

    AI 模型的框架和工具系列)的一項全新服務,通過企業(yè)級檢索增強生成(RAG)功能,幫助組織加強其生成
    的頭像 發(fā)表于 11-29 21:05 ?574次閱讀

    NVIDIA 通過企業(yè)級生成 AI 微服務 為聊天機器人、AI 助手和摘要工具帶來商業(yè)智能

    。 ? NVIDIA NeMo? Retriever 是 NVIDIA NeMo(一個用于構建、自定義和部署生成 AI 模型的框架和工具系
    發(fā)表于 11-29 14:37 ?259次閱讀
    <b class='flag-5'>NVIDIA</b> 通過<b class='flag-5'>企業(yè)級</b><b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 微服務 為聊天機器人、<b class='flag-5'>AI</b> 助手和摘要工具帶來商業(yè)智能

    利用 NVIDIA AI Foundation Models 構建自定義企業(yè)級生成 AI

    生成 AI 領域,構建企業(yè)級大語言模型(LLM)需要具備采集高質(zhì)量數(shù)據(jù)、設置加速基礎設施和優(yōu)化模型方面的專業(yè)知識。 開發(fā)者可以從預訓練模
    的頭像 發(fā)表于 11-17 21:30 ?658次閱讀
    利用 <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundation Models 構建自定義<b class='flag-5'>企業(yè)級</b><b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b>

    NVIDIA 加快企業(yè)自定義生成 AI 模型開發(fā)

    需求,比如兼容性、安全性和用來訓練模型的數(shù)據(jù)。 NVIDIA AI Foundation Models? 集企業(yè)級預訓練模型之大成,
    的頭像 發(fā)表于 11-16 21:15 ?541次閱讀
    <b class='flag-5'>NVIDIA</b> 加快<b class='flag-5'>企業(yè)</b>自定義<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 模型開發(fā)