這家初創(chuàng)公司通過(guò)共享加速計(jì)算基礎(chǔ)設(shè)施促進(jìn) AI 工作負(fù)載高效集群的資源利用。
為了幫助客戶(hù)更加高效地利用其 AI 計(jì)算資源,NVIDIA 宣布與基于 Kubernetes 的工作負(fù)載管理和編排軟件提供商 Run:ai 達(dá)成最終收購(gòu)協(xié)議。
客戶(hù)的 AI 部署正變得更加復(fù)雜,其工作負(fù)載分布在各個(gè)云、邊緣和本地?cái)?shù)據(jù)中心基礎(chǔ)設(shè)施上。
生成式 AI、推薦系統(tǒng)、搜索引擎等工作負(fù)載的管理和編排需要精密復(fù)雜的調(diào)度,才能優(yōu)化系統(tǒng)級(jí)別和底層基礎(chǔ)設(shè)施的性能。
無(wú)論是在本地、云端還是在混合環(huán)境中,Run:ai 都可以幫助企業(yè)客戶(hù)管理并優(yōu)化其計(jì)算基礎(chǔ)設(shè)施。
Run:ai 在 Kubernetes(現(xiàn)代 AI 和云基礎(chǔ)設(shè)施編排層)上建立了一個(gè)開(kāi)放平臺(tái)。該平臺(tái)支持所有熱門(mén)的 Kubernetes 變體,并與第三方 AI 工具和框架集成。
Run:ai 的客戶(hù)中有來(lái)自多個(gè)行業(yè)的全球超大型企業(yè),他們使用 Run:ai 平臺(tái)管理數(shù)據(jù)中心規(guī)模的 GPU 集群。
Run:ai 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Omri Geller 表示:
Run:ai 從 2020 年開(kāi)始一直與 NVIDIA 開(kāi)展密切合作。我們都熱衷于幫助客戶(hù)充分發(fā)揮他們基礎(chǔ)設(shè)施的作用。Run:ai 十分高興能夠加入 NVIDIA 并期待繼續(xù)雙方的合作。
Run:ai 平臺(tái)為 AI 開(kāi)發(fā)者及其團(tuán)隊(duì)提供以下功能:
用于管理共享計(jì)算基礎(chǔ)設(shè)施的集中式界面,能夠使復(fù)雜 AI 工作負(fù)載的訪問(wèn)變得更加簡(jiǎn)單、快速。
提供添加用戶(hù)、在團(tuán)隊(duì)下管理用戶(hù)、提供對(duì)集群資源的訪問(wèn)、控制配額、優(yōu)先級(jí)別和池,以及監(jiān)控和報(bào)告資源使用情況的功能。
針對(duì)不同的任務(wù)能夠?qū)?GPU 池化并共享算力——從 GPU 分塊到多個(gè) GPU 或者在不同集群上運(yùn)行的多個(gè) GPU 節(jié)點(diǎn)。
高效利用 GPU 集群資源,使客戶(hù)能夠從算力投資中獲得更大回報(bào)。
在不久的將來(lái),NVIDIA 將繼續(xù)以相同的商業(yè)模式提供 Run:ai 產(chǎn)品。同時(shí)將繼續(xù)投資 Run:ai 產(chǎn)品路線圖,將其納入到 NVIDIA DGX Cloud 中。NVIDIA DGX Cloud 是一個(gè)與領(lǐng)先的云服務(wù)提供商共同設(shè)計(jì)的針對(duì)企業(yè)開(kāi)發(fā)人員的 AI 平臺(tái),它能夠?yàn)樯墒?AI 提供綜合全面的全棧優(yōu)化服務(wù)。
NVIDIA DGX 和 DGX Cloud 客戶(hù)將獲得 Run:ai 為其 AI 工作負(fù)載(尤其是大語(yǔ)言模型部署)所提供的功能。Run:ai 的解決方案已經(jīng)與 NVIDIA DGX、NVIDIA DGX SuperPOD、NVIDIA Base Command、NGC 容器和 NVIDIA AI Enterprise 軟件等產(chǎn)品集成。
NVIDIA 加速計(jì)算平臺(tái)和 Run:ai 平臺(tái)將繼續(xù)支持廣大第三方解決方案生態(tài)系統(tǒng),為客戶(hù)提供選擇和靈活性。
通過(guò)與 Run:ai 的合作,NVIDIA 將為客戶(hù)提供一個(gè)可在任何位置訪問(wèn) GPU 解決方案的單一架構(gòu)??蛻?hù)有望受益于更高的 GPU 利用率、更好的 GPU 基礎(chǔ)設(shè)施管理以及開(kāi)放式架構(gòu)所帶來(lái)的更大靈活性。
審核編輯:劉清
-
NVIDIA
+關(guān)注
關(guān)注
14文章
4855瀏覽量
102711 -
gpu
+關(guān)注
關(guān)注
28文章
4673瀏覽量
128592 -
大模型
+關(guān)注
關(guān)注
2文章
2274瀏覽量
2356
原文標(biāo)題:NVIDIA 收購(gòu) GPU 編排軟件提供商 Run:ai
文章出處:【微信號(hào):NVIDIA_China,微信公眾號(hào):NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論