電子發(fā)燒友App

硬聲App

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示
創(chuàng)作
電子發(fā)燒友網(wǎng)>電子資料下載>人工智能>數(shù)據(jù)中心高性能對(duì)象存儲(chǔ)會(huì)碰到什么挑戰(zhàn)

數(shù)據(jù)中心高性能對(duì)象存儲(chǔ)會(huì)碰到什么挑戰(zhàn)

2020-05-09 | doc | 0.02 MB | 次下載 | 2積分

資料介紹

  對(duì)象存儲(chǔ)非常適合長(zhǎng)期備份和歸檔,如何將高性能對(duì)象存儲(chǔ)擴(kuò)展到大規(guī)模、高容量的工作負(fù)載,人們對(duì)此需要進(jìn)行了解。

  對(duì)象存儲(chǔ)最有趣的方面之一是其用途的多樣性。盡管對(duì)象存儲(chǔ)通常用作歸檔存儲(chǔ)區(qū)、原有數(shù)據(jù)的目的地,以及文件服務(wù)器的替代品,但實(shí)際上有許多方法可以應(yīng)用對(duì)象存儲(chǔ)。隨著供應(yīng)商開始提供性能優(yōu)化的對(duì)象存儲(chǔ),該技術(shù)已經(jīng)為用于一組全新的工作負(fù)載準(zhǔn)備就緒。

  高性能對(duì)象存儲(chǔ)不僅僅需要從基于硬盤的對(duì)象存儲(chǔ)系統(tǒng)切換到全閃存對(duì)象存儲(chǔ)。向全閃存介質(zhì)的遷移無疑會(huì)有所幫助,但是對(duì)象存儲(chǔ)系統(tǒng)(很大程度上要?dú)w功于其豐富的元數(shù)據(jù))通常具有太多延遲,無法有效利用閃存性能。

  創(chuàng)建高性能對(duì)象存儲(chǔ)系統(tǒng)的另一個(gè)挑戰(zhàn)是基礎(chǔ)設(shè)施的橫向擴(kuò)展特性。為了滿足容量需求,對(duì)象存儲(chǔ)將大量節(jié)點(diǎn)添加到存儲(chǔ)集群中。每個(gè)節(jié)點(diǎn)的容量都被吸收到集群中,從而創(chuàng)建一個(gè)存儲(chǔ)池。在大型橫向擴(kuò)展集群中,具有數(shù)十個(gè)節(jié)點(diǎn)都是比較常見的。聚合和管理這些節(jié)點(diǎn)的等待時(shí)間可能很長(zhǎng)。

AL t4518534542394368

  人工智能深度學(xué)習(xí)的對(duì)象存儲(chǔ)挑戰(zhàn)

  非結(jié)構(gòu)化的大型數(shù)據(jù)工作負(fù)載(例如人工智能和機(jī)器學(xué)習(xí)以及深度學(xué)習(xí))是對(duì)象存儲(chǔ)架構(gòu)如何成為高性能工作負(fù)載的一個(gè)很好的例子。理論上,這些工作負(fù)載對(duì)于對(duì)象存儲(chǔ)而言應(yīng)該是理想的。它們擁有數(shù)百萬甚至數(shù)十億個(gè)文件,而存儲(chǔ)所有這些數(shù)據(jù)需要大量的SSD硬盤或HDD硬盤,因此需要許多節(jié)點(diǎn)。這些過程也是受吞吐量驅(qū)動(dòng)的。

  所有這些因素的結(jié)合使ai服務(wù)器和深度學(xué)習(xí)針對(duì)對(duì)象存儲(chǔ)的高節(jié)點(diǎn)數(shù)存儲(chǔ)集群量身定制。大多數(shù)與人工智能通信的框架(例如TensorFlow)用于驅(qū)動(dòng)人工智能服務(wù)器和機(jī)器學(xué)習(xí)工作負(fù)載,它們都使用Amazon S3協(xié)議。大多數(shù)對(duì)象存儲(chǔ)系統(tǒng)也是基于S3存儲(chǔ)桶,并且S3存儲(chǔ)桶本身是高度并行的。從理論上講,對(duì)象存儲(chǔ)基礎(chǔ)設(shè)施應(yīng)該能夠滿足人工智能和機(jī)器或深度學(xué)習(xí)工作負(fù)載的需求。

  但是,此方法不僅僅需要?jiǎng)?chuàng)建一個(gè)全閃存對(duì)象存儲(chǔ)系統(tǒng)。該系統(tǒng)必須能夠解決這樣一個(gè)問題,即可能會(huì)有數(shù)十個(gè)(即使不是數(shù)百個(gè))節(jié)點(diǎn),而元數(shù)據(jù)以及集群管理也帶來了挑戰(zhàn)。

  應(yīng)對(duì)元數(shù)據(jù)挑戰(zhàn)

  元數(shù)據(jù)是關(guān)于數(shù)據(jù)的數(shù)據(jù),它對(duì)高性能對(duì)象存儲(chǔ)帶來了挑戰(zhàn),其原因有兩個(gè):第一個(gè)挑戰(zhàn)是,對(duì)象存儲(chǔ)系統(tǒng)需要更多時(shí)間來管理其豐富的元數(shù)據(jù)。由于大多數(shù)對(duì)象存儲(chǔ)供應(yīng)商會(huì)在集群中指定一定數(shù)量的節(jié)點(diǎn)來管理和存儲(chǔ)元數(shù)據(jù),因此管理更加復(fù)雜。在人工智能和深度移動(dòng)學(xué)習(xí)等工作負(fù)載中,專用的元數(shù)據(jù)控制器通常不堪重負(fù),并成為系統(tǒng)瓶頸。因此,服務(wù)器閃存驅(qū)動(dòng)器甚至硬盤無法充分發(fā)揮其潛力。

  第二個(gè)挑戰(zhàn)是集群通信。大多數(shù)橫向擴(kuò)展NAS或塊存儲(chǔ)系統(tǒng)的節(jié)點(diǎn)數(shù)都比較少。在網(wǎng)絡(luò)附屬存儲(chǔ)(NAS)和塊用例中,擁有六個(gè)節(jié)點(diǎn)的存儲(chǔ)集群被認(rèn)為是大型的浪潮服務(wù)器存儲(chǔ)系統(tǒng),但在許多對(duì)象存儲(chǔ)部署中,六個(gè)節(jié)點(diǎn)只是一個(gè)入門級(jí)別。而節(jié)點(diǎn)間的通信成為一個(gè)大問題,尤其是在不涉及性能的歸檔的用例中。

  要?jiǎng)?chuàng)建高性能的大規(guī)模對(duì)象存儲(chǔ)解決方案,需要解決元數(shù)據(jù)性能和集群管理問題。下一代對(duì)象存儲(chǔ)將元數(shù)據(jù)分布在集群中的每個(gè)節(jié)點(diǎn)上,而不僅僅是幾個(gè)控制器。元數(shù)據(jù)的分布可確保每個(gè)節(jié)點(diǎn)都具有響應(yīng)I/O請(qǐng)求所需的所有信息

下載該資料的人也在下載 下載該資料的人還在閱讀
更多 >

評(píng)論

查看更多

下載排行

本周

  1. 1電子電路原理第七版PDF電子教材免費(fèi)下載
  2. 0.00 MB  |  1491次下載  |  免費(fèi)
  3. 2單片機(jī)典型實(shí)例介紹
  4. 18.19 MB  |  95次下載  |  1 積分
  5. 3S7-200PLC編程實(shí)例詳細(xì)資料
  6. 1.17 MB  |  27次下載  |  1 積分
  7. 4筆記本電腦主板的元件識(shí)別和講解說明
  8. 4.28 MB  |  18次下載  |  4 積分
  9. 5開關(guān)電源原理及各功能電路詳解
  10. 0.38 MB  |  11次下載  |  免費(fèi)
  11. 6100W短波放大電路圖
  12. 0.05 MB  |  4次下載  |  3 積分
  13. 7基于單片機(jī)和 SG3525的程控開關(guān)電源設(shè)計(jì)
  14. 0.23 MB  |  4次下載  |  免費(fèi)
  15. 8基于AT89C2051/4051單片機(jī)編程器的實(shí)驗(yàn)
  16. 0.11 MB  |  4次下載  |  免費(fèi)

本月

  1. 1OrCAD10.5下載OrCAD10.5中文版軟件
  2. 0.00 MB  |  234313次下載  |  免費(fèi)
  3. 2PADS 9.0 2009最新版 -下載
  4. 0.00 MB  |  66304次下載  |  免費(fèi)
  5. 3protel99下載protel99軟件下載(中文版)
  6. 0.00 MB  |  51209次下載  |  免費(fèi)
  7. 4LabView 8.0 專業(yè)版下載 (3CD完整版)
  8. 0.00 MB  |  51043次下載  |  免費(fèi)
  9. 5555集成電路應(yīng)用800例(新編版)
  10. 0.00 MB  |  33562次下載  |  免費(fèi)
  11. 6接口電路圖大全
  12. 未知  |  30320次下載  |  免費(fèi)
  13. 7Multisim 10下載Multisim 10 中文版
  14. 0.00 MB  |  28588次下載  |  免費(fèi)
  15. 8開關(guān)電源設(shè)計(jì)實(shí)例指南
  16. 未知  |  21539次下載  |  免費(fèi)

總榜

  1. 1matlab軟件下載入口
  2. 未知  |  935053次下載  |  免費(fèi)
  3. 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
  4. 78.1 MB  |  537793次下載  |  免費(fèi)
  5. 3MATLAB 7.1 下載 (含軟件介紹)
  6. 未知  |  420026次下載  |  免費(fèi)
  7. 4OrCAD10.5下載OrCAD10.5中文版軟件
  8. 0.00 MB  |  234313次下載  |  免費(fèi)
  9. 5Altium DXP2002下載入口
  10. 未知  |  233046次下載  |  免費(fèi)
  11. 6電路仿真軟件multisim 10.0免費(fèi)下載
  12. 340992  |  191183次下載  |  免費(fèi)
  13. 7十天學(xué)會(huì)AVR單片機(jī)與C語言視頻教程 下載
  14. 158M  |  183277次下載  |  免費(fèi)
  15. 8proe5.0野火版下載(中文版免費(fèi)下載)
  16. 未知  |  138039次下載  |  免費(fèi)