0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

云計(jì)算的特點(diǎn)與關(guān)鍵技術(shù)介紹及海量圖片存儲(chǔ)管理系統(tǒng)設(shè)計(jì)

電子設(shè)計(jì) ? 作者:電子設(shè)計(jì) ? 2018-11-09 08:30 ? 次閱讀

隨著計(jì)算機(jī)網(wǎng)絡(luò)、網(wǎng)格計(jì)算、WEB服務(wù)、新型WEB應(yīng)用等理念和技術(shù)的發(fā)展,萬維網(wǎng)己經(jīng)從一個(gè)傳統(tǒng)的HTML文件共享、交換、訪問平臺(tái)轉(zhuǎn)變?yōu)槿我?a target="_blank">信息資源的共享平臺(tái),架構(gòu)與互聯(lián)網(wǎng)之上的云計(jì)算模式成為了大勢(shì)所趨。云計(jì)算中最重要一類是數(shù)據(jù)密集型的計(jì)算,其核心內(nèi)涵是數(shù)據(jù)管理。傳統(tǒng)的數(shù)據(jù)管理技術(shù)難以滿足這些應(yīng)用所提出的對(duì)數(shù)據(jù)管理的需求。本文借鑒傳統(tǒng)數(shù)據(jù)管理技術(shù)的理念,研究、設(shè)計(jì)了一個(gè)基于CouchDB的高可擴(kuò)展、高可靠的海量圖片存儲(chǔ)管理系統(tǒng)。

1 云計(jì)算的定義及特點(diǎn)

云計(jì)算是以一種融合的方式,通過網(wǎng)絡(luò)作載體,以虛擬化技術(shù)為基礎(chǔ),以提供基礎(chǔ)架構(gòu)、平臺(tái)、軟件等服務(wù)為形式,整合大規(guī)模可擴(kuò)展的計(jì)算、存儲(chǔ)、數(shù)據(jù)、應(yīng)用、IT資源等分布式計(jì)算資源進(jìn)行協(xié)同工作的超級(jí)計(jì)算模式。在云計(jì)算模式下,用戶不再需要購買復(fù)雜的硬件和軟件,而只需要支付相應(yīng)的費(fèi)用給“云計(jì)算”服務(wù)提供商,通過網(wǎng)絡(luò)就可以方便地獲取所需要的計(jì)算和存儲(chǔ)等資源。在計(jì)價(jià)上采用了更靈活的方式。從管理視角,云計(jì)算提供了一種管理大量虛擬化資源的方式,它們可以被自動(dòng)的匯聚并提供服務(wù),可以彈性的進(jìn)行服務(wù)的提供和擴(kuò)展。云計(jì)算是一種新的用戶體驗(yàn)和業(yè)務(wù)模式,具備服務(wù)標(biāo)準(zhǔn)化、快速部署、靈活的計(jì)費(fèi)、容易訪問\獲得的特點(diǎn)。云計(jì)算作為一種基礎(chǔ)架構(gòu)管理和服務(wù)提供方法,具備虛擬化資源、彈性擴(kuò)展的提供服務(wù)、按照一個(gè)大資源池的方式進(jìn)行管理的特點(diǎn)。

云計(jì)算是一種計(jì)算模式,利用互聯(lián)網(wǎng)技術(shù)把大量可擴(kuò)展(和彈性)的IT相關(guān)的能力作為一種服務(wù)提供給多個(gè)用戶按照運(yùn)營模式可以分為公共云、私有云、混合云3種。

公共云:通過自己的基礎(chǔ)架構(gòu)直接向用戶提供服務(wù)。用戶通過互聯(lián)網(wǎng)訪問服務(wù),并不擁有云計(jì)算資源。

私有云:企業(yè)自己搭建云計(jì)算基礎(chǔ)架構(gòu),面向內(nèi)部用戶或外部客戶提供云計(jì)算服務(wù)。企業(yè)擁有基礎(chǔ)架構(gòu)的自主權(quán),并且可以基于自己的需求改進(jìn)服務(wù),進(jìn)行自主創(chuàng)新。

混合云:也就是既有自已的云計(jì)算基礎(chǔ)架構(gòu),也使用外部公共云提供的服務(wù)。

2 云計(jì)算的關(guān)鍵技術(shù)

云計(jì)算是以數(shù)據(jù)為中心的一種數(shù)據(jù)密集型的超級(jí)計(jì)算模式。在數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)管理、編程模式、并發(fā)控制、系統(tǒng)管理等5個(gè)方面具有自身獨(dú)特的技術(shù)。

1)海量分布式存儲(chǔ)技術(shù)

為保證保證存儲(chǔ)數(shù)據(jù)的可靠性、高可用性和經(jīng)濟(jì)性,云計(jì)算的存儲(chǔ)數(shù)據(jù)采取分布式冗余存儲(chǔ)存儲(chǔ)方式,以高可靠軟件來彌補(bǔ)硬件的不足,從而對(duì)外提供廉價(jià)可靠的系統(tǒng)。為了滿足大量用戶的需求,數(shù)據(jù)存儲(chǔ)技術(shù)必須具有高吞吐率和高傳輸率的特點(diǎn)。

云計(jì)算的數(shù)據(jù)存儲(chǔ)系統(tǒng)主要有Google的GFS(Google File System)和Hadoop開發(fā)團(tuán)隊(duì)開發(fā)的開源系統(tǒng)——HDFS(Hadoop Distr4buted File System)。大部分IT廠商,包括Yahoo、Intel的云計(jì)劃采用的都是HDFS的數(shù)據(jù)存儲(chǔ)技術(shù)。

2)并行編程模式

為了高效利用云計(jì)算的資源,使用戶能夠更輕松地享受云計(jì)算帶來的服務(wù),云計(jì)算的編程模式必須保證后臺(tái)復(fù)雜的并行執(zhí)行和任務(wù)調(diào)度對(duì)用戶和編程人員來說是透明的。云計(jì)算采用Map-Reduce編程模式,將任務(wù)自動(dòng)分成多個(gè)子任務(wù),通過Map和Reduce兩步實(shí)現(xiàn)任務(wù)在大規(guī)模計(jì)算節(jié)點(diǎn)中的調(diào)度與分配。

3)數(shù)據(jù)管理技術(shù)

云計(jì)算對(duì)大數(shù)據(jù)集進(jìn)行分析、處理,向用戶提供高效服務(wù),因此,數(shù)據(jù)管理技術(shù)必須能夠高效地管理大數(shù)據(jù)集。另外,如何在規(guī)模巨大的數(shù)據(jù)中找到特定的數(shù)據(jù),也是云計(jì)算數(shù)據(jù)管理技術(shù)所必須解決的問題。云計(jì)算系統(tǒng)的數(shù)據(jù)管理往往采用列存儲(chǔ)的數(shù)據(jù)管理模式,保證海量數(shù)據(jù)存儲(chǔ)和分析性能。

4)分布式資源管理技術(shù)

在多節(jié)點(diǎn)并發(fā)執(zhí)行環(huán)境,分布式資源管理技術(shù)是保證系統(tǒng)狀態(tài)正確的關(guān)鍵技術(shù)。系統(tǒng)狀態(tài)需要在多節(jié)點(diǎn)之間同步,關(guān)鍵節(jié)點(diǎn)出現(xiàn)故障時(shí)需要能夠自動(dòng)遷移服務(wù)。分布式資源管理技術(shù)通過“鎖”機(jī)制來協(xié)凋多任務(wù)對(duì)資源的使用,從而保證數(shù)據(jù)操作的一致性。

5)云計(jì)算平臺(tái)管理技術(shù)

云計(jì)算資源規(guī)模龐大,一個(gè)系統(tǒng)的服務(wù)器數(shù)量可能會(huì)高達(dá)10萬臺(tái),且很有可能跨越幾個(gè)坐落于不同物理地點(diǎn)的數(shù)據(jù)中心,同時(shí)還在其上運(yùn)行著成千上萬種應(yīng)用。如何有效地管理這些服務(wù)器,保證這些服務(wù)器組成的系統(tǒng)能夠提供每天24小時(shí)不間斷服務(wù)是一個(gè)巨大的挑戰(zhàn)。云計(jì)算系統(tǒng)管理技術(shù)是云計(jì)算的“神經(jīng)網(wǎng)絡(luò)”,它能使大量的服務(wù)器協(xié)同工作,方便地進(jìn)行業(yè)務(wù)部署和開通,快速地發(fā)現(xiàn)和恢復(fù)系統(tǒng)故障,使云計(jì)算系統(tǒng)通過自動(dòng)化、智能化的手段實(shí)現(xiàn)大規(guī)模的可運(yùn)營、可管理。

3 云計(jì)算中數(shù)據(jù)管理系統(tǒng)應(yīng)具備的特征

大規(guī)模云存儲(chǔ)技術(shù)與分布式數(shù)據(jù)管理系統(tǒng)結(jié)合,能夠?yàn)楦餍懈鳂I(yè)提供了一個(gè)海量存儲(chǔ)空間,并支持靈活擴(kuò)展、高性能訪問的文件共享存儲(chǔ)平臺(tái)。平臺(tái)具有的一些屬性和特征

1)高效性

云計(jì)算是一種隨用隨付費(fèi)的模式,耶么使用云計(jì)算資源的費(fèi)用會(huì)隨著所需要的存儲(chǔ)、網(wǎng)絡(luò)帶寬和計(jì)算機(jī)能源線性增長。因此,如果數(shù)據(jù)分析軟件產(chǎn)品A比B需要更多的計(jì)算單元去執(zhí)行相同的任務(wù),那么產(chǎn)品A就需要比B花費(fèi)更多。因此,能用盡量少的資源去完成盡量多的任務(wù)的系統(tǒng)也就是我們所要尋找的。

2)容錯(cuò)性

容錯(cuò)性在分析型數(shù)據(jù)工作環(huán)境中的度量與在傳統(tǒng)工作環(huán)境中不同。對(duì)于傳統(tǒng)的工作,一個(gè)具有容錯(cuò)性的DBMS可以從一個(gè)錯(cuò)誤中恢復(fù)而不會(huì)丟失任何數(shù)據(jù)或恢復(fù)到最近一次完成的事務(wù);而在一個(gè)分布式數(shù)據(jù)庫環(huán)境中,則可以成功的提交事務(wù)并在一個(gè)工作負(fù)載中前進(jìn),甚至面對(duì)工作節(jié)點(diǎn)錯(cuò)誤。對(duì)于分析型工作負(fù)載中只讀的請(qǐng)求,沒有寫事務(wù)的提交,也沒有在節(jié)點(diǎn)失效時(shí)更新的失敗。因此,對(duì)一個(gè)具有容錯(cuò)性的分析型DBMS簡單的來說,如果一個(gè)與請(qǐng)求處理失敗關(guān)聯(lián)的節(jié)點(diǎn)失效,則不需要重發(fā)一個(gè)請(qǐng)求。

3)操作加密數(shù)據(jù)的能力

如敏感數(shù)據(jù)在上傳到云中之前有可能被加密。為了防止對(duì)這些敏感數(shù)據(jù)未經(jīng)授權(quán)的訪問,任何運(yùn)行在云上的應(yīng)用都不應(yīng)該能夠在訪問之前直接解密數(shù)據(jù)。然而,為了進(jìn)行解密而把整個(gè)表或列從云中傳輸出來對(duì)帶寬來說也是個(gè)挑戰(zhàn)。因此,數(shù)據(jù)分析系統(tǒng)應(yīng)該具有能夠直接操作加密數(shù)據(jù)的能力,使得最終只有較少的數(shù)據(jù)需要被傳輸?shù)絼e的地方進(jìn)行解密,這樣就明顯提高了性能。

4)提供接口的能力

有很多面向用戶的商業(yè)智能工具是與數(shù)據(jù)庫軟件協(xié)同工作并在形象化、查詢生成、結(jié)果統(tǒng)計(jì)和高級(jí)數(shù)據(jù)分析方面起到一定幫助作用的。這些工具是分析型數(shù)據(jù)管理系統(tǒng)的一個(gè)重要組成部分,因?yàn)樯虡I(yè)分析師通常在技術(shù)上不是很精通并且并不喜歡直接面對(duì)數(shù)據(jù)庫軟件。這些工具一般通過ODBC或JDBC與數(shù)據(jù)庫進(jìn)行連接,因此希望處理這些產(chǎn)品的數(shù)據(jù)庫軟件必須通過這些連接接收SQL請(qǐng)求。

4 圖片數(shù)據(jù)存儲(chǔ)管理系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)

4.1 需求分析

隨著網(wǎng)絡(luò)技術(shù)的普及應(yīng)用和人們生活方式的改變,在線交易和服務(wù)需求的不斷增長,對(duì)企業(yè)存儲(chǔ)、保護(hù)和管理數(shù)據(jù)的能力提出了更高的要求。尤其是對(duì)淘寶網(wǎng)這樣的訪問量極高的電子交易網(wǎng)站來說,對(duì)圖片系統(tǒng)的要求更高。根據(jù)對(duì)淘寶網(wǎng)流量分析,圖片的訪問流量會(huì)占到90%以上,而主站的網(wǎng)頁則占到不到10%。淘寶整體圖片存儲(chǔ)系統(tǒng)容量1 800 TB(LSPB),已經(jīng)占用空間990 TB(約IPB),平均圖片大小是18.45 K;大規(guī)模的小文件存儲(chǔ)與讀取,磁頭需要頻繁的尋道和換道,因此在讀取上容易帶來較長的延時(shí)。這就給淘寶網(wǎng)的系統(tǒng)帶來了一個(gè)巨大的挑戰(zhàn)。傳統(tǒng)的存儲(chǔ)架構(gòu)由于擴(kuò)展性較差,當(dāng)用戶量及性能需求增加時(shí),只能一味地添加高端存儲(chǔ)設(shè)備。長此以往,存儲(chǔ)環(huán)境就會(huì)變得日益復(fù)雜,管理和運(yùn)營成本更高,并造成了過高的能源消耗。同時(shí),過于復(fù)雜的存儲(chǔ)架構(gòu)和備份方式也很難滿足用戶日漸增長的數(shù)據(jù)管理和容災(zāi)需求。而云存儲(chǔ)作為一種新興的技術(shù)理念,正在改變著傳統(tǒng)存儲(chǔ)的提供與使用方式,也對(duì)存儲(chǔ)行業(yè)帶來了深遠(yuǎn)影響。經(jīng)過長時(shí)間的摸索,我們發(fā)現(xiàn)這些具有海量存儲(chǔ)需求的用戶,只有應(yīng)用了更低成本、具有更高可擴(kuò)展性的云數(shù)據(jù)管理體系,才能滿足其爆炸性增長的存儲(chǔ)需求。

4.2 系統(tǒng)設(shè)計(jì)目標(biāo)

為了解決大規(guī)模小圖片文件的高效存儲(chǔ)和訪問的問題,我們?cè)诩河械脑破脚_(tái)上設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)高可擴(kuò)展、高可靠的海量圖片存儲(chǔ)、管理系統(tǒng)。該系統(tǒng)的設(shè)計(jì)目標(biāo):

1)大規(guī)模、支持靈活擴(kuò)展

我們要構(gòu)建的圖片云存儲(chǔ)系統(tǒng)能夠支持TB規(guī)模的存儲(chǔ)容量,且非常容易進(jìn)行擴(kuò)展,整個(gè)擴(kuò)展過程又不能影響服務(wù)的持續(xù)運(yùn)行。這樣圖片云存儲(chǔ)系統(tǒng)良好的伸縮性可以讓使用的用戶靈活的投資存儲(chǔ)基礎(chǔ)架構(gòu),減少投資風(fēng)險(xiǎn)。

2)高可靠性

在用戶實(shí)際應(yīng)用環(huán)境中,各種不同類型的軟硬件故障發(fā)生的概率非常大,如硬件損壞、網(wǎng)絡(luò)中斷、系統(tǒng)崩潰等異常都會(huì)引起存儲(chǔ)服務(wù)中斷,甚至造成數(shù)據(jù)丟失。圖片云系統(tǒng)是一個(gè)構(gòu)建在云之上的海量圖片存儲(chǔ)管理系統(tǒng),因此它可利用云計(jì)算環(huán)境一些特有的容錯(cuò)性來保障服務(wù)的高可靠性。

4.3 系統(tǒng)體系結(jié)構(gòu)設(shè)計(jì)

根據(jù)上述設(shè)計(jì)目標(biāo),圖片云系統(tǒng)應(yīng)該是一個(gè)能夠提供海量存儲(chǔ)空間,并支持靈活擴(kuò)展、高性能訪問以及容災(zāi)和備份的圖片文件存儲(chǔ)管理平臺(tái)。其系統(tǒng)結(jié)構(gòu)由客戶端(ClientAgent,CA)、負(fù)載均衡服務(wù)器(Load Balancing Server,LBS)、元數(shù)據(jù)服務(wù)器(Meta data Server,MDS)和對(duì)象存儲(chǔ)節(jié)點(diǎn)(ObjectStorage Node.簡稱OSN)4大部分組成。

客戶端(CA)向外為客戶提供各種應(yīng)用服務(wù),CA安裝在用戶服務(wù)器上。用戶通過CA訪問系統(tǒng),進(jìn)行讀、寫、修改等操作。如萬維網(wǎng)服務(wù)、數(shù)據(jù)庫、文件服務(wù)、科學(xué)計(jì)算等。

負(fù)載均衡服務(wù)器(LBS)位于客戶端與元數(shù)據(jù)管理服務(wù)器集群的中間。LBS在這個(gè)位置上除了能夠支持系統(tǒng)的水平伸縮外,還能夠保證大量客戶高效、穩(wěn)定的訪問該系統(tǒng)。多臺(tái)元數(shù)據(jù)管理服務(wù)器都部署上CouchDB數(shù)據(jù)庫,因此每臺(tái)機(jī)器都能向外提供相同的服務(wù)。如當(dāng)客戶端發(fā)出請(qǐng)求時(shí),LBS會(huì)根據(jù)下一層各元數(shù)據(jù)管理服務(wù)器的負(fù)載情況來將請(qǐng)求分留給適合的元數(shù)據(jù)管理服務(wù)器,達(dá)到集群負(fù)載均衡的目的,這樣當(dāng)請(qǐng)求的數(shù)量比較大的時(shí)候,就不會(huì)出現(xiàn)請(qǐng)求長時(shí)間不被處理,因而客戶對(duì)系統(tǒng)的訪問就會(huì)更高效。

元數(shù)據(jù)服務(wù)器(MDS)部署著CouchDB數(shù)據(jù)庫,它管理著整個(gè)系統(tǒng)的元數(shù)據(jù)和對(duì)象數(shù)據(jù)的布局信息,數(shù)據(jù)庫用來存儲(chǔ)圖片文件系統(tǒng)中所有的元數(shù)據(jù),包括圖片名稱、圖片規(guī)格、訪問控制信息、存儲(chǔ)位置等。

傳統(tǒng)的存儲(chǔ)集群系統(tǒng)里元數(shù)據(jù)存儲(chǔ)只有一份,通常由中心節(jié)點(diǎn)來管理,因而很容易成為系統(tǒng)的瓶頸。對(duì)于圖片云系統(tǒng),不存在中心管理節(jié)點(diǎn),元數(shù)據(jù)存儲(chǔ)在無中心的、完全分布式的元數(shù)據(jù)服務(wù)器集群中。集群中的元數(shù)據(jù)服務(wù)器都是完全對(duì)等的,通過CouchDB的相互備份,使得系統(tǒng)讀寫性能大大增強(qiáng),且易于擴(kuò)展。

對(duì)象存儲(chǔ)節(jié)點(diǎn)(OSN)用來存儲(chǔ)用戶的圖片。每個(gè)存儲(chǔ)節(jié)點(diǎn)都是獨(dú)立的存儲(chǔ)設(shè)備,負(fù)責(zé)對(duì)象數(shù)據(jù)的存儲(chǔ)、備份、遷移和恢復(fù),并負(fù)責(zé)監(jiān)控其它存儲(chǔ)設(shè)備的運(yùn)行狀況和資源情況。同時(shí),存儲(chǔ)節(jié)點(diǎn)上運(yùn)行著虛擬化存儲(chǔ)管理軟件,并存儲(chǔ)了應(yīng)用程序所需的數(shù)據(jù)。

當(dāng)用戶訪問該系統(tǒng)時(shí),首先會(huì)向CA以Web Service形式提供一個(gè)數(shù)據(jù)庫請(qǐng)求(增、刪、改、查),并提供一個(gè)UUID;該系統(tǒng)的核心管理模塊MDS根據(jù)UUID得出要訪問的元數(shù)據(jù)服務(wù)器節(jié)點(diǎn)ID和要訪問的圖片ID:之后MDS會(huì)訪問CouchDB中對(duì)應(yīng)的元數(shù)據(jù)信息,讀取圖片存儲(chǔ)位置信息,然后便直接訪問對(duì)應(yīng)的OSN完成數(shù)據(jù)存取或訪問等操作;在該過程中,有效地防止了MDS負(fù)載過重,大大提高了系統(tǒng)效率。

4.4 系統(tǒng)功能分析

基于云計(jì)算環(huán)境的高可擴(kuò)展、高可靠的海量圖片存儲(chǔ)管理系統(tǒng)旨在為用戶提供一個(gè)解決海量圖片存儲(chǔ)的平臺(tái)。平臺(tái)通過提供公用的訪問接口,和客戶端的各種應(yīng)用程序組成一個(gè)復(fù)雜的系統(tǒng),通過應(yīng)用程序來對(duì)外提供數(shù)據(jù)存儲(chǔ)和業(yè)務(wù)訪問服務(wù)。系統(tǒng)包括數(shù)據(jù)管理模塊和平臺(tái)管理模塊兩部分,平臺(tái)管理模塊包括數(shù)據(jù)備份和數(shù)據(jù)遷移。數(shù)據(jù)管理模塊包括圖片存儲(chǔ)、圖片刪除、圖片信息查看和圖片信息更新。具體功能結(jié)構(gòu)如圖1所示。

其中,元數(shù)據(jù)管理模塊的具體功能就是實(shí)現(xiàn)對(duì)圖片的存儲(chǔ)、查看、更新和刪除4個(gè)基本功能,是提供給客戶端的可見的功能;而平臺(tái)管理模塊則是為實(shí)現(xiàn)系統(tǒng)的可擴(kuò)展性和高可靠性而提供的一種內(nèi)部機(jī)制,其中數(shù)據(jù)備份主要是通過使用冗余機(jī)制來保證文件系統(tǒng)的數(shù)據(jù)不會(huì)丟失,例如發(fā)生一臺(tái)MDS突然崩潰,這時(shí)多點(diǎn)備份就可以保證整個(gè)系統(tǒng)還能夠繼續(xù)正常運(yùn)行,用戶的操作不會(huì)受到影響。在圖片云系統(tǒng)中,數(shù)據(jù)備份主要是通過元數(shù)據(jù)管理服務(wù)器的分布式復(fù)制來實(shí)現(xiàn)的。

元數(shù)據(jù)管理界面采用完全分布式的元數(shù)據(jù)管理服務(wù)器集群,每臺(tái)元數(shù)據(jù)管理服務(wù)器上都部署上CouchDB數(shù)據(jù)庫。該模塊主要管理圖片存儲(chǔ)系統(tǒng)的元數(shù)據(jù)和進(jìn)行存儲(chǔ)對(duì)象的分配和布局。元數(shù)據(jù)管理包括圖片文件名稱、格式、大小、創(chuàng)建時(shí)間、訪問權(quán)限、存儲(chǔ)位置等等。

數(shù)據(jù)遷移主要是實(shí)現(xiàn)數(shù)據(jù)在不同的存儲(chǔ)節(jié)點(diǎn)之間的遷移。例如,當(dāng)系統(tǒng)中的一臺(tái)服務(wù)器需要暫時(shí)停止工作進(jìn)行維護(hù),而它上面的數(shù)據(jù)還希望能夠被訪問,從而不會(huì)影響整個(gè)系統(tǒng)的正常運(yùn)行,那么這個(gè)時(shí)候就需要將該服務(wù)器上的數(shù)據(jù)動(dòng)態(tài)(不需要停服務(wù)器)的完全復(fù)制到另外一臺(tái)備用服務(wù)器上,此過程對(duì)客戶端是透明的,即客戶端完全不知道系統(tǒng)發(fā)生了什么。該系統(tǒng)中,數(shù)據(jù)遷移的實(shí)現(xiàn)主要依賴于元數(shù)據(jù)管理服務(wù)器上CouchDB的分布式復(fù)制和完全同步機(jī)制。

在該系統(tǒng)中,負(fù)載均衡我們采用軟件技術(shù)來實(shí)現(xiàn),主要通過在客戶端和元數(shù)據(jù)管理服務(wù)器集群中間添加一臺(tái)機(jī)器作為負(fù)載均衡服務(wù)器,而負(fù)載均衡服務(wù)器上部署Apache服務(wù)器,基于Apache的mod_jk和mod_Proxy來實(shí)現(xiàn)負(fù)載均衡。例如,當(dāng)客戶端發(fā)出請(qǐng)求時(shí),LBS會(huì)根據(jù)負(fù)載均衡算法來將請(qǐng)求分留給適當(dāng)?shù)脑獢?shù)據(jù)管理服務(wù)器,達(dá)到集群負(fù)載均衡的目的,這樣當(dāng)請(qǐng)求的數(shù)量比較大的時(shí)候,就不會(huì)出現(xiàn)請(qǐng)求長時(shí)一間不被處理的情況,從而實(shí)現(xiàn)高效訪問。

為了解決海量小圖片存儲(chǔ)管理的高可靠性和高可擴(kuò)展性的問題,構(gòu)建了圖片云系統(tǒng)作為一個(gè)分布式的海量圖片存儲(chǔ)管理系統(tǒng),它在分布式環(huán)境下的讀寫性能是評(píng)價(jià)該系統(tǒng)的一個(gè)主要指標(biāo)。影響該系統(tǒng)讀寫性能的主要體現(xiàn)有兩部分,一個(gè)是負(fù)載均衡模塊,一個(gè)是CouchDB本身的讀寫性能。

4.5 性能測(cè)試

Apache Jmeter是一款開源的性能測(cè)試框架,現(xiàn)己廣泛地作為Web應(yīng)用程序的性能測(cè)試工具,本文采用ApacheJmeter對(duì)該系統(tǒng)進(jìn)行壓力測(cè)試。測(cè)試場(chǎng)景分別在有負(fù)載均衡和沒有負(fù)載均衡的情況下,用Jmeter模擬100個(gè)客戶端并發(fā)的發(fā)出查詢請(qǐng)求,沒有負(fù)載均衡情況下的測(cè)試結(jié)果:100條查詢請(qǐng)求執(zhí)行結(jié)果全部通過,平均響應(yīng)時(shí)間為182ms。有負(fù)載均衡情況下的測(cè)試結(jié)果:100條查詢請(qǐng)求執(zhí)行結(jié)果全部通過,平均響應(yīng)時(shí)間為99ms。通過上述測(cè)試結(jié)果的比對(duì),并發(fā)執(zhí)行100條查詢請(qǐng)求,在有負(fù)載均衡的情況下,系統(tǒng)的響應(yīng)時(shí)間要快于沒有負(fù)載均衡的情況,這正是由于系統(tǒng)中負(fù)載均衡的功能就是在出現(xiàn)大量并發(fā)訪問的時(shí)候,負(fù)載均衡服務(wù)器會(huì)根據(jù)當(dāng)前系統(tǒng)各服務(wù)器的狀態(tài)來進(jìn)行請(qǐng)求的轉(zhuǎn)發(fā),即先把請(qǐng)求發(fā)給相對(duì)比較空閑的服務(wù)器,這樣就能充分利用分布式服務(wù)的優(yōu)勢(shì),提高訪問效率。

5 結(jié)束語

云計(jì)算技術(shù)的出現(xiàn),使人們有更多的時(shí)間關(guān)注專業(yè)領(lǐng)域內(nèi)的問題,使空間信息服務(wù)模式發(fā)生了革命性的改變。應(yīng)用云計(jì)算的思想,借鑒傳統(tǒng)數(shù)據(jù)管理技術(shù)的經(jīng)驗(yàn),設(shè)計(jì)面向云計(jì)算環(huán)境的海量圖片存儲(chǔ)管理系統(tǒng),提高了存儲(chǔ)系統(tǒng)的可靠性和穩(wěn)定性,而且在完全分布式環(huán)境下性能上也具有一定的優(yōu)勢(shì),具有很好的應(yīng)用前景。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 云計(jì)算
    +關(guān)注

    關(guān)注

    39

    文章

    7701

    瀏覽量

    137116
  • 計(jì)算機(jī)
    +關(guān)注

    關(guān)注

    19

    文章

    7367

    瀏覽量

    87633
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    12

    文章

    8960

    瀏覽量

    85085
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    什么是計(jì)算?

    瀏覽器為主。 計(jì)算關(guān)鍵技術(shù) 數(shù)據(jù)存儲(chǔ)技術(shù)計(jì)算
    發(fā)表于 08-09 10:26

    計(jì)算技術(shù)特點(diǎn)

    美國國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)定義:計(jì)算是一種按使用量付費(fèi)的模式,這種模式提供可用的、便捷的、按需的網(wǎng)絡(luò)訪問,進(jìn)入可配置的計(jì)算資源共享池(資源包括網(wǎng)絡(luò),服務(wù)器,
    發(fā)表于 03-20 15:05

    智能穿戴產(chǎn)業(yè)的五大關(guān)鍵技術(shù)

    運(yùn)算與抓取顯然是難以滿足物聯(lián)網(wǎng)時(shí)代發(fā)展需求的,于是,具有自我運(yùn)算、判斷能力的人工智能技術(shù)勢(shì)必將成為下一個(gè)關(guān)鍵技術(shù)。當(dāng)前,不論是IBM,還是阿里、百度、360等都已經(jīng)開始布局平臺(tái)。顯然,他們已經(jīng)
    發(fā)表于 05-09 06:20

    LTE-Advanced的關(guān)鍵技術(shù)和標(biāo)準(zhǔn)進(jìn)展介紹

    )等關(guān)鍵技術(shù),能大大提高無線通信系統(tǒng)的峰值數(shù)據(jù)速率、峰值譜效率、小區(qū)平均譜效率以及小區(qū)邊界用戶性能,同時(shí)也能提高整個(gè)網(wǎng)絡(luò)的組網(wǎng)效率,這使得LTE和LTE-A系統(tǒng)成為未來幾年內(nèi)無線通信發(fā)展的主流,本文將對(duì)這些
    發(fā)表于 06-14 06:41

    嵌入式實(shí)時(shí)系統(tǒng)關(guān)鍵技術(shù)是什么?

    作為嶄新的、面向應(yīng)用的計(jì)算機(jī)系統(tǒng),嵌入式系統(tǒng)在集成了通用計(jì)算機(jī)系統(tǒng)的共性以外,還包含了很多適合“嵌入式”應(yīng)用的新技術(shù);因?yàn)樵?b class='flag-5'>技術(shù)上與通用
    發(fā)表于 08-14 07:43

    McWiLL系統(tǒng)關(guān)鍵技術(shù)/優(yōu)勢(shì)及應(yīng)用

    McWiLL系統(tǒng)概述McWiLL系統(tǒng)關(guān)鍵技術(shù)McWiLL系統(tǒng)的優(yōu)勢(shì)McWiLL系統(tǒng)的應(yīng)用
    發(fā)表于 11-24 06:57

    4G移動(dòng)通信系統(tǒng)的主要特點(diǎn)關(guān)鍵技術(shù)有哪些?

    4G移動(dòng)通信系統(tǒng)的主要特點(diǎn)是什么?4G移動(dòng)通信系統(tǒng)關(guān)鍵技術(shù)有哪些?
    發(fā)表于 05-27 06:51

    計(jì)算關(guān)鍵技術(shù)及標(biāo)準(zhǔn)化是什么

    分析了計(jì)算關(guān)鍵技術(shù),包括虛擬化/分布式文件系統(tǒng)/分布式數(shù)據(jù)庫等,介紹了相關(guān)
    發(fā)表于 06-07 06:50

    明白VPP關(guān)鍵技術(shù)有哪些

    隨著人工智能技術(shù)的不斷發(fā)展,越來越多的行業(yè)開始使用人工智能技術(shù),這也使得智能虛擬代理技術(shù)得到了廣泛的應(yīng)用。為了能夠深入了解智能虛擬代理技術(shù),需要明白VPP
    發(fā)表于 08-31 07:28

    基于計(jì)算海量圖片存儲(chǔ)管理系統(tǒng)研究

    隨著網(wǎng)絡(luò)信息容量的膨脹,如何高效地存儲(chǔ)管理海量圖片數(shù)據(jù),傳統(tǒng)的數(shù)據(jù)管理技術(shù)難以滿足這些應(yīng)用所提
    發(fā)表于 07-06 17:14 ?52次下載
    基于<b class='flag-5'>云</b><b class='flag-5'>計(jì)算</b>的<b class='flag-5'>海量</b><b class='flag-5'>圖片</b><b class='flag-5'>存儲(chǔ)</b><b class='flag-5'>管理</b><b class='flag-5'>系統(tǒng)</b>研究

    基于計(jì)算海量圖片存儲(chǔ)管理系統(tǒng)研究

    隨著網(wǎng)絡(luò)信息容量的膨脹,如何高效地存儲(chǔ)管理海量圖片數(shù)據(jù),傳統(tǒng)的數(shù)據(jù)管理技術(shù)難以滿足這些應(yīng)用所提
    發(fā)表于 07-06 17:14 ?22次下載
    基于<b class='flag-5'>云</b><b class='flag-5'>計(jì)算</b>的<b class='flag-5'>海量</b><b class='flag-5'>圖片</b><b class='flag-5'>存儲(chǔ)</b><b class='flag-5'>管理</b><b class='flag-5'>系統(tǒng)</b>研究

    計(jì)算關(guān)鍵技術(shù)與研究問題

    本文為你介紹部分具有挑戰(zhàn)性計(jì)算關(guān)鍵技術(shù)及其研究問題,具體包括如,虛擬機(jī)遷移、服務(wù)器整合、能耗管理、流量
    發(fā)表于 01-29 15:19 ?1016次閱讀

    實(shí)現(xiàn)計(jì)算和邊緣計(jì)算協(xié)同作用所需的關(guān)鍵技術(shù)是邊緣緩存

    數(shù)據(jù)是新的黃金,而“邊緣到”使組織可以從任何地方獲取所有數(shù)據(jù)。企業(yè)需要一種結(jié)合邊緣計(jì)算存儲(chǔ)優(yōu)勢(shì)的混合解決方案,實(shí)現(xiàn)
    發(fā)表于 12-07 16:49 ?2422次閱讀

    應(yīng)對(duì)海量圖片存儲(chǔ)的分布式存儲(chǔ)解決方案

    隨著互聯(lián)網(wǎng)、計(jì)算及大數(shù)據(jù)等信息技術(shù)的發(fā)展,越來越多的應(yīng)用依賴于對(duì)海量數(shù)據(jù)的存儲(chǔ)和處理,如智能監(jiān)控、電子商務(wù)、地理信息等,這些應(yīng)用都需要對(duì)
    發(fā)表于 01-09 15:41 ?3743次閱讀
    應(yīng)對(duì)<b class='flag-5'>海量</b><b class='flag-5'>圖片</b><b class='flag-5'>存儲(chǔ)</b>的分布式<b class='flag-5'>存儲(chǔ)</b>解決方案

    存儲(chǔ)的應(yīng)用領(lǐng)域_存儲(chǔ)關(guān)鍵技術(shù)有哪些

    本文主要介紹存儲(chǔ)的應(yīng)用領(lǐng)域及存儲(chǔ)關(guān)鍵技術(shù)。
    發(fā)表于 04-30 14:51 ?6055次閱讀