基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)的研究

基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)的研究

摘要：提出了一種基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)的實(shí)現(xiàn)框架，描述了系統(tǒng)的硬件構(gòu)成和軟件層次體系結(jié)構(gòu)，提出了一種對點(diǎn)播任務(wù)的自適應(yīng)調(diào)度算法。

關(guān)鍵詞：網(wǎng)格VOD校園VOD網(wǎng)格

目前各個高校都已建立好了自己的校園網(wǎng)絡(luò)平臺。由于校園網(wǎng)絡(luò)平臺硬件設(shè)施的不斷更新發(fā)展，使得校園視頻點(diǎn)播服務(wù)VOD(Video On Demand)也迅速發(fā)展起來。VOD系統(tǒng)利用了網(wǎng)絡(luò)和視頻技術(shù)的優(yōu)勢，為廣大師生提供了在線的新聞、教學(xué)、資料、娛樂等節(jié)目的點(diǎn)播和廣播服務(wù)，并提供了大型會議和活動的直播服務(wù)。然而還存在一些具體技術(shù)問題的困擾，如流量難以控制，無法保證服務(wù)質(zhì)量，服務(wù)器集群如何布局，資源該如何共享等。網(wǎng)格技術(shù)就是將各種計算機(jī)資源連接起來，以實(shí)現(xiàn)真正意思上的資源共享。網(wǎng)格技術(shù)的應(yīng)用可以解決校園V0D系統(tǒng)中所存在的一些問題。

1 網(wǎng)格技術(shù)的應(yīng)用研究
網(wǎng)格是構(gòu)筑在互聯(lián)網(wǎng)上的一組新興技術(shù)，是信息社會的一種網(wǎng)絡(luò)基礎(chǔ)設(shè)施。將高速互聯(lián)網(wǎng)、高性能計算機(jī)、大型數(shù)據(jù)庫、遠(yuǎn)程設(shè)備等融為一體，可以提供更多的資源，實(shí)現(xiàn)真正意義上的資源共享。網(wǎng)格是目前越來越重要的研究領(lǐng)域，被稱為是下一代的Internet。隨著網(wǎng)格計算研究的深入，人們越來越發(fā)現(xiàn)網(wǎng)格體系結(jié)構(gòu)的重要性，提出了一種新型網(wǎng)格體系結(jié)構(gòu)——開放網(wǎng)格體系結(jié)構(gòu)OGSA(Open Grid Services Architecture)。

OGSA是Global Grid forum 4的重要標(biāo)準(zhǔn)，是當(dāng)前獲得廣泛支持的一種網(wǎng)絡(luò)體系結(jié)構(gòu)。OGSA是GT3的設(shè)計原型，重點(diǎn)在于把Globus思想和Web service結(jié)臺起來。在OGSA框架中，可以將一切資源(包括計算資源、存儲資源、帶寬資源、軟件資源、數(shù)據(jù)資源等)都抽象為服務(wù)。利用OGSA，有利于通過統(tǒng)一的標(biāo)準(zhǔn)接口來管理和使用網(wǎng)格。Web Service提供了一種基于服務(wù)的框架結(jié)構(gòu)。但是，Web Service面對的一般都是永久服務(wù)，而在網(wǎng)格應(yīng)用環(huán)境中，大量的服務(wù)是臨時性的短暫服務(wù)，如一個計算任務(wù)的執(zhí)行等?？紤]到網(wǎng)格環(huán)境的具體特點(diǎn)，OGSA在原來Web Service服務(wù)概念的基礎(chǔ)上，提出了網(wǎng)格服務(wù)(Grid Service)的概念，用于解決服務(wù)發(fā)現(xiàn)、動態(tài)服務(wù)創(chuàng)建、服務(wù)生命周期管理等與l臨時服務(wù)有關(guān)的問題。

2 基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)
校園VOD系統(tǒng)的服務(wù)對象是全體使用校園網(wǎng)的普通用戶。由于用戶的層次較多．計算機(jī)水平各異，因此校園VOD一般采用基于瀏覽器的Web收看方式。在網(wǎng)絡(luò)上傳輸音／視頻多媒體信息目前主要采用流式傳輸方案。這種在Intemet／Intranet中使用流式傳輸技術(shù)的連續(xù)時基媒體稱為流媒體。然而在現(xiàn)有的大多數(shù)VOD系統(tǒng)的點(diǎn)播傳輸方式中，視頻內(nèi)容仍需經(jīng)由服務(wù)器到客戶端的整個端到端的路徑。由于視頻流傳輸需要很高的傳輸帶寬，且單個視頻的傳輸時間很長，一般在120min左右，這就要求解決一些技術(shù)問題：多種資源的合理調(diào)度和協(xié)調(diào)工作等；一些實(shí)時性的要求要盡快解決；對于不斷擴(kuò)大的視頻服務(wù)的需求還要求解決地理上分布于校園內(nèi)部的各個孤立的VOD服務(wù)系統(tǒng)的統(tǒng)一管理和調(diào)度_。網(wǎng)格將突破傳統(tǒng)Web的局限性，將校園網(wǎng)內(nèi)所有資源(包括計算資源、存儲資源、帶寬資源、軟件資源、數(shù)據(jù)資源、信息資源、知識資源等)連成一個邏輯整體，就像一臺超級計算機(jī)一樣，為用戶提供一體化信息和應(yīng)用服務(wù)(計算、存儲、訪問等)。而虛擬組織在這個虛擬環(huán)境下將最終實(shí)現(xiàn)資源共享和協(xié)同工作，徹底消除資源“孤島”。這樣，人們使用網(wǎng)格上的資源就像用電一樣簡單，為校園VOD系統(tǒng)提供了更加可靠的保障。

校園VOD網(wǎng)格解決方案的指導(dǎo)思想是采用OGSA。對于系統(tǒng)平臺中各個網(wǎng)格服務(wù)器之問的數(shù)據(jù)傳輸，采用現(xiàn)在國際上公認(rèn)的符合OGSA規(guī)范的Globus的網(wǎng)格計算協(xié)議作為數(shù)據(jù)之間的傳輸協(xié)議。Globus是一個構(gòu)成網(wǎng)格基礎(chǔ)設(shè)施的平臺，它的作用相當(dāng)于網(wǎng)格操作系統(tǒng)，擔(dān)負(fù)管理網(wǎng)格資源的重任，但它距離具體應(yīng)用還相對較遠(yuǎn)。如果直接基于Globus編寫應(yīng)用程序，則會像直接使用底層API編寫windows程序一樣麻煩。因此Globus和應(yīng)用程序間還需有一個橋梁，即Cactus(仙人掌)。有了Caetus的支持，編寫應(yīng)用程序幾乎不需要考慮網(wǎng)格的具體問題，甚至以前的應(yīng)用程序可以不加修改就能使用。Cactus是一種集成的、通用的、開放源碼的計算科學(xué)與工程問題解決環(huán)境。Cactus允許用戶將原來在個人計算機(jī)上開發(fā)的程序(不管它們原來是用C語言、C++寫的，還是用Fortran、Java語言編寫的)，轉(zhuǎn)換成能夠在虛擬的網(wǎng)格計算機(jī)上運(yùn)行的并行程序；Cactus提供了簡單、抽象的API調(diào)用接口，屏蔽了系統(tǒng)的復(fù)雜特性，從而簡化了用戶界面，獲得了很強(qiáng)的可移置性；Cactus能夠在不同體系結(jié)構(gòu)的機(jī)器上運(yùn)行，如單處理器、集群計算機(jī)和其他體系結(jié)構(gòu)的并行計算機(jī)。這樣對于那些分散在校園各處．采用不同應(yīng)用程序的VOD服務(wù)器，都可以在caetus的支持下直接使用。

基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)主要是利用網(wǎng)格的方法將校園網(wǎng)格內(nèi)的多個VOD服務(wù)及其他相關(guān)信息加以整合，為用戶提供統(tǒng)一、透明的視圖。用戶只需選取其喜歡的視頻，系統(tǒng)便會自動為用戶提供最佳的視頻資源供用戶使用。而這一切對用戶來說都是透明的，用戶無需關(guān)注到底是哪個VOD主機(jī)為其提供視頻服務(wù)，更不需要關(guān)注系統(tǒng)后臺復(fù)雜的技術(shù)實(shí)現(xiàn)。

3 關(guān)鍵問題
3．1 系統(tǒng)硬件構(gòu)成
系統(tǒng)的構(gòu)建是基于地理上分布于校園網(wǎng)中的以各個VOD服務(wù)器為中心的網(wǎng)格VOD子系統(tǒng)的若干資源，如圖1所示。這些網(wǎng)格子系統(tǒng)在網(wǎng)絡(luò)拓?fù)?、軟硬件體系結(jié)構(gòu)、安全和認(rèn)證策略等方面都不盡相同。各個VOD服務(wù)器之間利用多個路由器等網(wǎng)絡(luò)設(shè)備通過校園寬帶網(wǎng)互聯(lián)起來，而在網(wǎng)格子系統(tǒng)內(nèi)的其他一些計算機(jī)則作為視頻服務(wù)器，可以對用戶透明。每個視頻服務(wù)器都掛接著獨(dú)立的大容量磁盤陣列，還有高速緩存和控制管理單元。另外在系統(tǒng)中至少還要設(shè)置一臺與所有VOD服務(wù)器都連通的網(wǎng)格管理服務(wù)器，提供與管理有關(guān)的全局動、靜態(tài)Web Service服務(wù)信息，例如，在線的用戶數(shù)、帶寬的占用率、帶寬限制、視頻所在服務(wù)器的地址等。網(wǎng)格管理服務(wù)器與用戶和VOD服務(wù)器之間所傳送的只是查詢、控制等信息，而沒有流媒體數(shù)據(jù)，帶寬要求比較低。
 

網(wǎng)格管理服務(wù)器主要承擔(dān)網(wǎng)格檢索信息服務(wù)GIIS(Grid Index Informafion Service)，具體講就是對VOD網(wǎng)格中的一些用戶信息(髟視材料)的整理和安全保密等綜合信息的索引。而視頻服務(wù)器主要對媒體數(shù)據(jù)實(shí)現(xiàn)壓縮和存儲、根據(jù)用戶的請求讀取存儲器上的節(jié)目、實(shí)時地向用戶端進(jìn)行軟件傳輸。此外，每臺視頻服務(wù)器還要啟動若干信息提供者負(fù)責(zé)將播放的一些信息及各硬件資源的負(fù)載狀況等提交給本地的VOD服務(wù)器中的網(wǎng)格資源信息服務(wù)GRIS(Grid Resource Information Service)，以便于動態(tài)選擇負(fù)載較輕、響應(yīng)較快的視頻服務(wù)器來提供資源。網(wǎng)格路由器的運(yùn)行機(jī)制類似于IP路由器，不同之處在于網(wǎng)格路由器既可以接收或轉(zhuǎn)發(fā)資源定位請求，同時也可以存儲物理服務(wù)到虛擬服務(wù)的映射關(guān)系。為防止信息泛洪和路由回路，可對資源請求的傳播距離——轉(zhuǎn)發(fā)跳數(shù)規(guī)定上限。此外還可以限定資源匹配的數(shù)量來減少網(wǎng)格路由器間的通信量，提高資源定位的性能。

3．2 系統(tǒng)軟件體系結(jié)構(gòu)
網(wǎng)格VOD系統(tǒng)的軟件體系結(jié)構(gòu)主要由三個層次構(gòu)成，如圖2所示。

(1)網(wǎng)格資源層
這些資源包括VOD系統(tǒng)中的所有數(shù)據(jù)庫、數(shù)據(jù)倉庫及文件目錄，各種存儲設(shè)備，各種計算資源(包括超級計算機(jī)、PC)，它們通過校園寬帶網(wǎng)絡(luò)實(shí)現(xiàn)物理連接。

(2)網(wǎng)格VOD服務(wù)層
提供網(wǎng)格VOD系統(tǒng)的一體化管理與處理平臺，主要功能是協(xié)調(diào)多種資源的共享，為綜合使用各類資源提供數(shù)據(jù)存儲、組織管理、分發(fā)、檢索和處理認(rèn)證等服務(wù)。

(3)網(wǎng)格VOD應(yīng)用層
在VOD網(wǎng)格服務(wù)層的基礎(chǔ)上，提供一個面向應(yīng)用領(lǐng)域的VOD集成應(yīng)用環(huán)境。面向各個具體應(yīng)用領(lǐng)域，提供Web服務(wù)、用戶管理、資源調(diào)配、統(tǒng)一調(diào)度和流量監(jiān)視等功能。根據(jù)資源信息的使用模式和使用特點(diǎn)提供使用政策和協(xié)議、應(yīng)用軟件工具和應(yīng)用開發(fā)平臺等，以建立資源信息處理與服務(wù)集成環(huán)境。

整個系統(tǒng)的信息可分為靜態(tài)信息(如網(wǎng)絡(luò)拓?fù)洹⒕W(wǎng)絡(luò)節(jié)點(diǎn)的IP地址和軟件版本等)和動態(tài)實(shí)時信息(如系統(tǒng)的負(fù)載狀況)兩類，信息共享，尤其是資源、負(fù)載等動態(tài)信息的共享和管理是網(wǎng)格系統(tǒng)的主要特征之一，也是一個網(wǎng)格系統(tǒng)順利調(diào)度與運(yùn)轉(zhuǎn)的基礎(chǔ)。

3.3 調(diào)度程序
在整個網(wǎng)格VOD系統(tǒng)中，應(yīng)用層的調(diào)度程序是最復(fù)雜的部分，幾乎牽涉到系統(tǒng)中的所有組件系統(tǒng)中所維護(hù)管理的信息大都為調(diào)度程序的決策暇務(wù)。不論是采用面向系統(tǒng)的調(diào)度策略(如Condoz-G)，還是采用面向應(yīng)用的調(diào)度策略(如Apples，Nimrod／G，Netsolve)，它們的主要調(diào)度對象都是面向科學(xué)計算任務(wù)的處理器、存儲器和網(wǎng)絡(luò)等“裸”的硬件資源，向用戶提供的接口也是主要針對批處理作業(yè)設(shè)計的接口，調(diào)度目標(biāo)比較單一，主要是宴現(xiàn)結(jié)點(diǎn)的負(fù)載平衡。當(dāng)經(jīng)過安全認(rèn)證的用戶請求提交給調(diào)度程序時，調(diào)度程序首先根據(jù)用戶IP、任務(wù)的資酥需求、網(wǎng)絡(luò)配置等靜態(tài)信息進(jìn)行初步的過濾，然后收集細(xì)節(jié)的動態(tài)信息。按照一定的策略選定一個視頻服務(wù)器，進(jìn)行資源的預(yù)留、任務(wù)提交并監(jiān)督任務(wù)的執(zhí)行。其間可能會觸發(fā)視頻服務(wù)器文件資源的配置的改變，任務(wù)完成后還要清除任務(wù)。其調(diào)度策略遵循以下兩個原則：
 

(1)本地優(yōu)先原則。當(dāng)本地網(wǎng)格VOD子系統(tǒng)負(fù)載較輕且存儲有所要求的節(jié)目時，直接在本地進(jìn)行調(diào)度，不必考慮全局情況。該原則出于兩個考慮：①跨子網(wǎng)傳輸?shù)难舆t一般較大；②在主干網(wǎng)絡(luò)上的帶寬一般是有限的，而且費(fèi)用也較高。
 

(2)VOD子系統(tǒng)問負(fù)載相對均衡原則。當(dāng)本地的負(fù)載量已達(dá)到某個給定的平衡點(diǎn)但還沒有達(dá)到允許的上限時，就開始考慮在整個網(wǎng)絡(luò)內(nèi)使用目標(biāo)規(guī)劃的方法選擇合適的子系統(tǒng)，這樣既避免了負(fù)載很輕時做無謂的全局協(xié)調(diào)，又避免了本地滿載時才進(jìn)行系統(tǒng)間調(diào)度有可能造成的被動局面。當(dāng)本地系統(tǒng)負(fù)載達(dá)到平衡點(diǎn)時，調(diào)度管理模塊開始查看是否有必要對該節(jié)目增加備份。

基于對網(wǎng)格概念、相關(guān)技術(shù)的研究和網(wǎng)格應(yīng)用的探索以及對校園VOD系統(tǒng)的研究和建設(shè)經(jīng)驗，本文提出的一種基于網(wǎng)格技術(shù)的校園VOD系統(tǒng)的實(shí)現(xiàn)方案，主要特點(diǎn)在于它可以構(gòu)建在各種異構(gòu)平臺之上，具有廣泛的適用性和自適應(yīng)性，支持前所未有的規(guī)模和擴(kuò)張能力。