存儲和相關(guān)基礎(chǔ)知識

存儲和相關(guān)基礎(chǔ)知識

有些新手總是在各式各樣的概念里繞來繞去，弄的不亦樂乎。所以我就把我的一些理解寫了下來,供您參考.我說的不局限于任何一種具體產(chǎn)品和廠家,也可能有些說法和某些廠家的說法不一樣,但是我覺得應(yīng)該算的上是本原的東西，有以不變應(yīng)萬變之功效，呵呵，見笑

一、關(guān)于HBA

??? HBA的全稱為Host Bus Adapter，即主機總線適配器。

1、總線適配器是個什么東西呢？

??? 我們首先要了解一下主機的結(jié)構(gòu)，一臺計算機內(nèi)部多半由兩條總線串在起來(當(dāng)然實際情況會有不同，這里只討論常見的，簡單的情況)，一條總線叫系統(tǒng)總線，一條叫I/O總線。系統(tǒng)總線上接了CPU，MEmory，cache什么的，I/O總線上接的就是外圍設(shè)備，現(xiàn)如今最常見的就是PCI總線了。這兩條總線之間用橋接的芯片或者說電路連接起來。舉個形象的例子，就好比一個城市里，有兩條主干道，一條屬于行政區(qū)，一條屬于商業(yè)區(qū)，中間有個環(huán)島，將兩條主干道連接到了一起，系統(tǒng)總線就好比行政區(qū)里的主干道，而I/O總線就好比商業(yè)區(qū)的主干道。系統(tǒng)總線和I/O總線的帶寬的單位都是以Gbyte來記，但是顯而易見的是，行政區(qū)的主干道和商業(yè)區(qū)的主干道相比的話，前者肯定更“核心”，更寬，更順暢，設(shè)計的要求也高。
我們知道，在向公仆部門要求服務(wù)的時候，是要有一些接口的部門和程序的，而橋接芯片的作用就是連接和協(xié)調(diào)兩條總線的工作的。

??? 雖然I/O總線的速度和系統(tǒng)總線的帶寬相比要低很多，但是好歹也是以G來計量的，而我們知道外圍設(shè)備的速度，往往只有幾百兆，甚至幾十k而已，怎么協(xié)調(diào)工作呢？好比賣煎餅果子攤子不能直接戳到城市主干道上，怎么辦？好辦，在主干道邊上開個2000平米的小吃城，把攤子都收進去好了。那么主機總線適配器的作用也就是這個，我們就是要把外設(shè)組織起來，連接到I/O總線上去！HBA就是指Host和I/O BUS直接的一個適配器，也好比一個水管工常說的“雙通”。

2、常見的HBA有哪些呢？

??? 比如顯卡，網(wǎng)卡，scsi卡，1394卡等等。我要拿出來說的就是FCHBA和ATA&IDE。我們通常說的什么Emulex的LP9002，什么Qlogic的QLA2340都是FCHBA卡，就是將Fibre Channel的設(shè)備和IO總線連接起來的適配器。ATA也是一種適配器技術(shù)，我們PC主板上的ATA接口，就是一個磁盤適配器的對外接口，要強調(diào)的就是，ATA說的是適配器技術(shù)，IDE是說得存儲外設(shè)技術(shù)，比如我們可以說IDE硬盤，IDE光驅(qū)，說ATA接口，但是說IDE接口，ATA硬盤就不時那么合適了，雖然很多情況下，大家都習(xí)慣把他們混在一起說。

描述HBA的時候，有幾個主要的規(guī)范要說一下

??? 一個承上，就是說，HBA和IOBUS怎么連，我們經(jīng)常說的PCI接口卡，就是指這個HBA卡是要插在PCI BUS上的PCI slot上的，但是現(xiàn)在的計算機上，不僅僅只有PCI總線而已，大家碰到的時候留意。

??? 一個啟下，就是說HBA要和外設(shè)怎么連，這樣的規(guī)范就很多了。

??? 再說HBA本身，比如帶寬，比如運行機制(protocol等)，獨立處理能力等等

??? Tips：有時候我們看到的一塊卡，看到的實際是一個物理的卡，有的時候?qū)嶋H上是多個Adapter，好比一家機構(gòu)，掛多個牌子，有的時候，一塊卡有兩條通道，好比一家公司，有兩套人馬。

二、關(guān)于lun 的幾個問題

1、lun的概念

??? lun的全稱是logical unit number，也就是邏輯單元號。我們知道scsi總線上可掛接的設(shè)備數(shù)量是有限的，一般為6個或者15個，我們可以用target ID(也有稱為scsi id的)來描述這些設(shè)備，設(shè)備只要一加入系統(tǒng)，就有一個代號，我們在區(qū)別設(shè)備的時候,只要說幾號幾號就ok了。

??? 而實際上我們需要用來描述的對象，是遠遠超過該數(shù)字的，于是我們引進了lun的概念，也就是說lun id的作用就是擴充了target id。每個target下都可以有多個lun device，我們通常簡稱lun device為lun，這樣就可以說每個設(shè)備的描述就有原來的target x變成target x lun y了,那么顯而易見的,我們描述設(shè)備的能力增強了.就好比,以前你給別人郵寄東西,寫地址的時候,可以寫: xx市人民大街54號 xxx(收) 但是自從高樓大廈越來越多,你不得不這么寫: xx市人民大街54號xx大廈518室 xxx (收)

??? 所以我們可以總結(jié)一下,lun就是我們?yōu)榱耸褂煤兔枋龈嘣O(shè)備及對象而引進的一個方法而已,一點也沒什么特別的地方.

2、lun是什么東西？

??? lun id不等于某個設(shè)備,只是個號碼而已,不代表任何實體屬性,在我們的實際環(huán)境里,我們碰到的lun可能是磁盤空間,可能是磁帶機,或者是media changer等等.

??? lun的神秘之處(相對于一些新手來說)在于，它很多時候不是什么可見的實體，而是一些虛擬的對象。比如一個陣列柜，主機那邊看作是一個target device，那為了某些特殊需要，我們要將磁盤陣列柜的磁盤空間劃分成若干個小的單元給主機來用，于是就產(chǎn)生了一些什么邏輯驅(qū)動器的說法，也就是比target device級別更低的邏輯對象，我們習(xí)慣于把這些更小的磁盤資源稱之為lun0,lun1,lun2....什么的。而操作系統(tǒng)的機制使然，操作系統(tǒng)識別的最小存儲對象級別就是lun device，這是一個邏輯對象，所以很多時候被稱之為logical device。

??? 有人說，我的windows里，就認(rèn)到一個磁盤呀，沒看到什么lun的說法，是不是lun=physical disk呢？回答是否定的，只要你注意，磁盤的屬性里就可以看到有一個lun的值，只是因為你的disk沒有被劃分為多個存儲資源對象，而將整個磁盤當(dāng)作一個lun來用，lun id默認(rèn)為零，如此而已。

??? 我們曾經(jīng)碰到過這樣的問題，比如有人問，我們有一個磁盤陣列，連到了兩個主機上，我們劃分了一個lun給兩個主機認(rèn)到，然后我們想，先在操作系統(tǒng)將磁盤分為兩個區(qū)，讓兩個主機分別使用兩個分區(qū)，然后再出現(xiàn)某一臺主機宕機之后，使用集群軟件將該分區(qū)切換到另外一個主機上去，這樣可行嗎？答案也是否定的，集群軟件操作的磁盤單元是lun，而不是分區(qū)，所以該操作是不可行的。當(dāng)然，在一些環(huán)境，一般也是一些要求比較低的環(huán)境，可以在多個主機上掛載不同的磁盤分區(qū)，但是這種情況下，實際上是沒有涉及到磁盤的切換的，所以在一些高要求的環(huán)境里，這種情況根本就不允許存在。

??? 還要說明的地方是，在有些廠商和有些產(chǎn)品的概念里，lun id被綁定到了具體的device上，比如ibm的一些帶庫，整個帶庫只有一個target id，然后changer,tape drive被分別分配為lun0,lun1,lun2.....，但是我們要注意到，這只是產(chǎn)品做了特別設(shè)計，也是少數(shù)情況。

3、存儲和主機的電氣獨立時代的lun的概念

??? 還有很多新手總是把陣列里面的磁盤和主機的內(nèi)部磁盤的一些概念搞混淆了。

??? 在磁盤陣列和磁帶庫大行其道的時代，存儲越來越智能化，越來越像一個獨立的機器，實際上存儲和主機的電氣獨立本來就是一個必然趨勢，俗話說得好，兒大要分家嘛。在存儲越來越重要的時代，存儲要自立門戶是必然的事。

??? 如果我們把存儲當(dāng)作一個獨立的主機來看，理解起來就很簡單了。我們說到lun的概念的時候，我們就要將分為兩個層面。一個層面就是在陣列這個機器的os識別到的范圍，一個層面就是服務(wù)器的os識別到的范圍。這兩個層面是相對獨立的，因為如果我們把存儲當(dāng)作一個主機來看，那么它自然有自己的device，target，lun之說，而服務(wù)器也有自己的device,target,lun之說；另外一方面，這兩個層面又是相互關(guān)聯(lián)的，一個陣列的控制系統(tǒng)，大多都有虛擬化的功能，陣列想讓主機看到什么樣的東西，主機才能看到相應(yīng)的東西。當(dāng)然，服務(wù)器識別到的最小的存儲資源，就是lun級別的。那么主機的HBA卡看到的存儲上的存儲資源就靠主要兩個東西來定位，一個就是存儲系統(tǒng)的控制器(target)，一個就是lun id，這個lun是由存儲的控制系統(tǒng)給定的，是存儲系統(tǒng)的某部分存儲資源。

4、lun masking，lun mapping

??? 我們有了獨立的磁盤陣列用了之后，服務(wù)器只要看到存儲的控制系統(tǒng)，就有可能使用磁盤陣列的磁盤資源，但是磁盤陣列不可能只為某一個服務(wù)器來使用，所以他必須管制主機使用某部分磁盤資源。這個管制分為兩個部分：一部分就是lun mapping,類似于綠色通道，就是保證服務(wù)器能看到某部分存儲資源,一部分就是lun masking，類似于警戒線，就是保證服務(wù)器只可訪問給它分配的存儲資源，而沒分配給服務(wù)器的資源，就不要染指了。

??? 實現(xiàn)lun masking和lun mapping有三種方法：一個是基于存儲控制系統(tǒng)來設(shè)置，一個是基于存儲交換系統(tǒng)來設(shè)置，一個是基于服務(wù)器os來設(shè)置。

??? 基于存儲控制系統(tǒng)得設(shè)置，是比較常見的設(shè)置，比如很多磁盤陣列的控制系統(tǒng)，本身就能設(shè)置lun被某服務(wù)器看到。比如FastT的partition功能。

??? 基于存儲交換系統(tǒng)的設(shè)置，也是一種常用的方法，比如常說的zoning。

??? 基于服務(wù)器os的設(shè)置，比較少采用，一般采用安裝某些操作系統(tǒng)上安裝某些軟件來實現(xiàn)，因為這個方法全靠服務(wù)器自覺，所以比較少用，呵呵。

5、lun的multi-path

??? 現(xiàn)在，存儲網(wǎng)絡(luò)越來越發(fā)達了，一個lun有多條通路可以訪問也不是新鮮事了。

??? 服務(wù)器使用多個HBA連接到存儲網(wǎng)絡(luò)，存儲網(wǎng)絡(luò)又可能是由多個交換設(shè)備組成，而存儲系統(tǒng)又可能有多個控制器和鏈路，lun到服務(wù)器的存儲網(wǎng)絡(luò)鏈路又可能存在著多條不同的邏輯鏈路。那么，必然的，同一個physical lun在服務(wù)器上必然被識別為多個設(shè)備。因為os區(qū)別設(shè)備無非用的是總線，target id，lun id來，只要號碼不同，就認(rèn)為是不同的設(shè)備。

??? 由于上面的情況，多路徑管理軟件應(yīng)運而生了，比如emc的powerpath，這個軟件的作用就是讓操作系統(tǒng)知道那些操作系統(tǒng)識別到lun實際上是一個真正的physical lun，具體的做法，就是生成一個特別的設(shè)備文件，操作系統(tǒng)操作這個特殊的設(shè)備文件。而我們知道，設(shè)備文件+driver+firmware的一個作用，就是告訴操作系統(tǒng)該怎么使用這個設(shè)備。那么就是說，多路徑管理軟件從driver和設(shè)備文件著手，告訴了操作系統(tǒng)怎么來處理這些身份復(fù)雜的lun。