Unix操作系統(tǒng)及其文件系統(tǒng)講解

與大家分享一組文件系統(tǒng)考古文章

開篇將帶大家回到1974年，

從Unix V7 文件系統(tǒng)開始。

有時，進步難以察覺，特別是當你正身處其中時。而對比新舊資料之間的差異，尋找那些推動變革的信息源，我們就可以清晰地看到進步的發(fā)生。在Linux(以及大部分Unix系統(tǒng))中，都可以印證這一點。

Unix V7 是 Unix 操作系統(tǒng)的一個重要的早期版本，于 1979 年發(fā)布，是貝爾實驗室最后一個廣泛分發(fā)的版本。它是第一個真正可移植的 Unix 版本，被移植到了多種平臺上，包括 DEC PDP-11, VAX, x86, Motorola 68000 等。Unix V7 的 VAX 移植版本，叫做 UNIX/32V，是流行的 4BSD 系列 Unix 系統(tǒng)的直接祖先。許多老牌的 Unix 用戶認為 Unix V7 是 Unix 發(fā)展的頂峰。

Unix V7 Research Release 的源代碼可以在 unix-history-repo^[3]^ 這個由 Diomidis Spinellis 維護的項目中找到。如果你想深入了解 Unix 的設計原理，可以參考 Maurice J. Bach 的經(jīng)典著作 The Design of the Unix Operating System^[4]^，并查看 Research V7 Snapshot^[5]^ 這個分支的代碼庫。

Ken Thompson (坐著的) 和 Dennis Ritchie 在小型計算機 PDP-11 上工作，他們是貝爾實驗室(Bell Labs)的研究員，在20世紀70年代早期開發(fā)了Unix操作系統(tǒng)及其文件系統(tǒng)。

Machines

1974 年，計算機擁有一個“核心”，即中央處理單元。然而，在某些計算機中，這個“核心”已經(jīng)發(fā)生了變化。不再是由多個部件(如算術(shù)邏輯單元、寄存器、順序控制器和微碼存儲器)組成的設備，而是一顆單一的集成芯片，單個芯片上集成了數(shù)千個晶體管。它們被叫做“小型計算機”。

Kernels

在 Unix 中，我們通過配置頭文件(header file)來處理系統(tǒng)資源。如下圖所示，這里顯示了頭文件中配置的默認值^[6]^，數(shù)據(jù)結(jié)構(gòu)是數(shù)組，所示值是相應的數(shù)組大小。如果要更改它們，則需要編輯文件，重新編譯和鏈接內(nèi)核，然后重新啟動系統(tǒng)。

它有一個文件系統(tǒng)緩沖區(qū)緩存(file system buffer cache)，使用 NBUF(29)個磁盤塊，每個磁盤塊的大小是 512 字節(jié)，用來暫時存儲磁盤上的數(shù)據(jù)塊和 inode，從而加速文件系統(tǒng)訪問。另外還有一個索引節(jié)點數(shù)組(inode array)，它有 NINODE (200)個條目，每個條目對應一個文件的元數(shù)據(jù)，還可以同時掛載 NMOUNT (8)個文件系統(tǒng)。每個用戶最多可以運行MAXUPRC(25)個進程，總共有 NPROC(150)個系統(tǒng)進程。每個進程最多可以打開 NOFILE(20)個文件。

閱讀 Bach 的著作和 V7 源代碼是很有趣的，盡管它們已經(jīng)完全過時。因為這些源代碼中呈現(xiàn)出的許多核心概念更加清晰，結(jié)構(gòu)更簡潔，有時甚至帶有古老的風格。然而，正是這些概念定義了 Unix 文件系統(tǒng)。V7 Unix 被寫入了 POSIX 標準，之后的每個文件系統(tǒng)都必須遵守它。如果您想了解更多相關(guān)示例，請參考 But Is It Atomic?^[8]^

核心概念

Unix 文件系統(tǒng)的基本概念和結(jié)構(gòu)來自這個系統(tǒng)。其中一些概念甚在現(xiàn)代系統(tǒng)中依然存在。

磁盤由一系列數(shù)據(jù)塊(block)組成，從第 0 塊開始，一直到第 n 塊結(jié)束。在文件系統(tǒng)的開始部分，我們可以找到超級塊(superblock)。它位于文件系統(tǒng)的第 1 塊。超級塊存儲了文件系統(tǒng)的一些基本信息，比如文件系統(tǒng)的大小、空閑塊的數(shù)量、空閑索引節(jié)點的數(shù)量等。當我們執(zhí)行掛載(mount)系統(tǒng)調(diào)用時，系統(tǒng)會找到一個空閑的掛載結(jié)構(gòu)(mount structure^[8]^)，并且從磁盤上讀取超級塊，把它作為掛載結(jié)構(gòu)的一部分。

Inode

內(nèi)存中的超級塊(in-memory superblock)是磁盤上超級塊的副本，用于加快文件系統(tǒng)的訪問速度。它包含一個 short 類型的字段，用于存儲一個索引節(jié)點數(shù)組(inode array)在磁盤上的位置。

索引節(jié)點(inode^[9]^)是一個描述文件內(nèi)容和屬性的結(jié)構(gòu)，文件內(nèi)容由一系列數(shù)據(jù)塊(block)組成，每個數(shù)據(jù)塊的大小是固定的(通常是 512 字節(jié)或 1024 字節(jié))，文件屬性包含文件名、大小、權(quán)限、時間戳等元數(shù)據(jù)(metadata)。

磁盤上的 inode 如上圖所示。每個 512 字節(jié)的磁盤塊可以容納 8 個 inode，因此它們在 64 字節(jié)邊界上對齊。

文件系統(tǒng)中的 inode 數(shù)組是一個 short 類型的計數(shù)器，它的最大值是 65535，也就是說文件系統(tǒng)中最多只能有 65535 個 inode。由于每個文件都需要一個 inode，因此每個文件系統(tǒng)最多只能容納 65535 個文件。

每個文件具有一些固定屬性：

(2字節(jié))mode，它包含了文件的類型和訪問權(quán)限;

(2字節(jié))nlink，它表示這個文件有多少個名字;

(2字節(jié))uid，文件的所有者;

(2字節(jié))gid，文件所有者的組 ID;

(4字節(jié))size，文件的長度，以字節(jié)為單位(定義為 off_t，長整型);

(40字節(jié))addr 數(shù)組，包含了文件的數(shù)據(jù)塊在磁盤上的地址;

(3x 4字節(jié))三個時間，atime(訪問時間)，mtime(修改時間)和 ctime(所謂的創(chuàng)建時間，但實際上是最后一個 inode 更改的時間)。

總大小為 64 字節(jié)。

bmap()

Addr 數(shù)組包含 40 個字節(jié)，但它存儲了 13 個磁盤塊地址，每個地址使用 3 個字節(jié)。這對于 24 位來說非常適用，或者說對應于 16 個大小為 512 字節(jié)的兆塊，總文件系統(tǒng)大小為 8M 千字節(jié)，即 8GB。

小型計算機 PDP-11 RL02磁盤驅(qū)動器的前面板 (來自 pdp-11.nl [10])

PDP-11 RL02K磁盤盒^[11]^可容納 10.4 MB，而更新的 RA92^[12]^ 可存儲 1.5 GB。

Addr 數(shù)組在 bmap()^[13]^ 函數(shù)中被使用。該函數(shù)接收一個 inode(ip)和一個邏輯塊號 bn，并返回一個物理塊號。也就是說，它將文件中的一個塊映射到磁盤上的一個塊，因此得名。

前 10 個塊指針直接存儲在 inode 中。例如，要訪問塊 0，bmap() 將在 inode 中查找^[14]^ di_addr[0] 并返回該塊號。

額外的塊存儲在一個間接塊中，而間接塊則存儲在 inode 中。對于更大的文件，會分配一個雙間接塊，并指向更多的間接塊，最終非常大的文件需要甚至三次間接塊。

代碼首先確定需要多少層間接尋址^[15]^，也就是要通過多少個間接塊才能找到文件內(nèi)容的磁盤塊。然后，獲取相應的間接塊^[16]^。最后，代碼按照適當?shù)拇螖?shù)解析間接尋址^[17]^，也就是根據(jù)層數(shù)依次從間接塊中讀取其他間接塊或直接塊的地址，直到找到文件內(nèi)容的磁盤塊。

對于越來越大的文件，原始的 Unix 文件結(jié)構(gòu)采用了逐漸增加的間接訪問次數(shù)。這樣形成了一個壓縮的數(shù)組，其中較短的文件可以直接通過 inode 中的數(shù)據(jù)進行訪問，而較大的文件則需要通過越來越多的間接訪問來獲取數(shù)據(jù)。為了提高性能，保持間接塊在文件系統(tǒng)緩沖區(qū)高速緩存中是至關(guān)重要的。

這種擴展性取決于塊大小(早期為 512 字節(jié)，現(xiàn)在為 4096 字節(jié))和塊號的字節(jié)大小(最初為 3 字節(jié)，后來為 4 字節(jié)甚至 8 字節(jié))。

Atomic writes

文件的寫入是在加鎖的狀態(tài)下進行的，因此它們始終具有原子性。即使是跨越多個數(shù)據(jù)塊的寫入操作，也是如此。這一點在 But Is It Atomic?^[18]^ 中有詳細討論。

這也意味著即使有多個寫入進程，在單個文件上，任何時刻只能有一個磁盤寫入操作處于活躍狀態(tài)。這對數(shù)據(jù)庫系統(tǒng)的開發(fā)者來說非常不便利。

Naming files

目錄是一個具有特殊類型和固定記錄結(jié)構(gòu)^[19]^的文件。

一個目錄條目包含一個inode號(一個無符號整數(shù))和一個文件名，文件名的長度最多可以達到14個字節(jié)。這使得一個磁盤塊可以容納32個目錄條目，而一個目錄文件的直接塊可以引用的10個磁盤塊可以容納320個目錄條目。

下層(lower)的文件系統(tǒng)中充滿了大量的文件。這些文件沒有名稱，只有編號。

上層 (upper)的文件系統(tǒng)使用一種特殊類型的文件，具有簡單的16字節(jié)記錄結(jié)構(gòu)，用于為文件分配最多14個字符的名稱。一個特殊的函數(shù)namei()將文件名轉(zhuǎn)換為inode號。

傳遞給namei()的路徑名具有層次結(jié)構(gòu)：它們可以包含/作為路徑分隔符，并以?(NUL)作為終止符。路徑名若以/開頭，則遍歷將從文件系統(tǒng)的根目錄開始，形成絕對路徑名;若不以/開頭，則遍歷將從u.u_cdir，即當前目錄開始。

該函數(shù)逐個消耗路徑名的各個組成部分，使用當前活動目錄，并在該目錄中線性搜索當前組件的名稱。當找到最后一個路徑名組件或在任何階段找不到組件時，該函數(shù)結(jié)束。如果在路徑中的任何目錄的任何點上，我們沒有 x 權(quán)限^[20]^，它也會結(jié)束。

該函數(shù)按順序逐個處理路徑名的各個組成部分。它使用當前目錄，并在該目錄中線性搜索當前組成部分的名稱。函數(shù)的結(jié)束條件有兩種情況：一是找到了路徑名的最后一個組成部分，二是在路徑的任何目錄中，出現(xiàn)了無法訪問^[21]^的情況。

掛載點是特殊條目^[22]^，它會從當前節(jié)點和文件系統(tǒng)的目錄條目切換到掛載文件系統(tǒng)的根inode。這使得Unix中的所有文件系統(tǒng)看起來像是一棵單一的樹，如果要進行"硬盤修改"的操作，只需簡單地切換到不同的目錄。

最終，該函數(shù)將返回給定路徑名的inode指針，根據(jù)需要和需求創(chuàng)建(或刪除)inode(和目錄條目)。它是目錄遍歷和訪問權(quán)限檢查的集中點。

一些創(chuàng)新的想法以及限制

這個早期的Unix文件系統(tǒng)具有許多很好的特性：

它將多個文件系統(tǒng)呈現(xiàn)為一個統(tǒng)一的樹形結(jié)構(gòu);

文件是無結(jié)構(gòu)的字節(jié)數(shù)組;

這些數(shù)組以可動態(tài)增加深度的動態(tài)數(shù)組的形式存儲。它們內(nèi)部使用一種逐漸嵌套的間接塊系統(tǒng)，其中數(shù)組的元素可以是指向其他數(shù)組或數(shù)據(jù)的指針，從而形成層次嵌套的結(jié)構(gòu)。這使得磁盤搜索的復雜度為O(1);

下層文件系統(tǒng)創(chuàng)建文件和上層的文件系統(tǒng)組織文件互相隔離，分工明確。獲取inode的唯一方式是路徑名遍歷，并且在此過程中始終檢查權(quán)限;

文件名中只有很少的特殊字符，即/和?(空字符)。

但也有明顯的限制：

文件只能有16M個塊;

文件系統(tǒng)只能有非常有限的65535個inode。

還有一些令人討厭的限制：

文件只能有一個正在寫入的進程，這會導致并發(fā)性受限;

目錄查找是線性掃描，因此對于大型目錄(超過320個條目)，速度變得非常慢;

沒有強制文件鎖定系統(tǒng)。但存在幾種用于咨詢式文件鎖定的系統(tǒng)。

還有一些特殊情況：

在 Unix V7 系統(tǒng)中，沒有 delete() 系統(tǒng)調(diào)用，而是 unlink() 系統(tǒng)調(diào)用，它可以刪除一個文件的名字，并且那些沒有任何文件名和打開文件句柄的文件會被自動清理。這會導致一些不符合預期的結(jié)果，例如，只有當一個完全沒有文件名的文件被完全關(guān)閉時，它占用的磁盤空間才會被釋放。許多 Unix 系統(tǒng)管理員都曾經(jīng)問過他們的磁盤空間去哪了，當他們刪除了 /var/log 目錄下的日志文件，卻忘記了有一些進程還在使用它;

最初沒有 mkdir() 和 rmdir() 系統(tǒng)調(diào)用，這導致了存在可被利用的競態(tài)條件。競態(tài)條件是指在多線程或多進程環(huán)境中，由于操作的順序和時機不確定性，可能導致安全漏洞或錯誤行為的情況。這在 Unix 的后續(xù)版本中得到了修復;

有一些操作在特定條件下具有原子性(例如write(2)系統(tǒng)調(diào)用)，或者經(jīng)過修改后具有原子性(mknod(2)和mkdir(2))。

在結(jié)構(gòu)上，inode表和塊和inode的空閑映射位于文件系統(tǒng)的開頭，磁盤空間也是從磁盤的前端線性分配的。這導致了頻繁的尋址操作，并且可能導致文件系統(tǒng)的碎片化(即文件存儲在非相鄰的塊中)。

遍歷目錄結(jié)構(gòu)意味著從磁盤開頭讀取目錄的inode，然后向后移動到更遠的數(shù)據(jù)塊，再從磁盤開頭讀取下一個路徑名組成部分的下一個inode，并向后移動到相應的數(shù)據(jù)塊。這個過程在每個路徑名組成部分上來回進行，速度并不快。

改進

在之后的發(fā)展中，minix文件系統(tǒng)忠實繼承了PDP-11 V7 Unix文件系統(tǒng)，保留了它的特性包括局限。然而，隨著時間的推移，在現(xiàn)代的Linux系統(tǒng)中，由于其不再具備實用性，它已經(jīng)從內(nèi)核源代碼中移除。

在稍后的一篇文章中，我們將會了解到關(guān)于BSD快速文件系統(tǒng)，如何更好地布局磁盤上的數(shù)據(jù)，如何實現(xiàn)更長的文件名、更多的inode，以及如何通過考慮磁盤的物理特性來加快速度。

要解決目錄查找時間線性增長、單個寫入者或有限的文件元數(shù)據(jù)這些問題需要更新的文件系統(tǒng)。

審核編輯：湯梓紅