分散式档案系統管理培训

1、分散式系統分散式檔案系統1大綱系統設計檔案服務介面目錄服務介面命名通透檔案共享系統實作檔案與目錄結構服務形式2大綱快取快取機制快取一致性檔案複製基本概念複製方法摘要3系統設計分散式檔案系統的重點就是將各部電腦的儲存裝置整合在一起分散式檔案系統架構中有兩個重要的概念檔案服務(file service)檔案伺服器(file server)分散式檔案系統必須讓使用者感覺上是在使用傳統的集中式檔案系統典型的分散式檔案系統服務可以分為兩部份檔案服務目錄服務4檔案系統檔案系統的工作就是如何快速找出一個檔案的實際位置，以維護整個檔案目錄的架構。檔案會有一些附加屬性：檔案的擁有者、檔案大小、建檔日期與取用權限

2、等。有些檔案服務能夠讓使用者可以自己更改或新增。分散式檔案系統中保護檔案的作法與集中式檔案系統相同。都是使用存取控制清單(Access Control List, ACL)，每一個檔案都有一份清單，記錄所有可以使用檔此檔案的使用者。5檔案是否可以被修改對於檔案系統設計的困難度影響也很大。修改檔案時必須備份以防止意外發生。有些分散式檔案系統只提供建立新檔和讀取檔案兩種操作，設計上也比較簡單，通常也很容易支援檔案快取和檔案複製。6檔案服務介面分散式檔案系統是使用存取控制清單來記錄所有可以使用此檔案的使用者檔案服務可分為上兩類傳下載模式，系統只提供讀取檔案和寫入檔案 遠端存取模式，伺服端提供大量的檔

3、案操作功能7上傳下載模式示意圖檔案檔案當客戶端確定寫入檔案時，檔案才回傳給伺服端檔案傳到客戶端客戶端伺服端所有修改動作皆在客戶端完成8遠端存取模式示意圖檔案伺服端客戶端修改檔案是藉由大量的操作訊息通知伺服端，由伺服端代為完成9目錄服務介面目錄服務介面主要是提供建立與刪除目錄、檔案命名與改名、檔案搬移等功能集中式檔案系統中的目錄介面可在目錄下建立子目錄而形成樹狀結構在分散式環境下檔案很可能分散在不同電腦上，所以分散式檔案系統的目錄結構又更為複雜 10集中式檔案系統示意圖ABCDE伺服器11分散式檔案系統示意圖ABCDE12110伺服器 伺服器 計數器12目錄服務介面是否要讓所有客戶端都看到相同的

4、目錄結構是設計分散式目錄服務時一個重要議題基本上有兩種做法一種做法是讓客戶端看到相同的目錄結構另一種做法是讓客戶端看到不同的目錄結構13分散式目錄服務示意圖檔案伺服器1客戶端1客戶端1(c)顯示不同的目錄結構 ABCDEFGABCDEFGABCDEFGABCDEFGABCD客戶端2客戶端2EFG檔案伺服器2(a)兩部檔案伺服器 (b)顯示相同的目錄結構 根目錄根目錄根目錄根目錄14命名命名是邏輯與實質物體間之對映使用者所處理的是由檔案名稱所代表之理輯資料物體，而系統則是直接操作儲存於磁軌上的實質資料區段。使用者通常以一個文字名稱來使用一個檔案。該文字名稱對映至一個低階的數值識別字，而識別字再對

5、映至磁碟區段。此種多層次之對映提供使用者一種檔案抽象化概念，而將檔案實際上如何及在何處儲存之細節均隱藏起來。15命名通透性命名通透性就是檔案的命名（包含路徑）是否會影響檔案系統的設計分散式檔案系統中設計目錄結構有以下二種考量位置通透性檔案路徑並不會顯示出檔案伺服器的實際位置檔案之命名不應洩漏該檔案實質儲存地點位置獨立性當檔案實際所在位置搬移時，不必更改檔案路徑也可以使用原本的檔案當檔案實質儲存地點改變時，該檔案之名稱並不需要改變16命名通透性在分散式檔案系統中實作檔案和目錄命名有三種常用的方法掛載遠端檔案系統到本地端檔案目錄結構中NFS: Network File System電腦名稱加上路徑

6、名稱: “/server/user/file1”，也就是電腦名稱/路徑名稱系統將所有資源整合起來，使用統一的目錄結構，讓所有電腦看到的會是相同的目錄結構17檔案存取與保護預防磁碟實體上的資料損毀 最常見的方法就是定期地備份整個檔案系統中的資料。檔案存取權限的管制 對於檔案，讀取、寫入以及執行等使用權限的設定。 18檔案存取最常使用的檔案存取方法有下列三種： 循序存取利用檔案指標從頭開始往後移動，便可循序讀取整個檔案內容。 檔案結尾（end of file） 讀或寫檔案開頭（begin of file） 檔案指標（file pointer）19檔案存取(續)檔案存取的方法隨機存取檔案由多個大小固

7、定的區塊所組成，可直接將檔案指標移動到某個特定的區塊，並一次讀取整個區塊。區塊區塊區塊區塊區塊檔案指標檔案開頭檔案結尾20檔案存取(續)檔案存取的方法索引存取針對檔案事先做好的索引結構來進行讀取。姓 名指 標王二李四張三編 號性 別年 齡2476男1221存取權限檔案系統會加以管制的幾種檔案存取權限： 讀取(Read)寫入(Write)執行(Execute)擴展(Append)刪除(Delete)表列(List)將一個檔案可能會進行的存取權限分門別類之後，便可以針對各個不同的存取作控管。 22存取群組減少存取的方式 讀取(Read)修改(Write)執行(Execute) 將使用者分類，同一類

8、使用者擁有相同的存取權限。如 Unix 系列的作業系統分為：擁有者（Owner） 群組（Group） 其他（Other） 23存取群組(續)檔案的存取控制列表 索引檔案名稱檔案擁有者所屬團體其他使用者其他資訊檔案指標0view.gifRWXR-1test.exeRWXRWR2config.binRWXRWXRWXn24檔案共享集中式檔案系統中允許檔案共享，但需要能預防讀寫發生問題。並且利用檔案指標來達成分散式檔案系統只要客戶端沒有檔案快取的機制、並且將檔案的操作都集中到同一部伺服器中處理，就可模擬成集中式檔案系統的操作方式當檔案被多個客戶端同時進行修改時，檔案伺服器可以用資源的互斥機制作同步的

9、控管，每一次只能有一個客戶端將修改的資料寫入磁碟。因此會導致延遲。25檔案共享在分散式檔案系統中，對於檔案共享問題所提出的幾種解決方法UNIX 語意Session 語意 (交談語意)Immutable 語意不可分割交易26UNIX 語意UNIX 系統中所採用的策略檔案存取直接對應到磁碟實體儲存位置上其他使用者可立即從實體區塊中看到修改後的結果當共享檔案被某個使用者修改時，檔案系統設計上是以資源(Resource)的互斥(Mutual Exclusion)作為實際上的應用檔案系統每次都只會有一個使用者將修改的資料寫入實體磁碟區競爭情形下會導致延遲及不可預期的結果27Session 語意 (交談語

10、意)當共享檔案被某個使用者修改時，結果不會立即反應給其他的使用者，只有當該使用者將檔案關閉並重新開啟(完成一個Session後)才會反映該修改的結果檔案存取對應到暫時的映像(image)其他使用者不可立即從實體區塊中看到修改後的結果問題先將檔案資料回存的使用者可能會失去其所修改的結果(遭後者覆蓋)沒對共享之檔案修改做任何保護動作28Immutable 語意檔案在被建立者宣告為共享後，任何使用者皆不可修改其中的內容檔案的名稱亦不可被重複使用這種語意在分散式系統中比較自然分散式系統的檔案共享基本上就是只允許唯讀但是允許檔案取代功能29當有兩個客戶端同時要取代同一個檔案時當一個客戶端要取代檔案，而這

11、個檔案正被其他客戶端讀取警告讀取的客戶端乾脆不理，讓客戶端從快取中讀取直到問題發生為止30不可分割交易該筆交易中不能被相關交易中斷當客戶端要操作檔案時，會先已開始交易的訊息通知伺服器要利用不可分割交易的功能接著是對檔案的一些讀取與寫入的操作。完全執行完畢完全不曾執行過31集中式檔案系統示意圖dedefg行程1.寫入f2.寫入g3.讀取defg原始的檔案32分散式檔案系統示意圖defg2.寫入defg客戶端1de檔案伺服器de客戶端21.讀取de3.讀取de33系統實作在實作分散式檔案系統時，必需考慮以下的問題檔案目錄架構服務形式快取檔案取代檔案一致性34目錄結構分割可分為主要分割存有作業系統及

12、相關系統檔案供電腦啟動 延伸分割可再細分為數個邏輯分割，主要是用來儲存使用者的檔案。 每個磁碟的分割都有裝置目錄或卷表用來記錄此分割中的所有目錄及檔案資訊。35單層目錄在一個分割中，使用者可以建立多個目錄，在每個目錄中也可以放置多個檔案，這樣利用目錄結構來儲存檔案，稱為單層目錄。 分割bindevsbinbootetc檔案檔案檔案檔案檔案36雙層目錄單層目錄結構未考慮到多使用者共用的檔案系統，故採用雙層目錄。分割根目錄KevinTom檔案Frankbindevbindevbindev使用者目錄檔案檔案檔案檔案檔案37樹狀目錄雙層目錄結構可視為簡單的樹狀結構，但缺乏使用上的彈性。大多數的作業系統

13、都是以樹狀目錄結構的檔案系統為基礎。目錄中還可以再建立子目錄，子目錄與檔案也可以並存於同一個目錄中。系統實作時需注意到：檔案與目錄的區分，因為檔案與子目錄可以同時存在於同一個目錄之下。 38樹狀目錄(續)分割根目錄binhomebootetcMikeJasonDocssnmp檔案檔案檔案檔案檔案39非循環圖狀目錄共用目錄可以任意存在於檔案系統中。 利用符號鏈結（symbolic link）連結到共用目錄。保護機制當一個使用者讀取某個檔案時，必須將該檔案鎖定（Lock）。 必須定期搜尋檔案系統中的無效符號鏈結，然後將其刪除並回收磁碟空間。 40非循環圖形目錄(續)分割根目錄boothomeetc

14、MikeJasonDocsutility檔案檔案檔案41一般圖狀目錄最大問題檔案搜尋時，必須判斷該目錄是否已經被搜尋過，以避免無窮迴圈。 分割根目錄binhomeetcMikeJasonutility檔案檔案檔案42目錄存取指令在某些檔案系統中，目錄也是被當成一般檔案來處理，只是會另外加上一個可供分辨的特殊字元。 存取指令搜尋新增檔案刪除檔案更改檔名43目錄與檔案路徑若所要存取的檔案不在同一層目錄中，就必須加上目錄路徑的參數。 目錄路徑可分為兩種絕對路徑從磁碟的分割代號（或根目錄）開始。相對路徑以現行目錄作為參考位置對所要指定目錄的相對位置。 44目錄存取保護為了安全性的考量 針對不同的使用者

15、或是群組作存取權限上的控管。 目錄的存取保護實作上的問題必須考慮是否也實作在其子目錄中。 若父目錄與子目錄設定不同，要如何取捨。45檔案系統掛載一個檔案系統必須經過安裝才能開始運作。 作業系統中給予檔案系統一個名稱，以及連結上此檔案系統的掛載點（mounting point）。 透過之前所給予的掛載點，便可以讀取到其中的目錄結構。 掛載的檔案系統甚至可以是網路上其他電腦中的檔案系統。 46檔案與目錄結構解決檔案與目錄結構的有兩種做法將檔案服務和目錄服務整合在一起，由單一個伺服器作檔案及目錄服務，所有使用者都與這個伺服器溝通 檔案服務與目錄服務分開在不同的伺服器，當有檔案操作的要求時，先跟提供目

16、錄服務的伺服器查詢，再利用這個編號資料跟檔案伺服器溝通47檔案與目錄結構系統如果是使用目錄服務與檔案服務分開的做法 ，系統可以有二種做法查詢的方式反覆查詢的方式 主動查詢的方式系統採用快取的機制，把最近查詢的檔案資訊儲存在快取中，之後如有對相同檔案的操作，即可馬上回應檔案資訊48反覆查詢方式示意圖客戶端/目錄伺服器查詢 /g.txt回應/B/C/回應檔案資訊49主動查詢方式示意圖客戶端/目錄伺服器查詢/C/g.txt回應檔案資訊查詢/B/C/g.txt查詢 /g.txt50服務形式檔案服務可分為兩類具備狀態服務不具狀態服務51具備狀態服務具備狀態檔案伺服器(stateful file serv

17、ice) 從其磁碟中擷取一些關於檔案之資訊，將之儲存於其記憶體中，並交給用戶一個關聯的識別名稱，該名稱對用戶及開啟檔案而言均是獨有的一項具備狀態服務之特徵為於一個會議期間，用戶與伺服器間之關聯性質。在關閉檔案時或藉由廢置空間回收 (garbage-collection)機構，伺服器便可再取回用戶不再使用之主記憶體空間。在具備狀態服務之方法中，開啟用戶之資訊保存在伺服器的主記憶體中，此方式即為容錯之主要重點所在。AFS是一個具備狀態的檔案服務52不具狀態服務不具狀態檔案伺服器 (stateless file service)藉著提出獨立的要求來避免此項狀態資訊。亦即在每項要求中指定檔案及完整地指

18、明所要求檔案中之位置。伺服器並不需要在主記憶體中保存一個已開啟檔案的表格，但通常為提高效率均會如此做。每項檔案運作均獨立完成且非會議之一部份，故開啟或關閉運作完全是多餘的。由讀取及寫入動作來取代遠程訊息 (或取代快取記憶體之查尋)。用戶最後的關閉動作也僅屬於局部之運作。NFS是一個不具備狀態的檔案服務53具不具備狀態服務的優點比較表具備狀態服務的優點不具狀態服務的優點檔案操作訊息較短容錯能力較佳系統效能較佳不需特殊的開檔和關檔可預讀資訊伺服器不用維護狀態紀錄如一的操作較容易達成可開檔案數目無限可將檔案上鎖客戶端當機不影響系統運作54快取傳統的集中式檔案系統中，採用快取是為了降低磁碟 I/O 次數，以此達到提昇系統效能的目的分散式檔案系統中，採用快取主要是降低網路傳輸的負擔 55快取機制快取的基本想法是將伺服器或客戶端的主記憶體或是客戶端磁碟當成快取，把最近使用過的檔案存入 使用快取降低伺服器的磁碟 I/O 次數和網路傳輸的負擔 客戶端和伺服端較常採用主記憶體當作快取主記憶體快取會比磁碟快取有效率得多。使用主記憶體當快取，客戶端就可以不需要磁碟伺服端用主記憶體當快取可減少磁碟 I/O 次數56客戶端伺服器的架構伺服器主記憶體伺服器磁碟客戶端主記憶體客戶端磁碟（選擇性的）網路57快取機制採用快取有二個衍生的問題必