Síťové souborové systémy Tato kapitola se zabývá popisem a srovnáním rozšířených a používaných souborových systémů. Čtenář si po jejím přečtení bude schopen vytvořit obrázek o přednostech, možnostech použití i případných slabých stránkách jednotlivých souborových systémů. Kapitola se podrobněji zabývá souborovým systémem NFS. Klíčové pojmy: Model peer to peer, model klient-server, souborový systém, lokální souborový systém, síťový souborový systém, adresář, hierarchická struktura adresářů, speciální soubor, relativní cesta, absolutní cesta, démon, virtuální souborový systém VFS, deadlock, vzdálené volání procedur RPC, transparentní přístup, NFS, démon nfsd, démon biod, bezestavový protokol, idempotentní operace, automatické připojování. Základní pojmy Komunikace mezi počítači Komunikace mezi počítači obecně může probíhat dvěma způsoby. Jsou-li komunikující strany rovnocenné a nelze rozlišit, která strana nabízí služby a která je využívá, hovoříme o modelu peer to peer. Je-li možné mezi komunikačními partnery jednoznačně odlišit, který počítač služby nabízí a který je využívá, hovoříme o modelu klient server. Server je v tomto smyslu počítač, nabízející své prostředky nebo služby, klient je počítač služby a prostředky využívající. Programové (často i hardwarové) vybavení serveru a klienta se většinou velmi podstatně liší. Systémy typu peer to peer jsou obecně vhodné pro komunikaci menšího počtu mezi sebou propojených počítačů, přitom administrace a konfigurace takovéto sítě je jednoduchá. Výhodou modelu server klient je především možnost rozdělit zátěž sítě, zálohovat data a pod. Souborový systém Data na zálohovacích médiích (HDD, CD-ROM,...) jsou ukládána do předem daných datových struktur, přičemž je k dispozici rozhraní, které k datům umožňuje přístup a práci s nimi. Toto rozhraní spojené se strukturou dat na pevném médiu je nazýváno souborový systém. Souborový systém pevného disku počítače se nazývá lokální souborový systém, souborový systém na serveru, ke kterému přistupujeme 28.5.2012 Síťové FS 1
prostředky vzdálené komunikace nazýváme síťový souborový systém. Síťovým souborovým systémem rozumíme tedy komunikační rozhraní mezi serverem a klientem a také strukturu uložení dat na disku serveru. Struktura dat v souborovém systému Nejmenší jednotkou organizace dat v souborovém systému je soubor. Kromě uložených dat obsahuje soubor také další informace o sobě, jako je jméno souboru, vlastník souboru, přístupová práva, časové známky, typ souboru. Aby se uživatel lépe orientoval ve struktuře souborového systému a zejména z důvodů lepší logické organizace a vyhledávání dat jsou soubory ukládány do větších logických celků, zvaných adresáře. Adresáře tvoří hierarchickou strukturu (tato struktura má často podobu stromu). Adresáře mohou obsahovat soubory nebo další adresáře, na vrcholu hierarchické struktury se nachází kořen (kořenový adresář). Adresáře podobně jako soubory nesou také doplňkové informace jako je jméno adresáře, vlastník, práva přístupu, časové známky atd. Některé operační systémy umožňují vytvářet a používat soubory i k jiným účelům než k ukládání dat (např. pro komunikaci mezi aplikacemi, mezi jádrem a aplikacemi apod.). Těmto souborům se říká speciální soubory. Každý soubor i adresář v hierarchické struktuře je z kořenového adresáře dosažitelný přes jednoznačně danou posloupnost adresářů. Tato posloupnost se nazývá cesta (k souboru nebo k adresáři). Jde-li o cestu z kořenového adresáře, nazývá se cesta absolutní cestou, jde-li o cestu z některého jiného bodu adresářové struktury, pak tuto cestu nazýváme relativní cestou. Každý operační systém pro oddělení jednotlivých položek v posloupnosti cesty používá jiné (vyhrazené) oddělovače (např. / nebo \). Každý souborový systém také umožňuje pojmenovávat soubory a adresáře různým, pevně daným způsobem. Démon Pojmem démon označujeme v této souvislosti systémový program, běžící v uživatelském módu operačního systému. Démon nabízí systémové služby, např. tisk. Síťové souborové systémy démony často ke svému provozu využívají. Síťové souborové systémy - vlastnosti Většina návrhů souborových systémů vychází z následujících skutečností: 28.5.2012 Síťové FS 2
. Většina souborů v souborovém systému je malá, velikost 80% souborů nepřekračuje 30kB Aplikace více čtou než zapisují Častěji je využíván sekvenční přístup k souborům než přímý Velké množství souborů je dočasných, velmi brzy po vytvoření souboru a zápisu (zápisech) do něj je soubor smazán (ukládání mezivýsledků, kompilace programů) Velké množství souborů, které nejsou dočasné jsou vytvořeny a poté používány pouze pro čtení, nikdy nejsou editovány (soubory aplikací vzniklé při instalaci) Procesy otevírají současně malé množství (jednotky) souborů naráz Doba otevření 80% souborů nepřekročí 1 sekundu Sdílení souborů procesy probíhá většinou pouze pro čtení, pro zápis výjimečně (databáze) Architektura síťového souborového systému V operačních systémech typu Linux je nad konkrétním souborovým systémem implementována vrstva virtuálního souborového systému VFS, která zajišťuje jednotné rozhraní systémových volání pro všechny souborové systémy. Pod touto vrstvou jsou jednotlivé souborové systémy (lokální, vzdálené), jako např. NTFS, NFS, EXT, ReiserFS atd. Požadavky aplikace jsou prostřednictvím OS předány klientu souborového systému, který může běžet v jádře operačního systému nebo jako démon (v uživatelském režimu). Implementace v jádře je rychlejší, ale je spojena s vyšším rizikem v případě havárie nebo při prolomení bezpečnosti, kdy je ohrožen celý operační systém. Implementace klienta SS jako démona je sice pomalejší, protože parametry, které aplikace předává démonu musí být přenášeny přes jádro, nicméně v případě havárie není zbytek systému ohrožen, pouze přestane fungovat příslušná služba. Rizikem tohoto řešení je také potenciální možnost deadlocku při swapování démona (není-li démon zaveden v operační paměti a paměť je zaplněna požadavky na zápis do SS). Komunikace klienta a serveru Klient a server spolu po síti komunikují prostřednictvím výměny zpráv. Typicky se komunikace odehrává jako odesílání požadavku z klienta na server a vrácení odpovědi ze serveru klientovi. V některých souborových systémech odesílá požadavky také server klientovi a komunikace je oboustranná. 28.5.2012 Síťové FS 3
Většina souborových systémů komunikuje pomocí mechanismu vzdáleného volání procedur RPC (Remote Procedure Call). Jde o technologii, která umožňuje spouštět z programu proceduru, která se nachází na jiném místě, než je volající program. Typicky lze tuto technologii použít například pro provádění výpočtů na jiném počítači v počítačové síti. Protokol vzdáleného volání musí mimo jiné zabezpečit převod přenášených dat do univerzálního formátu, který je nezávislý na architektuře komunikujících stran. Protokol vzdáleného volání procedur je implementován pomocí rozhraní, které je umístěno na obou komunikujících stranách. Toto rozhraní přebírá síťovou komunikaci, překládá data do univerzálního formátu, na cílové straně pak volá příslušnou proceduru a vrací návratovou hodnotu. Přenosové protokoly Protokoly použité při síťové komunikaci závisí na konkrétním souborovém systému. Nejčastěji jsou používané protokoly rodiny TCP/IP, IPX, NetBIOS. Některé protokoly (IPX) nejsou routovatelné, proto souborové systémy komunikující prostřednictvím těchto protokolů nejsou použitelné mimo lokální sítě (LAN). V rámci rodiny protokolů TCP/IP používají souborové systémy pro přenos dat jak transportní protokol TCP, tak protokol UDP. Provozování souborových systémů v rozlehlých sítích předpokládá, že souborový systém bude komunikovat na předem daných portech, aby byl zajištěn průchod dat přes firewall. Vlastnosti souborového systému Mezi nejdůležitější vlastnosti síťových souborových systémů lze zařadit dostupnost, přenositelnost, multiplatformitu a stabilitu. Důležitým bodem je také dostupnost dokumentace, která je důležitá pro vývoj otevřených aplikací a dále stav vývoje protokolu, související s kompatibilitou jednotlivých verzí. Z hlediska uživatele je důležité, zda lze souborový systém připojit do adresářové struktury lokálního souborového systému, implicitně totiž právo připojit souborový systém mívá pouze superuživatel. Toto připojení do adresářové struktury dále může být realizováno buď do libovolného místa stanoveného připojovatelem nebo do vždy stejného, předem stanoveného adresáře. Pokud je uživateli umožněno připojit souborový systém do libovolného místa adresářové struktury, pak má aplikace běžící na klientovi transparentní přístup ke vzdáleným souborům a z hlediska aplikace není rozpoznatelné, které soubory leží na vzdáleném systému a které na lokálním. Transparentně lze připojit například systém NFS. 28.5.2012 Síťové FS 4
Před připojením vzdáleného souborového systému se musí uživatel do systému přihlásit. Přitom tato autentizace po síti by měla být zabezpečená, aby nebylo možné přihlašovací údaje odposlouchat. Některé sytémy tento bezpečný systém autentizace nesplňují. Většina síťových souborových systémů dovoluje na serveru nastavit přístup pro anonymní uživatele a souborový systém pak může fungovat jako anonymní FTP server. Pro zabezpečení přenášených dat je nutné šifrování zpráv, toto šifrování přináší zátěž procesoru, zejména na straně serveru. Síťový souborový systém by měl být také schopen vyrovnat se s případnými výpadky sítě, po pádu se dostat do konzistentního stavu a synchronizovat stav databází klienta a serveru. Z tohoto hlediska je výborným řešením bezestavový protokol NFS, ve kterém jsou veškeré stavové informace uchovávány pouze na straně klienta, nikoli serveru, tedy po pádu serveru není potřeba provádět složité zotavení. Network File System (NFS) NFS byl vyvinut firmou Sun Microsystems v 80. letech minulého století jako standard pro výměnu dat mezi různými platformami. Tento síťový souborový systém slouží pro přístup k souborům na vzdáleném počítači, NFS server nabízí adresáře vzdáleným klientům, kteří si je mohou připojit do své adresářové struktury, přístup k těmto souborům je pro klienta zcela transparentní. NFS je založen na architektuře klient-server. NFS umožňuje připojení adresáře na serveru k adresáři místního počítače už při startu. To znamená, že lze vést účty na jediném počítači a všichni uživatelé si připojují adresář home. Pak při nainstalovaném systému NIS lze se přihlásit k libovolnému systému a pracovat jen s jednou sadou souborů. Protokol NIS (Network Information Service) slouží k distribuci konfiguračních dat v počítačové síti (např. uživatelé, doménová jména aj.). Všechny, zejména velké, programové balíky mohou být nainstalovány a spravovány jen na jednom místě. NFS podporují prakticky všechny systému UNIXového typu, i další operační systémy, např. MS Windows, MS-DOS. Sdílení a práce se soubory probíhá pomocí jednoduchých operací jako je otevři soubor, zavři soubor, zapiš a čti respektive synchronizačních operací (např. uzamknutí souboru) Ve většině unixových implementací je systém NFS jak pro klienta, tak i pro server implementován pomocí démonů, kteří jsou spouštěni z uživatelského prostoru při 28.5.2012 Síťové FS 5
zavádění systému. Na hostiteli serveru je spuštěn démon systému NFS (nfsd) a na hostiteli klienta je spuštěn blokový V/V démon (Block I/O daemon - biod). Implementace systému NFS v Linuxu se liší tím, že klient je pevně integrován do virtuálního systému souborů (VFS) v jádru operačního systému a nepotřebuje dodatečné řízení pomocí démona biod. Na straně klienta lze NFS jednoduše připojit příkazem mount. Tento příkaz se pokusí spojit pomocí RPC procedur s démonem mountd, který běží na hostiteli. Server zkontroluje, zda má žadatel o připojení autentizaci pro připojení, pokud ano, vrátí mu souborový klíč. Při přístupu k souboru pomocí NFS spustí jádro systému volání RPC procedury. RPC přes démona nfsd získá souborový klíč, název souboru, ke kterému se bude přistupovat, id uživatele a skupiny, do které uživatel patří (přístupová práva k souboru). NFS využívá na transportní vrstvě protokol UDP, od verze 3 lze alternativně pro přenos dat využít i protokol TCP. Komunikace probíhá na portu 2049. NFS nekomunikuje s transportní vrstvou přímo, ale přes vrstvu relační a prezentační, na kterých jsou využívány protokoly RPC a XDR. RPC odpovídá relační vrstvě OSI a umožňuje předávat vstupní parametry nebo spouštět program. Používá jak UDP tak i TCP a podporuje šifrování. XDR (Externí datové reprezentace) odpovídá prezentační vrstvě OSI. Před odesláním provádí konverzi dat do formátu XDR. Bezestavovost protokolu NFS NFS byl navržen jako bezestavový protokol, tato vlastnost vychází z původně využívaného protokolu UDP pro přenos dat, tento protokol je také bezestavový. Výhodou bezestavové komunikace je, že si klient ani server nemusí pamatovat nic z předchozí výměny dat, což značně zjednodušuje implementaci a zejména zotavení po pádu. Reakci na přerušení spojení a zotavení po pádu spojení má na starosti klient, který si musí vyžádat nové přenesení dat, server pouze odpovídá na požadavky klienta. Pro zajištění bezestavovosti musí být všechny prováděné operace idempotentní (server se po provedení jakéhokoli požadavku klienta nachází v přesně stejném stavu, jako před příchodem tohoto požadavku). Nemůže-li operace z principu být idempotentní (např. smazání souboru), simuluje se idempotentnost této operace krátkodobou pamětí předchozích operací, která zajistí, že v případě dvojího doručení žádosti o smazání téhož souboru bude druhý požadavek ignorován bez vygenerování chybového hlášení. NFS není závislé na operačním systému, definuje rozhraní pro komunikaci a operace, které by měl klient i server podporovat. 28.5.2012 Síťové FS 6
Konfigurace NFS Pro kontrolu správné funkce NFS slouží příkaz showmount -e, který vypíše seznam exportovaných souborových systémů (parametr e vypíše exportované adresáře). Konfigurace klienta Pro správnou činnost klienta je zapotřebí jádro podporující NFS. Toto lze zjistit příkazem cat /proc/filesystems Pokud v souboru filesystems není uvedeno NFS, lze jej v superuživatelském režimu přidat příkazem modprobe nfs Kontrolu, zda jádro podporuje NFS lze provést např. tak, že vytvoříme adresář na lokálním stroji příkazem mkdir /tmp/test, poté zkusíme tento adresář připojit k témuž počítači příkazem mount alfa:/etc /tmp/test. Obdobně lze připojit celý svazek mount -t nfs nfs_volume local_dir options, kde nfs_volume má tvar vzdálený_počítač:vzdálený_adresář. Pro připojení svazku lze parametr -t vynechat (svazek končí znakem :), neboť se jedná o jedinečný zápis. V options se udává velikost datagramů pro zápis i pro čtení -o rsize=2048,wsize=2048 Konfigurace serveru Pokud chce klient poskytovat NFS služby musí mít spuštěné démony nfsd a mountd. Protože se jedná o programy založené na balíku RPC, nejsou spravovány super serverem inetd, ale jsou spouštěny při procesu zavádění systému a samy se registrují pomocí mapovače portů. Proto je nutné je spouštět až po spuštění démona rpc.portmap (portmap). Pro konfiguraci NFS serveru je zapotřebí editovat následující soubory: nastavit vzdálený přístup v souboru /etc/export, tento soubor definuje, jaké adresář budou sdíleny s jakými uživateli sítě a za jakých podmínek (kdo má právo číst, zapisovat atd.) v souboru /etc/hosts.allow uvést seznam strojů, které mohou přistupovat k místním službám. Syntaxe zápisu seznamu je služba: adresa, kde adresa může být počítač nebo síť 28.5.2012 Síťové FS 7
naopak v souboru /etc/hosts.denny uvedeme seznam strojů, kterým přístup chceme zakázat Pro načtení konfigurace uvedené v souboru /etc/export použijeme v režimu superuživatele příkaz mujstroj:/# exportfs -ra Kontrolu spuštění NFS lze provést příkazem rpcinfo p, ve výpisu příkazu by se měly vyskytovat řádky nfs a mountd. Automatické připojování Pokud chceme síťové adresáře připojit při startu, musíme se nejpve ujistit, zda je v souboru /etc/rc.conf démon netfs. Do souboru /etc/fstab pak přidáme řádek server:/soubory /mnt/soubory nfs defaults 0 0 V některých případech není hospodárné připojovat všechny svazky systému NFS. Toto připojení při startu serveru je zbytečně dlouhé, nebo příliš objemově obsáhlé. Proto se používá démon automatického připojení amd (automounter demon). Tento démon umí transparentně připojovat a po jisté době nepoužívání odpojovat sdílené adresáře. Konfigurace tohoto démonu je v souboru /etc/amd.conf Shrnutí: Síťovým souborovým systémem rozumíme jednak strukturu dat na disku serveru, jednak komunikační rozhraní mezi serverem a klientem. Soubory v souborovém systému jsou ukládány do větších logických celků zvaných adresáře, tyto logické celky pak tvoří hierarchickou strukturu. Každý soubor i adresář je dosažitelný z kořenového adresáře jednoznačně danou posloupností adresářů, zvanou cesta. Pojmem démon rozumíme systémový program, běžící v uživatelském módu operačního systému. Síťové souborové systémy démony ke svému provozu často používají. V operačních systémech typu Linux je nak souborovým systémem implementováno ještě jednotné rozhraní systémových volání pro všechny souborové systémy, toto rozhraní se nazývá virtuální souborový systém VFS. Klient a server spolu po síti komunikují prostřednictvím výměny zpráv, typicky klient odesílá požadavky, na které server odpovídá. Většina souborových systémů využívá pro komunikaci dále mechanismus vzdáleného volání procedur RPC. Tento mechanismus umožňuje spouštět programové procedury a funkce nacházející se na jiném místě než volající program. Protokol vzdáleného volání musí pro správnou funkci zabezpečit převod dat do univerzálního formátu, nezávislého na architektuře 28.5.2012 Síťové FS 8
komunikujících stran. Pro přenos dat jsou nejčastěji využívány protokoly TCP a UDP. Síťové souborové systémy musí zajistit možnost připojit vzdálený souborový systém do adresářové struktury lokálního souborového systému. Toto připojení může být realizováno buď do pevně stanoveného adresáře nebo do libovolného adresáře zadaného uživatelem. Druhý způsob nabízí pro aplikace zcela transparentní přístup, z hlediska aplikace není rozpoznatelné, které soubory leží na vzdáleném systému a které na lokálním. Network File System NFS je jeden z nejrozšířenějších síťových souborových systémů. Umožňuje připojení adresáře serveru k lokálnímu adresáři již při startu systému, lze tedy vést účty na jediné počítači, programové balíky mohou být také nainstalovány a spravovány na jednom místě. NFS podporují operační systémy UNIX, Linux, MS Windows, MS DOS a další. NFS je většinou pro klienta i server implementován pomocí démonů spouštěných při zavádění systému. Na serveru je spuštěn démon nfsd, na klientovi blokový démon biod, případně je klient integrován do VFS a nepotřebuje řízení pomocí démona biod. NFS na straně klienta lze připojit příkazem mount. Tento příkaz se spojí pomocí RPC s démonem mountd, běžícím na hostiteli a po proběhnutí autorizace vrátí souborový klíč, název souboru a přístupová práva k souboru. NFS je bezestavový protokol, kdy si klient ani server nemusí pamatovat nic z předchozí výměny dat a server se po provedení požadavku nachází ve stejném stavu jako před příchodem tohoto požadavku. NFS je nezávislé na použitém operačním systému, definuje jednotné rozhraní pro komunikaci a základní množinu operací, které by měl klient i server podporovat. Pro kontrolu správné funkce NFS slouží příkaz showmount, který vypíše seznam připojených adresářů. NFS server musí mít spuštěné démony rpc.portmap, nfsd a mountd. Pro konfiguraci NFS serveru musíme nastavit vzdálený přístup v souboru /etc/export, ve kterém definujeme, jaké adresáře budou sdíleny, komu a s jakými přístupovými právy. Dále je potřeba uvést seznam strojů, kterým chceme povolit přístup k lokálním službám v souboru /etc/hosts.allow a seznam strojů, kterým chceme přístup zakázat v souboru /etc/hosts.denny. Pokud chceme síťové adresáře připojit již při startu systému, editujeme soubor /etc/fstab, kam přidáme řádek server:/soubory/mnt/soubory nfs defaults 0 0. Můžeme také použít démona automatického připojení amd, který umí transparentně připojovat a po jisté době nepoužívání odpojovat sdílené adresáře. Kontrolní otázky: 1. Jaké způsoby komunikace mezi počítači znáte? 2. Vysvětlete pojem souborový systém. 28.5.2012 Síťové FS 9
3. Jak se liší síťový souborový systém od lokálního souborového systému? 4. Vysvětlete pojem hierarchická struktura adresářů. 5. Co jsou to speciální soubory? 6. Jak se liší absolutní cesta od relativní? 7. Co rozumíme pojmem démon? 8. Z jakých vlastností souborů vychází návrh většiny souborových systémů? 9. Co je to virtuální souborový systém VFS? 10. Jak může být implementová klient souborového systému? 11. Jak probíhá komunikace klienta a serveru? 12. Co je to vzdálené volání procedur RPC? 13. Jaké přenosové protokoly souborové systémy při své komunikaci nejčastěji používají? 14. Jakým způsobem může být připojen vzdálený souborový systém k lokálnímu? 15. Co musí být zajištěno před připojením síťového souborového systému? 16. Jak se souborový systém vyrovnává s případnými výpadky sítě? 17. Stručně popište NFS. 18. Jaký démon je u NFS spuštěn na klientovi a jaký na straně serveru? 19. Jak lze klienta NFS připojit? 20. Vysvětlete pojem bezestavový protokol. 21. Jaké operace jsou idempotentní a která operace z principu idempotentní být nemůže? 22. Popište stručně konfiguraci klienta NFS. 23. Popiště stručně konfiguraci serveru NFS. 24. Jak lze zajistit automatické připojování síťového adresáře již při start? Zdroje informací: Kulhavý Petr:Komparativní analýza síťových souborových systémů, Diplomová práce MFF UK, [18.4.2003], on-line, dostupné z: http://artax.karlin.mff.cuni.cz/~brain/diplomka.pdf/, [cit. 05/2012] Síťový souborový systém NFS, on-line, dostupné z: http://www.nuc.elf.stuba.sk/lit/ldp/03/030-11.htm, [cit. 05/2012] Košťál Lubor: NFS, studijní materiál pro studenty SŠITSP Brno, Purkyňova 97, [cit. 05/2012] 28.5.2012 Síťové FS 10