ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE FAKULTA STAVEBNÍ BAKALÁŘSKÁ PRÁCE

ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE FAKULTA STAVEBNÍ BAKALÁŘSKÁ PRÁCE PRAHA 2012 Pavel RYS

ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE FAKULTA STAVEBNÍ OBOR GEODÉZIE A KARTOGRAFIE BAKALÁŘSKÁ PRÁCE ETAPOVÉ MĚŘENÍ NIVELAČNÍ VZTAŽNÉ SÍTĚ PRAŽSKÉHO HRADU Vedoucí práce: Ing. Tomáš KUBÍN, Ph.D. Katedra speciální geodézie červen 2012 Pavel RYS

ZDE VLOŽIT LIST ZADÁNÍ Z důvodu správného číslování stránek

ABSTRAKT Tato bakalářská práce se zabývá lokální výškovou sítí na Pražském hradě. V textu je popsána metodologie a přesnostní charakteristiky použitých výškových měření; podstatná část práce je dále zaměřena na vyrovnání výškové sítě metodou nejmenších čtverců a statistické testování svislých posunů. Výsledkem této práce je zpracování poslední etapy nivelačních měření na Pražském hradě (etapy podzim 2011) a její zhodnocení v návaznosti na výsledky etap předešlých. KLÍČOVÁ SLOVA etapové měření, metoda nejmenších čtverců, posuny, Pražský hrad, přesná nivelace, vyrovnání, výšková síť ABSTRACT This bachelor s thesis deals with the Prague Castle levelling network. There is the methodology of height difference measurements and their accuracy characteristics described in the text. A significant part of work is focused on the least squares adjustment and statistical analysis of vertical displacements. As a result, the epoch measurement carried out in autumn 2011 has been processed and put into context of previous epochs. KEYWORDS epoch measurement, the method of least squares, vertical displacements of geodetic points, Prague Castle, precise levelling, adjustment, local levelling network

PROHLÁŠENÍ Prohlašuji, že jsem bakalářskou práci na téma Etapové měření nivelační vztažné sítě Pražského hradu vypracoval samostatně. Použitou literaturu a podkladové materiály uvádím v seznamu zdrojů. V Praze dne................................................. (podpis autora)

PODĚKOVÁNÍ Mé velké díky směřují panu Ing. Tomáši Kubínovi, Ph.D. za konzultace, které mi v průběhu tvorby této práce poskytl. Ondřeji Boháčovi a Martinu Tröstlovi děkuji za pomoc při měření.

Obsah Úvod 8 1 Vztažná síť 9 1.1 Konstrukce a význam geotechnických vrtů............... 9 1.2 Realizace vztažných bodů........................ 10 1.3 Geologické poměry............................ 11 2 Měření na Pražském hradě 12 2.1 Popis metody geometrické nivelace ze středu.............. 12 2.2 Popis metody TUVR........................... 13 2.3 Zkouška vodorovnosti záměrné přímky................. 17 2.4 Použité přístroje a pomůcky....................... 18 2.4.1 Přístroje a pomůcky pro nivelační měření............ 18 2.4.2 Přístroje a pomůcky pro TUVR................. 19 2.5 Provedená měření............................. 20 2.5.1 Nivelační měření dne 26.10.2011................. 20 2.5.2 Nivelační měření dne 1.11.2011................. 20 2.5.3 Trigonometrické měření dne 31.10.2011............. 21 3 Zpracování měřených dat 22 3.1 Zpracování nivelačních měření...................... 22 3.1.1 Apriorní přesnost nivelovaných převýšení............ 22 3.1.2 Rozbor přesnosti po měření................... 23 3.2 Zpracování trigonometrického měření.................. 24 3.2.1 Apriorní přesnost TUVR..................... 24 3.3 Vyrovnání sítě............................... 26 3.3.1 Metoda nejmenších čtverců................... 26 3.3.2 Vyrovnání zprostředkujících měření............... 27 3.3.3 Charakteristiky přesnosti..................... 29 3.3.4 Aplikace MNČ na vyrovnání výškové sítě............ 29

3.3.5 Vyrovnání v programu Gama.................. 31 3.3.6 Shrnutí výsledků vyrovnání................... 32 3.4 Zhodnocení výsledků........................... 33 3.4.1 Test aposteriorní jednotkové směrodatné odchylky....... 33 3.4.2 Testování uzávěrů v nivelačních polygonech.......... 34 4 Analýza vertikálních posunů 37 4.1 Testování rozdílů měřených převýšení.................. 37 4.2 Testování posunů bodů.......................... 38 Závěr 40 Použité zdroje 43 Seznam příloh 47 A Přehled metod výškových měření 48 B Dávkový XML soubor 49 C Testování rozdílů měřených převýšení 50 C.1 Tabulky s výsledky testování....................... 50 C.2 Grafické vizualizování rozdílů převýšení................. 56 D Testování posunů bodů 57 D.1 Tabulky s výsledky testování....................... 57 D.2 Grafické vizualizování posunů bodů................... 63

ÚVOD Úvod V rámci několika grantových projektů, výzkumných záměrů i zakázek Správy Pražského hradu zajišťuje Katedra speciální geodézie spolu s Katedrou geotechniky FSv ČVUT v Praze dlouhodobý pravidelný monitoring objektů v areálu Pražského hradu. Sledování posunů a vývoje prostorových deformací v čase je možné provádět na několika úrovních podrobnosti a přesnosti. Zatímco geodetická měření poskytují údaje o přetváření pouze na povrchu území, přesnými geotechnickými metodami lze získat informace o chování základových konstrukcí a geologického podloží staveb. V rámci projektu podpořeného Grantovou agenturou České republiky (grantový projekt č. 103/07/1522 Stabilita historických památek) byla na Pražském hradě vybudována lokální prostorová síť. Hlavními body sítě jsou hloubkové geotechnické vrty, jež byly do té doby sledovány samostatně v rámci velice přesných geotechnických měření (inklinometrie a mikrometrie). Propojení geotechnických vrtů do jednotného souřadnicového a výškového systému umožňuje sledovat případné vzájemné změny prostorové polohy zhlaví jednotlivých vrtů. Obě složky vztažné sítě (polohová a výšková) se zaměřují a zpracovávají odděleně. Předmětem a cílem této bakalářské práce je etapové zaměření a zpracování části vztažné výškové sítě. V úvodních kapitolách se tak zabývám popisem použitých metod výškových měření, parametry konkrétního měřického vybavení použitého pro zaměření zpracovávané etapy a stručně uvádím i průběh jednotlivých měření. Ve třetí kapitole se dále věnuji zpracování naměřených dat a určení přesnostních charakteristik výsledků. Stěžejním tématem kapitoly je vyrovnání výškové sítě metodou nejmenších čtverců a zhodnocení výsledků vyrovnání. V závěrečné části práce provádím analýzu svislých posunů. Statistickému testování podrobuji rozdíly měřených převýšení a dále rozdíly vyrovnaných výšek bodů. 8

1. VZTAŽNÁ SÍŤ 1 Vztažná síť Hlavními body lokální prostorové sítě Pražského hradu jsou hloubkové geotechnické vrty zbudované v blízkosti významných nebo ohrožených objektů. Hradní komplex obsahuje celkem 7 vrtů a jeden hloubkově stabilizovaný bod v zahradě Na Opyši. Přehled těchto bodů uvádí tabulka 1.1. Tab. 1.1: Geotechnické vrty označení vrtu číslo bodu poloha typ MPD01 1001 Vikářská ulice vrt MPD02 1002 Matheyho pilíř vrt MPD03 1003 Ludvíkovo křídlo vrt MPD04 1004 bazilika sv. Jiří - nádvoří vrt MPD04A 1004a bazilika sv. Jiří - věž vrt MPD05 1005 Královský letohrádek vrt VB011 1011 Hradčanské náměstí vrt VB012 1012 zahrada Na Opyši hloubková stab. 1.1 Konstrukce a význam geotechnických vrtů Geotechnické vrty umoňují vysoce přesně měřit prostorové deformace základů a podloží staveb. Vrty jsou většinou vedeny vertikálně (případně mírně šikmo) a dosahují značných hloubek od 6 m (vrt VB011 na Hradčanském náměstí) až po 20 m (vrt MPD02 u Matheyho pilíře). Měření se provádí uvnitř speciálních plastových pažnic průměru 75 mm, jimiž jsou vrty vystrojeny. Základová konstrukce stavby a podloží jsou spojeny s měřícími pažnicemi jílocementovou injektáží. Prostorové deformace zemního tělesa či betonové hráze se tak přenášejí na pružnou pažnici a relativní přetvoření jsou měřena na kovových bajonetových zarážkách po 1 m délky vystrojené linie. Zhlaví měřicí výstroje je opatřeno uzamykatelným uzávěrem a svrchní část se obetonovává. 9

1. VZTAŽNÁ SÍŤ Příčné deformace měřících značek (vůči patě vrtu) se měří inklinometrickou sondou; deformace ve směru pažnice se určují klouzavým mikrometrem. Dále se užívá kombinovaná sonda TRIVEC (kombinace mikrometrické sondy a dvojice inklinometrických čidel), která současně určuje 3 vektory posunů dva posuny v příčném směru a posun ve směru pažnice. Princip geotechnických měření je podrobněji vysvětlen např. v [1]. Prováděná geotechnická měření mohou odhalit místa koncentrovaných deformací jako např. poruchové zóny, degradované horniny v základové spáře nebo vrstvy stlačitelných zemin. Dlouhodobé sledování časového vývoje deformací historických objektů zároveň umožňuje rozlišit cyklické přetváření (např. vlivem teploty) od přetváření vykazujícího rozvojový trend. 1.2 Realizace vztažných bodů Vybudování vztažné sítě bylo od počátku prováděno se záměrem propojit geotechnické a geodetické metody sledování. Při přenosu svislého a vodorovných posunů na geodetický vztažný bod ve zhlaví vrtu je nutné zachovat vysokou přesnost. Aby mohl být charakteristický bod pažnice vystrojeného vrtu opakovaně realizován pro geodetická měření, byl na FSv vyvinut speciální přípravek, viz obr. 1.1. nivelační značka se zápichem pro optickou centraci středící posuvný kužel uzávěr pažnice kulová plocha dosedající do kuželové měřicí značky měřicí značka klouzavého mikrometru jílocementová injektáž vrtu kombinovaná pažnice Obr. 1.1: Realizace vztažného bodu ve zhlaví vrtu 10

1. VZTAŽNÁ SÍŤ Ten se vsune do pažnice a jeho poloha se přesně definuje dosednutím do první měřicí značky vrtu a dostředěním pomocí posuvného kuželu. Na vystředěném trnu je kulová plocha sloužící jako nivelační značka a zápich v ní rovněž slouží k centraci geodetických přístrojů a pomůcek. Při nivelacích se kontrolně zaměřuje i ocelový trn, který slouží k umístění zámečku plastového uzávěru zhlaví. 1.3 Geologické poměry Tento odstavec je citací textu z díla [2]. Geologické poměry území Pražského hradu nejsou ve své podstatě složité, ale antropogenní činností spojenou se stavebními úpravami hradčanského návrší se během posledních staletí značně zkomplikovaly. Skalní podloží areálu je tvořeno ordovickými horninami spodního paleozoika. Jedná se o mohutný, silně provrásněný a tektonicky porušený komplex letenského souvrství, ve kterém se střídají polohy prachovitých a drobových břidlic s vrstvami pískovců a křemenců. Jsou to pevné, deskovitě vrstevnaté stejnorodé horniny s nápadně nerovnými až hrbolatými vrstevními plochami. Směr sklonu těchto vrstev je v prostoru naší lokality průměrně 50 k jihu až jihovýchodu. Celé souvrství vytváří morfologicky nápadný, ostře ohraničený ostroh V Z směru, který byl v kvartéru vymodelován erozivní činností řeky Vltavy a potoka Brusnice. Od středověku byl také intenzivně přetvářen lidskou činností při stálém rozšiřování hradních objektů, kdy byly vrcholové partie objektu zarovnávány a odtěženou horninou byla rozšiřována plošina hradčanského návrší. Skalní podklad vystupuje k povrchu (nebo do hloubky 2 m) pouze v prostoru I. a II. hradního nádvoří. Pokryvné útvary jsou tvořeny převážně materiálem navážek získaných při civilizačních úpravách návrší, které ve sledovaném území dosahují mocnosti 5 10 m. V charakteru jsou tyto navážky hlínami a písčitými hlínami s úlomky břidlic, místy i pískovců. 11

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ 2 Měření na Pražském hradě Etapová nivelační měření prováděná ke zjišťování stability vztažné sítě a určování svislých posunů jsou prováděna dvěma typy přístrojů klasickým optickým nivelačním přístrojem a moderním digitálním nivelačním přístrojem. Propojení nivelačních pořadů vedených severními zahradami s pořady jižního areálu je zajištěno měřeným převýšením mezi body 552 a 553. Toto převýšení je určeno trigonometricky z důvodu vysoké obtížnosti nivelace přes Jelení příkop a je jediným převýšením lokální výškové sítě na Pražském hradě určeným touto metodou. Přehled metod výškových měření je znázorněn v příloze A. Pro účel této bakalářské práce jsem se zúčastnil měření prováděných digitálním nivelačním přístrojem a také jsem asistoval při zmíněném trigonometrickém měření výškového rozdílu mezi body 552 a 553. Měření nivelačních pořadů prováděná klasickým optickomechanickým přístrojem zajišťuje doc. Ing. Jaromír Procházka, CSc., jemuž jsem s částí práce pomáhal jako figurant. V této kapitole se dále zabývám popisem použitých metod, parametry konkrétního měřického vybavení a stručně uvádím i průběh jednotlivých měření. 2.1 Popis metody geometrické nivelace ze středu Geometrická nivelace ze středu je nejpřesnější, nejužívanější a zároveň nejefektivnější nivelační metodou. Její princip je patrný z obr. 2.1. z A p B ΔH AB H A s s H B A B Obr. 2.1: Geometrická nivelace ze středu 12

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ Přibližně uprostřed spojnice dvou blízkých bodů A a B se připraví k měření nivelační přístroj. Na nivelační lati postavené na bodě A, resp. B odečteme záměru»vzad«, resp.»vpřed«. Postavení nivelačního přístroje a dvojice latí tvoří nivelační sestavu. Převýšení v této nivelační sestavě vypočteme jako rozdíl záměr vzad (z A ) a vpřed (p B ). ΔH AB = H B H A = z A p B (2.1) Délka nivelační sestavy je však omezena vzdáleností bodů, mezi nimiž výškový rozdíl určujeme (dále jejich převýšením či výskytem terénních překážek) a proto je zpravidla nutné zvolit několik přestavových bodů. Vzniklou posloupnost nivelačních sestav označujeme jako nivelační oddíl. Převýšení nivelačního oddílu o n sestavách potom určíme podle vztahu 2.2. n n ΔH AB = (z 1 p 1 ) + (z 2 p 2 ) + + (z n p n ) = z i p i (2.2) i=1 i=1 Krátké nivelační oddíly (mezi stabilizovanými nivelačními značkami) jsou v běžné praxi označovány jako nivelační pořady. Předností geometrické nivelace ze středu je vyloučení vlivu zakřivení Země (chyby ze zakřivení horizontu) a vlivu hlavní přístrojové chyby nevodorovnosti záměrné přímky. Za určitých předpokladů 1 metoda eliminuje i chybu ze svislé složky refrakce. Podrobněji je o technologii nivelačních měření pojednáno např. v [3]. 2.2 Popis metody TUVR Se stále dokonalejším přístrojovým vybavením a úplnějšími znalostmi o fyzikálních vlastnostech Země a zemské atmosféry je metoda trigonometrického určování výškových rozdílů (dále jen TUVR) velice efektivní a plnohodnotnou metodou výškových měření. Zprostředkujícími veličinami jsou měřený zenitový úhel a šikmá délka. V případě TUVR na Pražském hradě byly tyto veličiny měřeny oboustranně, v pěti skupinách. 1 Velikost chyby ze svislé složky refrakce závisí především na vertikálním teplotním gradientu (změně teploty s výškou nad terénem). Chyba se eliminuje měřickou metodou, je-li vertikální teplotní gradient konstantní, nebo je-li terén přibližně vodorovný. 13

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ Při výpočtu převýšení je obecně nutno uvažovat vliv refrakce a vliv zakřivení Země. U relativně krátké a nepříliš skloněné záměry, probíhající vzhledem k terénnímu reliéfu symetricky a zvláště v okolí koncových bodů dostatečně vysoko, lze očekávat přibližně stejné teplotní a tlakové poměry a tím i srovnatelnou hustotu a index lomu prostředí. Při rozboru vlivu refrakce proto uvažujeme model s konstantním refrakčním koeficientem pro záměru, kde základním předpokladem je přibližně stejný vliv refrakce na obou koncích oboustranně a současně měřené záměry. Průmět prostorové refrakční křivky do svislé roviny lze potom aproximovat plochým kružnicovým obloukem a určujeme tedy pouze vertikální složku refrakčního úhlu. t j t i φ ij /2 *z ji z ji φ ij /2 *z ij ρ j γ P j P i z ij α ρ i D ij i D ij β P j i h ij φ ij P i 0 D ij 0 P j 0 R R φ ij Obr. 2.2: TUVR 14

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ V obr. 2.2 je použita tato symbolika: P i, P j... koncové body měřené šikmé délky P 0 i, P 0 j... průměty P i, P j do nulového horizontu P i j... průmět bodu P j do skutečného horizontu bodu P i R... střední poloměr Země h ij... trigonometricky určený výškový rozdíl mezi body P i, P j t i, t j... tížnice D ij... měřená šikmá délka D i ij D 0 ij... vodorovná délka v horizontu bodu P i... průmět D i ij do nulového horizontu φ ij = D0 ij R... geocentrický úhel (úhel sbíhavosti tížnic) * z ij, * z ji... současně měřené zenitové úhly ρ i, ρ j z ij, z ji... refrakční úhly... zenitové úhly opravené o vliv refrakce Z obr. 2.2 lze odvodit vliv refrakce na oboustranně měřené zenitové úhly v okamžiku měření i obecně platný vztah pro výpočet trigonometricky určeného převýšení. V trojúhelníku P i P j S platí: 200 gon ( * z ij + ρ i ) + 200 gon ( * z ji + ρ j ) + φ ij = 200 gon (2.3) ρ i + ρ j = 200 gon + φ ij ( * z ij + * z ji ) (2.4) Uvažujeme-li zmíněný refrakční model záměry (ρ i ρ j ρ ij ), vypočteme průměrný refrakční úhel ze vztahu 2.5 a průměrný refrakční koeficient ze vztahu 2.6. ρ ij = ρ i + ρ j 2 = 100 gon + φ ij * 2 z ij + * z ji 2 (2.5) k ij = 2 ρ ij φ ij (2.6) 15

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ Výškový rozdíl h ij bodů P i a P j odvodíme z obecného trojúhelníku P i P j P i j aplikací sinové věty: ( sin α sin 100 gon z ij + φ ) ij h ij = D ij sin β = D ij ( 2 sin 100 gon + φ ) (2.7) ij 2 h ij = D ij h ij = D ij ( cos z ij φ ij 2 ( cos cos φ ij 2 ) * z ij + ρ ij φ ij 2 cos φ ij 2 Dosazením rovnice 2.5 do vztahu 2.9 dále dostáváme: h ij = D ij ( cos * z ij + 100 gon + φ ij * 2 z ij + * z ji 2 h ij = D ij cos φ ij 2 ( cos 100 gon cos φ ij 2 * z ji * z ij sin h ij = D ij 2 cos φ ij 2 ) * z ji * ) z ij 2 φ ) ij 2 (2.8) (2.9) (2.10) (2.11) (2.12) Pro Dij 0 < 2 km je geocentrický úhel φ ij < 0.02 gon a tedy cos φ ij 1. V praktických aplikacích TUVR je tedy možné s dostatečnou přesností 2 psát: * z ji * z ij h ij = D ij sin 2 (2.13) Vzorec 2.13 podává zcela obecné řešení metody TUVR s vyloučením chyby ze zakřivení Země a z vlivu refrakce. Jedinou podmínkou jeho platnosti je stejný vliv refrakce na obou koncích současně měřené záměry. Podmínka současného měření sice v našem případě splněna není, ale lze ji ospravedlnit malým časovým odstupem měření»zpět«podpořeným celodenní stálostí teploty. O sledování velikosti a časových změn vlivu refrakce při geodetických měřeních je podrobně pojednáno v [4]; užití dalších refrakčních modelů uvádí např. [5]. 16

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ 2.3 Zkouška vodorovnosti záměrné přímky U libelových nivelačních přístrojů je hlavní osovou podmínkou rovnoběžnost záměrné přímky s osou nivelační libely. Jistou analogií této podmínky je u kompenzátorových přístrojů požadavek na dokonalou funkci kompenzátoru. Ten má zajistit, aby vodorovná přímka procházela přesně středem ryskového kříže. Při vyšších požadavcích na přesnost nivelačních prací je nutné vodorovnost záměrné přímky ověřit přímo v terénu bezprostředně před vlastním měřením. Zkoušku nivelačního přístroje je možné provést několika sobě podobnými postupy; při měření na Pražském hradě byla zpravidla používána Förstnerova metoda. Princip zkoušky nivelačního přístroje Förstnerovou metodou Zavedeme následující označení: h B h C... správná hodnota převýšení měřeného ze stanoviska B (hodnota nezatížená chybou způsobenou vlivem nevodorovnosti záměrné přímky)... správná hodnota převýšení měřeného ze stanoviska C a B, d B a C, d C... čtení na latích ze stanoviska B... čtení na latích ze stanoviska C Δ... chyba záměry ve vzdálenosti s způsobená nevodorovností záměrné přímky a C 2Δ Δ d C a B Δ 2Δ d B s s s A B C D Obr. 2.3: Förstnerova metoda 17

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ Podle obrázku 2.3 a právě zavedeného značení platí tyto vztahy: h B = a B d B + Δ, h C = a C d C Δ (2.14) Protože převýšení nepochybená vlivem nevodorovnosti záměrné přímky by se měla z obou stanovisek rovnat, můžeme psát: a B d B + Δ = a C d C Δ (2.15) Δ = (a C d C ) (a B d B ) 2 (2.16) Je-li podmínka rovnosti délek záměr porušena, lze určit početní korekci převýšení na 1 m délky podle vzorce 2.17. Znaménko korekce obecně závisí na tom, zda je délka záměry vpřed delší, resp. kratší než délka záměry vzad. Δ = Δ s (2.17) Při testu digitálního nivelačního přístroje Trimble Zeiss DiNi 12T je výsledkem zkoušky zjištěný úhel odklonu záměrné přímky. Jeho hodnota (včetně znaménka) se zadá do software přístroje a ten automaticky měřená převýšení opravuje. 2.4 Použité přístroje a pomůcky 2.4.1 Přístroje a pomůcky pro nivelační měření Oba nivelační přístroje používané k měření na Pražském hradě pocházejí z inventáře Katedry speciální geodézie. Část nivelačních měření je prováděna klasickým optickomechanickým přístrojem pro přesnou nivelaci Zeiss NI 007. Při použití dvojice invarových dvoustupnicových nivelačních latí je směrodatná jednotková kilometrová odchylka udaná výrobcem σ 0 = 0.7 mm. Druhým přístrojem je Trimble Zeiss DiNi 12T. Jedná se o digitální nivelační přístroj pro přesnou nivelaci. Měření se provádí na kódové invarové nivelační latě. Výrobcem udaná přesnost charakterizovaná směrodatnou jednotkovou kilometrovou odchylkou obousměrné nivelace je σ 0 = 0.3 mm. 18

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ Přístroje byly stavěny na těžký skládací stativ; některé nivelované oddíly totiž neumožňují použít stativ pevný (nivelace po schodech). K výškovému zaměření vztažných bodů jednotlivých geotechnických vrtů se používá speciální přípravek, který je detailně popsán v kapitole 1.2. 2.4.2 Přístroje a pomůcky pro TUVR K trigonometrickému zaměření převýšení byla použita automatizovaná totální stanice Trimble S6 HP, jejíž přesnost je charakterizována nominální přesností úhlovou 2 σ z = 0.3 mgon a přesností měření délek na hranol σ d = 1 mm + 1 ppm. Postavení přístroje a odrazného hranolu nad sledovanými body bylo realizováno na pevných ocelových ministativech s trojnožkami; centrace a horizontace byla provedena pomocí optického dostřeďovače Sokkisha s instalovanou předsádkovou čočkou umožňující zaostření na krátké vzdálenosti (odpovídající velmi nízkému postavení přístroje). Výška přístroje a cíle nad bodem byla odečtena strojírenským hloubkoměrem s udanou přesností 0.05 mm. Obr. 2.4: Trimble S6 HP 2 Nominální přesností úhlovou se podle normy ČSN ISO 17123-3 [6] rozumí směrodatná odchylka vodorovného směru, resp. zenitového úhlu měřeného v obou polohách dalekohledu. 19

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ 2.5 Provedená měření 2.5.1 Nivelační měření dne 26.10.2011 První pořad zaměřený digitálním nivelačním přístrojem pro účely této bakalářské práce byl veden jižním okrajem Královské zahrady, jež patří do komplexu Severních zahrad Pražského hradu. Před měřením byla na Prašném mostě provedena zkouška přístroje Förstnerovou metodou (viz kapitola 2.3) a zjištěný úhel odklonu záměrné přímky byl zadán do software přístroje. První nivelační oddíl vedl přímo přes Prašný most; do Královské zahrady jsme vstoupili západní branou z ulice U Prašného mostu a dále jsme pokračovali kolem Míčovny až ke Královskému letohrádku na východním okraji Královské zahrady. Během měření, kterého se zúčastnil Ing. Tomáš Kubín, Ph.D., Ondřej Boháč a Pavel Rys, bylo zataženo s trvalým deštěm a mírným větrem. Nivelace probíhala od 15.00 do 18.00 hod. Měřické vybavení zahrnovalo: nivelační přístroj Trimble Zeiss DiNi 12T, jednu invarovou kódovou nivelační lať Zeiss s opěrkami, těžký skládací stativ, těžkou litinovou nivelační podložku. 2.5.2 Nivelační měření dne 1.11.2011 Druhý nivelační pořad byl veden z Vikářské ulice přes náměstí U sv. Jiří, dále Jiřskou ulicí až do zahrady Na Opyši, kde je hloubkově stabilizován bod VB012 a kde se rovněž nachází bod 553, již zmíněný v souvislosti s TUVR. Před měřením byla opět provedena zkouška nivelačního přístroje Förstnerovou metodou. Narozdíl od měření ze dne 26.10.2011 byly tentokrát k nivelačnímu přístroji Trimble Zeiss DiNi 12T použity dvě kódové invarové latě; proto bylo nutné dbát na jejich výměnu při nivelaci»zpět«a dodržení sudého počtu sestav. Během měření, které probíhalo od 8.00 do 12.00, bylo zataženo nízkou oblačností a vál mírný vítr. Měřickou skupinu tvořili Ing. Tomáš Kubín, Ph.D., Martin Tröstl, Pavel Rys. 20

2. MĚŘENÍ NA PRAŽSKÉM HRADĚ 2.5.3 Trigonometrické měření dne 31.10.2011 Výškový rozdíl mezi body 552 a 553 byl určen trigonometrickou metodou. Měření zenitových úhlů a šikmých délek bylo nejprve provedeno na bodě 552 umístěném na severní zdi fíkovny, záměra probíhala přes Dolní Jelení příkop na bod 553 stabilizovaný v zídce přiléhající k věži Daliborka. Veličiny byly měřeny oboustranně; v pěti skupinách. Během observace panovaly poměrně příznivé atmosférické podmínky zataženo nízkou oblačností a mírný vítr. Zjištěná teplota 10.5 C a tlak 994.70 mbar byly před měřením zadány do software přístroje k automatickému zavedení fyzikálních redukcí měřených délek. Samotné měření provedl Ing. Tomáš Jiřikovský, Ph.D.; postavení přístroje a odrazného hranolu nad sledovanými body (centraci a horizontaci) měl na starost Pavel Rys. Měření proběhlo mezi 11.00 a 12.15 hod. 21

3. ZPRACOVÁNÍ MĚŘENÝCH DAT 3 Zpracování měřených dat 3.1 Zpracování nivelačních měření Registrovaná data ze zápisníku nivelačních měření byla upravena do formy přehledných tabulek. V těchto tabulkách je pro každý nivelační oddíl vypočteno měřené převýšení, délka oddílu, rozdíl z měření»tam«a»zpět«, hodnota mezního rozdílu (viz kapitola 3.1.2 Rozbor přesnosti po měření), průměrné převýšení z měření»tam«a»zpět«, apriorní přesnost převýšení v nivelačním oddílu (viz kapitola 3.1.1). Nachází-li se v nivelačním oddílu bod zaměřený bočně, bylo převýšení od počátečního bodu oddílu určeno řešením volného nivelačního pořadu. Zápisník registrovaných dat ve formátu.txt i tabulkový soubor.xls jsou na přiloženém CD. 3.1.1 Apriorní přesnost nivelovaných převýšení Apriorní přesnost je vyjádřena směrodatnou odchylkou převýšení určeného průměrem z měření»tam«a»zpět«podle vztahu: σ h = σ 0 R km, (3.1) kde σ h je směrodatná odchylka převýšení z obousměrné nivelace, σ 0 je směrodatná jednotková kilometrová odchylka obousměrné nivelace charakterizující přesnost použitého přístroje, R km je délka nivelačního oddílu v kilometrech. Nahrazením směrodatné odchylky σ 0 ve vzorci 3.1 hodnotou směrodatné odchylky jednosměrné nivelace σ 0 = σ 0 2 je případně možné určit přesnost jedenkrát nivelovaného převýšení. Nivelační oddíly jsou pro účel následného vyrovnání sdružovány do větších celků nivelačních pořadů. Tyto pořady již spojují hlavní body výškové sítě (geotechnické vrty a vybrané geodetické body). Protože jsou však převýšení v hlavních nivelačních pořadech dána součtem převýšení dílčích oddílů, které mohou být měřeny různými přístroji, je korektní určit přesnosti hlavních pořadů nikoliv přímo podle vzorce 3.1, 22

3. ZPRACOVÁNÍ MĚŘENÝCH DAT nýbrž jednoduchou aplikací zákona hromadění směrodatných odchylek. To demonstruje následující příklad. h 1002,513 = h 1002,2416 + h 2416,2 + h 2,84 + h 84,119 + h 119,102 + h 102,513 (3.2) σ h1002,513 = σh 2 1002,2416 + σh 2 2416,2 + σh 2 2,84 + σh 2 84,119 + σh 2 119,102 + σh 2 102,513 (3.3) Převýšení h 1002,513 je dáno sumou převýšení šesti dílčích oddílů, přičemž oddíl mezi body 1002 a 2416 byl měřen klasickým optickomechanických přístrojem a ostatní oddíly digitálním přístrojem. Vypočtou se tedy směrodatné odchylky převýšení v jednotlivých oddílech podle vzorce 3.1 s užitím příslušných přesností přístrojů (uvedených v kapitole 2.4.1) a přesnost převýšení v hlavním pořadu vyjádříme ze vztahu 3.3. 3.1.2 Rozbor přesnosti po měření Přesná a velmi přesná nivelace patří mezi běžné typy prací, které jsou prováděny podle zavedených technologických postupů s předepsanými podmínkami na přesnost. Neprovádějí se proto u nich standardní rozbory přesnosti po vzoru úloh inženýrské geodézie. Základním kritériem přesnosti měřeného převýšení je mezní odchylka mezi dvakrát nivelovaným převýšením. Měření prováděná klasickým optickomechanickým přístrojem jsou hodnocena mezní odchylkou pro pořady III. řádu České státní nivelační sítě (ČSNS). Tato mezní odchylka je podle [7] vyjádřena hodnotou: Δ M = 3 R km (3.4) Metodika použitá při měření digitálním nivelačním přístrojem odpovídala předepsaným postupům pro velmi přesnou nivelaci. Proto i rozdíly převýšení měřených»tam«a»zpět«byly hodnoceny přiměřeně přísněji mezní odchylkou pro II. řád ČSNS, která podle [7] činí: Δ M = 2.25 R km (3.5) Ve vzorcích 3.4 a 3.5 je Δ M mezní rozdíl dvakrát nivelovaného převýšení a R km je délka nivelačního oddílu v kilometrech. 23

3. ZPRACOVÁNÍ MĚŘENÝCH DAT 3.2 Zpracování trigonometrického měření 3.2.1 Apriorní přesnost TUVR Vzhledem ke vzájemné poloze bodů 552 a 553 nepřipadala metoda geometrické nivelace ze středu v úvahu. Body jsou oddělené hlubokou přírodní roklí Dolním Jelením příkopem. Převýšení mezi těmito body bylo proto určeno trigonometricky. Abychom mohli trigonometricky určené převýšení zahrnout do vyrovnání společně s převýšeními nivelovanými, je nutné stanovit apriorní odhad jeho přesnosti, tedy směrodatnou odchylku funkce měřených veličin. Touto funkcí je v našem případě vztah 2.13 pro výpočet převýšení h ij z oboustranně měřených zenitových úhlů * z ij, * z ji a šikmé délky D ij. * z ji * z ij h ij = D ij sin 2 Mimo chyby systematické, jež se snažíme eliminovat měřickým postupem či početní korekcí, je každé měření zatíženo nevyhnutelnými skutečnými chybami nahodilé povahy. Budou-li tyto chyby dostatečně malé, můžeme je prakticky považovat za diferenciální změny původních správných hodnot a chybu, jakou způsobí ve funkci, určíme totálním diferenciálem. Dle definice zákona hromadění skutečných chyb [8], který je aplikací totálního diferenciálu, je skutečná chyba vypočteného převýšení (obecně funkce) součtem součinů jednotlivých skutečných chyb měřených veličin a příslušných parciálních derivací. Ve vzorci 3.6 je f funkční vztah 2.13, ε hij skutečná chyba měřeného převýšení, ε Dij skutečná chyba měřené šikmé délky a ε* z ji, ε* z ij skutečné chyby měřených zenitových úhlů. ε hij = ε Dij f D ij + ε* z ji f * z ji + ε* z ij f * z ij (3.6) Po výpočtu parciálních derivací a jejich dosazením do 3.6 dostáváme: ε hij * z ji * z * ij z ji * z ij = ε Dij sin + 2 ε* z ji D ij cos 2 * z ji * z ij ε* z ij D ij cos 1 2 2 1 2 (3.7) ε hij * z ji * z ij = ε Dij sin 2 + 1 * 2 D z ji * z ij ij cos 2 (ε* z ji ε* z ij ) (3.8) 24

3. ZPRACOVÁNÍ MĚŘENÝCH DAT Jednotlivé parciální derivace ukazují poměr, jakým se jim příslušné skutečné chyby ve funkci uplatňují. Protože však velikost skutečných chyb měřených veličin není známa, přejdeme na zákon hromadění směrodatných odchylek. Jeho platnost je podmíněna tím, aby funkce měla spojité parciální derivace podle jednotlivých proměnných alespoň 2.řádu a aby skutečné chyby proměnných (měřených veličin) měly sudé rozdělení pravděpodobností a byly vzájemně nezávislé. Potom můžeme v totálním diferenciálu jednotlivé původní skutečné chyby nahradit čtverci příslušných směrodatných odchylek a příslušné koeficienty umocnit na druhou. σ 2 h ij ( * = σd 2 ij sin 2 z ji * ) z ij 2 + 1 ( * 4 D2 ij cos 2 z ji * ) z ij (σ 2* z 2 ji + σ 2* z ij ) (3.9) Pro další odvození předpokládáme, že σ* z ji σ* z ij σ z. Neopomenutelnou úvahou je také očekávaná přesnost měřených veličin daných průměrem z pěti skupin. Tato přesnost by z formálního hlediska měla být určena aplikací zákona hromadění směrodatných odchylek (σ z5 = σ z / 5), nicméně při měření moderní automatizovanou totální stanicí se zdá být reálnější předpoklad, že přesnost měřených veličin se s rostoucím počtem skupin příliš nezlepšuje. Proto pokládáme σ z5 = σ z a σ D5 = σ D. Výsledná směrodatná odchylka převýšení se tedy vypočte: ( * σ hij = σd 2 ij sin 2 z ji * ) z ij + 1 ( * 2 2 z D2 ij cos 2 ji * ) z ij σz 2 2 (3.10) Pro vyčíslení byly použity průměrné hodnoty měřených veličin z etapy podzim 2011: * z ji = 104.22355 gon, * z ij = 95.77748 gon, D ij = 96.4357 m a charakteristiky přesnosti použitého přístroje uvedené v kapitole 2.4.2. S použitím těchto hodnot dostáváme výslednou směrodatnou odchylku oboustranně měřeného převýšení σ h552,553 = 0.33 mm. Pro úplnost je nutné zmínit vliv nepřesnosti měření výšky hranolu a přístroje nad pozorovanými body. Tyto výšky byly určeny strojírenským hloubkoměrem s udanou přesností 0.05 mm. Je tedy zřejmé, že přesnost určení výšky přístroje a cíle na stanoviscích nemá prakticky žádný vliv na přesnost výsledného převýšení a jeho zahrnutí do výpočtu apriorní přesnosti převýšení by bylo bezpředmětné. Zákon hromadění skutečných chyb a směrodatných odchylek je komplexně podán např. v [8] nebo [9]. 25

3. ZPRACOVÁNÍ MĚŘENÝCH DAT 3.3 Vyrovnání sítě 3.3.1 Metoda nejmenších čtverců Metoda nejmenších čtverců (MNČ) je v matematické statistice nejrozšířenější metodou vyrovnání. Spočívá ve stanovení nejspolehlivějšího odhadu neznámých parametrů, resp. měřených veličin a jejich přesností. Položme dva základní předpoklady: 1. měření jsou zatížena pouze náhodnými chybami, jejichž výskyt se řídí normálním rozdělením; 2. měření jsou vzájemně nezávislá. Provedeme-li n měření (l 1, l 2,..., l n ) určité veličiny, jejíž skutečná (pravá) hodnota je L, můžeme skutečné chyby ε i jednotlivých měření zapsat jako: ε i = L l i (3.11) Označíme-li dále vyrovnanou hodnotu měřené veličiny ^l, platí pro opravy v i jednotlivých měření: v i = ^l l i (3.12) Vyrovnaná hodnota ^l bude statisticky nejpravděpodobnějším odhadem skutečné hodnoty L. Opravy v i mají charakter náhodných veličin, jejichž rozdělení pravděpodobnosti se řídí Gaussovým normálním rozdělením N(0, σ i ). Hustota pravděpodobnosti rozdělení N(0, σ i ) je podle [9] dána frekvenční funkcí: f(v i ) = 1 e σ i 2π 1 2 ( v i σ i ) 2 (3.13) Protože opravy jsou vzájemně nezávislé, můžeme hustotu pravděpodobnosti zapsat součinem dílčích frekvenčních funkcí: f(v 1, v 2,..., v n ) = = ( v 1 σ 1 ) 2... 1 1 e 1 2 σ 1 2π ( ) n ( 1 1 1 2π σ 1 σ n 1 2( vn e σn )2 σ n 2π ) n ( ) 2 e 1 v i 2 σ i i=1 (3.14) 26

3. ZPRACOVÁNÍ MĚŘENÝCH DAT Funkce 3.14 nabývá maxima, je-li její exponent minimální: n vi 2 i=1 σi 2 minimum (3.15) Do výrazu 3.15 zavedeme libovolnou konstantu σ 0, která výsledek kritéria nejmenších čtverců nezmění: n i=1 σ 2 0 v 2 i σ 2 i minimum (3.16) Podíl p i = σ2 0 σ 2 i nazveme vahou měření a podmínka 3.16 má potom známý tvar: n p i vi 2 = v T P v minimum, (3.17) i=1 kde v je vektor oprav a P je váhová matice. Z podmínky minimalizace čtverců oprav 3.17 se vychází při výpočtu vyrovnání MNČ. 3.3.2 Vyrovnání zprostředkujících měření Kritérium MNČ 3.17 se v geodézii nejčastěji aplikuje na vyrovnání měření zprostředkujících tedy takových měřených veličin, které lze zapsat jako funkci hledaných neznámých parametrů. Označme vektor vyrovnaných hodnot měřených veličin ^l, vektor měřených veličin l a vektor neznámých parametrů x. Vztah 3.12 pro výpočet oprav můžeme potom zapsat ve vektorovém tvaru: v = ^l(x T ) l (3.18) Pro rovnici 3.18 požadujeme splnění kritéria 3.17. Funkční vztahy vyjadřující závislost mezi měřenými veličinami a neznámými parametry mohou být obecně nelineární. K výpočtu hledaných neznámých parametrů je však potřeba mít rovnice oprav v lineárním tvaru. Linearizaci provedeme rozvojem vztahu 3.18 v Taylorovu řadu s omezením na členy prvního řádu. K tomu účelu je nutné stanovit přibližné hodnoty neznámých x 0, v nichž budou funkce Taylorovým polynomem aproximovány. Rozvoj se zanedbáním členů druhého a vyšších řádů má tvar: v = ^l(x T 0 ) l + ^l(x T ) x T dx, (3.19) x0 kde dx = x x 0 je vektor přírůstků. 27

3. ZPRACOVÁNÍ MĚŘENÝCH DAT Parciální derivace funkčních vztahů podle jednotlivých neznámých parametrů mají maticový zápis: ^l(x T ) x T ^l 1 (x T ) x 1... =..... x0 ^l n(x T ) x 1... ^l 1 (x T ) x k ^l n(x T ) x k x 0 = A (3.20) Matice A je nazývána maticí plánu a má rozměr (n k), kde n je počet měřených veličin (odpovídá počtu funkčních vztahů) a k je počet zvolených neznámých parametrů. V rovnici 3.19 se výraz: ^l(x T 0 ) l = l (3.21) nazývá vektor redukovaných měření a vektor oprav potom zapisujeme: Kritérium MNČ 3.17 splníme, bude-li platit: v = A dx + l (3.22) v T P v dx = 0 (3.23) v T P v dx = v dx T 2P v = AT 2P v = 0 (3.24) Po dosazení za v z rovnice 3.22 dostáváme systém normálních rovnic: A T P A dx + A T P l = 0 (3.25) Symetrickou matici A T P A označíme N a vektor A T P l normálních rovnic je potom vektor vyrovnaných přírůstků: označíme n. Řešením dx = N 1 n, (3.26) pomocí kterých vypočteme vyrovnané hodnoty hledaných parametrů: x = x 0 + dx (3.27) Z vyrovnaných přírůstků se dále určí opravy dle vzorce 3.22 a následně vyrovnané hodnoty měřených veličin: ^l = l + v (3.28) 28

3. ZPRACOVÁNÍ MĚŘENÝCH DAT 3.3.3 Charakteristiky přesnosti Z daného výběru n oprav vypočteme aposteriorní odhad jednotkové směrodatné odchylky podle vzorce: ^σ 0 = vt P v n k, (3.29) kde (n k) je počet stupňů volnosti (počet nadbytečných měření). Hodnota ^σ 0 je náhodná a je empirickým odhadem směrodatné odchylky měření o váze p = 1. Směrodatné odchylky vyrovnaných neznámých parametrů vypočteme: σ xi = ^σ 0 Q xii, (3.30) kde Q xii jsou prvky hlavní diagonály kovarianční matice Q x, pro kterou platí: Q x = N 1 (3.31) Směrodatné odchylky vyrovnaných měřených veličin vypočteme: σ^li = ^σ 0 Q^lii, (3.32) kde Q^lii jsou prvky hlavní diagonály kovarianční matice Q^l, pro kterou platí: Q^l = AN 1 A T (3.33) Směrodatné odchylky vyrovnaných neznámých parametrů a vyrovnaných měřených veličin je také možné vypočítat na základě apriorní jednotkové směrodatné odchylky σ 0, jež byla zavedena ve vzorci 3.16. Apriorní směrodatnou odchylku užijeme v případě, je-li její hodnota známa, nebo v situacích, kdy síť disponuje nízkým počtem stupňů volnosti (empirický odhad ^σ 0 není potom dostatečně spolehlivý). 3.3.4 Aplikace MNČ na vyrovnání výškové sítě Označme vektor nivelovaných převýšení l (vektor zprostředkujících veličin) a vektor výšek jednotlivých bodů sítě x (vektor zvolených neznámých parametrů). Protože jsou funkce ^l(x T ) v rovnici 3.18 již lineární, není potřeba volit přibližné hodnoty neznámých parametrů a rovnice oprav 3.22 potom dostává tvar: v = A x l (3.34) 29

3. ZPRACOVÁNÍ MĚŘENÝCH DAT Aplikací kritéria MNČ 3.17 na rovnici oprav 3.34 získáváme soustavu normálních rovnic: jejímž řešením je přímo vektor vyrovnaných výšek bodů: N x = n, (3.35) x = N 1 n (3.36) Zvolíme-li za neznámé parametry výšky všech bodů v síti, matice plánu A nebude mít, s ohledem na tvar funkčních vztahů, plnou hodnost. Potom i matice soustavy normálních rovnic N = A T P A bude singulární (determinant N = 0) a její inverze N 1 tedy neexistuje. Jedním ze způsobů řešení této volné sítě je fixace výšky některého z bodů na zvolené hodnotě H fix. To provedeme pomocí tzv.»pseudoměření 1 «. Pro pseudoměření (fixovanou výšku zvoleného bodu) standardně sestavíme matici plánu A fix. V našem případě půjde pouze o řádkový vektor rozměru k (k je počet neznámých parametrů), který obsahuje samé 0 a jednu 1 na pozici, na které se nachází fixovaný bod ve vektoru x. Fixované výšce z formálních důvodů přisoudíme nenulovou směrodatnou odchylku σ Hfix a váhovou maticí pseudoměření je pak pouze skalár: P fix = σ2 0 σ 2 H fix (3.37) Výsledná matice soustavy normálních rovnic, kterou lze již invertovat, má tvar: N = A T P A + A T fixp fix A fix (3.38) Analogicky sestavíme i vektor soustavy normálních rovnic: n = A T P l + A T fixp fix H fix (3.39) Vyrovnané výšky bodů sítě dostaneme řešením soustavy podle vzorce 3.36 a příslušné charakteristiky přesnosti podle kapitoly 3.3.3. 1 Pseudoměření se typicky využívá v případě singularity systému normálních rovnic. Aplikace, kdy požadujeme fixovat hodnotu některé z neznámých na předem určené hodnotě, se nazývá constraint (přinucení, nátlak). Není vhodné přisuzovat pseudoměření neúměrně vysoké váhy, v opačném případě se systém může stát numericky nestabilním. 30

3. ZPRACOVÁNÍ MĚŘENÝCH DAT 3.3.5 Vyrovnání v programu Gama K vyrovnání měření byl použit program gama-local-1.11. GNU Gama je volně distribuovaný software, který slouží k vyrovnání geodetických sítí. V současné době program plně podporuje vyrovnání sítí v lokálním kartézském systému (program gama-local); vyrovnání v geocentrické souřadné soustavě je zatím podporováno pouze částečně (program gama-g3). Na domovských stránkách projektu http://www.gnu.org/software/gama/ jsou k dispozici odkazy ke stažení programu a dokumentace. Gama zpracovává příkazy v dávkovém XML souboru, jehož struktura je detailně popsána v dokumentaci k programu [10]. Kompletní dávka použitá k vyrovnání etapy podzim 2011 je uvedena v příloze B; výstupní XML soubor s výsledky vyrovnání je uložen na přiloženém CD. Volbu vah měřených veličin je při vyrovnání výškové sítě možno provést několika způsoby, jak uvádí [11]. V našem případě jsou váhy jednotlivých převýšení h ij vypočteny podle vzorce: p hij = σ2 0 σ 2 h ij, (3.40) kde σ 0 je apriorní jednotková směrodatná odchylka a směrodatné odchylky σ hij vypočteny podle postupu popsaného v kapitole 3.1.1. Takováto volba vah je v dávkovém souboru zajištěna zadáním směrodatné odchylky převýšení v každém jednotlivém pořadu; hodnota apriorní jednotkové směrodatné odchylky byla zvolena jako σ 0 = 1 mm. Charakteristiky přesnosti plynoucí ze zavedení podmínky MNČ byly vypočteny na základě apriorní jednotkové směrodatné odchylky, viz kapitola 3.3.3. Fixním bodem byl při vyrovnání bod 1001 se zvolenou výškou H fix 1001 = 100.0000 m. jsou Výpočet vyrovnání byl kontrolně proveden i pomocí vlastního skriptu, který byl zpracován programem Octave. Postup výpočtu byl při psaní skriptového souboru shodný s postupem popsaným v kapitole 3.3.4. Váhovou maticí je diagonální matice, kde prvky hlavní diagonály (váhy) jsou vypočteny podle vzorce 3.40. Výška bodu 1001 byla opět fixována pomocí pseudoměření na hodnotě H fix 1001 = 100.0000 m se směrodatnou odchylkou σ H fix 1001 = 0.01 mm. Skriptový soubor je taktéž uložen na 31

3. ZPRACOVÁNÍ MĚŘENÝCH DAT přiloženém CD a jeho spuštěním v programu Octave je možné ověřit shodu s výsledky plynoucími z vyrovnání v programu Gama. 3.3.6 Shrnutí výsledků vyrovnání Tab. 3.1: Obecné parametry vyrovnání počet měření 13 počet parametrů 11 počet stupňů volnosti 2 apriorní jednotková směrodatná odchylka σ 0 = 1 mm aposteriorní jednotková směrodatná odchylka ^σ 0 = 1.904 mm použitá jednotková směrodatná odchylka apriorní Tab. 3.2: Vyrovnané výšky bodů a jejich směrodatné odchylky etapa podzim 2011 bod H i [m] σ Hi [mm] 501 83.10750 0.33 513 88.40612 0.33 552 84.34122 0.32 553 77.95374 0.19 1001 100.00000 1002 100.67012 0.34 1003 84.86884 0.36 1004 98.18216 0.12 1004a 98.45728 0.16 1005 81.93670 0.34 1011 100.18832 0.30 1012 79.78258 0.18 32

3. ZPRACOVÁNÍ MĚŘENÝCH DAT 3.4 Zhodnocení výsledků Z tabulky 3.1 je patrné, že aposteriorní odhad jednotkové směrodatné odchylky ^σ 0 je téměř dvojnásobkem jednotkové směrodatné odchylky apriorní σ 0. Je však potřeba mít na paměti, že hodnota ^σ 0 je náhodná a je závislá na náhodném střetnutí hodnot skutečných chyb měření ε 1,..., ε n. Provedeme proto testování hypotézy o varianci σ0 2 v základním souboru s normálním rozdělením. 3.4.1 Test aposteriorní jednotkové směrodatné odchylky Testujeme hypotézu, že náhodný výběr s výběrovou směrodatnou odchylkou ^σ 0 je proveden ze základního souboru se směrodatnou odchylkou σ 0. Nulovou hypotézou H 0, resp. alternativní hypotézou H 1 je: H 0 : σ základ. = σ 0 (3.41) H 1 : σ základ. σ 0 (3.42) Testovacím kritériem je veličina: χ 2 = τ σ 2 0 ^σ 2 0, (3.43) která má χ 2 rozdělení pravděpodobnosti s τ = (n k) stupni volnosti. Hodnota ^σ 0 2 je vyčíslena podle vzorce 3.29; hodnota σ 0 odpovídá volbě apriorní jednotkové směrodatné odchylky. Pro hladinu významnosti α = 5 % vyhledáme tabelované kritické hodnoty χ 2 rozdělení. Nulová hypotéza nebude zamítnuta v případě, platí-li nerovnost: χ 2 1 α/2,τ τ < ^σ 0 σ 0 < χ 2 α/2,τ τ (3.44) Po dosazení dostáváme: 0.159 < 1.904 < 1.921 Hodnota testovacího kritéria spadá do intervalu spolehlivosti (0.159, 1.921); testovanou hypotézu H 0 proto nezamítáme na hladině významnosti α = 5 %. 33

3. ZPRACOVÁNÍ MĚŘENÝCH DAT 3.4.2 Testování uzávěrů v nivelačních polygonech Síť nyní podrobíme bližšímu zkoumání a otestujeme výškové uzávěry v uzavřených nivelačních polygonech. Testovanou nulovou hypotézou H 0, resp. alternativní hypotézou H 1 je: H 0 : E(U) = 0 (3.45) H 1 : E(U) 0, (3.46) kde E(U) = E( h ij ) je střední hodnota uzávěru U. Testovacím kritériem je veličina t, pro kterou platí: kde σ U t = U σ U, (3.47) je směrodatná odchylka uzávěru. Rozdělení pravděpodobnosti testovacího kritéria 3.47 se řídí normovaným normálním rozdělením N(0,1). U σ U N(0, 1) (3.48) Mezní hodnota u p se určí pro danou pravděpodobnost P = 95 % z integrálu: u p P = 2 0 1 2π e 1 2 t2 dt, (3.49) či jako tabelovaný kvantil spojité náhodné veličiny t s rozdělením N(0, 1). Není-li splněna podmínka t u p, nulovou hypotézu H 0 zamítneme. Přívětivějším způsobem testování jednorozměrné veličiny, který se v geodézii zpravidla používá a na který se výše popsaný test převádí, je testování pomocí mezní hodnoty. Testovacím kritériem je pak přímo vypočtený uzávěr a kritická (mezní) hodnota vychází ze základního vztahu mezi směrodatnou odchylkou a mezní odchylkou, který podle [12] je: kde Δ UM Δ UM = u p σ U, (3.50) je mezní hodnota uzávěru a kvantil u p je zde nazýván koeficientem spolehlivosti. Pro oboustranný test z podmínky P ( U < u p σ U ) = 1 α vyplývá, že uzávěr by měl splňovat nerovnost: (σ U u α/2 ) < U < (σ U u 1 α/2 ) (3.51) 34

3. ZPRACOVÁNÍ MĚŘENÝCH DAT Pro zvolenou hladinu významnosti α = 5 % jsou kvantily u α/2 = 1.960, resp. u 1 α/2 = 1.960. Směrodatné odchylky uzávěrů σ U vypočteme ze známých směrodatných odchylek převýšení σ hij v jednotlivých pořadech aplikací zákona hromadění směrodatných odchylek: σ 2 U = σ 2 h ij (3.52) Tab. 3.3: Uzávěry nivelačních polygonů a jejich směrodatné odchylky SEVERNÍ OKRUH pořad h ij [m] σ hij [mm] R ij [km] 1011 1002 0.48204 0.29 0.17600 1002 513 12.26426 0.27 0.50918 513 552 4.06496 0.12 0.15513 552 553 6.38789 0.33 0.09622 553 1012 1.82883 0.06 0.04338 1012 1001 20.21740 0.19 0.41619 1001 1011 0.18819 0.42 0.35610 U = 0.65 mm σ U = 0.71 mm R = 1.752 km JIŽNÍ OKRUH 1011 1001 0.18819 0.42 0.35610 1001 1012 20.21740 0.19 0.41619 1012 1003 5.08571 0.43 0.37490 1003 1011 15.31895 0.42 0.35990 U = 0.93 mm σ U = 0.76 mm R = 1.507 km CELÝ OKRUH 1011 1002 0.48204 0.29 0.17600 1002 513 12.26426 0.27 0.50918 513 552 4.06496 0.12 0.15513 552 553 6.38789 0.33 0.09622 553 1012 1.82883 0.06 0.04338 1012 1003 5.08571 0.43 0.37490 1003 1011 15.31895 0.42 0.35990 U = 1.58 mm σ U = 0.80 mm R = 1.715 km 35

3. ZPRACOVÁNÍ MĚŘENÝCH DAT Tab. 3.4: Uzávěry nivelačních polygonů a jejich mezní hodnoty OKRUH u p = 1.960 SEVERNÍ JIŽNÍ CELÝ σ U 0.71 mm 0.76 mm 0.80 mm Δ UM 1.39 mm 1.49 mm 1.57 mm U 0.65 mm 0.93 mm 1.58 mm H 0 zamítáme NE NE ANO Pro celý okruh (tj. posloupnost pořadů 1011 1002 513 552 553 1012 1003 1011) došlo na základě provedeného statistického testu k zamítnutí nulové hypotézy E(U) = 0. Protože je však hodnota testovaného uzávěru velice blízká mezní hodnotě, provedeme ještě testování pomocí p-hodnoty. P-hodnota kvantifikuje pravděpodobnost realizace hodnoty testovacího kritéria, pokud nulová hypotéza H 0 platí. Výsledek testovacího kritéria v případě celého okruhu činí: t = U σ U = 1.58 mm 0.80 mm = 1.975 (3.53) P-hodnotu vypočteme ze vztahu: p = 2 min{φ(t); 1 Φ(t)}, (3.54) kde Φ je distribuční funkce normovaného normálního rozdělení N(0,1), pro kterou platí: Φ(t) = t 1 2π e 1 2 t2 dt (3.55) Příkazem normcdf(-1.58/0.80) v programu Octave zjistíme hodnotu distribuční funkce a výsledná p-hodnota je po dosazení do 3.54 rovna p = 0.0483. Význam tohoto výsledku je takový, že pokud by test byl proveden na hladině významnosti o 0.2 % nižší, testovanou nulovou hypotézu bychom ještě nezamítli. Ačkoliv se tedy podle konvenčních kritérií jedná o statisticky signifikantní vzorek, výsledek testu by již při nepatrném snížení hladiny významnosti byl jiný a zamítnutí tedy nepovažujeme za jisté. 36

4. ANALÝZA VERTIKÁLNÍCH POSUNŮ 4 Analýza vertikálních posunů Svislým posunem bodu se rozumí prokázaný rozdíl ve výšce bodu mezi základní etapou a některou z dalších etap měření. Základní etapa byla zaměřena na jaře roku 2008; doposud bylo zaměřeno (včetně základní etapy) 7 etap. Testovány byly rozdíly měřených převýšení a dále rozdíly vyrovnaných výšek bodů sítě. 4.1 Testování rozdílů měřených převýšení Označíme-li převýšení mezi body j a k zaměřené v základní etapě jako h (0) jk a převýšení zaměřené v i-té etapě jako h (i) jk, vypočteme rozdíl těchto převýšení podle vzorce: δ (i) jk = h(i) jk h(0) jk (4.1) Nulovou hypotézou H 0, resp. alternativní hypotézou H 1 je: H 0 : H 1 : E(δ (i) jk ) = 0 (4.2) E(δ (i) jk ) 0, (4.3) kde E(δ (i) jk ) je střední hodnota rozdílu převýšení. Testovací kritérium t má tvar: t = δ(i) jk σ δ (i) jk, (4.4) kde σ (i) δ je směrodatná odchylka rozdílu převýšení. Za předpokladu, že převýšení jk h jk bylo ve všech etapách určeno se stejnou přesností σ hjk, můžeme psát: σ δjk = 2 σ hjk (4.5) Rozdělení pravděpodobnosti testovacího kritéria 4.4 se řídí normovaným normálním rozdělením. δ (i) jk σ δjk N(0, 1) (4.6) 95%-ní kvantil u p veličiny t vypočteme opět z integrálu 3.49 nebo ho určíme z tabulek [9]. Obdobně jako v případě testování uzávěrů nivelačních polygonů provedeme test 37

4. ANALÝZA VERTIKÁLNÍCH POSUNŮ pomocí mezní hodnoty, resp. mezního rozdílu. Testovacím kritériem je potom přímo vypočtený rozdíl δ (i) jk, pro který, s odkazem na 3.50, požadujeme splnění nerovnosti: kde součin σ δjk u 1 α/2 = Δ δjk (σ δjk u α/2 ) < δ (i) jk < (σ δ jk u 1 α/2 ), (4.7) je mezní rozdíl převýšení. Pro zvolenou hladinu významnosti α = 5 % jsou kvantily u α/2 = 1.960, resp. u 1 α/2 = 1.960. Výpočet a následné grafické vizualizování rozdílů převýšení vztažených k základní etapě (jaro 2008) bylo provedeno pomocí programu GNU Octave a jeho funkce plot. Skriptové m-soubory, jejichž spuštěním program Octave grafy generuje, jsou uloženy na přiloženém CD. Přehled všech grafů je v příloze C.2. Tabulky s číselnými výsledky testování rozdílů převýšení jsou v příloze C.1. 4.2 Testování posunů bodů K zachycení kontinuálního vývoje posunů bodů bylo zapotřebí získat vyrovnané výšky bodů ze všech doposud zaměřených etap. K tomu účelu byly sestaveny dávkové XML soubory pro všechny starší etapy a tyto byly následně znovu vyrovnány programem Gama. Struktura dávkových XML souborů je totožná s dávkou v příloze B, přičemž měřeným převýšením byly přisouzeny stejné směrodatné odchylky, které byly použity pro vyrovnání etapy podzim 2011. Tak je možno učinit za předpokladu, že jednotlivé nivelační pořady byly ve všech etapách měřeny stále stejným způsobem, tzn. stejnou metodou, stejným přístrojem a stejnou nivelační cestou. Dávkové XML soubory pro všech 7 etap jsou uloženy na přiloženém CD (včetně výstupních XML souborů s výsledky vyrovnání). Princip testování svislých posunů bodů je analogií postupu testování rozdílů měřených převýšení. Označíme-li vyrovnanou výšku bodu j ze základní etapy jako H (0) j a vyrovnanou výšku téhož bodu z i-té etapy jako H (i) j, vypočteme rozdíl výšek: δh (i) j = H (i) j H (0) j (4.8) 38