Simulace, modelování a statistické zpracování geodetických měření. Simulation, modelling and statistical processing of geodetic measurements

Podobné dokumenty
SYLABUS PŘEDNÁŠKY 10 Z GEODÉZIE 1

EasyNET verze Komplexní softwarové zpracování měření inženýrské geodézie. Softwarová dokumentace

ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE

Vliv realizace, vliv přesnosti centrace a určení výšky přístroje a cíle na přesnost určovaných veličin

Úvod do inženýrské geodézie

Cvičení software Groma základní seznámení

K přesnosti volného stanoviska

ZAMĚŘENÍ PŘETVOŘENÍ ŽELEZNIČNÍHO MOSTU V KLÁŠTERCI NAD OHŘÍ

SYLABUS PŘEDNÁŠKY 11 Z GEODÉZIE 1 (Hodnocení přesnosti měření a vytyčování) 1. ročník bakalářského studia studijní program G studijní obor G

1 Tyto materiály byly vytvořeny za pomoci grantu FRVŠ číslo 1145/2004.

Přehled vhodných metod georeferencování starých map

Zákony hromadění chyb.

Dobývání znalostí. Doc. RNDr. Iveta Mrázová, CSc. Katedra teoretické informatiky Matematicko-fyzikální fakulta Univerzity Karlovy v Praze

EasyNET Analyser verze 1.1.2

VYUŽITÍ PRAVDĚPODOBNOSTNÍ METODY MONTE CARLO V SOUDNÍM INŽENÝRSTVÍ

Chyby měření 210DPSM

Posouzení přesnosti měření

SPŠ STAVEBNÍ České Budějovice GEODÉZIE STA

Úvod do problematiky měření

PrecisPlanner 3D v2.2

Statistika, Biostatistika pro kombinované studium Letní semestr 2011/2012. Tutoriál č. 4: Exploratorní analýza. Jan Kracík

SYLABUS 9. PŘEDNÁŠKY Z INŢENÝRSKÉ GEODÉZIE

OBSAH 1 Úvod Fyzikální charakteristiky Zem Referen ní plochy a soustavy... 21

OBECNÉ METODY VYROVNÁNÍ

ČSGK Katastr nemovitostí aktuálně. novela vyhl. č. 31/1995 Sb., bod 10 přílohy Technické požadavky měření a výpočty bodů určovaných terestricky

Inženýrská statistika pak představuje soubor postupů a aplikací teoretických principů v oblasti inženýrské činnosti.

GIS Geografické informační systémy

PROBLEMATICKÉ ASPEKTY GEOREFERENCOVÁNÍ MAP

, Brno Hanuš Vavrčík Základy statistiky ve vědě

obor bakalářského studijního programu Metrologie Prof. Ing. Jiří Pospíšil, CSc.

Program Denoiser v1.4 ( )

SPŠS Č.Budějovice Obor Geodézie a Katastr nemovitostí 4.ročník RELATIVNÍ A ABSOLUTNÍ ORIENTACE AAT ANALYTICKÁ AEROTRIANGULACE

GIS Geografické informační systémy

6.16. Geodetické výpočty - GEV

Předloha č. 2 podrobné měření

Regresní analýza 1. Regresní analýza

Teorie měření a regulace

Vytyčení polohy bodu polární metodou

2D transformací. červen Odvození transformačního klíče vybraných 2D transformací Metody vyrovnání... 2

Vyjadřování přesnosti v metrologii

GIS ANALÝZA VLIVU DÁLNIČNÍ SÍTĚ NA OKOLNÍ KRAJINU. Veronika Berková 1

EXPERIMENTÁLNÍ MECHANIKA 2 Přednáška 5 - Chyby a nejistoty měření. Jan Krystek

PODROBNÉ MĚŘENÍ POLOHOPISNÉ

Analytické znaky laboratorní metody Interní kontrola kvality Externí kontrola kvality

3. Souřadnicové výpočty

GEODETICKÉ VÝPOČTY I.

VYUŽITÍ SIMULACE PŘI MODELOVÁNÍ PROVOZU NA SVÁŽNÉM PAHRBKU SEŘAĎOVACÍ STANICE

T- MaR. Ústav technologie, mechanizace a řízení staveb. Teorie měření a regulace. Podmínky názvy. 1.c-pod. ZS 2015/ Ing. Václav Rada, CSc.

Národní informační středisko pro podporu kvality

Úvodem Dříve les než stromy 3 Operace s maticemi

Průmyslová střední škola Letohrad Komenského 472, Letohrad

ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE

Regulační diagramy (RD)

JEDNOVÝBĚROVÉ TESTY. Komentované řešení pomocí programu Statistica

STATISTICKÉ PROGRAMY

obhajoba diplomové práce

Aplikovaná numerická matematika

KATEDRA MATERIÁLOVÉHO INŽENÝRSTVÍ A CHEMIE. Stanovení základních materiálových parametrů

Podrobné polohové bodové pole (1)

Zpracování náhodného výběru. Ing. Michal Dorda, Ph.D.

Seminář z geoinformatiky

MATEMATICKO STATISTICKÉ PARAMETRY ANALYTICKÝCH VÝSLEDKŮ

Jednofaktorová analýza rozptylu

Téma 1: Spolehlivost a bezpečnost stavebních nosných konstrukcí

ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE

Země a mapa. CZ.1.07/1.5.00/ III/2 - Inovace a zkvalitnění výuky prostřednictvím ICT. Geodézie ve stavebnictví.

Zaměření vybraných typů nerovností vozovek metodou laserového skenování

Znalostní systém nad ontologií ve formátu Topic Maps

Téma 4: Stratifikované a pokročilé simulační metody

Úloha č. 1 : TROJÚHELNÍK. Určení prostorových posunů stavebního objektu

Přednášející: Ing. M. Čábelka Katedra aplikované geoinformatiky a kartografie PřF UK v Praze

Úprava naměřených stavů

PARAMETRICKÁ STUDIE VÝPOČTU KOMBINACE JEDNOKOMPONENTNÍCH ÚČINKŮ ZATÍŽENÍ

Průmyslová střední škola Letohrad Komenského 472, Letohrad

4. ROZMÍSTĚNÍ OBYVATELSTVA

Simulace. Simulace dat. Parametry

1. Statistická analýza dat Jak vznikají informace Rozložení dat

Algoritmizace diskrétních. Ing. Michal Dorda, Ph.D.

Statistická analýza dat podzemních vod. Statistical analysis of ground water data. Vladimír Sosna 1

Zápočtová práce STATISTIKA I

PŘEHLED ZÁKLADNÍCH ZKUŠEBNÍCH OTÁZEK ke zkoušce odborné způsobilosti k udělení úředního oprávnění pro ověřování výsledků zeměměřických činností

Téma 2: Pravděpodobnostní vyjádření náhodných veličin

Výzkumný ústav geodetický, topografický a kartografický, v.v.i

4. URČOVÁNÍ VÝŠEK BODŮ TECHNICKOU NIVELACÍ PRINCIP GEOMETRICKÉ NIVELACE ZE STŘEDU. Vysvětlení symbolů a jejich významu:

Popisná statistika kvantitativní veličiny

Autorizovaný software DRUM LK 3D SOFTWARE PRO VYHODNOCENÍ MĚŘENÍ ODCHYLEK HÁZIVOSTI BUBNOVÝCH ROTAČNÍCH SOUČÁSTÍ

Přehled základních metod georeferencování starých map

ČESKÝ INSTITUT PRO AKREDITACI, o.p.s. Dokumenty ILAC. ILAC Mezinárodní spolupráce v akreditaci laboratoří

7. Rozdělení pravděpodobnosti ve statistice

Převzato z Help Kokeše. Vyrovnání sítě

přesnost (reprodukovatelnost) správnost (skutečná hodnota)? Skutečná hodnota použití různých metod

Hodnocení kvality logistických procesů

Pravděpodobnost v závislosti na proměnné x je zde modelován pomocí logistického modelu. exp x. x x x. log 1

Téma 10: Spolehlivost a bezpečnost stavebních nosných konstrukcí

T a c h y m e t r i e

přesné jako tabulky, ale rychle a lépe mohou poskytnou názornou představu o důležitých tendencích a souvislostech.

ÚHLŮ METODY MĚŘENÍ ÚHLŮ A SMĚRŮ CHYBY PŘI MĚŘENÍ ÚHLŮ A SMĚRŮ

ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE

Statistické vyhodnocení zkoušek betonového kompozitu

E(X) = np D(X) = np(1 p) 1 2p np(1 p) (n + 1)p 1 ˆx (n + 1)p. A 3 (X) =

Transkript:

ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE Fakulta stavební Katedra speciální geodézie Simulace, modelování a statistické zpracování geodetických měření Simulation, modelling and statistical processing of geodetic measurements DISERTAČNÍ PRÁCE Ing. Pavel Třasák Doktorský studijní program: Geodézie a kartografie Studijní obor: Geodézie a kartografie Školitel: Doc. Ing. Martin Štroner, Ph.D. Praha, 2013

ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE Fakulta stavební Thákurova 7, 166 29 Praha 6 PROHLÁŠENÍ Jméno doktoranda: Pavel Třasák Název disertační práce: Simulace, modelování a statistické zpracování geodetických měření Prohlašuji, že jsem uvedenou doktorskou disertační práci vypracoval/a samostatně pod vedením školitele doc. Ing. Martina Štronera, Ph.D.. Použitou literaturu a další materiály uvádím v seznamu použité literatury. Disertační práce vznikla v souvislosti s řešením projektu: SGS10/153/OHK1/2T/11 "Komplexní softwarové zpracování měření inženýrské geodézie". v Praze dne 14.1.2013 podpis

Abstrakt Předkládaná disertační práce svým tématem spadá do oblasti inženýrské geodézie, a to konkrétně do oblasti zpracování geodetických měření. Práce popisuje navrhované komplexní řešení zpracování a vyhodnocení velmi přesných klasických terestrických geodetických měření. Tato měření jsou tvořena objemnými soubory opakovaně měřených hodnot vodorovných směrů, zenitových úhlů a šikmých délek, která jsou pořizována při zaměření lokálních prostorových geodetických sítí menších rozměrů. Jedná se o přesná geodetická data, u kterých je předpokládáno vysoké množství nadbytečných měření. Celkové řešení v sobě zahrnuje množství dílčích zpracovatelských úkonů a metod, které jsou v této práci podrobně teoreticky popsány, zhodnoceny a začleněny do funkčního autorského softwarového nástroje, který je přílohou disertační práce. Představovaný zpracovatelský postup se zaobírá automatizovaným vyhledáváním, kontrolou a analýzou geodetických měření získávaných z načítaných surových měřických zápisníků. Načítaná data jsou patřičně upravována a vyhodnocována ve formě vyrovnaní volné prostorové geodetické sítě při splnění podmínky metody nejmenších čtverců. Zvláštní pozornost je věnována automatické detekci a testování měřických skupin, automatické detekci prostorové geodetické sítě, její apriorní analýze a jejímu vyrovnání při vyloučení odlehlých hodnot a hrubých chyb měření. V práci je popisován návrh detekční metody založené na hodnocení oprav hodnot geodetických veličin určených z robustního vyrovnání. Robustní vyrovnání geodetických měření je realizováno pomocí robustního odhadu vycházejícího z metody maximální věrohodnosti, tzv. M-odhadu. Součástí návrhu je i rozsáhlé testování stability a účinnosti navrhované metody vycházející z principu umělého počítačového modelování geodetických měření. 3

Abstract Topic of this thesis belongs to the field of engineering surveying, specifically to the field of processing of geodetic measurements. The thesis describes the proposed complex solution for processing and assessment of highly accurate classic terrestrial geodetic measurements. These measurements are composed of large-volume data sets of repeatedly measured slope distances, horizontal directions and zenith angles and made by terrestrial surveying of local spatial geodetic network of smaller size. These data sets are characterized by large number of redundant measurements. The overall complex solution includes a number of partial processing operations and methods, which are theoretically described, assessed and used in the development of original software application. The software application is attached to the thesis. Presented processing procedure deals with automatic detection, checking and analysis of geodetic measurements, which are loaded form input raw measurement data files. Loaded measurements are processed as measurements of free geodetic network by least squares adjustment. Particular attention is paid to the automatic detection and testing of sets of measurements, automatic detection of spatial geodetic network, its analysis and adjustment with the exclusion of outliers and gross errors of measurement. The thesis describes proposed outliers detection method, which is based on the evaluation of measurement residuals computed by robust adjustment. The robust adjustment is realized by robust maximum likelihood estimators (called M-estimators). The thesis includes an extensive testing of stability and efficiency of proposed detection method. This testing is based on the synthetic computer modelling of terrestrial geodetic measurements. 4

Předmluva Na tomto místě bych rád poděkoval svému školiteli doc. Ing. Martinu Štronerovi, Ph.D. za cenné rady, připomínky a pomoc věnovanou při tvorbě této disertační práce a za obětavý a přátelský přístup při spolupráci na množství výzkumných činností vykonaných v rámci mého doktorského studia. Dále bych rád poděkoval doc. Ing. Vladimíru Vorlovi, CSc. za pomoc a podporu, kterou mi poskytl nejen jako vedoucí diplomové práce, ale i jako školitel v prvním roce doktorského studia. V neposlední řadě patří můj dík i ostatním kolegům z katedry speciální geodézie, s nimiž jsem se mohl podílet na řešení výzkumných projektů a jejichž spolupráce přispěla ke zkvalitnění výsledků a závěrů disertační práce. 5

Obsah Abstrakt... 3 Abstract... 4 Předmluva... 5 Obsah... 6 0 Úvod... 11 1 Cíle disertační práce... 12 2 Přehled současného stavu řešené problematiky... 13 2.1 Podoba geodetických měření... 13 2.2 Předzpracování geodetických měření... 16 2.2.1 Vstupní úprava geodetických měření... 17 2.2.1.1 Základní kontrola měřených hodnot... 18 2.2.1.2 Detekce měřických skupin... 18 2.2.1.3 Kontrola měřických skupin... 19 2.2.1.4 Zpracování měřických skupin... 19 2.2.2 Detekce geodetické sítě... 20 2.2.3 Apriorní analýza geodetických měření... 21 2.2.3.1 Apriorní analýza geodetických veličin vycházející z opakovaného měření... 23 2.2.3.2 Apriorní analýza geodetických veličin ze stanovených podmínek měření... 24 2.3 Potlačení vlivu odlehlých hodnot měření... 27 2.3.1 Robustní metody vyrovnání... 28 2.3.1.1 Třídy odhadů robustní statistiky... 29 2.3.1.2 M-odhady... 29 2.3.1.2.1 Huberův M-odhad... 32 2.3.1.3 Odhady pomocí L p normy... 34 2.3.1.3.1 Generalizované M-odhady... 35 2.3.1.4 Přehled používaných M-odhadů... 36 2.3.1.4.1 Huberův odhad... 36 2.3.1.4.2 Modifikovaný Huberův odhad... 36 2.3.1.4.3 Hampelův odhad... 37 2.3.1.4.4 Talwarův odhad... 38 2.3.1.4.5 Odhad Cauchyho rozdělení... 38 2.3.1.4.6 Tukeyho biweight odhad... 39 2.3.1.4.7 Gemanův McClureův odhad... 39 2.3.1.4.8 Andrewsův odhad... 40 2.3.1.4.9 Welschův odhad... 40 6

2.3.1.4.10 Fair odhad... 41 2.3.1.4.11 L p norma... 41 2.3.1.4.12 L 1 norma... 42 2.3.1.4.13 Hybridní L 1 /L 2 norma... 42 2.3.1.4.14 Dánská metoda... 43 2.3.1.5 LMS-odhad... 43 2.3.1.6 Metoda RANSAC... 44 2.3.1.7 Metoda redukovaných (useknutých) pozorování... 44 2.3.1.7.1 Metoda useknutí (Trimming)... 44 2.3.1.7.2 Metoda Windsorizování (Windsorizing)... 45 2.3.1.8 Aplikace robustních metod v geodézii... 45 2.3.2 Metody detekce odlehlých hodnot měření... 46 2.3.2.1 Rozbor přesnosti při měření... 46 2.3.2.1.1 Grubbsův test odlehlých hodnot... 46 2.3.2.1.2 Mckay Nairův test odlehlých hodnot... 47 2.3.2.2 Posouzení oprav měření daných z vyrovnání... 48 2.3.2.2.1 Metoda data-snooping (Baarda s data-snooping)... 48 2.3.2.2.2 τ test odlehlých hodnot... 50 2.3.2.2.3 t test odlehlých hodnot... 51 2.3.2.3 Hodnocení aposteriorní jednotkové směrodatné odchylky... 52 2.4 Zpracování geodetických měření... 53 3 Řešená problematika... 55 3.1 Předzpracování geodetických měření... 55 3.1.1 Vstupní úprava geodetických měření... 55 3.1.1.1 Základní kontrola měřených hodnot... 55 3.1.1.2 Detekce měřických skupin... 56 3.1.1.3 Kontrola měřických skupin... 59 3.1.1.3.1 Mezipolohová kontrola hodnot geodetických veličin... 60 3.1.1.3.2 Meziskupinová kontrola hodnot geodetických veličin... 61 3.1.1.4 Zpracování měřických skupin... 63 3.1.1.4.1 Úprava měřené šikmé délky... 64 3.1.1.4.2 Úprava měřeného vodorovného směru... 66 3.1.1.4.3 Úprava měřeného zenitového úhlu... 66 3.1.2 Detekce geodetické sítě... 67 3.1.3 Apriorní analýza geodetických měření... 70 3.1.3.1 Apriorní analýza geodetických veličin vycházející z opakovaného měření... 71 7

3.1.3.2 Apriorní analýza geodetických veličin ze stanovených podmínek měření... 73 3.1.3.2.1 Hodnocení přesnosti měření protisměrně měřených šikmých délek... 76 3.1.3.2.2 Hodnocení přesnosti měření protisměrně měřených zenitových úhlů... 78 3.1.3.2.3 Hodnocení přesnosti vodorovných směrů měřených ve směrovém trojúhelníku... 79 3.1.4 Závěr... 83 3.2 Potlačení vlivu odlehlých hodnot měření... 84 3.2.1 Návrh metody detekce odlehlých hodnot měření... 84 3.2.1.1 Metoda jednokrokové detekce odlehlých hodnot... 85 3.2.1.2 Metoda dvoukrokové detekce odlehlých hodnot... 85 3.2.2 Realizace metody detekce odlehlých hodnot měření... 86 3.2.2.1 Odhad měření geodetické sítě metodou nejmenších čtverců... 86 3.2.2.2 Robustní M-odhad měření geodetické sítě... 93 3.2.2.3 Vyhledání odlehlých hodnot měřených veličin... 94 3.2.3 Testování metody detekce odlehlých hodnot měření... 97 3.2.3.1 Model geodetických měření... 97 3.2.3.1.1 Geodetická síť... 97 3.2.3.1.2 Geodetické měření... 98 3.2.3.2 Kontaminace experimentálních dat odlehlými hodnotami... 99 3.2.3.2.1 Test při konstantní míře odlehlosti měřených dat... 100 3.2.3.2.2 Test při proměnlivé míře odlehlosti měřených dat... 100 3.2.3.3 Robustní M-odhady použité při experimentu... 101 3.2.3.4 Vyhodnocení experimentů... 101 3.2.3.4.1 Test při konstantní míře odlehlosti měřených dat... 101 3.2.3.4.2 Test při proměnlivé míře odlehlosti měřených dat... 107 3.2.3.5 Závěr... 116 3.2.4 Závěr... 117 3.3 Zpracování geodetických měření... 117 3.3.1 Vyrovnání geodetických měření... 118 3.3.2 Transformace geodetické sítě... 121 3.3.2.1 Transformace na bod a směrník... 123 3.3.2.2 Transformace na identické body... 124 3.3.3 Závěr... 126 4 Závěr... 127 Seznam použité literatury... 129 Dodatek... 134 I Testování generátorů pro simulaci geodetického měření... 134 8

I.1 Normální (Laplace Gaussovo) rozdělení pravděpodobnosti... 135 I.2 Generování hodnot rovnoměrného rozdělení... 136 I.3 Generování hodnot normálního rozdělení... 137 I.3.1 Box - Mullerova transformace... 137 I.3.2 Inverzní transformace... 137 I.3.3 Metoda odmítání... 138 I.3.4 Metoda založená na centrální limitní větě... 139 I.4 Generování souborů hodnot s normálním rozdělením... 139 I.5 Testování souborů hodnot s normálním rozdělením... 140 I.5.1 Jednovýběrový t test... 140 I.5.2 Test rozptylu normálního rozdělení... 141 I.5.3 D agostinův sdružený K 2 test... 142 I.5.4 Pearsonův test dobré shody... 143 I.5.5 Kolmogorovův Smirnovův test... 145 I.6 Výsledky porovnání generátorů normálního rozdělení... 146 I.7 Vyhodnocení výsledků... 147 I.8 Závěr... 148 II Uživatelská příručka softwaru EasyNet... 149 II.1 Instalace a spuštění... 149 II.2 Ukončení programu... 150 II.3 Nastavení programu... 150 II.3.1 Jazykové nastavení... 150 II.3.2 Nastavení jednotek... 150 II.3.3 Nastavení kontroly hodnot měřených geodetických veličin... 151 II.3.4 Nastavení procesu vyrovnání měření geodetické sítě... 151 II.3.5 Nastavení procesu vyrovnání transformačního klíče... 152 II.4 Načítání a ukládání geodetických dat... 152 II.4.1 Formát měřických zápisníků... 152 II.4.2 Formát souborů souřadnic identických bodů... 153 II.4.3 Načtení měřického zápisníku... 153 II.4.4 Uložení měřického zápisníku... 153 II.4.5 Export měřického zápisníku... 153 II.4.6 Otevření EasyNet projektu... 153 II.4.7 Uložení EasyNet projektu... 153 II.5 Detekce a kontrola měřených dat... 154 II.5.1 Detekce měřických skupin... 154 9

II.5.2 Základní kontrola... 154 II.5.3 Mezipolohová a meziskupinová kontrola... 155 II.6 Správa záznamů měření... 155 II.6.1 Označení záznamů... 155 II.6.2 Vkládání nových záznamů měření... 156 II.6.3 Úprava záznamů měření... 157 II.6.4 Kopírování, vyjmutí a vkládání záznamů měření... 157 II.6.5 Posun záznamů měření... 157 II.6.6 Přesun záznamů měření... 157 II.6.7 Odstranění záznamů měření... 157 II.7 Zpracování měřických skupin... 158 II.8 Detekce geodetické sítě... 158 II.9 Apriorní analýza geodetické sítě... 158 II.10 Vyrovnání měření volné geodetické sítě... 160 II.10.1 Informace o vyrovnané geodetické síti... 160 II.10.2 Vyrovnané neznámé veličiny... 161 II.10.3 Vyrovnané měřené geodetické veličiny... 161 II.10.4 Detekce odlehlých hodnot... 162 II.11 Transformace souřadnic bodů geodetické sítě... 163 II.11.1 Identické body... 163 II.11.2 Transformace na bod a směrník... 164 II.11.3 Transformace na identické body... 165 Seznam prací autora vztahujících se disertační práci... 168 Seznam obrázků... 170 Seznam tabulek... 173 Obsah přiloženého datového nosiče... 175 10

0 Úvod Současný rapidní technologický vývoj měřící techniky přinášející vysokou přesnost geodetických přístrojů má za následek, že většina geodetických pracovníků považuje vstupní požadavek přesnosti měření za předem splněný. Jejich zpracovatelský zájem směřuje pouze k slepému zisku výsledků měření, a to bez ohledu na jejich skutečnou kvalitu. Ve srovnání s ostatními geodetickými odvětvími se obor inženýrské geodézie z hlediska nároků na požadovanou přesnost měření dosti liší. Požadavek přesnosti zaměření předmětů inženýrské geodézie mnohonásobně převyšuje přesnost požadovanou v naprosté většině případů dnes prováděných geodetických měření a při jejich zaměření není tedy možné používat běžně užívané měřické postupy. Příkladem rozdílných úloh může být v inženýrské geodézii často řešené určení rozměru a tvaru stavebních, strojírenských či jiných objektů ve srovnání s běžnou geodetikou úlohou určení polohy, rozměru a tvaru nemovitostí pro potřeby zápisu jejich vlastnických práv do katastru nemovitostí. Při zpracování geodetických měření je situace dosti podobná, neboť měřická data jsou v převážném množství případů softwarově zpracovávána pro valnou většinu geodetů všemocným automatickým vyrovnáním geodetických měření metodou nejmenších čtverců. Správné použití metody vyrovnání měření je ovšem podmíněno mnoha vstupními faktory a předpoklady a její nesprávné nasazení vede k zisku ne zcela správných výsledků, v přesné inženýrské geodézii nepřípustný. V současné době existuje mnoho počítačových programů (komerčních i volně šiřitelných) zabývajících se zpracováním geodetických měření metodou jejich vyrovnání. Tyto programy je možno s úspěchem použít ve většině případů zpracování běžných geodetických měření. Naprostá většina z nich se ovšem nespecializuje na zpracování přesných měření inženýrské geodézie a jejich použití v těchto případech může býti pro uživatele dosti zpracovatelsky náročné a bez patřičné erudice a zkušeností zpracovatele může dojít k zisku ne zcela nejlepších možných výsledků. Předkládána disertační práce se věnuje problematice zpracování velmi přesných měření inženýrské geodézie. Konkrétně se jedná o zpracování klasických terestrických geodetických měření získávaných při zaměření lokálních prostorových geodetických sítí menších rozměrů. Snahou této práce je návrh a vytvoření komplexního softwarového řešení zpracování a vyhodnocení měřických dat umožňujícího zisk kvalitních výsledků vyrovnání geodetické sítě, a to s důrazem na dosažení vysoké přesnosti vyrovnaných geodetických veličin. 11

1 Cíle disertační práce Hlavním cílem disertační práce nazvané Simulace, modelování a statistické zpracování geodetických měření je studium problematiky automatizovaného zpracování velmi přesných inženýrsko-geodetických měření se zvláštním důrazem na statistickou analýzu měření a detekci odlehlých pozorování. Veškeré závěry a dosažená řešení budou užity při návrhu a tvorbě softwarového nástroje sloužícího k vyrovnání měření přesných geodetických sítí. Jednotlivé dílčí cíle je možno formulovat následovně: 1. Porovnání generátorů pseudonáhodných čísel normálního rozdělení pravděpodobnosti z hlediska možného použití při modelování geodetických měření. 2. Studium aplikace metod kontroly a úpravy surových měřických dat umožňující jejich následné úspěšné vyrovnání. 3. Řešení možností statistické analýzy opakovaně zaměřených přesných geodetických měření. 4. Studium metod detekce odlehlých hodnot měřených geodetických veličin se zaměřením na robustní statistické metody. 5. Testování vhodnosti vybraných robustních statistických metod pro automatickou detekci odlehlých hodnot měření přesných inženýrsko-geodetických sítí (s využitím simulace geodetického měření). 6. Vývoj softwarového nástroje pro automatické zpracování (vyrovnání) měření přesných inženýrsko-geodetických sítí. 12

2 Přehled současného stavu řešené problematiky V této kapitole je uváděn současný stav problematiky automatizovaného softwarového zpracování měření geodetických sítí, a to se zaměřením na oblast přesných terestrických měření inženýrské geodézie. Zvláštní důraz je zde kladen na současné softwarové možnosti úpravy, kontroly a analýzy geodetických měření předcházející jejich vlastnímu zpracování a dále na obecné možnosti potlačení vlivu odlehlých hodnot měřených geodetických veličin. Je zde popisován přehled a podstata v geodézii málo rozšířených robustních statistických metod a dále metod detekce chybných měření. Při popisu dané problematiky bylo čerpáno z tuzemských i zahraničních odborných publikací, na které je patřičně odkazováno a jejichž seznam je přikládán k disertační práci. Z důvodu sjednocení obsahu celé kapitoly došlo v některých případech ke změně symboliky, která tedy neodpovídá symbolice uváděné v použité literatuře. 2.1 Podoba geodetických měření Předkládaná disertační práce svým tématem spadá do oblasti přesné inženýrské geodézie, a to konkrétně do oblasti zpracování velmi přených geodetických měření. Geodetickými měřeními jsou zde uvažována klasická terestrická geodetická měření získaná při zaměření prostorových inženýrsko-geodetických sítí menších a středních rozměrů. Příklad takovéto geodetické sítě je uveden na Obr. 1 (levá část). +Y 5 5 87,331 m 3 4 6 +X 3 0 3,z,d 3 3 2 2 2,z,d 5,z,d 4 5 5 6,z,d 6 6 6 2 1,z,d 1 1 2 75,976 m 1 1 Obr. 1 Ukázka zpracovávaných geodetických měření Podstata popisovaných geodetických měření vychází z technologie použitých měřících přístrojů, v tomto případě pouze totálních stanic. Zpracovávanými geodetickými veličinami jsou tedy totálními stanicemi přímo měřené veličiny: 1. vodorovný směr, 2. zenitový úhel, 13

3. šikmá délka. Tyto jsou dále doplněny o geodetické veličiny, které jsou voleny (nastavovány) v průběhu prováděného měření. Těmito jsou: 4. výška přístroje, 5. výška cíle. Přesné definice výše uváděných geodetických veličin lze nalézt v [1]. Vzhledem ke skutečnosti, že se jedná o velmi přesná inženýrsko-geodetická měření, jsou stanovena pevná pravidla, která jsou při pořizování měření (zaměřování inženýrsko-geodetických sítí) striktně dodržována. Pro geodetická měření jsou stanoveny následující předpoklady a požadavky: 1. Měření geodetických veličin v měřických skupinách Zpracovávaná geodetická měření jsou tvořena soubory (opakovaně) měřených šikmých délek, vodorovných směrů a zenitových úhlů uspořádaných do měřických skupin [2] (opakovaně) měřených na jednotlivých bodech sítě. Za měřickou skupinu je považována osnova měřených vodorovných směrů, zenitových úhlů a šikmých délek (tyto nemusí býti vždy měřeny, viz následující požadavek měření) postupně měřených na jednotlivé body sítě, a to nejprve v první a následně i ve druhé poloze dalekohledu. Měření ve dvou polohách dalekohledu je v tomto případě naprosto nezbytné, neboť vede k podstatnému zvýšení přesnosti měření, a to odstraněním vlivu působení příslušných osových chyb totální stanice (konkrétně se jedná o chybu úklonnou, kolimační a indexovou; blíže v [2]). Dalšího významu nabývá měření ve skupinách z pohledu stability procesu měření, neboť tento přístup vnáší do měření určitý řád, jehož pečlivé dodržování vede k potlačení vzniku hrubých chyb a omylu. Ukázka měřické skupiny je uvedena na Obr. 1 (pravá část). Vzhledem k podstatě měřické skupiny, která je definována jako osnova měřených hodnot geodetických veličin, není předpokládán případ samotného měření pouze na jediný cílový bod. Měřická skupina tedy obsahuje měření minimálně na dva cílové body. 2. Současné měření jednotlivých typů geodetických veličin Jak již bylo uvedeno výše, je princip měření pomocí totální stanice založen na přímém měření vodorovného směru, zenitového úhlu a šikmé délky (ostatní geodetické veličiny, jako např. vodorovná délka či převýšení, jsou určovány zprostředkovaně). Z hlediska principu měření těchto veličin je možné rozlišit dva základní případy měření (ve smyslu jednoho zacílení a odečtení měřených hodnot). V prvním případě se jedná o současné měření všech tří veličin, ve druhém pak pouze měření vodorovného směru a zenitového úhlu. Na základě tohoto předpokladu není při zde popisovaném zpracování geodetických měření uvažován případ samostatného měření délek či samostatného měření jednotlivých úhlových veličin (odděleného měření vodorovných směru a zenitových úhlů). Tato podmínka má podstatný význam při řešení úlohy detekce geodetické sítě popisované v kap. 2.2.2. 14

3. Opakované měření geodetických veličin Velmi vysoká přesnost měření běžně požadovaná v oblastech přesné inženýrské geodézie je spojena s dalším charakterem popisovaných měření. Jedná se o předpoklad opakovaného měření geodetických veličin ve více měřických skupinách. Tato podmínka má v prvé řadě podstatný význam při kontrole měřených hodnot, kdy je možné na základě prostého porovnání jednotlivých skupin odhadovat přítomnost chybných (podezřelých) hodnot uvnitř měření. Opakované měření hodnot geodetických veličin dále navyšuje množství nadbytečných měření [3] přítomných v procesu vyrovnání a zvyšuje tak objektivitu hledaného odhadu vyrovnaných měření. Za opakované měření je považováno zaměření více totožných měřických skupin na jednom stanovisku (z jednoho postavení přístroje) pořízených za stejných podmínek, tj. beze změny orientačního posunu [2]. Příslušné opakovaně měřené hodnoty geodetické veličiny (opakovaně měřené hodnoty pro každý jeden cílový bod) následně vytvářejí náhodný výběr pocházející ze základního souboru s normálním rozdělením pravděpodobnosti. Dojede-li ke změně orientačního posunu mezi jednotlivými měřickými skupinami (osnovami geodetických veličin) jsou tyto skupiny považovány za samostatná měření na stejném stanovisku. Příslušné opakovaně měřené hodnoty geodetické veličiny společně nevytvářejí náhodný výběr, neboť každá hodnota pochází ze základního souboru s jinou střední hodnotou geodetické veličiny. S těmito měřickými skupinami je následně pracováno jako s měřením z různých (oddělených) stanovisek. 4. Provázanost měření geodetické sítě Protisměrné měření hodnot geodetických veličin mezi jednotlivými body geodetické sítě zajištuje provázanost měření uvnitř sítě a má tak za následek zajištění její tvarové stability. Provázanost geodetických měření taktéž navyšuje množství nadbytečných měření [3] a přispívá tak k úspěšnému nasazení metody jejich vyrovnání. 5. Měření délek uvnitř geodetické sítě Pro daná geodetická měření je předpokládáno, že obsahují alespoň jednu měřenou šikmou délku definující rozměr vyhodnocované geodetické sítě. Případ pouhého úhlového (bezrozměrného) zaměření inženýrsko-geodetické sítě není připouštěn. 6. Rozměr a tvar geodetické sítě Rozměr a tvar geodetických sítí, a tedy i charakter geodetických měření, je dán účelem samotného měření. Předmětem zde probíraných inženýrských měření je určení (vytýčení či zaměření) rozměru a tvaru (nikoli absolutní polohy) přesných stavebních či strojírenských objektů menších až středních rozměrů (příklad takovýchto měření lze nalézt v [4]). Vzhledem k tomuto jsou zde řešené geodetické sítě definovány jako prostorové geodetické sítě menších až středních rozměrů s maximální plošnou rozlohou cca 100 m 100 m. Z výškového hlediska se jedná o sítě spíše rovinného typu, kdy převýšení mezi jednotlivými body je uvažováno v jednotkách metrů. Na základě předpokládané maximální velikosti měřených šikmých délek, která nepřesahuje hodnotu 200 m a skutečnosti, že cílem měření je stanovení skutečného rozměru a tvaru geodetické sítě (její absolutní poloha je v tomto případě druhořadá), 15

nejsou při zpracování hodnot měřených šikmých délek zaváděny matematické redukce délky do nulového horizontu a z kartografického zobrazení (popisované např. v [5] či [6]). V popisovaných geodetických sítích není dále uvažován vliv sbíhavosti tížnic na velikost měřeného vodorovného směru, není zde tedy uvažován vliv sférického excesu [7]. Prostorová poloha hledaných bodů geodetické sítě je definována kartézskými souřadnicemi v lokálním ortogonálním souřadnicovém systému zachovající skutečný tvar a rozměr geodetické sítě. 7. Homogenita měření V této práci navrhované řešení automatického zpracování geodetických měření inženýrsko-geodetických sítí předpokládá splnění podmínky homogenity měření. Je tedy vyžadováno splnění podmínky, kdy je celá hodnocená geodetická síť zaměřena stejným technologickým postupem, a to za použití stejných měřících přístrojů a pomůcek. Odpovídají-li veškerá měření příslušného typu geodetické veličiny (vodorovného směru, zenitového úhlu či šikmé délky) stejné základní přesnosti, tj. stejné základní směrodatné odchylce. Tato podmínka má podstatný význam při řešení úlohy určení apriorní přesnosti geodetických měření, která je popisována v kap. 2.2.3. 2.2 Předzpracování geodetických měření Snahou předkládané disertační práce je popis komplexního řešení automatického zpracování velmi přesných klasických terestrických geodetických měření, které jsou získávány při zaměření lokálních prostorových geodetických sítí typických pro oblast inženýrské geodézie. Tato měření se svým objemem a formou dosti liší od dnes běžných klasických geodetických měření. Ve srovnání s dnes nejčastějšími geodetickými úlohami, zabývajícími se mapováním či sběrem dat pro potřeby vedení katastru nemovitostí [8], jsou tato speciální geodetická měření pořizována s několikanásobně vyšší přesností. Má-li být tato vysoká požadovaná přesnost zachována, je nutné tato měření zpracovávat s nejvyšší důsledností a dle propracovaných postupů navržených přímo pro danou oblast měření. Z celkového hlediska je nejvýraznější rozdíl mezi zpracováním běžných a velmi přesných měření v části předzpracování geodetických měření. Předzpracování geodetických měření v sobě zahrnuje veškeré přípravné úkony, které jsou nezbytné pro úspěšnou aplikaci metody zpracování (vyrovnání) geodetických dat. Těmito úkony je zejména úprava vstupních geodetických měření do požadovaného formátu, jejich redukce, kontrola a dále analýza jejich skutečné přesnosti. Z hlediska současného stavu řešené problematiky je v této kapitole stručně poukazováno na možnosti řešení úlohy zpracování přesných inženýrsko-geodetických měření v současné době dostupných softwarech, které se zabývají vyrovnáním běžných geodetických sítí. Mezi zmiňovanými jsou nejrozšířenější softwarové aplikace vyvíjené na území České republiky, jmenovitě: 1. Groma Rozšiřující modul pro vyrovnání sítí MNČ [9], 2. GEUSnet Nadstavba programu GEUS pro výpočet polygonových pořadů a geodetických sítí přímo z dat měřených totálními stanicemi [10], 16

3. GEPRO KNET Nadstavba programu GEPRO KOKEŠ pro vyrovnání lokálních geodetických sítí [11], 4. G-NET Program pro vyrovnání geodetických sítí [12] 5. GNU Gama Projekt věnovaný vyrovnání geodetických volných sítí [13]. Z nesčetného množství zahraničních softwarových nástrojů lze např. jmenovat velice propracovanou aplikaci BEST-FIT Columbus [14] či software GEOTEC Panda [15], který se jako jeden z mála přímo specializuje na problematiku vyhodnocení přesných geodetických měření sítí inženýrské geodézie (podrobněji v [16]). Zmiňované softwarové nástroje nebyly v této práci hlouběji studovány či nějak testovány. Hledání záporů a předností současných existujících geodetických softwarových řešení není obsahem této disertační práce. Jednotlivé části procesu předzpracování geodetických měření jsou dále podrobněji popsány. 2.2.1 Vstupní úprava geodetických měření Vstupní úpravou geodetických měření je rozuměn převod surových měřických dat do vstupní formy požadované před jejich vlastním zpracováním (vyrovnáním). Surová měřická data jsou reprezentována soubory hodnot měřených geodetických veličin, příp. i dalších doplňkových informací, pořízených v okamžiku zaměření zájmových objektů. Jedná se o soubory obsahující přímo měřené hodnoty, které jsou zaznamenávaný bez jakýchkoli uživatelských úprav (prováděných přímo uživatelem či zprostředkovaně pomocí softwarových nástrojů nabízených v rámci vybavení měřících přístrojů). Za měřické soubory lze považovat nejen elektronické datové soubory měření přímo získávané z elektronických měřících přístrojů (tj. elektronické měřické zápisníky v uživatelských či výrobcem daných formátech, např. [17]), ale i klasické měřické zápisníky s ručně zapisovanými měřenými hodnotami. V případě zde řešených klasických terestrických geodetických měření (viz kap. 0) se jedná o zápisníky měřených vodorovných směrů, zenitových úhlů a šikmých délek, které jsou dále doplněny o nezbytné hodnoty výšky přístroje a výšky cíle. Proces vstupní úpravy klasických terestrických geodetických měření (odbornou veřejností často označovaný jako proces zpracování měřického zápisníku ) je běžnou součástí většiny současných komerčních softwarů zabývajících se geodetickými výpočty (např. [18], [19] či [20]). Neexistuje však jediný, který byl zaměřen přímo na oblast inženýrské geodézie a s ní spojenou problematiku zpracování velmi přesných geodetických měření získávaných opakovaným zaměřením geodetických veličin. Z hlediska teoretické či výpočetní náročnosti není proces vstupní úpravy geodetických dat nikterak náročný, jeho přínos z hlediska úspory času zpracování dat je ovšem značný. Jeho správné navržení a vhodné nastavení pro konkrétní zpracovatelskou úlohu významně eliminuje (či naprosto odstraňuje) množství přípravných činností, při kterých je uživatel nucen manipulovat s měřickými daty, a tedy i snižuje nožné riziko vzniku zpracovatelských chyb a omylů. Největšího významu nabývá použití propracovaného řešení vstupní úpravy geodetických měření právě v oblastech zpracování velmi přesných 17

inženýrsko-geodetických měření. Důvodem je značné množství zpracovávaných opakovaně měřených geodetických dat, která jsou uspořádána do měřických skupin. Tato měření se svým objemem a uspořádáním natolik liší od běžných geodetických měření (např. pro určení polohy, rozměru a tvaru nemovitostí pro potřeby zápisu jejich vlastnických práv do katastru nemovitostí, viz [8]), že je jejich zpracování běžnými geodetickými softwary dosti komplikované a vyžaduje množství uživatelských zásahů. Vstupní úpravu klasických terestrických geodetických měření, tj. proces zpracování měřického zápisníku, je v případě automatizovaného softwarového řešení možno rozdělit do čtyř hlavních kroků popsaných v jednotlivých níže uvedených podkapitolách. 2.2.1.1 Základní kontrola měřených hodnot Po úspěšném načtení vstupního souboru měřených hodnot, tj. úspěšně vyhodnocené kontrole, kdy načtená data přesně odpovídají zvolenému datovému formátu, jsou měřická data podrobena základní kontrole veškerých načtených hodnot. Při této kontrole je posuzováno, zda číselné hodnoty příslušných typů měřených geodetických veličin nabývají reálných hodnot. V případě klasických terestrických geodetických měření získaných zaměřením inženýrsko-geodetických sítí je kontrolováno zda 1. hodnoty délkových veličin (šikmá délka, výška přístroje, výška cíle ) náleží intervalu 0,, 2. hodnoty úhlových veličin (vodorovný směr, zenitový úhel ) náleží intervalu 0, 2. Základní kontrola měřených hodnot je v určitých rozdílných formách obsažena ve většině geodetických softwarů. Nedostatkem použitých řešení je ovšem způsob prezentace výsledků kontroly. V případě načítaných hodnot úhlových veličin (vodorovných směrů a zenitových úhlů) softwary neupozorňují uživatele na nereálné hodnoty obsažené ve vstupním souboru, nýbrž automaticky dané hodnoty transformují do intervalu 0, 2. Při nepozornosti uživatele (v některých případech se opravené hodnoty mohou jevit jako správné) jsou tímto způsobem vnášeny do následujících výpočtů mylné (někdy velmi těžko odhalitelné) hodnoty. V některých případech (konkrétně např. v [9]) je i bez jakéhokoli upozornění umožněno načítání záporných hodnot šikmých délek. Význam základní kontroly měřených hodnot je dosti značný, a to hlavně v případech, jsou-li zdrojem vstupních geodetických dat klasické tištěné měřické zápisníky. Přepisování množství hodnot do elektronické formy může byt snadným zdrojem chyb, které lze ovšem propracovanou základní kontrolou lehce odhalit. 2.2.1.2 Detekce měřických skupin Jak již bylo uvedeno výše, v současnosti hojně používané počítačové programy, zabývajících se automatickým zpracováním geodetických měření (např. [9], [10], [11], [12]), se nezaměřují na problematiku zpracování velmi přesných geodetických měření získávaných opakovaným zaměřením geodetických veličin. Žádný z existujících softwarů, umožňující automatické načítání měřických zápisníků, nepracuje s načtenými 18

geodetickými daty jako s celistvými měřickými skupinami [2]. V případě jsou-li na jednotlivých stanoviscích sítě měření spořádána do opakovaně zaměřených měřických skupin, dané softwary tyto skupiny nedetekují a představují uživateli veškeré hodnoty jako celistvou množinu měření. Tímto způsobem je ovšem pro uživatele velmi obtížné s daty pracovat, tj. např. porovnávat, zda si měření z jednotlivých příslušných skupin odpovídají a vyhodnotit případný výskyt hrubých chyb či omylů měření [3]. 2.2.1.3 Kontrola měřických skupin Za kontrolu měřických skupin je považováno posouzení rozdílů příslušných hodnot geodetické veličiny měřených v obou polohách dalekohledu (zde označováno jako mezipolohová kontrola). Dále se jedná o posouzení příslušných hodnot geodetických veličin opakovaně měřených ve více měřických skupinách (zde označováno jako meziskupinová kontrola). Geodetické softwary, umožňující automatické načítání měřických zápisníků (např. [9], [10], [11], [12]), zpravidla kontrolu hodnot měřených ve dvou polohách či měřených opakovaně umožnují. Vzhledem ke skutečnosti, že tyto softwary nedisponují detekcí měřických skupin, je v jejich případě tato kontrola dosti těžkopádná a v oblastech zpracování velmi přesných inženýrsko-geodetických měření prakticky nepoužitelná. Dalším nedostatkem je skutečnost, že softwary zpravidla provádějí kontrolu pouze u měřených vodorovných směrů, zenitových úhlů a šikmých délek. Hodnoty výšky cíle jsou zpracovávány bez kontroly. 2.2.1.4 Zpracování měřických skupin Proces zpracování měřických skupin popisuje vlastní převod surových měřických dat do vstupní formy požadované před zpracováním (vyrovnáním) geodetických měření. V případě zpracování měření zde uváděných prostorových inženýrsko-geodetických sítí vstupují do procesu vyrovnání tří základní veličiny, a to vodorovný směr, zenitový úhel a šikmá délka mezi příslušnými dvěma body sítě [21]. Zpracování měřických skupin je možno rozdělit do dvou částí. V první fázi je provedeno zpracování měření v I. a II. poloze dalekohledu [2] a následně jsou měřené hodnoty šikmých délek a zenitových úhlů redukovány na přímou spojnici stabilizačních značek bodů měřické sítě, tzv. spojnici kámen kámen [22]. Jelikož se jedná o velmi přesná měření, není při redukci veličin na spojnici stabilizačních značek bodů zaváděna pouze oprava z rozdílné výšky přístroje a výšky cíle, ale taktéž oprava z vlivu sbíhavosti tížnic, tj. ze zakřivení zemského povrchu [7]. Oproti v praxi běžnému řešení zpracování opakovaně měřených geodetických veličin zde není vhodné neprovádět průměrování hodnot měřických skupin. Měřické skupiny, resp. jejich hodnoty, vstupují do procesu vyrovnání odděleně. Tímto způsobem nedochází k rozmělnění případných chyb měření, nesnižuje se počet nadbytečných měření při vyrovnání sítě a mohou tak být mnohem stabilněji nasazeny metody detekce odlehlých hodnot měření. Jak již bylo uvedeno, současná komerční softwarová řešení zabývající se zpracováním a vyhodnocením měření prostorových geodetických sítí (např. [9], [10], [11], [12]) nejsou navržena pro práci s velmi přesnými inženýrsko-geodetickými daty. 19

Jedním z důvodů, proč tyto softwary není možné úspěšně použít pro kvalitní zpracování velmi přesných měření prostorových geodetických sítí, je absence kompaktního výpočtu prostorového vyrovnání měřených dat. Popisované softwary umožňují pouze oddělené vyrovnání polohové a výškové složky geodetické sítě. Princip zpracování vstupní úpravy měřených hodnot je v tomto případě naprosto odlišný od požadovaného řešení. Tento princip vychází z prvotního převodu přímo měřené prostorové šikmé délky na vodorovnou délku (sloužící pro samostatné polohové vyrovnání sítě) a převýšení (sloužící pro samostatné výškové vyrovnání sítě). Hodnoty vodorovné délky a převýšení jsou následně pro vstup do vyrovnání upravovány odděleně. Má-li být ovšem prostorová geodetická síť posuzována (a tedy i vyhodnocována) jako celistvý prostorový prvek, není tento nepříliš přesný přístup separátního zpracování měřených dat přípustný. Výjimku oproti komerčním softwarům tvoří volně šiřitelné softwarové řešení GNU Gama [13], které umožňuje opravdu kompaktní prostorové zpracování (vyrovnání) geodetických měření. Tato softwarová aplikace ovšem nenabízí možnost vstupní úpravy měřených hodnot ve formě automatického zpracování dat měřických zápisníků. 2.2.2 Detekce geodetické sítě Detekcí geodetické sítě je označen proces kontroly provázanosti měření mezi jednotlivými body geodetické sítě. Jedná se o vyhledání veškerých hodnot měřených geodetických veličin (již upravených vodorovných směrů, zenitových úhlů a šikmých délek, viz předchozí kapitola), které společně náleží jediné homogenní geodetické sítě. Tímto způsobem jsou řešeny případy, kdy jsou chybou uživatele zpracovávána nesourodá měření více navzájem nepropojených geodetických sítí. Nastane-li situace, kdy jsou ve vstupním datovém souboru detekována neprovázaná měření, dochází k vyhodnocení, které z měřených hodnot náleží dominantní geodetické síti, a které hodnoty tedy budou dále zpracovávány. Tento postup kontroly a následného výběru měření jediné geodetické sítě je nedílnou součástí v případě plně automatizovaného procesu zpracování (vyrovnání) geodetických měření. Princip detekce geodetické sítě je založen na přibližném výpočtu hledaných souřadnic prostorových bodů geodetické sítě. Výsledkem zpracování zde popisovaných měření je určení hledaného odhadu prostorové polohy bodů inženýrsko-geodetických sítí. Jelikož vztahy mezi vstupními měřenými geodetickými veličinami (,, ) a hledanými neznámými prostorovými souřadnicemi bodů sítě nejsou lineární, je pro výpočet vyrovnání nutné model měření linearizovat, a to převodem funkčních vztahů do Taylorova rozvoje [3]. Do procesu vyrovnání tedy vstupuje linearizovaný model, ve kterém jsou známy (dostatečně přesně) přibližné hodnoty hledaných souřadnic bodů sítě, a ve kterém jsou hledány pouze přírůstky těchto přibližných hodnot k vyrovnaným (odhadovaným) hodnotám. Na základě nutné linearizace funkčních vztahů je tedy dalším nutným krokem při přípravě měřických dat výpočet přibližných souřadnic prostorových bodů geodetické sítě. Výpočet přibližných souřadnic bodů sítě vychází z aplikace základních geodetických výpočetních úloh protínání délkových a úhlových veličin [23]. Tyto úlohy jsou dle charakteru měření (tvaru a provázanosti sítě) různě vhodně kombinovány [24]. 20

Podmínkou užití linearizace pomocí Taylorova rozvoje je předpoklad minimální velikosti hledaných přírůstků vyrovnaných neznámých hodnot souřadnic bodů sítě. Pro úspěšné vyrovnání linearizovaného modelu měření je tedy nutné znát přibližné hodnoty souřadnic bodů sítě s dostatečnou přesností. Značnou nevýhodou metody výpočtu kombinující základní geodetické úlohy protínání je její minimální odolnost proti vlivům odlehlých hodnot a hrubých chyb měření přítomných ve zpracovávaných datech. Určitým řešením tohoto problému je opakovaný výpočet přibližných hodnot souřadnic bodů pomocí různých základních úloh, a to při využití různých vstupních hodnot měření. V případě dostatečně přeurčené geodetické sítě s množstvím nadbytečných měření [3] jsou tímto způsobem opakovaně určeny hodnoty souřadnic geodetických bodů, tj. hodnoty, které jsou různě ovlivněny případnými odlehlými hodnotami či hrubými chybami. Z těchto hodnot je následně určena jejich střední hodnota. Z důvodu vysoké rezistence vůči vlivu odlehlých hodnot je v tomto případě vhodné střední hodnotou volit medián [25]. Toto řešení je použito např. v softwaru GNU Gama (viz [26]). Běžná řešení úlohy vyrovnání měření geodetických sítí (volných i vázaných) předpokládají jejich umístění do předem definovaného systému (např. [9], [10], [11], [12] či [13]). Uživatelé jsou tedy nuceni definovat daný systém, a to zadáním určitého minimálního počtu vstupních souřadnic bodů sítě. Bez tohoto vstupu nedokáží provést výpočet přibližných souřadnic bodů. Velmi přesná měření inženýrské geodézie mají za cíl stanovit skutečný rozměr a tvar inženýrsko-geodetické sítě, tedy určit relativní vztahy mezi jednotlivými body sítě a nikoli její absolutní polohu v uživatelsky předem definovaném souřadnicovém systému. Pro tyto případy lze použít mnohem obecnější postup, a to výpočet přibližných souřadnic bodů v softwarem libovolně (vhodně) voleném souřadnicovém systému. Při použití tohoto obecného postupu, lze pouze se zadanými vstupními měřenými daty plně automaticky vyhodnotit měření lokální inženýrsko-geodetické sítě. Je-li to vyžadováno, lze vyhodnocenou geodetickou sít transformací souřadnic bodů následně převést do uživatelem zadaného souřadnicového systému. Tímto přístupem současné softwarové nástroje nedisponují. 2.2.3 Apriorní analýza geodetických měření Za apriorní statistickou analýzu geodetických měření je v předkládané disertační práci považován proces statistického hodnocení měřených hodnot geodetických veličin, který je prováděn před vlastním hlavním zpracováním (vyrovnáním) geodetických měření. Užití popisované apriorní analýzy je velmi významnou součástí řešení úlohy komplexního zpracování geodetických měření. Výsledkem této analýzy je zisk charakteristik popisujících skutečnou vstupní přesnost měřených dat. Znalost takovýchto charakteristik je nezbytná pro správnou interpretaci vstupních měření, a tedy i správné nastavení a použití metod umožňujících jejich správné zpracování a konečné vyhodnocení. V oblastech automatizovaného zpracování geodetických měření, a to zejména při řešení úloh vyrovnání měření geodetických sítí je apriorní analýza zdrojem směrodatných odchylek měřených geodetických veličin, které přímo vstupují do procesu vyrovnání a zcela zásadně ovlivňují jeho průběh a tedy i přesnost dosažených výsledků. Nejvyššího 21

významu nabývá apriorní analýza v případě plně automatizovaného řešení vyrovnání geodetických měření. V tomto případě je tato analýza jediným nožným zdrojem charakteristik apriorní přesnosti měření a bez jejího zpracování do celkového automatizovaného řešení je daná úloha neřešitelná. Je nutno podotknout, že v současné praxi hojně užívané softwarové aplikace zabývající se zpracováním (vyrovnáním) geodetických měření (např. [9], [10], [11], [12] či [13]) apriorní analýzu zcela opomíjejí a vstupní charakteristiky apriorní přesnosti vyrovnávaných veličin získávají z uživatelsky zadávaného nastavení. Správnost tohoto přístupu je přímo závislá na dostatečně vysoké erudici a zkušenosti uživatele, který je schopen reálnou (při měření skutečně dosaženou) přesnost pro konkrétní případy měření předvídat a do procesu vyrovnání správně zavést. Ve velké většině případu se ovšem uživatelé spoléhají pouze na výrobci udávané parametry přesnosti používaných měřických přístrojů, které v četných případech neodpovídají reálnému měření, a výsledné zpracování měření bývá v důsledku toho znehodnoceno. Příkladem vzniku uživatelských chyb může být např. skutečnost, že výrobci (např. [27] či [28]) udávaná přesnost totálních stanic pro měření vodorovných směrů a zenitových úhlů (označovaná jako úhlová přesnost) je vyjadřována dle standardu DIN 18723 [29] směrodatnou odchylkou vodorovného směru a zenitového uhlů měřeného v jedné měřické skupině (tj. ve dvou polohách dalekohledu), zatímco přesnost měření délek je popisována pomocí směrodatné odchylky jedné měřené délky. Během základního předzpracování měření vstupujících do vyrovnání jsou délky měřené v první a druhé poloze dalekohledu zpravidla průměrovány a následkem toho jejich přesnost, resp. apriorní přesnost vstupní měřené délky jdoucí do vyrovnání, již neodpovídá výrobci udávané přesnosti. Důvodem absence apriorní analýzy ve výpočetních geodetických softwarech může být její limitovaná použitelnost, která je podmíněná nutnou existencí dostatečně vysokého množství počtu nadbytečných hodnot měřených veličin přítomných v souboru zpracovávaných geodetických dat. Tento problém není nutno řešit v případech zpracování přesných měření inženýrsko-geodetických sítí, neboť ty jsou z pravidla silně měřicky přeurčeny a jejich celková nadbytečná měřická provázanost umožňuje velmi úspěšné nasazení dané analýzy. Výpočet vstupních charakteristik přesnosti měřených veličin, tj. v případě klasický zaměřovaných terestrických geodetických sítí výpočet směrodatných odchylek měřených vodorovných směrů, zenitových úhlů a šikmých délek, je v současnosti řešen pomocí dvou základních principů výhradně uváděných v [21] a [30]. V prvním případě se jedná o výpočet výběrových směrodatných odchylek měřených veličin určených z opakovaného měření. Druhý z principů vychází z hodnocení skutečného naplnění předem definovaných podmínek měřených veličin. Oba z uváděných principů předpokládají splnění podmínky homogenity měření, tj. splnění předpokladu, že celá vyhodnocovaná geodetická síť je zaměřena jednou totální stanicí a je tedy z hlediska přesnosti měření konzistentní. Navzdory důležitosti, a to převážně v oblastech softwarového zpracování přesných geodetických měření, se současná odborná literatura tématem apriorním analýzy přesnosti geodetických měření zaobírá zcela minimálně a kromě uváděné 22

literatury [21] a [30] nebyly v odborných publikacích nalezeny žádné zmínky zabývající se touto problematikou. 2.2.3.1 Apriorní analýza geodetických veličin vycházející z opakovaného měření Popisovaná apriorní analýza je založena na hodnocení náhodných výběrů, pocházejících ze základního souboru s normálním rozdělením pravděpodobnosti [3], získaných vícenásobným opakovaným zaměřením jednotlivých geodetických veličin. Výsledkem této analýzy je zisk výběrových charakteristik rozptylu pro měřené geodetické veličiny. V případě klasicky zaměřovaných geodetických sítí se jedná o výpočet výběrových směrodatných odchylek vodorovných směrů, zenitových úhlů a šikmých délek určených z hodnot opakovaně měřených ve více měřických skupinách [2]. Tento výpočet je členěn do třech základních kroků. V první fázi jsou vypočteny výběrové směrodatné odchylky jednotlivých měřených veličin (obecně označovaných ) na každém stanovisku sítě, tj. výběrová směrodatná odchylka každého opakovaně měřeného vodorovného směru, zenitového úhlu a šikmé délky odpovídající měření v jedné měřické skupině. Obecně platí, (1) kde je výběrová směrodatná odchylka měřené geodetické veličiny (šikmé délky, vodorovného směru či zenitového úhlů ) mezi k-tým stanoviskem a r-tým cílovým bodem, je výběrový průměr daný vztahem, (2) kde je hodnota geodetické veličiny měřené v i-té měřické skupině a je počet měřických skupin mezi k-tým stanoviskem a r-tým cílovým bodem sítě. Dle [30] je v dalším kroku pro každé stanovisko vypočten kvadratický střed výběrových směrodatných odchylek geodetických veličin měřených na příslušném stanovisku. Obecně pro k-té stanovisko sítě je možno vyjádřit, (3) kde je počet výběrových směrodatných odchylek měřené geodetické veličiny (,, ) na k-tém stanovisku. Obdobným způsobem je vypočten kvadratický střed výběrových směrodatných odchylek geodetických veličin (,, ) pro celou síť, (4) 23

kde je počet stanovisek v analyzované síti. Výsledné výběrové směrodatné odchylky vyjadřují tzv. vnitřní přesnost měření sítě [30]. Vzhledem ke způsobu výpočtu, kdy jsou určovány charakteristiky rozptylu geodetických veličin pomocí měřených náhodných výběrů, popisují výsledné výběrové směrodatné odchylky pouze náhodnou složku celkové směrodatné odchylky měření [3] (tj. případný systematický vliv působící na přesnost měření je při výpočtu zcela zanedbán). Nevýhodou uváděného postup výpočtu vnitřní přesnosti měření geodetické sítě je její omezená použitelnost. Tento postup je možné správně použít pouze v případě, kdy je na každém stanovisku sítě měřen stejný počet hodnot daného typu geodetické veličiny (stejný počet vodorovných směrů, zenitových úhlů či šikmých délek měřených na bodě sítě). Dále je také vyžadováno, aby každá geodetická veličina byla zaměřena ve stejném počtu měřických skupin (je vyžadován konstantní rozsah náhodných výběrů pro příslušný typ geodetické veličin). Pro možnosti využití výpočtu vnitřní přesnost sítě v oblastech automatizovaného zpracování geodetických měření je nutné tento přístup zobecnit, tj. upravit i pro případy, kdy jsou na jednotlivých stanovících geodetické sítě měřeny různé počty geodetických veličin (měřeny různě početné měřické skupiny), a kdy jsou jednotlivé geodetické veličiny měřeny v různém počtu skupin (rozsah náhodných výběrů je proměnlivý). 2.2.3.2 Apriorní analýza geodetických veličin ze stanovených podmínek měření Druhou z možností pro řešení apriorní analýzy měřených geodetických veličin je metoda založená na posouzení vstupních geometrických podmínek měření. Pomocí těchto podmínek jsou vyjadřovány měřické uzávěry či rozdíly měření, které mají charakter skutečných chyb [21] dané vztahem, (5) kde je skutečná pravá hodnota (daná vlastní definicí vstupní geometrické podmínky) a je měřená hodnota (hodnota podmínky vyjádřené pomocí měření). V případě klasicky zaměřovaných geodetických sítí vychází apriorní analýza geodetických veličin z hodnocení protisměrně měřených šikmých délek a zenitových úhlů a hodnocení vodorovných směrů měřených v rámci směrových trojúhelníků mezi příslušnými body geodetické sítě. Za předpokladu redukce měřených hodnot na přímou spojnici stabilizačních značek bodů geodetické sítě [22] (označovanou jako spojnici kámen kámen ) jsou pro protisměrně měřené šikmé délky a zenitové úhly, obecně mezi k-tým a r-tým bodem sítě, stanoveny podmínky 0, (6) 0, (7) ze kterých jsou následně vyjádřeny rozdíly měření tam a zpět 24

, (8). (9) Pomocí rozdílů protisměrných měření (majících podobu skutečných chyb měření) jsou vypočteny výběrové směrodatné odchylky rozdílu měřených veličin (šikmé délky a zenitového úhlu ) dle vztahu, (10) kde je i-tý rozdíl protisměrných hodnot měřených veličin (, ) a je celkový počet rozdílů protisměrně měřených geodetických veličin vyskytujících se v celé hodnocené geodetické síti. Při stanovení protisměrných rozdílů měření je předpokládáno, že na obou stranách (příslušných bodech sítě) jsou veličiny měřeny ve stejném počtu měřických skupin. Protisměrné rozdíly jsou následně tvořeny z hodnot odpovídajících si skupin. Je-li tedy například na stanoviscích sítě zaměřeno měřických skupin, vznikne tímto pro každou dvojici protisměrných bodů protisměrných rozdílů, které do výpočtu výběrové směrodatné odchylky (10) vstupují samostatně. Využitím zákona šíření směrodatných odchylek [3] je možné z výběrové směrodatné odchylky rozdílu protisměrných měření vyjádřit hledanou výběrovou směrodatnou odchylku geodetické veličiny měřené v jedné měřické skupině (tj. a ). Tato je dána vztahem. (11) Dalším ze způsobů řešení případu měření veličin ve více skupinách je přístup, kdy jsou nejprve průměrovány hodnoty měřené geodetické veličiny na každém bodě sítě, z těchto jsou následně vypočteny průměrné rozdíly, které jsou použity při výpočtu výběrové směrodatné odchylky rozdílu geodetických veličin (10). Z takto určené směrodatné odchylky průměrného rozdílu geodetických veličin je vypočtena výběrová směrodatná odchylka geodetické veličiny měřené v jedné měřické skupině (tj. a ), která je dána vztahem, (12) kde je počet měřických skupin a je vývěrová směrodatná odchylka průměrného rozdílu geodetických veličin určeného z hodnot měřených v měřických skupinách. Tento přístup taktéž vyžaduje splnění podmínky, kdy na každém bodě sítě je zaměřen stejný počet měřických skupin. Obdobným způsobem jako ve výše uvedeném případě protisměrně měřených šikmých délek a zenitových úhlů je řešen výpočet apriorní přesnosti měřeného vodorovného směru. Za předpokladu nepůsobení vlivu sférického excesu [7], který je 25

možno vzhledem k charakteru v této práci probíraných inženýrsko-geodetických sítí (s maximální plošnou rozlohou sítě cca 100 m 100 m) vyloučit, je pro měřené vodorovné směry stanovována geometrická podmínka resp. 0, (13) 0, (14) kde,, jsou vnitřní vodorovné úhly směrového trojúhelníku vzniklého provázaností měření mezi příslušnými stanovisky hodnocené geodetické sítě a a (pro I, II, III) jsou hodnoty vodorovných směru zaměřených v rámci tohoto trojúhelníku. Ze stanovené podmínky je dále vyjádřen úhlový (směrový) uzávěr. (15) Vzhledem k charakteru úhlového uzávěru vyjadřujícího skutečnou chybu měření [21] je možno vyjádřit vztah pro výpočet výběrové směrodatné odchylky uzávěru, a to jako, (16) kde i-tý úhlový uzávěr v hodnocené síti a je celkový počet úhlových uzávěrů vyskytujících se hodnocené geodetické síti. Stejně jako v případě protisměrně měřených geodetických veličin je zde nutno předpoklad, že v rámci směrových trojúhelníků jsou na jednotlivých stanoviscích měřeny vodorovné směry ve stejném počtu měřických skupin a úhlové uzávěry jsou tvořeny z hodnot odpovídajících si skupin. Je-li tedy například na stanoviscích sítě zaměřeno měřických skupin, vznikne tímto pro každý směrový trojúhelník úhlových uzávěrů, které do výpočtu výběrové směrodatné odchylky (16) vstupují samostatně. Částečnou nevýhodou tohoto postupu je skutečnost, že v důsledku obvykle vysoké provázanosti měření inženýrsko-geodetických sítí dochází často k překrytu jednotlivých směrových trojúhelníků (výskyt směrových trojúhelníku s identickou stranou) a vypočtené úhlové uzávěry jsou tedy částečně závislé. Využitím zákona šíření směrodatných odchylek [3] je možné z výběrové směrodatné odchylky úhlového uzávěru vyjádřit hledanou výběrovou směrodatnou odchylku vodorovného směru měřeného v jedné měřické skupině. (17) V upravené formě se jedná o známý Ferrerův vzorec využívaný pro hodnocení úhlové přesnosti triangulačních sítí [31]. Obdobně jako v případě protisměrných měření je možné řešit případ měření vodorovných směrů ve více měřických skupinách pomocí prvotního zprůměrování 26

hodnot vodorovných směrů z jednotlivých skupin měřených na jednom stanovisku. Ze zprůměrovaných hodnot jsou vypočteny průměrné úhlové uzávěry a jejich výběrová směrodatná odchylka (16). Hledaná výběrová směrodatná odchylka vodorovného směru měřeného v jedné měřické skupině je následně získána ze vztahu, (18) kde je počet měřických skupin (na každém stanovisku stejný) a je vývěrová směrodatná odchylka průměrného úhlového uzávěru určeného z hodnot vodorovných směrů měřených v měřických skupinách. Zde uváděné geometrické podmínky měřených geodetických veličin nejsou jedinými, které jsou využitelné při apriorním hodnocení geodetických měření. Pro určení přesnosti měření zenitových úhlů bývá např. používána podmínka výškového uzávěru uváděná v [21] a [30]. Výběrové směrodatné odchylky měřených veličin určené hodnocením vstupních geometrických podmínek vyjadřují tzv. vnější přesnost měření sítě [30]. Ve srovnání s předchozí analýzou vnitřní přesnosti sítě, jsou hodnoty vnější přesnosti mnohem objektivnější, neboť kromě náhodné složky celkové směrodatné odchylky geodetických veličin [3] zachycují i případné systematické ( vnější ) vlivy působící na měření v geodetické síti (jedná se např. o působení chyb v centraci přístroje a cíle, refrakci či kroucení stativu během měření). Nevýhodou uváděného postup výpočtu vnější přesnosti měření geodetické sítě je taktéž její omezená použitelnost. Tento postup je možné, stejně jako ve výše uváděném výpočtu vnitřní přesnosti měření sítě, správně použít pouze v případě, kdy jsou na bodech sítě zaměřeny geodetické veličiny ve stejném počtu měřických skupin. Pro možnosti využití výpočtu vnější přesnost sítě v oblastech automatizovaného zpracování geodetických měření je nutné tento přístup zobecnit a tedy upravit i pro případy, kdy jsou geodetické veličiny na jednotlivých stanoviscích měřeny v různém počtu měřických skupin. 2.3 Potlačení vlivu odlehlých hodnot měření Proces měření, při kterém jsou získávány hodnoty jednotlivých geodetických veličin, je přirozeně narušován nevyhnutelným působením množství negativních vlivů, které mají za následek vznik nepřesnosti měření, tj. přítomnost chyb měření [3] (vyjadřujících rozdíl mezi měřenou rušivými vlivy ovlivněnou hodnotou a skutečnou (pravou) hodnotou). Vliv těchto chyb nelze žádným způsobem zcela vyloučit, ale pouze částečně potlačit. Na základě měření tedy nelze v žádném případě dosáhnout absolutně správného řešení, ale pouze přesnějších či méně přesných výsledků. Cílem kvalitního procesu zpracování geodetických měření je snaha o co největší potlačení chyb měření a získání tak co nejkvalitnějších výsledku. Zvýšení přesnosti měření lze kromě jiného dosáhnout vhodnou volbou kvalitní měřící techniky, zkušené měřické obsluhy a přesným dodržováním pravidel vycházejících z propracovaných technologických postupů 27

upravujících samotný proces pořizování měření. V oblastech inženýrské geodézie je běžné (na základě obvyklých velmi vysokých požadavků přesnosti měření), že hodnoty jednotlivých měřených geodetických veličin jsou pořizovány opakovaně v nadbytečném množství. Tato měření lze následně zpracovat formou vyrovnání (zpravidla užitím metody nejmenších čtverců [3]) a dosáhnout tak nespolehlivějších výsledků reprezentovaných charakteristikami dosažené přesnosti. Při klasickém zpracování geodetických měření je předpokládáno, že jsou měřická data náhodným výběrem z normálního rozdělení pravděpodobnosti. Na základě předpokladu platnosti tohoto požadavku je při praktických úlohách vyrovnání geodetických měření výhradně využíváno metody nejmenších čtverců. Předpoklad normality měřických dat je v reálném světě ovšem těžko splnitelný. Kvalita geodetických měření je neustále ohrožována působením chyb měřické techniky a měřické obsluhy. Působení těchto chyb vede ke kontaminaci měřických dat odlehlými pozorováními [25] a k porušení podmínky původu geodetických měření z normálního rozdělení pravděpodobnosti. Použití metody nejmenších čtverců je v tomto případě dosti problematické, neboť její citlivost na porušení podmínky normality zpracovávaných dat je dosti značná. Je-li tato metoda použita při zpracování měření znečištěných odlehlými hodnotami, dochází ke značnému ovlivnění výpočtu vyrovnání a zisku mylných výsledků. V případě kontaminace vstupních geodetických dat odlehlými hodnotami je tedy nutné před vlastním vyrovnáním provést očištění dat (detekci a vyloučení odlehlých hodnot měření) či je nutné zpracovat (vyrovnat) data metodami méně citlivými k vlivu odlehlých hodnot. 2.3.1 Robustní metody vyrovnání Klasické statistické postupy zahrnující jak statistické testy, tak vyrovnání metodou nejmenších čtverců, jsou velmi důležitou součástí geodézie v oblasti zpracování a analýzy měření. Předpokladem jejich správného fungování je však normální rozdělení chyb, bez splnění této podmínky vytvořený pravděpodobnostní model není správný. Bylo zjištěno, že i malé odchylky od normálního rozdělení pravděpodobnosti mají značný vliv na kvalitu výsledku, to znamená, že i jen několik málo hrubých chyb může znehodnotit jinak kvalitní měření. Robustní statistické metody si oproti těm klasickým zachovávají funkčnost v určitém okolí normálního rozdělení, zjednodušeně řečeno neselžou při mírném nesplnění požadavku na normální rozdělení chyb, tj. pokud jsou správná měření (vyhovující normálnímu rozdělení) kontaminována odlehlými měřeními. Čím je metoda odolnější oproti vlivu chybných (odlehlých) měření, tím je robustnější. Tyto metody jsou založeny na několika principech, které budou dále ve stručnosti popsány. Je vhodné ještě dodat, že aplikovatelnost většiny metod nepřekračuje využití při výpočtu lineární regrese, přesto je vhodné je v celkovém přehledu uvést. Zde uváděný přehled robustních statistických metod byl v rámci zpracování této disertační práce publikován v [21]. 28

2.3.1.1 Třídy odhadů robustní statistiky Základních metod je několik, v [25] lze nalézt nejrozšířenější třídy odhadů reálného parametru, a to M-odhady, L-odhady a R-odhady. M-odhady jsou založeny na metodě maximální věrohodnosti (maximumlikelihood), L-odhady na výpočtu lineárních kombinací pořadových statistik a R-odhady na neparametrických testech. Dále jsou známy také generalizované verze těchto odhadů, případně také S-odhady či -odhady. Kromě těchto jsou známy ještě další metody, které lze obtížně zařadit, případně vznikly empiricky, a z těch budou vybrány pouze některé využívané při řešení problémů hraničících s geodézií. Pouze některé lze prakticky využít pro řešení úloh geodézie, mnohé ostatní lze využít pouze pro určení odhadu polohy rozdělení a tyto nebudou dále zmiňovány. Podle [32] umožňují M-odhady dostatečnou flexibilitu a lze je výpočetně snadno zvládnout i v případech řešení generalizovaných lineárních modelů, proto bude následující text zaměřen zejména tímto směrem. 2.3.1.2 M-odhady Podle [33] se jedná o řešení minimalizační úlohy. Základem je požadavek na maximální věrohodnost řešení daný výrazem argsup,, (19) kde je náhodný vektor (měření),, věrohodnostní (pravděpodobnostní) funkce, odhad parametrů (neznámých). Jinak řečeno řešení má být nejpravděpodobnější. Jestliže náhodný vektor pozorování má hustotu pravděpodobnosti, která závisí na fixních a neznámých parametrech, pak pro věrohodnostní funkci platí,, (20) Pro lineární model úlohy lze vyjádřit, (21),, (22) kde je vektor neznámých, vektor pozorování (měření), vektor skutečných chyb, matice lineárních (linearizovaných) vztahů mezi neznámými parametry. Počet měření je větší než počet neznámých, jde o úlohu s vyrovnáním. Měření jsou nezávislá. Rovnice pozorování pro měření je dána vztahem, (23) Neznámé ve vektoru jsou určovány metodou maximální věrohodnosti, jestliže hustota pravděpodobnosti pozorování je úměrná funkci,, tj. platí 29

,. (24) Hustota pravděpodobnosti pro nezávislá měření je pak,,,,. (25) Pro metodu maximální věrohodnosti je nutný předpoklad znalosti rozdělení pravděpodobnosti. S ohledem na centrální limitní větu se dále předpokládá, že měření mají normální rozdělení,. Potom pro věrohodnostní funkci platí ;,. (26) Úkolem je maximalizovat věrohodnost (pravděpodobnost), problém se řeší diferenciací podle neznámých a rozptylů a položením získaných výrazů nule. Vzhledem k vlastnostem funkce normálního rozdělení i věrohodnostní funkce lze s výhodou derivovat logaritmus této funkce ln ;, ln2. (27) (Po derivaci podle neznámých je výsledkem odhad metody nejmenších čtverců). Maximalizuje se tedy výraz,. (28) nebo s použitím předchozích logaritmovaných vzorců se minimalizuje ln,, (29) což vede k metodě nejmenších čtverců. Tato odhadová funkce je dána předpokladem normálního rozdělení měření a musí být nahrazena funkcí vhodnější, protože předpoklad normálního rozdělení není splněn. Výpočet robustních M-odhadů ([34]) je dán minimalizací výrazu, min., (30) kde je vhodná odhadová funkce ( score function ), je funkce neznámých parametrů. Odhadová funkce není konstantní jako v případě metody nejmenších čtverců. Derivace odhadové funkce (tzv. vlivová funkce),,. (31) Odhad neznámých parametrů,, 0 pro 1,,. (32) 30

Robustní odhad lze nalézt pomocí funkce,. O robustní odhad se jedná pouze v případě, kdy funkce, je ohraničená, jelikož je úměrná influenční funkci ([35]). Influenční funkce popisuje efekt dalšího pozorování na odhad. Spolu s bodem selhání se jedná o důležité charakteristiky popisující konkrétní robustní odhad. Bod selhání je velmi zjednodušeně řečeno nejmenší podíl pozorování, které po nahrazení libovolnými hodnotami mohou vést k chybným hodnotám odhadu (blíže viz [35]). Pro běžné výpočty je ještě vhodné zavést pojem normované chyby, tj. podíl chyby a příslušné směrodatné odchylky měření. (33) Odhadem skutečných chyb jsou opravy, normované opravy jsou definovány. (34) Z toho plyne odhadová funkce,. (35) Protože platí, lze výpočet odhadu upravit na tvar 0, 0. (36) Pro metodu nejmenších čtverců lze vyjádřit následující vztahy. Pro hustota pravděpodobnosti normálního rozdělení platí, Funkce (bez konstant, po aplikaci logaritmu). (37) ln, (38) po derivaci 2. (39) Pro minimalizaci musí platit 0. (40) Skutečné chyby nejsou známy, budou nahrazeny jejich odhadem opravami. Řešení normálních rovnic metodou nejmenších čtverců je výpočetně jednoduché. Aby bylo 31

ovšem možné tento výpočet použít, normované opravy je nutné formálně vynásobit korekčním koeficientem. Musí tedy platit a tedy 0 (41), /. (42) Korekční člen představuje určitou váhu měření, jejichž velikost je přímo závislá na velikosti normované opravy, tj.,. Po zavedení korekčního členu lze provést úpravu 0 pro 1,,. (43) Dále je možné definovat diagonální váhovou matici,,, (44) a řešit normální rovnice ve tvaru. (45) Váhy závisí na opravách, tj. na odhadu neznámých veličin. Odhad tedy musí být určován iterativně. Jako první aproximaci lze použít výsledek metody nejmenších čtverců, tedy platí. (46) V obecném m-tém kroku iterace lze vyjádřit a následně i (47). (48) V [32] je dokázána konvergence tohoto výpočtu. 2.3.1.2.1 Huberův M-odhad Jestliže pozorování mají normální rozdělení, lze za funkci rozdělení pravděpodobnosti použít (bez konstantních členů), (49) 32

a tedy jako odhadovou funkci použít Pak platí. (50) a minimalizuje se výraz, 1, (51). (52) Až na násobný koeficient se jedná o metodu nejmenších čtverců a metodu nerobustní, funkce neohraničeně roste s rostoucím, váha je konstantní 1. Při volbě robustní odhadové funkce vychází Huber ([32]) z normálního rozdělní náhodné veličiny. Jeho řešení je založeno na nahrazení okrajových částí normálního rozdělení pravděpodobnosti Laplaceovým rozdělením (speciální formou exponenciálního rozdělení). Tímto způsobem je dosaženo ohraničení vlivové funkce a dosažení robustnosti odhadu. Toto řešení vede k větší pravděpodobnosti výskytu odlehlých měření na okrajích rozdělení. 0 Obr. 2 (Nerobustní) odhad metodou nejmenších čtverců tvar funkce Pro Huberův odhad platí pro, (53) / pro, (54) kde je konstanta závisející na předpokládaném množství kontaminace měřených dat ohlednými hodnotami. Podle [33] se pro 4% odlehlých měření volí 1,5, pro méně než 1% 2,0. Odhadová funkce je tedy dána vztahy pro, (55) pro. (56) Pro vlivovou funkci platí 33

pro, (57) pro. (58) c 0 c Obr. 3 Huberův robustní odhad tvar funkce Funkce je ohraničená, jak je zřejmé z obrázku, a tedy se jedná o robustní odhad. Váhy se tedy volí podle předpisů 1 pro, (59) pro. (60) Odvození je provedeno pro případ, kdy jsou všechna měření stejně přesná. V případě zavedení vah podle předchozích kapitol je zde uvedená váha násobný koeficient, kterým se původní váha změní. Rovněž koeficient hodnotí velikost normované opravy, nikoli opravy s libovolnou variancí. Huberův M-odhad zde byl prezentován včetně odvození, neboť se jedná o průlomovou práci. Jsou známy další odhadové funkce, jejichž přehled je uveden v následujících odstavcích a jejichž odvození vychází ze stejných principů. 2.3.1.3 Odhady pomocí L p normy V odvození metody (metod) je použito Huberovo odvození s tím, že jako funkce hustoty pravděpodobnosti pro měření (pozorování) je použita funkce pro 1, (61) která pro 1 popisuje Laplaceovo rozdělení, pro 2 normální rozdělení (v obou případech bez konstant, které se neuplatní, viz předchozí odvození). Z toho odhadová funkce. (62) Funkce (opět bez uvážení konstanty) (63) a tedy váha 34

. (64) Takto zvolená funkce hustoty vede k odhadu na základě L p normy ve tvaru, (65) která je minimalizována. Pro 1 se jedná o L 1 normu, kde je minimalizována suma absolutních hodnot chyb, resp. oprav. Funkce je omezená, jak je zřejmé z obrázku a tedy se jedná o robustní odhad. Váhy mají tvar. (66) V případě, že jsou vyrovnávána různorodá měření (jak je tomu i v případě zde řešených klasických terestrických geodetických měření) váhy jsou dány předpisem, (67) úprava vah má potom následující tvar:. (68) Řešení tohoto odhadu obecně není jednoznačné, pokud je prováděno simplexovou metodou. V případě jednorozměrných dat se jedná o medián. 1 až Obr. 4 L 1 norma tvar funkce Jak se uvádí v [33], tento odhad je extrémně robustní, počet detekovaných chyb je 1 (zaokrouhleno dolů). Pro 2 se jedná o metodu nejmenších čtverců, která stejně jako případné metody 2 není robustní. 2.3.1.3.1 Generalizované M-odhady 0 Generalizované M-odhady (GM-odhady) jsou odhady lineární regrese zobecněné tak, že váha je závislá také na hodnotě měření, tj. pro lineární funkci ve tvaru platí 1,. (69) 35

Tento způsob byl zaveden proto, že tzv. vlivné body ( leverage points ) mohou být také odlehlé a díky geometrii, kdy leží daleko od masy ostatních bodů, jejich chyba značně ovlivní určené parametry. Blíže je problematika včetně postupu zpracování uvedena v [33]. 2.3.1.4 Přehled používaných M-odhadů V následujícím odstavci je uveden výběr některých z dnes užívaných M-odhadů. Z důvodu možného souhrnného náhleduu jsou zde popisovány i odhady představené v předchozích odstavcích. Vztahy pro uváděné odhadové funkce, vlivové funkce a váhové funkce jsou vyjádřeny v závislosti na normované opravě měření (pozorování). Pro každý odhad jsou dále zobrazeny grafické průběhy popisovaných funkcí. 2.3.1.4.1 Huberův odhad Jak vyplývá z následujícího obrázku, je váhová funkce uvnitř zvoleného intervalu konstantní, měření nejsou považována za odlehlá a jejich vliv na určení odhadu neznámých parametrů není nijak redukován. Váha měření, jejichž normované opravy přesahují stanovený interval, s rostoucí hodnotou normované opravy hyperbolicky klesá. Jak již bylo uvedeno výše, je konstanta c volena dle množství kontaminace měřených dat odlehlými hodnotami (dle [33] je 1,5 pro 4% odlehlých měření, pro méně než 1% odlehlých měření 2,0). Tab. 1 Huberův odhad odhadová, vlivová, váhová funkce velikost 1 sign v v w v c 0 c v c 0 c v c 0 c v Obr. 5 Huberův odhad odhadová, vlivová, váhová funkce 2.3.1.4.2 Modifikovaný Huberův odhad Oproti klasickému Huberovu odhadu uvažuje modifikovaný odhad možnost existence hrubých chyb měření, jejichž vliv se snaží zcela omezit. Překročí-li normovaná oprava měření interval,, je připouštěno působení hrubých chyb a příslušnému odlehlému měření je přiřazena nulová váha, měření je tedy pro další výpočet zcela vyloučeno. Dle [36] jsou standardně voleny 2,0 a 3,0. 36

Tab. 2 Modifikovaný Huberův odhad odhadová, vlivová, váhová funkce velikost 1 sign 0 0 v v w v b c 0 c bv b c 0 c b v b c 0 c b v Obr. 6 Modifikovaný Huberův odhad odhadová, vlivová, váhová funkce 2.3.1.4.3 Hampelův odhad Hampelův odhad je navržen podobným způsobem jako modifikovaný Huberův odhad. Odhad taktéž uvažuje přítomnost hrubých chyb, jejichž vliv se snaží vyloučit, oproti modifikovanému odhadu je ovšem jeho vlivová funkce spojitá a přechod mezi detekcí odlehlého měření a měření ovlivněného hrubou chybou je plynulý. Dle [36] je možno standardně volit 2, 4 a 8. Tab. 3 Hampelův odhad odhadová, vlivová, váhová funkce velikost 1 sign 1 sign 0 0 v v w v c b a 0 a b c v c b a 0 a b c v c b a a b c 0 c v Obr. 7 Hampelův odhad odhadová, vlivová, váhová funkce 37

2.3.1.4.4 Talwarův odhad U Talwarova odhadu není uvažováno žádné plynulé snižování vlivu odlehlých měření v závislosti na jejich narůstající normované opravě. Tento odhad rozlišuje pouze dva stavy detekce měření. V prvním případě se normovaná oprava měření nachází uvnitř stanoveného intervalu,, měření není odlehlé a podílí se na určení odhadu neznámých parametrů plným svým vlivem (váha tohoto měření je rovna jedné). V opačném případě, kdy se normovaná oprava nachází vně stanoveného intervalu, je měření považováno za odlehlé a z výpočtu odhadu neznámých parametrů je vyřazeno (váha tohoto měření je rovna nule). Dle [36] je hranice intervalu standardně volena na 2,795. Tab. 4 Talwarův odhad odhadová, vlivová, váhová funkce velikost 1 0 0 v v w v a 0 a v a 0 a v a 0 a v Obr. 8 Talwarův odhad odhadová, vlivová, váhová funkce 2.3.1.4.5 Odhad Cauchyho rozdělení Vlivová funkce Cauchyho rozdělení je dána vztahem, (70) kde je funkce hustoty pravděpodobnosti standardizovaného Cauchyho rozdělní. (71) Vlivová, resp. váhová funkce konverguje k 0 při, vliv odlehlých hodnot je plynule redukován. Odhad Cauchyho rozdělení odlehlé hodnoty z dalších výpočtů nevylučuje, pouze snižuje jejich vliv, který se stává při narůstající hodnotě normované opravy zanedbatelným. 38

Tab. 5 Odhad Cauchyho rozdělení odhadová, vlivová, váhová funkce log1 v v w v 0 v 0 v 0 v Obr. 9 Odhad Cauchyho rozdělení odhadová, vlivová, váhová funkce 2.3.1.4.6 Tukeyho biweight odhad Odhad připouští plný vliv měření pouze v případě nulové normované opravy. Při se vliv posuzovaného měření postupně snižuje. Překročí-li normovaná oprava měření stanovený interval,, měření je přiřazena nulová váha a jeho podíl na určení odhadu neznámých parametrů je zcela potlačen. Dle [36] je standardně voleno 4,685. Tab. 6 Tukeyho biweight odhad odhadová, vlivová, váhová funkce velikost 1 1 1 1 0 0 v v w v a 0 a v a 0 a v a 0 a v Obr. 10 Tukeyho biweight odhad odhadová, vlivová, váhová funkce 2.3.1.4.7 Gemanův McClureův odhad Gemanův McClureův odhad je svým předpisem dosti podobný výše uváděnému odhadu Cauchyho rozdělení. Oproti odhadu Cauchyho rozdělení je pokles vlivu měření při narůstající normované opravě mnohem výraznější (pokles je oproti odhadu Cauchyho rozdělení umocněn). 39

Tab. 7 Gemanův McClureův odhad odhadová, vlivová, váhová funkce v v w v 0 v 0 v 0 v Obr. 11 Gemanův McClureův odhad odhadová, vlivová, váhová funkce 2.3.1.4.8 Andrewsův odhad Jak je patrno z uvedených vztahů a přiložených obrázků, je průběh vlivové funkce Andrewsova odhadu navržen ve tvaru sinusoidy v intervalu,, mimo tento interval je vlivová funkce nulová. Tab. 8 Andrewsův odhad odhadová, vlivová, váhová funkce velikost cos sin sin 1 0 0 v v w v 0 v 0 v 0 v 2.3.1.4.9 Welschův odhad Obr. 12 Andrewsův odhad odhadová, vlivová, váhová funkce Stejně jako v případě odhadu Cauchyho rozdělení či Gemanova McClureova odhadu není váhová funkce ohraničena žádným intervalem, při jehož překročení je příslušnému měření přiřazena nulová váha. Při iteračním zpracování dat (vyrovnání geodetických měření) se odlehlá měření z výpočtu nevylučují, pouze je jejich vliv potlačen. Dle [36] je konstanta Welschova odhadu standardně nastavována na 2,985. 40

Tab. 9 Welschův odhad odhadová, vlivová, váhová funkce 1 a 0 a v a 0 a v a 0 a v 2.3.1.4.10 Fair odhad Obr. 13 Welschův odhad odhadová, vlivová, váhová funkce Odhad připouští plný vliv měření pouze v případě nulové normované opravy. S rostoucí absolutní hodnotou normované opravy váha odlehlého měření hyperbolicky klesá. Dle [36] je konstanta Fair odhadu standardně volena 1,4. Tab. 10 Fair odhad odhadová, vlivová, váhová funkce v v w v a 0 a v a 0 a v a 0 a v 2.3.1.4.11 L p norma Obr. 14 Fair odhad odhadová, vlivová, váhová funkce Aby byl odhad pomocí L p norma robustní, musí být splněna podmínka 1 2. Níže uvedené grafické průběhy funkcí L p normy byly konstruovány pro 1,5. Tab. 11 L p norma odhadová, vlivová, váhová funkce sign 41

v v w v 0 v 0 v 0 v Obr. 15 L p norma odhadová, vlivová, váhová funkce 2.3.1.4.12 L 1 norma Vlastnosti L 1 normy včetně odvození byly popsány výše (v kap. 2.3.1.3). Tab. 12 L 1 norma odhadová, vlivová, váhová funkce sign v v w v 0 v 0 v 0 v Obr. 16 L 1 norma odhadová, vlivová, váhová funkce 2.3.1.4.13 Hybridní L 1 /L 2 norma Jedná se o kombinaci dvou výše uvedených norem. Tab. 13 Hybridní L 1 /L 2 norma odhadová, vlivová, váhová funkce 21 1 v v w v 0 v 0 v 0 v Obr. 17 L 1 /L 2 norma odhadová, vlivová, váhová funkce 42

2.3.1.4.14 Dánská metoda Z hlediska základních principů nelze Dánskou metodu řadit mezi odhady založené na teorii maximální věrohodnosti (tj. mezi výše uvedené M-odhady). Jedná se o empiricky vyvinutou metodu, která je přímo zaměřena na vyhodnocení (vyrovnání) geodetických či fotogrammetrických měření při působení odlehlých hodnot. Metoda se zabývá návrhem váhových předpisů a jejich užitím při iterativním řešení soustavy normálních rovnic při postupné úpravě vah měření. V rámci této metody bylo vyvinuto více možných předpisů pro výpočet vah, které jsou navrženy pro řešení konkrétních typů geodetických či fotogrammetrických úloh. Většina z těchto předpisů se vyznačuje jednou společnou vlastností, v rámci jednotlivých iteračních kroků se váhy měření nepočítají podle stejného předpisu (jak je tomu u výše uvedených váhových funkcí M-odhadů), ale v jednotlivých iteračních krocích se tyto předpisy mění. Důvodem této změny je snaha o vyšší konvergenci iteračního řešení soustavy normálních rovnic. Pro ukázku je zde uvedeno jedno z možných řešení Dánské metody. Tab. 14 Dánská metoda váhový předpis krok iterace 3.0 3.0 1 1 1 2,3 1,, 3 1,, Jiné z váhových předpisů Dánské metody jsou uvedeny např. v [33] či [37]. 2.3.1.5 LMS-odhad LMS odhad (Least Median of Squares) podle [38] nahrazuje sumu čtverců oprav mediánem. Z měření, které mají určit neznámých je vybíráno měření (postupně ve všech 1,, kombinacích), pro každých těchto měření je vypočteno neznámých. Pro každý výsledek se vypočítá odhadová funkce LMS odhadu med,,. (72) Za řešení je považováno to, které má nejmenší odhadové kritérium. Jak je uvedeno v [39], bod selhání dosahuje 50%. Metoda je velmi výpočetně náročná, pro měření a neznámých je počet kombinací!, tj. např. pro 50 měření a 5!! neznámých je to 2118760 kombinací. V [39] je tedy doporučováno náhodně vybírat měření a v závislosti na podílu odlehlých měření a zvolené pravděpodobnosti (99% nebo 95%) lze vypočítat počet určení neznámých, který je ale i tak velmi velký. 43

2.3.1.6 Metoda RANSAC Metoda RANSAC (Random Sample Consensus, [40]) je iterativní metoda pro určení parametrů matematického modelu z měřených dat, která obsahují odlehlá pozorování. Poskytuje dobré výsledky pouze s určitou pravděpodobností, která roste s počtem iterací. Algoritmus byl publikován poprvé v [41]. Vstupem do RANSAC algoritmu jsou pozorovaná (měřená) data, model spojující měření a neznámé a parametry spolehlivosti odhadu. Metoda postupně vybírá náhodnou podmnožinu měřených dat a data jsou testována následujícím způsobem: 1. Z podmnožiny se vypočtou neznámé modelu. 2. Ostatní data jsou testována oproti takto získanému modelu, a pokud vyhovují, jsou přijata jako potenciální správné měření. 3. Určený model je považován za správný, pokud dostatečný počet měření je považován za potenciálně správné. 4. Neznámé jsou určeny znovu ze všech měření vyhodnocených jako potenciálně správné. 5. Kvalita modelu je zhodnocena pomocí oprav přiřazených použitým měřením (tj. měřením považovaným za potenciálně správná). Tento postup je opakován -krát, kde je zvolený počet opakování. Při každém opakování je model buď odmítnut jako nevhodný vzhledem k příliš malému počtu potenciálně správných měření, nebo uznán za vhodný. V tomto případě z maximálně modelů je vybrán a použit takový, který má nejlepší hodnocení přesnosti. Pro zkrácení výpočetní náročnosti se v některých úpravách výpočet zastaví při nalezení prvního dostatečně dobrého modelu, případně lze charakteristiku přesnosti modelu počítat bez výpočtu ze všech vhodných měření. Výhodou metody je robustní odhad neznámých parametrů modelu s vysokým stupněm přesnosti i v případě přítomnosti vysokého procenta hrubých chyb. Nevýhodou je, že v případě volby pevného počtu odhadů () získané řešení nemusí být optimální, v opačném případě nemusí být žádná horní mez na dobu potřebnou pro výpočet těchto parametrů. Vhodný model může být získán pouze s určitou pravděpodobností, která roste s počtem opakování výpočtu. Další nevýhodou metody je, že vyžaduje stanovení pro problém specifických hranic. Pokud pro data existují dva nebo více modelů, metoda může selhat a nenajít ani jeden. 2.3.1.7 Metoda redukovaných (useknutých) pozorování 2.3.1.7.1 Metoda useknutí (Trimming) Jednoduchá robustní metoda, počítá se z pořádkových statistik (hodnoty seřazené podle velikosti). Podle zvoleného procenta se pro výpočet vynechává určitý počet extrémních hodnot, tj. stejný počet největších a nejmenších hodnot v případě výpočtu průměru, pro obecnější model totéž pro opravy. V principu se jedná o nejjednodušší 44

způsob odstranění vlivu extrémních hodnot a výsledkem je robustní odhad. Problémem je subjektivní odhad, jaké množství hodnot je třeba vyloučit (useknout). 2.3.1.7.2 Metoda Windsorizování (Windsorizing) Metoda na podobném principu jako metoda popsaná v předchozím odstavci, zde se však zvolí velikost intervalu oprav hodnocených jako vyhovující (např. dvojnásobek směrodatné odchylky), ostatní měření překračující tuto hranici se považují za nevyhovující a přesunou se právě na tuto zvolenou hranici. Tím se jejich hodnota úplně neztratí. Vlastnosti jsou obdobné, jako u metody předchozí. 2.3.1.8 Aplikace robustních metod v geodézii Moderní rozvoj robustních statistických metod, tj. statistických metod, které jsou na rozdíl od klasických statistických postupů mnohem méně citlivé na splnění podmínky původu zpracovávaných dat z příslušného rozdělení pravděpodobnosti, je možné uvažovat od 2. poloviny 20. století. Mezi nejvýznamnější publikace z oblasti robustní statisticky je možné počítat publikace Robust Estimation of a Location Parameter [34] či Robust Statistics [32], ve kterých autor P. J. Huber definoval dodnes užívané základní principy robustních odhadů. Nejvýznamnější českojazyčnou publikací v dané oblasti je bezesporu Robustní statistické metody [25], kde je spolu s veškerým teoretickým výkladem uváděn přehled dnes používaných přístupů a metod robustní statistiky. V oblasti aplikace robustních statistických metod se množství dostupné literatury zaměřuje pouze na oblast základního výpočtu robustního odhadu polohy jednorozměrných náhodných výběrů a ve většině případu publikované příklady použití robustních odhadů nepřesahují svou složitostí úlohu jednoduché lineární regrese (např. [42]). V případě geodetických aplikací byly (vzhledem k nižší datové členitosti a vhodnosti užití velká množství jednorozměrných měřických dat) robustní odhady zpočátku používány v oblasti zpracování obrazu a fotogrammetrie (např. [37]). Postupem času se robustní odhady rozšířily i do oblastí zpracování geodetických měření, stručný přehled použití robustního vyrovnání geodetických měření lze nalézt v např. [33] či [36]. Použití robustních odhadů jako nástroje detekce odlehlých měření aplikovaného na měření geodetických sítí je uváděno např. v [43], [44] (testování detekce hrubých chyb měření) či [45] (porovnání metod různých detekce odlehlých hodnot aplikovaných na měření GPS sítě). O robustní analýze geodetických sítí také široce pojednává disertační práce [46] (zaměřená na robustní analýzu velkoměřítkových geodetických sítí). Zde popisované softwarové nástroje zabývající se zpracováním měření geodetických sítí ([9], [10], [11], [12] či [13]) problematiku automatické potlačení vlivu odlehlých hodnot naprosto opomíjejí. Zpracování měření pomocí robustních statistických metod není součásti výpočetního aparátu běžných softwarových nástrojů. Výjimku tvoří řešení robustního odhadu (konkrétně L 1 normy) pro potlačení vlivu hrubých chyb při výpočtu přibližných souřadnic bodů implementované v [15]. 45

2.3.2 Metody detekce odlehlých hodnot měření Další z možností potlačení vlivu odlehlých hodnot zpracovávaných geodetických měření je způsob jejich odstranění ještě před či v průběhu samotného procesu zpracování. Princip použití těchto metod je založen na předpokladu původu zpracovávaných měřených dat z normálního rozdělení pravděpodobnosti [3]. 2.3.2.1 Rozbor přesnosti při měření Nejjednodušším způsobem potlačení vlivu odlehlých hodnot měření (jako i hrubých chyb a omylů [3]) je přímá kontrola měřených hodnot geodetických veličin. Jedná se o posouzení (a případné vyloučení) hodnot měřených veličin přímo v okamžiku jejich pořizování, tj. v okamžiku měření. V oblastech inženýrské geodézie je tento způsob detekce označován jako rozbor přesnosti při měření [5]. Princip použití této detekce je podmíněn opakovaným měřením jednotlivých geodetických veličin (běžným u přesných měření inženýrské geodézie). V tomto případě je předpokládáno, že hodnoty geodetické veličiny opakovaně měřené za stejných podmínek vytvářejí jednorozměrný náhodný výběr pocházející ze základního souboru s normálním rozdělením pravděpodobnosti [3]. Za platnosti tohoto předpokladu lze statisticky posoudit (na dané hladině významnosti), zda jednotlivé hodnoty náhodného výběru opravdu přísluší normálnímu základnímu souboru či zda se nejedná o odlehlé hodnoty, které vlivem působení chyb měření předpoklad normality dat nesplňují. K hodnocení měřených geodetických veličin se zde zpravidla používají testy statistických hypotéz posuzující opravy jednotlivých hodnot měřených veličin vzhledem k stanovené hodnotě mezní opravy. Podstatnou nevýhodou aplikace metody rozboru přesnosti při měření je značná nejistota ve správnosti vyloučení jednotlivých hodnocených měření. Důvodem je značně malý rozsah náhodných výběrů hodnocených veličin (měření je nejčastěji prováděno pouze ve dvou či třech opakováních). Hodnoty měřených veličin jsou na jednotlivých stanoviscích porovnávány pouze mezi sebou, a to bez ohledu na celkový model geodetické sítě. Může tedy nastat případ, kdy část měření v rámci výběru je ovlivněna systematickou chybou (je porušena normalita výběru, kterou ovšem z důvodu malého rozsahu nelze odhalit), což může mít za následek vyloučení měření, které je v rámci ( systematicky posunutého ) výběru odlehlé, ale z hlediska celé geodetické sítě správné. Pro přehled jsou zde uvedeny dva v inženýrské geodézii nejčastěji používané testy odlehlých hodnot. 2.3.2.1.1 Grubbsův test odlehlých hodnot Při užití Grubbsova testu (prvně publikovaného v [47], popisovaného např. i v [48]) je za předpokladu normality měřických dat posuzována nulová hypotéza, že testovaná hodnota (pozorování) náhodného výběru není odlehlá. V geodézii (např. v [3]) je tento test často označován jako test oprav při neznámé základní směrodatné odchylce či střední chybě. Testovací kritérium je stanoveno jako, (73) 46

kde je vektor oprav jednotlivých měření obecně vyjádřitelných vztahem, (74) kde je oprava obecného i-tého pozorování náhodného výběru o rozsahu a je výběrový průměr, pro který platí. (75) Maximální absolutní hodnota opravy max je při výpočtu testovacího kritéria normována výběrovou směrodatnou odchylkou vyjádřenou vztahem. (76) Přijetí či zamítnutí nulové hypotézy je posuzováno na, v inženýrské geodézii běžně užívané, hladině významnosti, 0,05. (77) Překročí-li hodnota testovacího kritéria kritickou hodnotu Grubbsova (Pearsonova Chandra Sekharova) rozdělení, (blíže v [49], tabelováno např. v [3], [21], [50]), je nulová hypotéza zamítnuta a testovaná hodnota (pozorování) náhodného výběru je na hladině významnosti α považována za odlehlou a z výběru je vyloučena. Po odstranění odhalené odlehlé hodnoty z náhodného výběru je se změněnými vstupními parametry testování opakováno. 2.3.2.1.2 Mckay Nairův test odlehlých hodnot Jedná se o obdobu Grubbsova testu s tím rozdílem, že při výpočtu testovacího kritéria je na místo výběrové směrodatné odchylky počítané z přímo naměřených dat užita předem známá základní směrodatná odchylka měřené veličiny. V geodézii je tento test často označován jako test oprav při známé základní směrodatné odchylce či střední chybě [3]). Testovací kritérium je dáno vztahem. (78) Přijetí či zamítnutí nulové hypotézy je posuzováno na, v inženýrské geodézii běžně užívané, hladině významnosti, 0,05. (79) Překročí-li hodnota testovacího kritéria kritickou hodnotu Mckay Nairova rozdělení, (blíže v [51] resp. [52], tabelováno např. v [3], [21]), je nulová hypotéza zamítnuta a testovaná hodnota (pozorování) náhodného výběru je na hladině významnosti 47

α považována za odlehlou a z výběru je vyloučena. Testování náhodného výběru je dále opakováno. 2.3.2.2 Posouzení oprav měření daných z vyrovnání Druhým z možných přístupů detekce odlehlých hodnot je aposteriorní kontrola oprav (residuí) jednotlivých měření daných jejich vyrovnáním. V počáteční fázi zpracování jsou veškeré vstupní hodnoty geodetických veličin vyrovnány (za předpokladu původu dat z normálního rozdělení pravděpodobnosti) metodou nejmenších čtverců [3] a následně je provedeno hodnocení, při kterém je posuzováno, jak významně jsou jednotlivá měření vzdálena od výsledného odhadu vyrovnaných geodetických veličin. Jednotlivá zpracovávaná měření jsou podrobena statistickému testování, při kterém je ověřováno, zda (na příslušné hladině významnosti) nabývají hodnot splňujících předpoklady normálního rozdělení pravděpodobnosti, tj. zda odpovídají základnímu normálnímu měřickému modelu reprezentovaného jeho odhadem. Ve srovnání s výše uváděnou metodou rozboru přesnosti při měření je zde popisovaný přístup aposteriorního hodnocení oprav měření mnohem objektivnější. Hodnocení jednotlivých měření je prováděno s ohledem na celý zpracovávaný soubor měření a tedy nikoli pouze v rámci hodnot dílčích náhodných výběrů samostatných geodetických veličin. Určitou nevýhodou tohoto přístupu je jeho závislost na kvalitě určení odhadu vyrovnaných geodetických veličin. Do výpočtu odhadu (procesu vyrovnání) jsou zahrnuty veškeré vstupní hodnoty měření, tj. i zatím neodhalené odlehlé hodnoty. Výsledný odhad (prováděný metodou nejmenších čtverců) může být těmito odlehlými hodnotami značně ovlivněn a následně tak dochází i ke zkreslení statistického hodnocení (vlastní detekce odlehlých hodnot). Při statistickém hodnocení v tomto případě může dojít k chybnému vyloučení správné (neodlehlé) hodnoty, která se sice jeví jako odlehlá, ale to vůči k chybně určenému odhadu. Přehled metod detekce odlehlých hodnot založených na aposteriorním hodnocení oprav měření je uveden níže. 2.3.2.2.1 Metoda data-snooping (Baarda s data-snooping) Z důvodu možného popisu dané metody je zaveden lineární model úlohy vyrovnání měření, pro který platí, (80), (81),,,, (82) kde je vektor měření (náhodný vektor), vektor skutečných chyb, kde je vektor odhadu neznámých parametrů, matice lineárních (linearizovaných) vztahů mezi 48

neznámými parametry a vektor oprav měření. Počet měření je větší než počet neznámých, jde o úlohu s vyrovnáním. Měření jsou nezávislá. Zavedením podmínky metody nejmenších čtverců [3], lze řešení lineárního modelu vyjádřit vztah. (83) Pomocí získaného odhadu neznámých parametrů jsou určeny opravy měření. (84) Dosazením z rovnice (83) do (84) lze upravit. (85) Aplikací zákona šíření směrodatných odchylek (uváděného např. v [21]) lze získat vztah pro výpočet matice váhových koeficientů oprav, (86) kde je matice váhových koeficientů měření, matice váhových koeficientů vyrovnaných měření a jednotková matice. Z matice váhových koeficientů oprav lze úpravou získat směrodatnou odchylku opravy měření. Obecně platí, (87) kde je směrodatná odchylka opravy měření, i-tý diagonální prvek matice váhových koeficientů, je základní směrodatná odchylka měření (apriorní jednotková směrodatná odchylka vstupující do procesu vyrovnání). Následně je možné provést normování, kdy platí, (88) kde je oprava měření a je její normovaná hodnota. Metoda data-snooping (prvně uváděná v [53]) vychází z teorie testování statistických hypotéz, kdy je testováno, zda se ve vstupním lineárním modelu měření nalézá jedna odlehlá hodnota. Při testování je posuzována nulová hypotéza, že měření, jemuž odpovídá testovaná hodnota, není odlehlé. Testovací kritérium je stanoveno jako maximální normovaná oprava měření max, (89) kde je vektor normovaných oprav měření, u kterých je předpokládán původ ze základního souboru se standardizovaným normálním rozdělením pravděpodobnosti 0,1. 49

Přijetí či zamítnutí nulové hypotézy je posuzováno na upravené hladině významnosti vyjádřené vzhledem k předpokladu jediného odlehlého měření nalézajícího se v testovaném souboru měření (uváděno např. v [45] či v [54]). Tato upravená hladina významnosti je dána vztahem 11, (90) kde je počet měření a hladina významnosti (v inženýrské geodézii běžně volená 0,05). Za předpokladu oboustranného testování (opravy nabývají kladných i záporných hodnot) platí. (91) Překročí-li hodnota testovacího kritéria kritickou hodnotu, je nulová hypotéza zamítnuta a příslušné měření, jemuž odpovídá testovaná oprava, je považováno za odlehlé a z testovaného souboru dat je vyloučeno. Kritická hodnota odpovídá 1001 /2%-nímu kvantilu normovaného normálního rozdělení pravděpodobnosti 0,1 (tabelovaného např. v [50]). Po vyloučení jedné odlehlé hodnoty je redukovaný lineární model měření znovu vyrovnán a s novými vstupními parametry je testování zopakováno. Vzhledem k dosti vysokému kritériu odlehlosti měření vycházejícímu z upravené hladiny významnosti je patrno, že je metoda data-snooping zaměřena spíše na detekci hrubých chyb měření. Jiný přístup, kdy jsou kritické hodnoty stanoveny přímo pro hladinu významnosti a tj. nabývají zpravidla dosti menších hodnot, je uváděn např. v [55] či [56]. Metoda data-snooping pro detekci odlehlých hodnot měření je implementována i v některých pokročilých zpracovatelských softwarových nástrojích zabývajících se zpracováním měření geodetických sítí (např. [14]). 2.3.2.2.2 τ test odlehlých hodnot Tento test (prvně uváděný v [57]) je obdobou výše uvedené metody datasnooping. Odlišnost spočívá v principu výpočtu směrodatné odchylky opravy měření, kdy tato není určována dle (88) pomocí základní směrodatné odchylky měření (apriorní jednotková směrodatná odchylka vstupující do procesu vyrovnání), ale je pro její výpočet použita směrodatná odchylka měření určená z vyrovnání (aposteriorní jednotková směrodatná odchylka). Pro i-té měření obecně platí. (92) Aposteriorní jednotková směrodatná odchylka měření je dána vztahem 50

, (93) kde je počet nadbytečných měření v modelu vyrovnání (počet stupňů volnosti), pro který v tomto případě platí, (94) kde je počet měření a počet neznámých parametrů. Testovací kritérium dané vztahem (89) je porovnáváno s kritickou hodnotou, která je dána 1001 2%-ním kvantilem speciálního τ rozdělení pro stupňů volnosti,,, (95), kde, je 1001 2%-ní kvantil Studentova t rozdělení pro stupňů volnosti (tabelovaný např. v [50]). I v případě tohoto testu uvádí literatura (např. [56]) přístup stanovení kritických hodnot přímo pro hladinu významnosti. Problematika užití τ testu v oblastech zpracování měření geodetických sítí je zmiňována v [58], jeho praktické použití je uváděno např. v [59] (detekce odlehlých hodnot při vyrovnání gravimetrických měření). 2.3.2.2.3 t test odlehlých hodnot Jedná se o další modifikaci metody data-snooping a τ testu odlehlých hodnot. Stejně jako ve výše uvedeném případě se tento test liší v principu výpočtu směrodatné odchylky opravy měření, která je v tomto případě dána vztahem, (96) kde je aposteriorní jednotková směrodatná odchylka měření oproštěná od vlivu odlehlých hodnot ([45] či [54]). Jak již bylo uvedeno výše, předpokládá toto testování pouze jedinou odlehlou hodnotu (hrubou chybu) přítomnou ve zpracovávaných datech. V tomto případě je tedy snahou normovat opravu směrodatnou odchylkou vypočtenou pouze z oprav zbylých neodlehlých měření. Redukovaná směrodatná odchylka je dána vztahem. (97) 51

Testovací kritérium určené v (89) je v tomto případě porovnáváno s kritickou hodnotou, která je dána 1001 2%-ním kvantilem Studentova t rozdělení pravděpodobnosti pro 1 stupňů volnosti (tabelovaným např. v [50]). Aplikace tohoto testu pro detekci odlehlých hodnot měření geodetických sítí je uváděna např. v [60]. 2.3.2.3 Hodnocení aposteriorní jednotkové směrodatné odchylky Aposteriorní hodnocení přesnosti pomocí jednotkové směrodatné odchylky není plnohodnotnou metodou umožňující detekci konkrétních odlehlých hodnot přítomných v souboru zpracovaných měření. Jedná se o globální posouzení celkové aposteriorní přesnosti získané vyrovnáním geodetických měření. Pomocí této metody nelze tedy přímo identifikovat jednotlivé chyby měření, ale pouze poukázat na nepřesnost měření celého zapracovávaného souboru (způsobenou jednotlivých měřickými chybami). Princip hodnocení vychází z předpokladu, že měřené geodetické (náhodné) veličiny mají normální rozdělení pravděpodobnosti a jejich směrodatné odchylky jsou známy. Při platnosti tohoto předpokladu lze normováním hodnot jednotlivých geodetických veličin vytvořit jednotný náhodný výběr pocházející z normálního základního souboru charakterizovaného apriorní jednotkovou směrodatnou odchylkou. Testováním statistických hypotéz je ověřováno, zda rozptyl náhodného výběru (odhadovaný aposteriorní jednotkovou směrodatnou odchylkou jdoucí z vyrovnání) opravdu odpovídá apriornímu rozptylu základního souboru. Nulová a alternativní hypotéza jsou definovány jako : :. (98) Testovací kritérium je určeno dle vztahu, (99) kde je aposteriorní jednotková směrodatná odchylka určená z (93), volená apriorní jednotková směrodatná odchylka a je počet nadbytečných měření. Přijetí či zamítnutí nulové hypotézy je posuzováno na, v inženýrské geodézii běžně užívané, hladině významnosti, 0,05. (100) kde, je kritická hodnota, která je reprezentována 1001%-ním kvantilem rozdělení pravděpodobnosti pro stupňů volnosti (tabelovaným např. v [50]). Překročí-li hodnota testovacího kritéria kritickou hodnotu, je nulová hypotéza zamítnuta a aposteriorní přesnost je na hladině významnosti považována za neodpovídající zadávané apriorní přesnosti. Je tedy připouštěn vliv působení odlehlých 52

hodnot přítomných v souboru zpracovávaných měření, který je příčinou nárůstu aposteriorní jednotkové směrodatné odchylky. V odborné literatuře, např. v [3] či v [21], je uváděno i upravené testování založené na výpočtu směrodatné odchylky aposteriorní jednotkové směrodatné odchylky, která je dána vztahem. (101) Následně je prováděno posouzení, zda platí, (102) kde je 1001 %-ní kvantil normovaného normálního rozdělení 0,1 (tabelovaný např. v [50]). Při volbě hladiny významnosti 0,02, kdy 2, je možné hodnotící kritérium zjednodušeně vyjádřit jako 1. (103) Jak již bylo uvedeno výše, zde popisovaným hodnocením aposteriorní jednotkové odchylky nelze provádět přímou detekci jednotlivých odlehlých hodnot. Pozorováním jejího vývoje lze ovšem posoudit vliv konkrétních hodnot měřených veličin na celkovou aposteriorní přesnost [21]. Je-li testováním aposteriorní přesnosti odhalena přítomnost chybných měření, je postupně procházen celý soubor dat, v každém kroku je vyřazena jedna hodnota geodetické veličiny a provedeno vyrovnání zbylých měření. Je zaznamenána hodnota aposteriorní jednotkové směrodatné odchylky a vyřazená hodnota je do souboru znovu navrácena. Měření, jehož vyřazením bylo docíleno nejvyššího poklesu aposteriorní jednotkové směrodatné odchylky, je považováno za odlehlé a ze souboru trvale vyloučeno. Vykazuje-li testování aposteriorní přesnosti nadále přítomnost chybných měření, je celý proces vylučování opakován. Obdobný princip nalezení nejpodezřelejšího měření je implementován v [13]. 2.4 Zpracování geodetických měření V této disertační práci popisovaná geodetická měření jsou získávána v rámci zaměřování prostorových inženýrsko-geodetických sítí. Jedná se o velmi přesná klasická terestrická geodetická data obsahující hodnoty měřených vodorovných směrů, zenitových úhlů, šikmých délek a dalších doplňkových geodetických veličin (bližší popis je uveden v kap. 2.2). Vzhledem k velmi vysokým požadavkům přesnosti (obvyklým pro oblast inženýrské geodézie) jsou tato měření pořizována opakovaně, ve vysokém množství a s velmi vysokým počtem nadbytečných hodnot jednotlivých měřených geodetických veličin. V současné době jsou takto pořizovaná přesná geodetická data zpracovávána prakticky jediným způsobem, a to metodou vyrovnání měření geodetické sítě při použití podmínky nejmenších čtverců oprav měření (metoda nejmenších čtverců [3]). Výsledkem tohoto zpracování je zisk nejspolehlivějších (nejlepších nestranných [61]) odhadů 53

prostorové polohy jednotlivých bodů geodetické sítě spolu s charakteristikami jejich dosažené přesnosti. Podstatou tohoto zpracování je snaha o vytvoření a vyřešení soustavy lineárních rovnic (lineárního modelu) vyjadřujících vztahy mezi vstupními měřenými geodetickými (náhodnými) veličinami (vodorovnými směry, zenitovými úhly a šikmými délkami) a hledanými veličinami (prostorovými pravoúhlými souřadnicemi bodů geodetické sítě). Konkrétně je v tomto případě používáno metody vyrovnání zprostředkujících měření, kdy jsou zprostředkujícími veličinami voleny přímo vstupní měřené geodetické veličiny. Princip a podrobný postup vyrovnání měření geodetických sítí je uváděn v množství odborné literatury, a to zahraniční (např. [33] či [36]) i tuzemské (např. [3], [21] či [62]). Vzhledem k obecné znalosti této problematiky není v přehledu současného stavu uváděn podrobný popis a postup tohoto zpracování. Tento postup je podrobněji uveden až v části zabývající se řešenou problematikou, a to v návaznosti na konkrétní případ vyrovnání přesných inženýrsko-geodetických sítí. Jak již bylo uvedeno dříve (konkrétně v kap. 2.2), existuje v současné době množství výpočetních softwarových nástrojů zabývajících se úlohou vyrovnání měření geodetických sítí (např. [9], [10], [11], [12]). Tyto softwary disponují méně či více stabilními výpočetními aparáty umožňující úspěšné řešení této úlohy. Tato softwarová řešení se v mnohých případech dosti liší, a to ve způsobu a možnostech předzpracování měření, detekce hrubých chyb a odlehlých hodnot či samotného řešení lineárního modelu měření (řešení soustavy lineárních rovnic). Z hlediska principu využití samotné metody vyrovnání geodetických měření (metody vyrovnání zprostředkujících měření) jsou ovšem tyto softwarové nástroje naprosto totožné. 54

3 Řešená problematika V části řešené problematiky se předkládaná disertační práce věnuje tematice automatizovaného zpracování přesných měření inženýrské geodézie. Jsou zde uváděna navrhovaná řešení jednotlivých části celkového zpracovatelského postup. Představovaný výpočetní proces v sobě zahrnuje množství úkonů počínaje detekcí, kontrolou a analýzou načítaných měření, přes jejich úpravu a vlastní zpracování až po konečné vyhodnocení. 3.1 Předzpracování geodetických měření Předzpracování geodetických měření představuje souhrn zpracovatelských úkonů a prací, jejichž cílem je příprava veškerých vstupních dat a nutných podkladů potřebných pro úspěšné vyhodnocení geodetických měření formou jejich vyrovnání. V případě velmi přesných klasických měření inženýrské geodézie (blíže popisovaných v kap. 0) se proces předzpracování od běžných geodetických postupů dosti liší. Tato odlišnost je dána požadavky přesnosti měření a vyhodnocení geodetických dat, neboť tyto jsou v případě inženýrských měření několikanásobně vyšší než v běžné geodézii. V porovnání s běžnými postupy je proces předzpracování inženýrských měření mnohem objemnější a je k němu nutné přistupovat s mnohem vyšší důkladností. Předzpracování geodetických měření v sobě zahrnuje procesy zbývající se zejména úpravou vstupních geodetických měření (do podoby požadované pro jejich vyrovnání), jejich redukcí, kontrolou a dále analýzou jejich skutečné apriorní přesnosti. Jednotlivé části úlohy předzpracování měření jsou blíže popsány v dále uváděných podkapitolách. 3.1.1 Vstupní úprava geodetických měření Vstupní úprava geodetických měření je první fází celkového přípravného procesu předzpracování měření. Snahou této vstupní úpravy je konverze vstupních souborů surových měřických dat do formy jednotné množiny upravených hodnot geodetických veličin vstupujících do procesu vyrovnání. V případě zde popisovaných přesných terestrických měření mají surová měřická data podobu klasických (elektronických i tištěných) měřických zápisníků obsahující hodnoty vodorovných směrů, zenitových úhlů, šikmých délek, výšek přístroje a výšek cíle. Hodnoty těchto klasických geodetických veličin jsou uspořádávány do samostatných měřických skupin (viz kap. 0). V průběhu předzpracování je nutno tyto měřické skupiny detekovat, překontrolovat a následně patřičně upravit. 3.1.1.1 Základní kontrola měřených hodnot Základní kontrola měřených hodnot je zcela triviální způsob kontroly dat, jejímž cílem je upozornění uživatele (zpracovatele) na výskyt hrubých chyb obsažených ve vstupních měřických souborech. Princip této kontroly vychází z posouzení, zda načtené číselné hodnoty příslušných typů měřených geodetických veličin nabývají reálných očekávaných hodnot. Na základě úvahy o maximální předpokládané velikosti (rozměru) 55

vyhodnocované geodetické sítě uživatel volí mezní hodnoty geodetických veličin, na jejichž případné překročení je následně upozorňován. Pro zde řešené klasické terestrické geodetické veličiny jsou stanoveny následující přípustné intervaly hodnot pro: 1. délkové veličiny (šikmá délka, výška přístroje, výška cíle ) 0,, 0,, 0,, (104) kde,, jsou maximální (uživatelem nastavené) přípustné hodnoty šikmých délek, výšek přístroje a výšek cíle v souboru zpracovávaných měření, 2. úhlové veličiny (vodorovný směr, zenitový úhel ) 0, 2, 0, 2. (105) Při překročení výše uvedených intervalů jsou příslušné hodnoty geodetických veličin vyhodnoceny jako chybné, dojde k jejich označení a pozastavení výpočetního procesu. Po patřičné úpravě či vyřazení chybných hodnot ze souboru měření je uživateli povolen přístup k dalšímu zpracování geodetických dat. Pro přesná inženýrská měření zde nejsou připouštěny záporné hodnoty výšky přístroje a výšky cíle. Důvodem je předpoklad klasické stabilizace a signalizace přístroje a cíle nad vlastním bodem geodetické sítě 0 (totální stanice a odrazný hranol stabilizovány pomocí nucené centrace [5] či geodetického stativu). Pro obě veličiny jsou připouštěny hodnoty 0 (střed totální stanice definující bod geodetické sítě, tj. případ zaměření bodů sítě z volného stanoviska) a 0 (přímá signalizace bodu sítě pomocí trvale stabilizovaného odrazného hranolu či odrazné fólie). Vzhledem k jasné definici (uváděné např. v [1]) není pro hodnoty vodorovného směru a zenitového úhlu dovolen výskyt záporných hodnot, hodnoty těchto veličin jsou připouštěny pouze v základním intervalu 0, 2. Význam základní kontroly měřených hodnot má své opodstatnění hlavně v případech, jsou-li data získávána z klasických tištěných měřických zápisníků. Ručním přepisováním množství měřených hodnot do elektronické formy dochází ke vzniku četných chyb, jejichž velkou část lze touto kontrolou snadno odhalit. 3.1.1.2 Detekce měřických skupin Velmi vysoké nároky na přesnost měření v oblastech inženýrské geodézie vyžadují použití speciálních postupů a metod zajištujících zisk kvalitních (tedy přesných) geodetických dat. Proces pořizování geodetických dat v inženýrské geodézii je řízen přesně stanovenými pravidly. Striktní dodržování těchto pravidel (dodržování technologických postupů) vede k omezení výskytu hrubých chyb a omylů způsobených nepozorností měřicí obsluhy a k odstranění chyb způsobených nedokonalostí měřící techniky. V případě klasických terestrických inženýrsko-geodetických měření je vyžadováno, aby měřené geodetické veličiny (v tomto případě vodorovné směry, 56

zenitové úhly a šikmé délky), které jsou dále doplněny o výšky přístroje a výšky cíle, byly pořizovány v měřických skupinách [2]. Jak již bylo zmiňováno (viz kap. 0), je za měřickou skupinu považována osnova měřených vodorovných směrů, zenitových úhlů a šikmých délek postupně měřených na jednotlivé cíle, a to nejprve v první (označované I) a následně i ve druhé (označované II) poloze dalekohledu. Princip detekce měřických skupin ve vstupním souboru měřených hodnot je založen na vyhledání osově souměrných posloupností čísel cílových bodů (měřených z jednoho stanoviska) a posloupností ukazatelů polohy dalekohledu jednotlivých měření. Identifikátorem polohy dalekohledu měření (I/II) je hodnota zenitového úhlu, neboť pro tuto platí I II. (106) Vstupní soubor měřených hodnot (surový měřický zápisník) lze obecně vyjádřit jako množinu samostatných buněk, kde každá buňka přestavuje jeden samostatný záznam měření (ve smyslu jednoho zacílení na cílový bod a odečtení měřených hodnot geodetických veličin). Takovýto záznam měření tvoří: 1. pořadové číslo stanoviska v rámci souboru (jednoznačný identifikátor stanoviska v souboru), 2. číslo stanoviska a číslo cíle (číslo stanoviska zde nelze použít jako jednoznačný identifikátor, neboť je nutné předpokládat příklad, kdy je na jednom stanovisku provedeno více samostatných měření souboru měření obsahuje více samostatných stanovisek se stejným číslem), 3. hodnoty doplňkových geodetických veličin (výška přístroje a výška cíle ), 4. hodnoty přímo měřených geodetických veličin (vodorovný směr a zenitový úhel a šikmá délka (není-li měřena, je uváděno 0)). Je-li vstupní měřický soubor definován množinou samostatných záznamů měření, lze každou měřickou skupinu vyjádřit jako podmnožinu záznamů s totožným pořadovým číslem stanoviska, osově souměrnou posloupností čísel cíle a dvoublokovou posloupností zenitových úhlů měřených v I. a II. či II. a I. poloze dalekohledu. Princip detekce měřických skupin v množině samostatných záznamů měření je schematicky znázorněn na níže uvedeném Obr. 18. 57

Obr. 18 Schématické znázornění principu detekce měřických skupin Pro bližší představu o principu detekce měřických skupin je na Obr. 19 podrobněji představen příklad detekce v souboru surových měření formátu MAPA2 (typ 1 - polární metoda, blíže popsáno v [63]). Obr. 19 Detekce měřických skupin v souboru měření formátu MAPA2 Minimálním obsahem detekované měřické skupiny jsou čtyři záznamy měření na dva odlišné cílové body (viz ukázka Obr. 19, 2. skupina). Tato podmínka vychází z vlastní definice měřické skupiny představující osnovu měřených hodnot geodetických veličin (viz kap. 0). Hodnoty nalezených měřických skupin vstupují do dalších zpracovatelských kroků odděleně. V případě, jsou-li ve vstupním souboru měření odhaleny chybné záznamy, které vlivem chyb měřící obsluhy nejsou zařaditelné do žádné měřické skupiny, dojde k označení těchto záznamů a tyto jsou následně z dalšího zpracování vyřazeny. I drobné chyby při pořizování dat, jako je například chybné označení cílového bodu 58

v měřické skupině, mohou mít za následek chybnou detekci měřických skupin (detekci neodpovídající skutečnosti) v celém souboru měření. Na tomto místě není tedy příliš efektivní provádět automatické vyloučení nezařazených záznamů a slepě pokračovat v dalších zpracovatelských krocích. Namísto toho je spíše vhodné poskytnou uživateli (zpracovateli) dostačený prostor, podmínky a vhodné nástroje pro ruční úpravu vstupních záznamů (ruční odstranění chyb) a zajistit tak pod jeho dohledem správnou detekci měřických skupin odpovídající skutečnému měření v terénu. 3.1.1.3 Kontrola měřických skupin Opakované měření hodnot geodetických veličin uspořádaných do měřických skupin má významný vliv na přesnost výsledků získaných jejich zpracováním. Jedna z hlavních výhod takto pořizovaného měření je možnost efektivního odhalení případného výskytu hrubých chyb či omylů [3] přítomných ve zpracovávaných datech. Odhalení hrubých chyb a omylů měření již ve fázi prvotního předzpracování, má nesmírný význam nejen pro kvalitu dosažených konečných výsledků, ale taktéž pro samotné zajištění stability procesu vyrovnání geodetických dat. Jak již bylo uvedeno v kap. 2.2.2 není model vyrovnání zde řešených geodetických měření přímo lineární a je nutné ho pro jeho možné vyrovnání linearizovat. Pro úspěšné zpracování linearizovaného modelu je ovšem nutné znát přibližné hodnoty hledaných neznámých veličin. V případě vyrovnání prostorových geodetických sítí je tedy nutné znát s dostatečnou přesností přibližné prostorové souřadnice jednotlivých bodů sítě. Jsou-li ovšem tyto přibližné hodnoty chybné, což může nastat právě vlivem působení hrubých chyb přítomných ve zpracovávaných datech, celý proces vyrovnání selhává a dosažené hledané výsledky jsou naprosto mylné. Včasné odstraněním hrubých chyb ze souboru vstupních měřických dat ještě před výpočtem přibližných souřadnic bodů geodetické sítě, tj. tedy právě při kontrole měřických skupin, významně snižuje pravděpodobnost selhání daného výpočetního procesu. Kontrolu měřických skupin lze rozdělit do dvou základních částí zabývajících se: 1. posouzením hodnot geodetických veličin měřených v rámci jedné skupiny v obou polohách dalekohledu, 2. kontrolou hodnot geodetických veličin měřených ve stejné poloze dalekohledu opakovaně na jednom stanovisku ve více měřických skupinách. Pro účely předkládané disertační práce jsou tyto kontrolní části označovány jako mezipolohová a meziskupinová kontrola. Kromě vlastního posouzení hodnot geodetických veličin je v této fázi zpracování dat nutné provádět i ověřování správnosti čísel cílů uvnitř měřické skupiny. Jedná se o ověření, zda se omylem neshodují v rámci měřické skupiny čísla jednotlivých cílů s číslem stanoviska. Odstranění těchto chyb je nezbytné, neboť jejich přítomnost ve vstupních datech má za následek kolaps celého automatizovaného procesu zpracování měření. Princip zde popisované kontroly měřických skupin vychází z výpočtu a následného posouzení skutečných rozdílů odpovídajících si hodnot geodetických veličin. 59

Konkrétně se tedy jedná o posouzení rozdílu hodnot jedné geodetické veličiny zaměřené v rámci jedné skupiny v první i druhé poloze dalekohledu (mezipolohová kontrola) a rozdílů hodnot geodetické veličiny opakovaně měřené ve více měřických skupinách (meziskupinová kontrola). Výsledné mezipolohové a meziskupinové rozdíly musí splňovat uživatelem zadávaná kritéria mezních rozdílů hodnot. 3.1.1.3.1 Mezipolohová kontrola hodnot geodetických veličin Vlastnosti měření klasických geodetických veličin ve dvou polohách dalekohledu jsou obecně známy [2], neboť vycházejí z vlastní definice geodetických veličin a principu jejich měření pomocí teodolitu resp. totální stanice. Vzhledem k těmto vlastnostem lze pro měření v jedné měřické skupině obecně vyjádřit, (107) kde je rozdíl hodnot šikmé délky měřené v první a druhé poloze dalekohledu,, (108) kde je rozdíl hodnot vodorovného směru měřeného v první a druhé poloze dalekohledu a 2, (109) kde je rozdíl hodnot zenitového úhlů měřeného v první a druhé poloze dalekohledu. Pro výše uvedené rozdíly jsou stanovena hodnotící kritéria,,, (110) kde,, jsou uživatelem (zpracovatelem) volené hodnoty mezních rozdílů šikmé délky, vodorovného směru a zenitového úhlů v první a druhé poloze dalekohledu. Kromě posouzení hodnot přímo měřených geodetických veličin (,, ) jsou v rámci mezipolohové kontroly ověřovány i obsluhou totální stanice zadávané hodnoty výšky cíle, pro které musí platit 0, (111) kde a jsou hodnoty výšky cíle zadávaná pro měření v první resp. druhé poloze dalekohledu. Dojde-li k překročení mezních rozdílů (110) či neplatnosti rovnice (111), jsou příslušné dvě hodnoty geodetické veličiny v měřické skupině označeny za chybné. Stejným způsobem je v měřické skupině označeno i číslo cílového bodu shoduje-li se s číslem stanoviska. V případě odhalení chybných záznamů ve vstupním souboru dat je 60

celkový proces zpracování měření pozastaven, a to až do chvíle, dokud nejsou dané chyby zpracovatelem odstraněny. Řešení v tomto případě spočívá v úpravě chybných hodnot příslušné geodetické veličiny, v odstranění celých chybných záznamů měření (záznamu v první i druhé poloze dalekohledu) či v přehodnocení velikosti kritérií mezních rozdílů. Při volbě velikosti mezních rozdílů měřených úhlových veličin je nutné brát zřetel na možnost působení osových chyb měřicího přístroje, tj. totální stanice. Tyto chyby (chyba úklonná a kolimační v případě měření vodorovného směru a chyba indexová v případě měření zenitového úhlu, blíže např. v [2]) sice negativně ovlivňují hodnoty mezipolohových rozdílů, ale při následném zpracování měření jsou úspěšně plně potlačeny prostým průměrem. Pro konkrétnější představu o principu popisované kontroly hodnot získaných v obou polohách dalekohledu (I/II) je na Obr. 20 podrobněji uveden příklad mezipolohové kontroly dat souboru surových měření formátu MAPA2 [63]. Obr. 20 Ukázka mezipolohové kontroly dat v souboru měření formátu MAPA2 3.1.1.3.2 Meziskupinová kontrola hodnot geodetických veličin Hodnoty geodetických veličin opakovaně měřených za stejných podmínek ve více měřických skupinách vytvářejí dle [3] jednorozměrné náhodné výběry pocházející ze základního souboru s normálním rozdělením pravděpodobnosti. Za platnosti tohoto předpokladu lze použít mnoho statistických testů (popisovaných v kap. 2.3.2) umožňujících posouzení (na dané hladině významnosti), zda jednotlivé hodnoty náhodných výběrů opravdu přísluší normálnímu základnímu souboru či zda se nejedná o odlehlé hodnoty, které vlivem působení chyb měření předpoklad normality dat nesplňují. Kvalita testování odlehlých hodnot se v tomto případě přímo odvíjí od rozsahu testovaných náhodných výběrů. Tyto rozsahy jsou dány počtem opakovaných měřických skupin získaných na stanovisku a i v případě velmi přesných inženýrsko-geodetických měření jsou velice malé (obvykle počet měřických skupin v praxi nepřesahuje hodnotu 3). Vzhledem k tomuto nemá v této přípravné fázi předzpracování měřických dat kontrola měřických skupin za cíl detekci a případné vyloučení odlehlých hodnot měření (detekce odlehlých hodnot je prováděna až v dalších fázích výpočtu), ale pouze detekci hrubých chyb a omylů, které, jak již bylo uvedeno výše, mají velký vliv na stabilitu celého procesu zpracování měřických dat. 61

Pro vysokou přehlednost a uživatelskou nenáročnost byl pro meziskupinovou kontrolu zvolen princip hodnocení rozdílů dvojice příslušících si hodnot geodetických veličin ve vždy dvou odpovídajících si měřických skupinách. Posouzení rozdílů více než dvou měřických skupin je tedy prováděno dle principu každý s každým. Hodnoty geodetických veličin měřené v první a druhé poloze dalekohledu jsou kontrolovány odděleně. Pro měřické skupiny pořízené za stejných podmínek na jednom stanovisku obecně platí, (112) kde je rozdíl odpovídajících si hodnot a šikmé délky v první či druhé poloze dalekohledu měřené v i-té a v j-té měřické skupině,, (113) kde je rozdíl odpovídajících si hodnot a vodorovného směru v první či druhé poloze dalekohledu měřeného v i-té a v j-té měřické skupině,, (114) kde je rozdíl odpovídajících si hodnot a zenitového úhlu v první či druhé poloze dalekohledu měřeného v i-té a v j-té měřické skupině. Dle principu posouzení hodnot každý s každým lze pro měřických skupin provést kontrolu dle posloupnosti 1,, 1, 2,,, kdy. (115) Pro výše uvedené rozdíly měřených hodnot geodetických veličin jsou stanovena hodnotící kritéria,,, (116) kde,, jsou uživatelem (zpracovatelem) volené hodnoty mezních rozdílů šikmé délky, vodorovného směru a zenitového úhlů mezi dvěma měřickými skupinami. Kromě posouzení hodnot přímo měřených geodetických veličin (,, ) jsou v rámci meziskupinové kontroly taktéž (stejně jako při mezipolohové kontrole) ověřovány hodnoty výšky cíle, pro které platí 0, (117) kde a jsou odpovídající si hodnoty výšky cíle zadávané pro měření v první resp. druhé poloze dalekohledu v i-té a v j-té měřické skupině. 62

Dojde-li k překročení mezních rozdílů (116) či neplatnosti rovnice (117), jsou příslušné dvě hodnoty geodetické veličiny první či druhé polohy dalekohledu v i-té a v j- té měřické skupině označeny za chybné. Celkový proces zpracování měření je pozastaven, a to až do chvíle, dokud nejsou dané chyby zpracovatelem odstraněny. Řešení v tomto případě spočívá v úpravě chybné hodnoty v i-té či v j-té měřické skupině, v odstranění celých chybných záznamů měření (záznamu v první i druhé poloze dalekohledu) z i-té či z j-té měřické skupiny (případně obou) či v přehodnocení velikosti kritérií mezních rozdílů. Pro konkrétnější představu o principu popisované kontroly hodnot měřených opakovaně ve více měřických skupinách je na Obr. 21 podrobněji uveden příklad meziskupinové kontroly dvou měřických skupin obsažených v souboru surových měření formátu MAPA2 [63]. Obr. 21 Ukázka meziskupinové kontroly dat v souboru měření formátu MAPA2 3.1.1.4 Zpracování měřických skupin Proces zpracování měřických skupin popisuje vlastní převod surových měřických dat do vstupní formy požadované před zpracováním (vyrovnáním) geodetických měření. Jedná se tedy o převod geodetických veličin získávaných při procesu měření na geodetické veličiny vstupující do procesu vyrovnání. V případě zpracování měření zde popisovaných klasických prostorových inženýrsko-geodetických sítí jsou (jak je např. uváděno v [21] či [62]) měřenými geodetickými veličinami vstupujícími do procesu vyrovnání: 1. šikmá délka vyjadřující přímou spojnici dvou bodů geodetické sítě (přímá vzdálenost mezi stabilizačními značkami bodů označovaná jako vzdálenost spojnice kámen kámen [22]) měřená v jedné měřické skupině (tj. ve dvou polohách dalekohledu), 2. vodorovný směr mezi dvěma body geodetické sítě měřený v jedné měřické skupině (tj. ve dvou polohách dalekohledu), 63

3. zenitový úhel mezi přímou spojnicí dvou bodů geodetické sítě (spojnicí stabilizačních značek bodů kámen kámen ) měřený v jedné měřické skupině (tj. ve dvou polohách dalekohledu). Níže uváděný postup zpracování měřických skupin je cíleně navržen pro oblast velmi přesných měření lokálních prostorových geodetických sítí (blíže popisovaných v kap. 0), jejichž účelem je zaměření či vytýčení skutečného tvaru a rozměru menších a středně rozměrných stavebních či strojírenských objektů. Správné užití tohoto postup je podmíněno platností předpokladů omezujících velikost a tvar geodetické sítě. Jeho použití v jiných případech rozsáhlejších sítí větších rozměrů není vhodné. Tento postup vychází z letitých praktických zkušeností zaměřování a vyhodnocování lokálních geodetických sítí (viz [30]). Měřené geodetické veličiny zde nejsou opravovány o vliv refrakce popisovaný např. v [2]. Na základě předpokládané provázanosti vyhodnocovaných geodetických sítí, kdy je uvažováno množství protisměrných měření geodetických veličin, je sice možné tento vliv částečně redukovat [22], ale jelikož daná protisměrná měření nejsou získávaná současně (celá síť je zaměřena jedním měřicím přístrojem, blíže v kap. 0) a tedy ne za zcela stejných podmínek, není užití této redukce zcela objektivní. 3.1.1.4.1 Úprava měřené šikmé délky Základní úprava měřených hodnot šikmých délek, jako je případná oprava o součtovou konstantu hranolu a přístroje či fyzikální redukce měřené délky (více v [64]), zde není blíže popisována. Tyto úpravy jsou dnes zpravidla prováděny přímo v totální stanici během měření a nejsou tedy součástí následného zpracování dat. Postup úpravy šikmé délky měřené obecně mezi k-tým stanoviskovým a r-tým cílovým bodem inženýrsko-geodetické sítě je možné rozdělit do několika kroků, které jsou podrobně zobrazeny na Obr. 22. 1 kr z 1 kr d 1 kr d 2 kr kr v vp k vc r k d kr vp k kr r kr Obr. 22 Redukce měřené šikmé délky V první fázi úpravy jsou zpracovány hodnoty měření v první a druhé poloze dalekohledu, kdy výsledná hodnota šikmé délky je dána aritmetickým průměrem hodnot obou poloh dalekohledu, tj. platí 64

, (118) kde a jsou hodnoty šikmé délky mezi k-tým stanoviskem a r-tým cílovým bodem měřené v první a druhé poloze dalekohledu. Výše určená hodnota šikmé délky je dále redukována o vliv rozdílné výšky přístroje a cíle. Tímto postupem je určena hodnota šikmé délky rovnoběžné s přímou spojnicí stabilizačních značek bodů k a r, která je dána vztahem 2 cos, (119) kde je rozdíl hodnot výšky cíle na r-tém cílovém bodě a výšky přístroje na k-tém stanovisku, (120) je hodnota zenitového úhlu (viz dále v kap. 3.1.1.4.3) redukovaná o vliv sbíhavosti tížnic. (121) Geocentrický úhel vyjadřující vliv sbíhavost tížnic mezi k-tým stanoviskem a r-tým cílovým bodem je, na základě předpokladu o maximální hodnotě šikmé délky nepřesahující 200 m (viz parametry inženýrsko-geodetických sítí, kap. 0), dle [22] určen přibližným vztahem, (122) kde je poloměr náhradní koule ( 6 381 000 ). Hodnota šikmé délky rovnoběžné se spojnicí stabilizačních značek bodů geodetické sítě je následně převedena na přímou spojnici stabilizačních značek, tedy spojnici kámen kámen, pro kterou platí. (123) Vliv redukce z výšky přístroje je v mnoha případech zanedbatelný, významu nabývá pouze při měření šikmých délek pohybujících se na hranici maximální předpokládané hodnoty 200 m a při větších hodnotách výšky přístroje. Vzhledem k předpokládanému ploššímu tvaru zpracovávaných inženýrskogeodetických sítí a skutečnosti, že je hledán skutečný tvar a rozměr těchto sítí (viz kap. 0), není pro zde zpracovávané šikmé délky uvažována redukce z nadmořské výšky a z kartografického zobrazení [6]. Nulová výšková hladina je volena tak, že prochází 65

výškovým středem sítě a vliv převýšení jednotlivých bodů sítě od této hladiny je zanedbáván. 3.1.1.4.2 Úprava měřeného vodorovného směru Pro měřené vodorovné směry není v případě lokálních geodetických sítí zaváděno žádné zkreslení plynoucí ze zakřivení zemského povrchu. Je zde tedy prováděno pouze zpracování měření ve dvou polohách dalekohledu. Výsledná hodnota vodorovného směru měřeného obecně mezi k-tým stanoviskovým a r-tým cílovým bodem geodetické sítě je dána vztahem, (124) kde a jsou hodnoty vodorovného směru mezi k-tým stanoviskem a r-tým cílovým bodem měřeného v první a druhé poloze dalekohledu. 3.1.1.4.3 Úprava měřeného zenitového úhlu Postup úpravy zenitového úhlu měřeného obecně mezi k-tým stanoviskovým a r- tým cílovým bodem inženýrsko-geodetické sítě je možné rozdělit do několika kroků, které jsou podrobně zobrazeny na Obr. 23. 1 kr z 1 kr z 2 kr o zkr d 1 kr d 2 kr kr v vp k vc r k z kr r kr kr kr Obr. 23 Redukce měřeného zenitového úhlu V první fázi úpravy dochází ke zpracování hodnot měření v první a druhé poloze dalekohledu, pomocí kterých je vypočtena indexová chyba, (125) kde a jsou hodnoty zenitového úhlu mezi k-tým stanoviskem a r-tým cílovým bodem měřeného v první a druhé poloze dalekohledu. Eliminací vlivu indexové chyby je určena výsledná hodnota zenitového úhlu. (126) 66

Zenitový úhel je dále redukován o vliv rozdílné výšky přístroje a cíle. Zavedením opravy z rozdílné výšky přístroje a cíle je přímo určena hodnota zenitového úhlu přímé spojnice stabilizačních značek bodů k a r, která je dána vztahem. (127) Opravu zenitového úhlu z rozdílné výšky přístroje a cíle je možné vyjádřit jako asin, (128) kde je rozdíl hodnot výšky cíle na r-tém cílovém bodě a výšky přístroje na k-tém stanovisku (120), je hodnota zenitového úhlu redukovaná o vliv sbíhavosti tížnic (121) a je hodnota šikmé délky rovnoběžné s přímou spojnicí stabilizačních značek bodů k a r (119). Zenitový úhel je následně opraven o vliv sbíhavosti tížnic, (129) kde geocentrický úhel je stejně jako v případě redukce šikmé délky určen přibližným vztahem (122). Nastane-li situace, kdy jsou mezi k-tým a r-tým bodem geodetické sítě měřeny pouze hodnoty úhlových veličin a bez šikmé délky, nelze výše uvedeným postupem určit geocentrických úhel sbíhavosti tížnic (122), opravu zenitového úhlu z rozdílné výšky přístroje a cíle (128) a tedy i provést samotnou redukci zenitového úhlu na přímou spojnici stabilizačních značek bodů (127). V tomto případě je nejprve nutné hodnotu šikmé délky dopočítat z přibližných prostorových souřadnic bodů sítě (viz dále) a pomocí takto zjištěné šikmé délky následně dopočítat zbylé neznámé. 3.1.2 Detekce geodetické sítě V této práci popisovaná klasická terestrická geodetická měření jsou získávána při zaměření přesných inženýrsko-geodetických sítí. Hlavním cílem zpracování těchto měření je určení hledaného odhadu prostorové polohy bodů daných sítí ve zvolené kartézské souřadnicové soustavě. Vztahy mezi hledanými pravoúhlými souřadnicemi jednotlivých bodů (vyjadřujícími jejich polohu v prostoru) a vstupními geodetickými veličinami (,,, viz kap. 3.1.1.4) nejsou přímo lineární. Pro možné zpracování geodetických měření formou jejich vyrovnání je nutné tyto vztahy linearizovat [3]. Vstupní podmínkou vyrovnání linearizovaného modelu měření je znalost dostatečně přesné přibližné polohy veškerých hledaných bodů geodetické sítě. Součástí přípravných prací předzpracování geodetických měření je tedy i nezbytné určení přibližných prostorových souřadnic bodů zpracovávané sítě. Detekcí geodetické sítě je v této práci označen proces výpočtu přibližných prostorových souřadnic hledaných bodů geodetické sítě, který je dále rozšířen o kontrolu provázanosti jednotlivých vstupních měření. Snahou této kontroly je ověření, zda veškeré 67

hodnoty geodetických veličin vstupující do procesu vyrovnání pocházejí z homogenní množiny měření jediné geodetické sítě. V případě nalezení nespojitosti, kdy vstupní zpracovávaná data obsahují měření více nekonzistentních sítí, je hledána dominantní síť, jejichž měření je jako jediné dále zpracováváno. Dominantní sítí je v tomto případě volena síť s největším množstvím propojených vstupních hodnot geodetických veličin. Zbylé s hlavní zvolenou částí měření nepropojené hodnoty měřených veličin jsou z procesu vyloučeny. Tento postup kontroly a následného výběru měření jediné geodetické sítě je nedílnou součástí v případě plně automatizovaného procesu zpracování (vyrovnání) geodetických měření. Přibližné souřadnice bodů zpracovávané sítě jsou určovány metodou postupného výpočtu souřadnic jednotlivých bodů pomocí základních geodetických výpočetních úloh protínání délkových a úhlových veličin (uváděné např. v [23]). Tyto úlohy jsou dle charakteru měření různě vhodně kombinovány, a to v závislosti na množství hodnot a typech geodetických veličin pořízených na konkrétních bodech (stanoviscích) zpracovávané sítě. Kombinací různých základních výpočetních úloh s vysokým množstvím nadbytečných měření (přítomných v přeurčené inženýrsko-geodetické síti) lze získat objemnou množinu opakovaně určených souřadnic geodetických bodů. Hodnoty těchto souřadnic jsou různě ovlivněny případným výskytem chybných měření (hrubých chyb, omylů či odlehlých hodnot [3]) vyskytujících se ve zpracovávaných datech. Z důvodu vysoké rezistence vůči vlivu odlehlých hodnot (popisované např. v [25]) jsou konečné souřadnice bodů sítě určeny jako medián z veškerých vypočtených hodnot. Tímto způsobem je tedy zajištěno zamezení případného negativního působení ojediněle se vyskytujících chybných měření (a to hlavně měření ovlivněných hrubými chybami) na přibližné souřadnice bodů jdoucí do vyrovnání a tím je zajištěna vyšší stabilita celého procesu zpracování měřických dat (blíže v kap. 2.2.2). Princip kontroly provázanosti měření přímo vychází z použití metody určení přibližných souřadnic. Pro snazší představu je zde uvažováno, že veškerá vstupní měřická data pocházejí z jediné geodetické sítě, ve které se nalézají nespojitosti měření (nespojité části sítě). Za tohoto předpokladu lze kontrolu provázanosti měření popsat jako opakovaný výpočet přibližných souřadnic při postupném vkládání počátku souřadnicové soustavy do jednotlivých bodů sítě (Obr. 24). Na každém takto vzniklém počátečním bodě je započat postupný přibližný výpočet souřadnic bodů. Dosažená úspěšnost výpočtu je posuzována dle množství do výpočtu zahrnutých měření. Za dominantní je považována ta část sítě, při jejímž výpočtu bylo využito největší množství měření. 68

+Y 0 +X +Y +X 0 5 +Y 0 3 +X +Y 0 6 +Y +X 0 4 +X 2 +Y 0 1 Obr. 24 Umístění počátku souřadnicového systému při detekci geodetické sítě Pro úplnost je níže uváděn přehled základních výpočetních geodetických úloh zahrnutých do výpočtu přibližných souřadnic bodů sítě. Pro tyto úlohy je na Obr. 25 schematicky zobrazena konfigurace vstupních (zadaných), měřených a určovaných hodnot geodetických veličin. Podrobnosti výpočtu jednotlivých úloh zde nejsou uváděny, neboť tyto jsou popisovány v běžně dostupné literatuře základní geodézie jako např. v [23] či v [65]. Základními úlohami jsou: 1. Určení souřadnic základny souřadnicového systému (Obr. 25, část A), 2. Určení orientačního posunu a směrníku ze souřadnic dvou bodů (Obr. 25, část B), 3. Určení směrníku z orientačního posunu na bodě (Obr. 25, část C), 4. Rajón (Obr. 25, část D), 5. Rajón s orientací na konci (Obr. 25, část E), 6. Protínání zpět ze směrů (Obr. 25, část F), 7. Protínání vpřed z orientovaných směrů (Obr. 25, část G), 8. Trigonometrické určení výšky bodu (Obr. 25, část H). 69

2 +Y 2 o 2 +Y 2 o 2 0 1 d21 +Y 21 +X 1 21 21 0 +X 1 21 21 0 +X +Y 2 +Y 2 +Y 2 1 d21 21 3 23 0 +X 1 d21 21 3 23 0 +X 4 1 0 14 12 13 3 +X +Y +Z 1 21 3 2 +X 1 d21 z 21 2 Hodnoty: zadané měřené určované 31 Obr. 25 Základní úlohy výpočtu přibližných souřadnic bodů geodetické sítě 3.1.3 Apriorní analýza geodetických měření Jak již bylo uvedeno v přehledu současného stavu řešené problematiky (viz kap. 2.2.3) je apriorní analýza měřených geodetických veličin významnou součástí řešení úlohy automatizovaného zpracování geodetických měření. Snahou této analýzy je zisk informací popisujících skutečnou přesnost měřených geodetických veličin, vedoucích ke správnému nastavení a užití metod umožňujících zpracování (vyrovnání) souboru měřených hodnot daných geodetických veličin. Zcela nenahraditelnou roli zaujímá apriorní analýza v případě plně automatizovaného procesu zpracování geodetických měření, ve kterém je snahou minimalizovat (či zcela potlačit) vliv chyb z nesprávného uživatelského nastavení výpočetního procesu. V tomto případě je zde popisovaná analýza jediným možným zdrojem apriorní přesnosti měření, bez jejíž znalosti není úloha zpracování měření řešitelná. V případě zpracování měření klasicky zaměřených terestrických inženýrskogeodetických sítí je cílem apriorní analýzy určení skutečných apriorních směrodatných odchylek měřených vodorovných směrů, zenitových úhlů a šikmých délek. Hodnocení takovýchto geodetických měření je možno (jak je také uváděno v [21] či [30]) provádět dle dvou základních principů. Tyto principy jsou založeny na hodnocení náhodných výběrů opakovaně zaměřených geodetických veličin a na hodnocení skutečných chyb měření získaných z plnění předem definovaných geometrických podmínek měřených veličin. 70

V literatuře uváděná řešení apriorního hodnocení měření geodetických sítí obecně předpokládají, že na veškerých bodech sítě jsou příslušné typy geodetických veličin (vodorovné směry, zenitové úhly či šikmé délky) zaměřeny ve stejném počtu měřických skupin. Při komplexním řešení úlohy automatizovaného zpracování měření geodetických sítí je ovšem nutné předpokládat obecný případ, kdy na každém stanovisku sítě je měřen různý počet měřických skupin. Tyto skupiny také nemusejí být vždy zcela totožné. Na jednom stanovisku mohou tedy být pořízeny měřické skupiny obsahující měření na různé cílové body. Zmiňovaný případ, kdy na jednom stanovisku jsou zpracovávány rozdílné měřické skupiny, může být poměrně častý, neboť při výskytu hrubých chyb či omylů [3] mohou zpracovatelé některé očividně chybné hodnoty ze souboru měření ještě před vlastním zpracováním vyřadit a příslušné měřické skupiny následně nemusejí být zcela kompaktní. Při zde popisovaném hodnocení geodetických měření je předpokládáno, že měřené vodorovné směry, zenitové úhly a šikmé délky zaměřené v měřických skupinách [2], tj. zaměřené v I. i II. poloze dalekohledu, jsou již předem zpracovány. Je-li hovořeno o hodnotách těchto geodetických veličin, jedná se o výsledné hodnoty určené z měření v obou polohách dalekohledu. 3.1.3.1 Apriorní analýza geodetických veličin vycházející z opakovaného měření Analýza vychází z hodnocení náhodných výběrů, u kterých je předpokládán jejich původ ze základního souboru s normálním rozdělením pravděpodobnosti [3]. Náhodné výběry jsou získávány z opakovaného zaměření jednotlivých geodetických veličin. V případě klasicky zaměřovaných geodetických sítí se jedná o náhodné výběry hodnot měřených vodorovných směrů, zenitových úhlů a šikmých délek, které jsou opakovaně zaměřeny na jednotlivých stanoviskových bodech sítě, a to formou opakovaně zaměřených měřických skupin [2]. Jak již bylo uvedeno výše, dosavadně uváděné přístupy hodnocení geodetických veličin [30] předpokládají neměnný rozsah náhodných výběrů opakovaně měřených geodetických veličin. V obecném případě je ovšem nutné zohlednit případný rozdílný rozsah náhodných výběrů, tj. zohlednit důvěryhodnost výběrových charakteristik rozptylu základního souboru reprezentovaných výběrovými směrodatnými odchylkami vzešlých z různě početných náhodných výběrů. Tohoto zohlednění je možné docílit zavedením vah vypočtených výběrových směrodatných odchylek. Dle [3] jsou váhy měření obecně definovány vztahem, (130) kde váha obecného i-tého měření, je libovolně volená konstanta a je směrodatná odchylka i-tého měření. Je-li měření nahrazeno výběrovou směrodatnou odchylkou, odpovídá směrodatné odchylce směrodatné odchylky, která je dle [3] rovna, (131) 71

kde směrodatná odchylka základního souboru a je počet nadbytečných měření, který je pro i-tý jednorozměrný náhodný výběr o rozsahu roven 1. (132) Dosazením do (130) je možno vyjádřit váhu výběrové směrodatné odchylky určené z hodnot i-tého náhodného výběru o rozsahu jako, (133) kde je pro náhodné výběry pocházející ze stejného základního souboru konstantní. Při volbě konstanty (134) je váha vyjádřena vztahem 1. (135) Vlastní výpočet apriorní analýzy klasicky zaměřené geodetické sítě je, stejně jako je uváděno v kap. 2.2.3.1, možno rozčlenit do tří základních kroků. V první fázi výpočtu jsou určeny výběrové směrodatné odchylky jednotlivých měřených veličin (obecně označovaných ) na každém stanovisku sítě. Je tedy vypočtena výběrová směrodatná odchylka každého opakovaně měřeného vodorovného směru, zenitového úhlu a šikmé délky pro jednu měřickou skupinu, (136) kde je výběrová směrodatná odchylka měřené geodetické veličiny (šikmé délky, vodorovného směru a zenitového úhlů ) mezi k-tým stanoviskem a r-tým cílovým bodem, je výběrový průměr daný vztahem, (137) kde je hodnota geodetické veličiny měřené v i-té měřické skupině a je počet měřických skupin mezi k-tým stanoviskem a r-tým cílovým bodem sítě. V dalším kroku výpočtu je pro každé stanovisko vypočten vážený kvadratický střed výběrových směrodatných odchylek geodetických veličin měřených na příslušném stanovisku. Obecně pro k-té stanovisko sítě je možno vyjádřit. (138) 72

Dosazením z (135) lze vyjádřit, (139) kde je počet výběrových směrodatných odchylek měřené geodetické veličiny (,, ) na k-tém stanovisku. Obdobným způsobem je vypočten vážený kvadratický střed výběrových směrodatných odchylek geodetických veličin (,, ) pro celou síť Dosazením z (135) platí. (140), (141) kde je počet stanovisek v analyzované síti. Uvedený postup výpočtu apriorní analýzy geodetických veličin je možné použít pouze v případě, pocházejí-li veškeré náhodné výběry příslušné geodetické veličiny ze stejného základního souboru, tj. odpovídají-li veškerá měření dané veličiny stejné základní přesnosti, tj. stejné základní směrodatné odchylce. Je tedy vyžadováno splnění podmínky, kdy je celá hodnocená geodetická síť zaměřena stejným technologickým postupem, a to za použití stejných měřících přístrojů a pomůcek. Popisované řešení výpočtu výběrových směrodatných odchylek měřených veličin při aplikaci vah směrodatných odchylek bylo v rámci zpracování této disertační práce publikováno v [21]. 3.1.3.2 Apriorní analýza geodetických veličin ze stanovených podmínek měření Druhou z již výše zmiňovaných možností pro řešení apriorní analýzy měřených geodetických veličin je přístup založený na posouzení vstupních geometrických podmínek měření. Geometrické podmínky měřených geodetických veličin jsou voleny stejným způsobem jako při klasickém (v kap. 2.2.3.2 uváděném) postupu hodnocení geodetických měření. V případě hodnocení přesnosti klasických terestrických geodetických sítí se tedy jedná o geometrické podmínky vztahující se k hodnotám šikmých délek a zenitových úhlů měřených protisměrně z příslušných dvojic bodů geodetické sítě (Obr. 26 a Obr. 27) a dále vztahující se k hodnotám vodorovných směrů zaměřených v rámci směrových trojúhelníků tvořených měřením mezi třemi body sítě (Obr. 28). 73

3 6 Obr. 26 Protisměrně měřené šikmé délky (spojnice kámen kámen ) 3 6 Obr. 27 Protisměrně měřené zenitové úhly (spojnice kámen kámen ) 5 3 6 4 2 Obr. 28 Vodorovné směry ve směrovém trojúhelníku tvořeném třemi body sítě Oproti klasickému hodnocení skutečných chyb měření, vyjádřených pomocí protisměrných rozdílů (8) a (9) či úhlových uzávěrů (15), je tento přístup založen na využití metody vyrovnání zprostředkujících měření s podmínkami u neznámých [3]. Neznámými jsou v tomto případě přímo měřené geodetické veličiny (vodorovné směry, zenitové úhly či šikmé délky), pro které jsou do výpočtu vyrovnání zaváděny svazující geometrické podmínky. Hlavním výstupem užité metody vyrovnání měření jsou výsledné aposteriorní jednotkové směrodatné odchylky, které přímo reprezentují hledané charakteristiky přesnosti měřených geodetických veličin. Předmětem zpracování předkládané disertační práce jsou geodetická měření z oblasti inženýrské geodézie. Je tedy předpokládáno, že zde hodnocené geodetické sítě, pro jejichž měření jsou definovány geometrické podmínky, jsou inženýrsko-geodetické sítě menších až středních rozměrů (s maximální plošnou rozlohou sítě cca 100 m 100 m), ve kterých jsou díky své velikosti minimalizovány vlivy způsobené zakřivením země a sbíhavostí tížnic. Z tohoto důvodu není v případě hodnocení vodorovných směrů uvažován vliv sférického excesu [7]. 1 74

Dále je zde předpokládáno, že hodnocené šikmé délky a zenitové úhly jsou již redukovány na přímou spojnici stabilizačních značek bodů geodetické sítě [22] (označovanou jako spojnici kámen kámen, zobrazenou na Obr. 26 a Obr. 27). Navržený postup výpočtu apriorní přesnosti měření geodetických sítí pomocí vstupních geometrických podmínek je možno rozdělit do dvou základních částí. V počáteční fázi výpočtu je provedeno oddělené hodnocení přesnosti částí měření geodetické sítě vztahujících se ke konkrétním vstupním geometrickým podmínkám. Je tedy určována výběrová směrodatná odchylka geodetické veličiny každé protisměrně měřené dvojice šikmých délek či zenitových úhlů a výběrová směrodatná odchylka vodorovného směru pro každý směrový trojúhelník v geodetické síti (Obr. 28). Tyto výběrové směrodatné odchylky jsou stanoveny jako aposteriorní jednotkové směrodatné odchylky [3] dané vyrovnáním protisměrných hodnot šikmých délek či zenitových úhlů měřených mezi konkrétními dvěma body sítě či vyrovnáním vodorovných směrů v příslušném směrovém trojúhelníku. Pro vyrovnání měření je užito metody vyrovnání zprostředkujících veličin s podmínkami u neznámých [3]. Vyrovnané měření je možno vyjádřit ve formě, (142) kde je vektor vyrovnaných měřených veličin, vektor měřených veličin, vektor oprav měřených veličin a je vektor vyrovnaných neznámých veličin (vektor odhadu neznámých veličin ). Neznámými jsou v tomto případě voleny přímo měřené veličiny, které jsou pro možnost vyrovnání svázaný vstupní podmínkou. Vyrovnávaný model je tedy lineární [33] a vektor oprav měřených veličin je možno přímo vyjádřit jako, (143) kde je matice lineárních vztahu mezi měřenými a neznámými veličinami. Vstupní podmínka pro neznámé veličiny je vyjádřena jako. (144) Vzhledem k linearitě vyrovnávaného modelu a skutečnosti, že vstupní podmínky svazujících neznámé veličiny jsou taktéž lineární (viz dále), je možné vyjádřit. (145) Zavedením podmínky metody nejmenších čtverců (při neuvažovaní vah jednotlivých měření) min. (146) je pomocí metody Lagrangeových neurčitých koeficientů hledající vázaný extrém funkce [66] možné vyjádřit systém normálních rovnic a vztah pro výpočet hledaného vektoru vyrovnaných neznámých veličin 75

, (147) kde je pomocný vektor Lagrangeových koeficientů (korelát), matice lineárních členů podmínek neznámých veličin, vektor absolutních členů podmínek neznámých veličin a nulová matice. Výsledkem vyrovnání je hledaná aposteriorní jednotková směrodatná odchylka vyjadřující přesnost jednoho měření, která je dána vztahem, (148) kde počet nadbytečných měření ve vyrovnávaném modelu. Tato odchylka vyjadřuje výběrovou směrodatnou odchylku geodetické veličiny (šikmé délky, zenitového úhlu či vodorovného) měřené v jedné měřické skupině. Pro možnost vyhodnocení apriorní přesnosti celé geodetické sítě je v dalším kroku výpočtu určen vážený kvadratický střed výběrových směrodatných odchylek geodetických veličin pro celou síť, který je dán vztahem Dle (135) je možno vyjádřit. (149), (150) kde je výběrová směrodatná odchylka šikmé délky či zenitového úhlů -té protisměrně měřené dvojice šikmých délek či zenitových úhlů, resp. výběrová směrodatná odchylka vodorovného směru v -tém směrovém trojúhelníku; je váha směrodatné odchylky určené z počtu nadbytečných měření a počet protisměrných dvojic šikmých délek či zenitových úhlů, resp. počet směrových trojúhelníků, v celé hodnocené síti. 3.1.3.2.1 Hodnocení přesnosti měření protisměrně měřených šikmých délek Je uvažován obecný případ hodnocení přesnosti protisměrně měřených šikmých délek mezi k-tým a r-tým bodem sítě. Šikmá délka (měřená z k na r) je opakovaně zaměřena v měřických skupinách [2]. Šikmá délka (měřená z r na k) je opakovaně zaměřena v měřických skupinách. Celkový počet hodnot protisměrně měřených délek tedy činí. Pro tento obecný příklad je možné vytvořit lineární model vyrovnání, kdy hledanými neznámými jsou vyrovnané hodnoty měřených šikmých délek a. Rovnice oprav mají v tomto případě tvar, pro 1, 2,,, (151) 76

, pro 1, 2,,. (152) V maticové formě lze zapsat 1 0, 1 0, 0 1 0 1,, (153) kde, 1 vektor oprav měřených šikmých délek,, 2 matice lineárních vztahu mezi měřenými a neznámými veličinami, 2,1 vektor vyrovnaných neznámých šikmých délek a, 1 vektor měřených šikmých délek a. Pro hledané vyrovnané hodnoty protisměrně měřených šikmých délek (neznámé veličiny) je definována vstupní geometrická podmínka 0. (154) Přepisem podmínky do maticové formy (145) lze vyjádřit 1 1, 0, 0, (155) kde 1,2 je řádková matice lineárních členů podmínky neznámých šikmých délek a, 1,1 vektor absolutního členu podmínky neznámých veličin a 1,1 nulová matice. Počet nadbytečných měřených délek vstupující do výpočtu aposteriorní jednotkové směrodatné odchylky je roven 1 1. (156) Výpočet výběrové směrodatné odchylky protisměrně měřené šikmé délky je lze v tomto případě dosti zjednodušit. Na základě vstupní geometrické podmínky (6) lze náhodný výběr hodnot protisměrných šikmých délek jednoduše převést na jednorozměrný náhodný výběr hodnot jednosměrně měřených šikmých délek, pro které platí, (157). (158) Výsledná výběrová směrodatná odchylka měřené šikmé délky je následně rovna, (159) kde výběrový průměr šikmých délek a celkový počet hodnot protisměrně měřených délek mezi body k a r. 77

3.1.3.2.2 Hodnocení přesnosti měření protisměrně měřených zenitových úhlů Je uvažován obecný případ hodnocení přesnosti protisměrně měřených zenitových úhlů mezi k-tým a r-tým bodem sítě. Zenitový úhel (měřený z k na r) je opakovaně zaměřen v měřických skupinách [2]. Zenitový úhel (měřený z k na r) je opakovaně zaměřen v měřických skupinách [2]. Celkový počet hodnot protisměrně měřených zenitových úhlů tedy činí. Pro tento obecný příklad je možné vytvořit lineární model vyrovnání, kdy hledanými neznámými jsou vyrovnané hodnoty měřených zenitových úhlů a. Rovnice oprav mají v tomto případě tvar, pro 1, 2,,, (160), pro 1, 2,,. (161) V maticové formě lze zapsat 1 0, 1 0,, 0 1, (162) 0 1 kde, 1 vektor oprav měřených zenitových úhlů,, 2 matice lineárních vztahů mezi měřenými a neznámými veličinami, 2,1 vektor vyrovnaných neznámých zenitových úhlů a, 1 vektor měřených zenitových úhlů a. Pro hledané vyrovnané hodnoty protisměrně měřených zenitových úhlů (neznámé veličiny) je definována vstupní geometrická podmínka 0. (163) Přepisem podmínky do maticové formy (145) lze vyjádřit 1 1,, 0, (164) kde 1,2 je řádková matice lineárních členů podmínky neznámých zenitových úhlů a, 1,1 vektor absolutního členu podmínky neznámých veličin a 1,1 nulová matice. Počet nadbytečných měřených zenitových úhlů vstupující do výpočtu aposteriorní jednotkové směrodatné odchylky je roven 1 1. (165) Výpočet výběrové směrodatné odchylky protisměrně měřeného zenitového úhlu lze stejně jako v případě měřené šikmé délky zjednodušit. Na základě vstupní geometrické podmínky (7) lze náhodný výběr hodnot protisměrných zenitových úhlů 78

převést na jednorozměrný náhodný výběr hodnot jednosměrně měřených zenitových úhlů, pro které platí, (166). (167) Výsledná výběrová směrodatná odchylka měřeného zenitového úhlu je následně rovna, (168) kde výběrový průměr zenitových úhlů a celkový počet hodnot protisměrně měřených zenitových úhlů mezi body k a r. 3.1.3.2.3 Hodnocení přesnosti vodorovných směrů měřených ve směrovém trojúhelníku Je uvažován obecný případ hodnocení přesnosti vodorovných směrů měřených ve směrovém trojúhelníku, tj. mezi příslušnými třemi body geodetické sítě, obecně označených I, II, III. Na jednotlivých bodech trojúhelníku je uvažováno samostatných měření, v rámci kterých jsou zaměřeny osnovy vodorovných směrů v počtu měřických skupiny. Jednotlivá samostatná měření se odlišují změnou orientace přístroje, tj. odlišným orientačním posunem pro 1, 2,,. Na i-tém bodě trojúhelníku je tedy měřena dvojice vodorovných směrů (viz Obr. 29) v celkovém počtu opakování. (169) V celém směrovém trojúhelníku je počet měření 2 (170) a celkový počet orientačních posunů, tj. počet samostatných měření. (171) II III 0 IIIL IIIP IIP IIL 0 IL 0 I P I Obr. 29 Označení bodů a měřených vodorovných směrů ve směrovém trojúhelníku Pro měření ve směrovém trojúhelníku lze vytvořit lineární model vyrovnání, kdy hledanými neznámými jsou vyrovnané hodnoty měřených vodorovných směrů a 79

orientačních posunů. Rovnice oprav vodorovných směrů měřených v jedné měřické skupině lze vyjádřit ve tvaru, (172), (173) kde a je označení levého, resp. pravého cílového bodu a je pořadí měřické skupiny ( 1, 2,, ) j-tého samostatného měření ( 1, 2,, ) na i-tém stanoviskovém bodě ( I, II, III). V maticové formě lze zapsat,,,, (174) kde, 1 celkový vektor měřených vodorovných směrů, 2,1 subvektor měřených hodnot na i-tém stanoviskovém bodě,,1 a,1 jsou subvektory měřených vodorovných směrů na pravý a levý cílový bod ve j-tém samostatném měření na i-tém stanoviskovém bodě. Obdobným způsobem lze vytvořit vektor oprav měřených vodorovných směrů,,, Vektor vyrovnaných neznámých veličin 6, 1 je sestaven ve tvaru. (175),,, (176) kde 6,1 je subvektor vyrovnaných vodorovných směrů a, 1 je subvektor vyrovnaných orientačních posunů na i-tém stanoviskovém bodě. Matici lineárních vztahů mezi měřenými a neznámými veličinami, 6 lze vyjádřit ve tvaru 80

, (177),1,1,, (178),1 kde,1 resp.,1 jsou submatice lineárních vztahů vodorovných směrů na i-tém stanoviskovém bodě,, je submatice lineárních vztahů orientačních posunů na i-tém stanoviskovém bodě, je nulová matice a je jedničková matice (matice tvořená samými jedničkami). Pro hledané vyrovnané hodnoty vodorovných směrů (neznámé veličiny) je definována vstupní geometrická podmínka 0. (179) Lineárně závislé řádky vyskytující se v matici způsobují, že soustava normálních rovnic je singulární (det 0). Při užití klasických metod řešení soustavy lineárních rovnic počítajících inverzi matic (popisovaných např. v [67]) dochází ke kolapsu výpočtu. Důvodem vzniklého problému je skutečnost, že jsou při vyrovnání hledány hodnoty orientačních posunů, pro které ovšem nebyl definován počáteční (nulový) směr. Z geometrického pohledu nebylo definováno jedno z ramen vodorovného úhlu. Jedním z možných řešení je zavedení stabilizačních podmínek hledaných neznámých orientačních posunů, které definují hodnotu jednoho z orientačních posunů na každém bodě trojúhelníku. Stabilizační podmínky lze tedy vyjádřit jako 0, pro I, II, III. (180) Přepisem podmínek do maticové formy (145) lze zapsat, (181) 1 1 1 1 1 1, (182), 1 0 0, (183) 81

0, (184) 0 0 kde 4, 6 je řádková matice lineárních členů podmínek neznámých veličin, 1, 6 je submatice lineárních členů podmínky vodorovných směrů, 1, je submatice lineárních členů podmínky orientačního posunu na i-tém stanoviskovém bodě, 4, 1 je vektor absolutních členů podmínek neznámých veličin a je nulová matice. Dalším z možných řešení singulární soustavy normálních rovnic je použití metody pseudoinverze, využívající např. SVD rozkladu matic (Singular Value Decomposition), uváděné např. v [68]. V tomto případě není nutné rozšiřovat soustavu rovnic o stabilizační podmínky. Z geometrického pohledu metoda samovolně zavede vlastní střední počáteční směr, ke kterému jsou vztaženy veškeré orientační posuny na stanoviskovém bodě. Soustava podmínkových rovnic má v tomto případě tvar, (185). (186) Počet nadbytečných měření v modelu vyrovnání vodorovných směrů měřených v rámci směrového trojúhelníku, který vstupuje do výpočtu aposteriorní jednotkové směrodatné odchylky, je dle [62] roven 6 4, (187) kde je celkový počet měřených hodnot vodorovných směrů, 6 počet neznámých veličin (skládající se z počtu neznámých vyrovnaných vodorovných směrů a počtu neznámých vyrovnaných orientačních posunů). Hodnota 4 představuje počet nutných podmínek neznámých veličin. Jak již bylo uvedeno v kap. 2.2.3.2, dochází v důsledku obvykle vysoké provázanosti měření inženýrsko-geodetických sítí k častému překrytu jednotlivých směrových trojúhelníků. V geodetické síti se vyskytují směrové trojúhelníky, které mohou mít společné dva vrcholové body (jednu stranu trojúhelníků). V těchto případech vstupují do výpočtu vyrovnání měření obou trojúhelníku z části stejná data a výsledné aposteriorní směrodatné odchylky jsou vzájemně částečně závislé. Směrodatná odchylka vodorovného směru měřeného v celé síti (150) tedy vzniká z částečně závislých hodnot. Tato chyba je při řešení úlohy komplexního automatizovaného zpracování měření zanedbávána. Odstranění chyby z překrytu trojúhelníků lze docílit celkovým úhlovým vyrovnáním měření celé sítě, kdy apriorní přesnost vodorovného směru pro celou síť je vyjádřena aposteriorní jednotkou směrodatnou odchylkou danou vyrovnáním. Vzhledem ke složitosti výpočtu a roli jakou apriorní analýza zaujímá v celkovém procesu zpracování měření je tento přístup zavádějící. Uvedený postup výpočtu apriorní analýzy geodetických veličin lze použít, stejně jako v případě hodnocení opakovaných měření, jen tehdy, odpovídají-li veškerá měření 82

dané veličiny stejné základní přesnosti, tj. stejné základní směrodatné odchylce. Je tedy vyžadováno splnění podmínky, kdy je celá hodnocená geodetická síť zaměřena stejným technologickým postupem, a to za použití stejných měřících přístrojů a pomůcek. 3.1.4 Závěr V předkládané kapitole byly teoreticky popsány navržené metody zabývající se problematikou předzpracování geodetických měření, a to jako součást komplexního postupu automatizovaného zpracování velmi přesných klasických terestrických měření získávaných při zaměření lokálních inženýrsko-geodetických sítí. Tato kapitola shrnuje přípravné práce zabývající se úpravou a analýzou vstupních geodetických dat a určením veškerých podkladů umožňujících správné použití metody vyrovnání měření geodetických sítí. Proces předzpracování geodetických měření je zde rozdělen do tří hlavních částí zbývajících se úpravou vstupních dat, detekcí geodetické sítě a apriorní analýzou geodetických měření. V části zaměřené na vstupní úpravu geodetických měření je uváděn navržený postup vyhledání a uspořádání vstupních inženýrsko-geodetických dat, možnosti jejich kontroly a způsob převodu do formy nutné pro jejich vyrovnání. Geodetická data uspořádaná do měřických skupin (viz [2]) jsou kontrolována pomocí třech základních principů. Jedná se o posouzení, zda hodnoty příslušných geodetických veličin nabývají očekávaných hodnot (základní kontrola hodnot) a zda tyto hodnoty měřené ve dvou polohách dalekohledu (mezipolohová kontrola) a určené ve více měřických skupinách (meziskupinová kontrola) odpovídají stanoveným kritériím. Měřené geodetické veličiny jsou následně upraveny na veličiny vstupující do vyrovnání. Detekcí geodetické sítě je kontrolována provázanost vstupních měření, tj. zda veškeré vstupní hodnoty geodetických veličin odpovídají jediné konzistentní geodetické síti. Princip zde popisované detekce je realizován metodou přibližného výpočtu prostorové polohy jednotlivých bodů sítě. Přibližná poloha těchto bodů je určována metodou kombinující základní geodetické výpočetní úlohy protínání délkových a úhlových geodetických veličin [23]. Závěrečná část této kapitoly se zaobírá apriorním hodnocením přesnosti měřených geodetických veličin využitelné v oblastech automatizovaného zpracování měření inženýrsko-geodetických sítí. Jedná se o dva základní přístupy řešení apriorní analýzy měření umožňující výpočet skutečné (při měření reálně dosažené) přesnosti měřených vodorovných směrů, zenitových úhlů a šikmých délek. Tyto přístupy vycházejí z hodnocení náhodných výběrů opakovaně zaměřených geodetických veličin (výpočet vnitřní přesnosti geodetické sítě) a dále z hodnocení skutečných chyb měření získaných posouzením plnění předem definovaných geometrických podmínek měřených veličin (výpočet vnější přesnosti geodetické sítě). Při řešení dané problematiky bylo vycházeno z již existujících postupů (uváděných v[21] a [30]), které bylo nutno z důvodu jejich použitelnosti v oblastech automatizovaného zpracování měření zobecnit a příslušně rozšířit. 83

3.2 Potlačení vlivu odlehlých hodnot měření Působení chyb měření je přirozenou nevyhnutelnou součástí procesu pořizování geodetických dat. Měřický proces je neustále ovlivňován působením množství rušivých faktorů majících za následek vznik nepřesnosti měření. Jak již bylo uvedeno dříve (v kap. 2.3), nelze tento přirozený vliv chyb žádným způsobem z procesu měření vyloučit, ale pouze více či méně potlačit (např. vhodnými měřickými přístroji, zkušenou obsluhou, propracovanými technologickými postupy). Působení chyb měření je nutné obecně předvídat a metody měření i následného zpracování nastavit tak, aby byly vůči vlivu těchto chyb co nejvíce rezistentní a dovedly jejich vznik co nejvíce potlačit či již vzniklé chyby úspěšně detekovat a z výpočetního procesu vyloučit. V oblasti přesné inženýrské geodézie jsou, vzhledem k značně vysokým požadavkům přesnosti měření, stanovena technologická pravidla, pomocí kterých je proces měření přesně řízen a pomocí kterých jsou minimalizovány vlivy působení chyb měření (blíže v kap. 2.1). I přes pečlivé dodržování těchto na poměry běžné geodézie přísných pravidel existuje reálná možnost vzniku chybných měření a je tedy nutné předpokládat jejich přítomnost ve zpracovávaných datech. Pro zajištění nejvyšší kvality dosažených výsledků je nutné výpočetní zpracovatelský aparát vybavit nástrojem umožňujícím vyhledání a vyřazení přítomných chybných měření. V rámci zpracování zde předkládané disertační práce byla navržena a testována metoda detekce odlehlých hodnot měření. Tato metoda byla sestavena s ohledem na její možnou implementaci do řešení automatického zpracování velmi přesných klasických terestrických geodetických měření, které jsou získávány při zaměření lokálních prostorových geodetických sítí typických pro oblast inženýrské geodézie. Z hlediska velikosti jsou měřické chyby rozdělovány na omyly, hrubé chyby a odlehlé hodnoty (viz např. [21]). V kap. 3.1.1.3 byla popsána metodika kontroly geodetických měření umožňující detekci hrubých chyb a omylů. Tyto nejsnáze identifikovatelné chyby mohou mít nedozírný vliv na celý výpočetní proces zpracování geodetických měření. V současné fázi zpracovatelského postupu je předpokládáno, že geodetická data prošla veškerými dříve popisovanými kroky předzpracování a je tedy předpokládáno, že většina hrubých chyb a omylů byla detekována a jejich přítomnost v datech je pouze ojedinělá. Odlehlé hodnoty jsou oproti omylům a hrubým chybám ovlivněny mnohem menšími chybami měření. Je tedy dále předpokládáno, že k jejich odhalení v rámci procesu předzpracování nedošlo a jsou tedy v souboru zpracovávaných měření zastoupeny v plné míře. 3.2.1 Návrh metody detekce odlehlých hodnot měření Metoda detekce odlehlých hodnot byla navržena s ohledem na zde řešená velmi přesná měření inženýrsko-geodetických sítí, tj. s ohledem na skutečnost, že zpracovávaná geodetická měření jsou pořizována opakovaně, ve vysokém množství a s velmi vysokým počtem nadbytečných hodnot jednotlivých měřených geodetických veličin. Metoda byla navržena a testována ve dvou variantách. Obě z variant vycházejí z kombinace robustních statistických metod a metod hodnotících odlehlost dle velikosti oprav jednotlivých 84

měření určených z vyrovnání. Konkrétně se jedná o kombinaci robustních odhadů založených na metodě maximální věrohodnosti, tedy M-odhadů (blíže v kap. 2.3.1.2) a upravené metody data-snooping [53] (blíže v kap. 2.3.2.2.1). Postup výpočtu metody detekce odlehlých hodnot měření, a to pro obě zvolené varianty, je stručně popsán v níže uvedených kapitolách. 3.2.1.1 Metoda jednokrokové detekce odlehlých hodnot Návrh jednokrokové metody detekce odlehlých hodnot vychází z klasické úlohy vyrovnání geodetických měření pomocí metody nejmenším čtverců [3]. Výpočetní postup je rozdělen do dvou základních kroků: 1. Určení robustního odhadu měřených veličin V první fázi zpracování geodetických dat je pomocí metody robustního M-odhadu [34] určen odhad hledaných neznámých veličin (prostorových pravoúhlých souřadnic bodů geodetické sítě a orientačních posunů, viz dále) a následně i robustní odhad měřených geodetických veličin. Aplikace robustního M-odhadu je založena na úpravě běžně používaného postupu vyrovnání geodetických měření metodou nejmenších čtverců. Použitá metoda robustního M-odhadu je oproti metodě nejmenších čtverců daleko méně citlivá na splnění podmínky normality zpracovávaných dat, a tedy do určité míry odolává působení odlehlých hodnot. Výsledný robustní odhad není odlehlými hodnotami významně ovlivněn. 2. Vyloučení odlehlých hodnot měřených veličin Princip vylučování odlehlých hodnot měření je prováděn na základě posouzení odlehlosti jednotlivých hodnot měřených veličin od vypočteného robustního odhadu. Hodnota měřené geodetické veličiny je prohlášena za odlehlou, překročí-li její oprava (určená z robustního vyrovnání) stanovenou mezní hodnotu. Mezní opravy hodnoty měřené geodetické veličiny jsou konstruovány dle předpisu metody data-snooping [53]. 3.2.1.2 Metoda dvoukrokové detekce odlehlých hodnot Návrh metody dvoukrokové detekce odlehlých hodnot je stejně jako u metody jednokrokové založen na aplikaci klasické úlohy vyrovnání geodetických měření pomocí metody nejmenším čtverců [3]. Tato metoda nepředpokládá působení pouze odlehlých hodnot, ale i hrubých chyb měření, které jsou detekovány samostatně. Postup detekce lze rozdělit do čtyř základních výpočetních kroků: 1. Určení počátečního robustního odhadu měřených veličin Stejně jako v případě jednokrokové detekce je v první fázi výpočtu pomocí metody robustního M-odhadu určen odhad měřených geodetických veličin. Vhledem k předpokládanému působení hrubých chyb měření je připouštěno, že i přes svoji robustnost může při výpočtu M-odhadu dojít k částečnému selhání a vlivem chyb měření je získaný odhad geodetických veličin nepřesný (získaný odhad je odchýlen od skutečných hodnot geodetických veličin). 2. Odstranění vlivu hrubých chyb měření 85

Testováním odlehlosti jednotlivých hodnot měřených geodetických veličin (posouzením jejich oprav určených z robustního vyrovnání) jsou ze souboru zpracovávaných měření vyloučeny hodnoty ovlivněné hrubými chybami. Princip vyloučení vychází stejně jako u jednokrokové detekce z metody data-snooping [53]. Kritérium odlehlosti je nastaveno takovým způsobem, aby docházelo k vylučování pouze vysoce odlehlých hodnot, tj. k vylučování měření s hrubými chybami. 3. Určení zpřesněného robustního odhadu měřených veličin Již bez vlivu hrubých chyb měření je pomocí opětovného výpočtu robustního M- odhadu získán zpřesněný odhad měřených geodetických veličin, který je dostatečně nezávislý od vlivu odlehlých hodnot. 4. Vyloučení odlehlých hodnot měřených veličin Opětovným testováním odlehlosti (posouzením oprav měření) jsou ze souboru zpracovávaných dat vyloučena zbylá chybná měření (odlehlé hodnoty). Parametry upravené metody data-snooping [53] v tomto případě korespondují s parametry testování odlehlosti metodou jednokrokové detekce. 3.2.2 Realizace metody detekce odlehlých hodnot měření V nadcházející kapitole jsou podrobněji popsány hlavní výpočetní části metody detekce odlehlých hodnot měření. 3.2.2.1 Odhad měření geodetické sítě metodou nejmenších čtverců Základním výpočetním krokem navržené metody detekce je určení robustního M- odhadu měřených geodetických veličin. Podstatou tohoto výpočtu je aplikace iteračního vyrovnání měření metodou nejmenších čtverců, kdy v každém kroku iterace dochází ke změně vah jednotlivých zpracovávaných hodnot geodetických veličin. Počáteční aproximací robustního M-odhadu je klasický odhad měřených geodetických veličin metodou nejmenších čtverců. Tento je dále blíže popsán. Zpracovávanými měřenými geodetickými veličinami jsou v této disertační práci vodorovné směry, zenitové úhly a šikmé délky měřené přímo mezi jednotlivými body inženýrsko-geodetické sítě. Pro účely formulace úlohy vyrovnání jsou vstupní geodetické veličiny označovány jako měřené, ve skutečnosti se nejedná o veličiny přímo měřené, ale veličiny již upravené (popis úpravy měřených veličin je uveden v kap. 3.1.1.4). Odhad metodou nejmenších čtverců je v tomto případě realizován metodou vyrovnání měření volné prostorové geodetické sítě, kde neznámými veličinami jsou hledané pravoúhlé prostorové souřadnice bodů geodetické sítě v lokálním kartézském souřadnicovém systému doplněném o orientační posuny osnov vodorovných směrů měřených na jednotných bodech sítě. Poloha volné geodetické sítě není pevně vázána na žádný její bod (není uvažován vliv pokladu, tj. přesnost hledaného odhadu vychází pouze z přesnosti měřených geodetických veličin a není ovlivněna působením pevné polohy bodů). Při vyrovnání (určení odhadu) měřených veličin dochází k vyrovnání (určení odhadu) souřadnic veškerých bodů sítě. Jelikož geodetická síť není pevně vázána k žádnému bodu, je nutné zajistit její celkové ukotvení v prostoru. Z tohoto důvodu je pro 86

řešení úlohy volné sítě užívána metoda vyrovnání zprostředkujících veličin s podmínkami u neznámých, které toto ukotvení zajistí. Z matematického hlediska se jedná o řešení singulární soustavy normálních rovnic [68]. Pomocí uměle zaváděných podmínek neznámých veličin je zajišťována lineární nezávislost jednotných normálních lineárních rovnic. Zprostředkujícími veličinami jsou při vyrovnání voleny přímo měřené geodetické veličiny. Tato úloha je v geodézii běžně známa (popisovaná v obdobné lieratuře, a to zahraniční (např. [33] či [36]) i tuzemské (např. [3], [21] či [62])), i přes její obecnou znalost je zde uváděn její podobnější popis, a to v úpravě pro konkrétní případ zde řešeného automatizovaného zpracování velmi přesných měření inženýrské geodézie. Vztahy mezi vstupními měřenými geodetickými veličinami (volenými jako zprostředkující veličiny) a hledanými neznámými veličinami lze obecně vyjádřit jako atan, (188) acos, (189), (190) kde,, je vodorovný směr, zenitový úhel a šikmá délka mezi k-tým stanoviskovým a r-tým cílovým bodem geodetické sítě;,, resp.,, jsou pravoúhlé prostorové souřadnice k-tého a r-tého bodů; orientační posun osnovy vodorovných směrů (měřické skupiny, viz kap. 2.1) na k-tém stanovisku, v rámci které byl zaměřen vodorovný směr. Zde řešenou úlohu vyrovnání lze obecně vyjádřit jako, (191), (192) kde je vektor měřených veličin (náhodný vektor), vektor skutečných chyb, vektor odhadu měřených veličin, vektor odhadu neznámých veličin a vektor oprav měření, pro který platí. (193) Jak je patrno z rovnic (188), (189) a (190), vztahy mezi vstupními geodetickými veličinami a hledanými neznámými veličinami nejsou lineární. Pro řešení dané úlohy vyrovnání je nutné funkční vztahy linearizovat, a to jejich převodem do Taylorova rozvoje [3]. Při uvažování pouze 0. a 1. řádu Taylorova rozvoje pro výsledný linearizovaný model měření platí, (194) 87

po úpravě, (195), (196), (197), (198) kde je vektor přibližných hodnot neznámých veličin, vektor přírůstků k přibližným hodnotám neznámých veličin, vektor redukovaných měření, vektor funkčních vztahů měřených veličin (uvedených v (188), (189), (190)) vyjádřených přibližnými hodnotami neznámých veličin a matice linearizovaných vztahů mezi měřenými a neznámými veličinami (matice parciálních derivací jednotlivých funkcí měřených veličin dle jednotlivých neznámých). Lineárně závislé řádky vyskytující se v matici způsobují, že soustava normálních rovnic je singulární (det 0) a pro její řešení nelze použít klastické metody inverze matic (uváděné např. v [67]). Jedním z možných řešení tohoto problému je zavedení podmínek neznámých veličin zajištujících umístění volné geodetické sítě v prostoru. Tyto podmínky lze vyjádřit ve tvaru. (199) Po linearizaci při uvažování pouze 0. a 1. řádu Taylorova rozvoje platí po úpravě, (200), (201), (202), (203) kde matice lineárních členů linearizovaných podmínek neznámých veličin (matice parciálních derivací jednotlivých podmínek dle jednotlivých neznámých), vektor absolutních členů linearizovaných podmínek neznámých veličin (vektor podmínek vyjádřených pomocí přibližných hodnot neznámých veličin ) a nulová matice. Zavedením podmínky metody nejmenších čtverců (při uvažovaní vah jednotlivých měření) min. (204) 88

je pomocí metody Lagrangeových neurčitých koeficientů hledající vázaný extrém funkce [66] možné vyjádřit již lineárně nezávislý systém normálních rovnic (tj. soustavu nezávislých lineárních rovnic). Řešením této soustavy je určen hledaný vektor přírůstků vyrovnaných neznámých veličin, (205) kde je pomocný vektor Lagrangeových koeficientů (korelát) a váhová matice měřených veličin. Je-li uvažován obecný případ vyrovnání měření volné prostorové geodetické sítě, ve které se vyskytují měřené vodorovné směry φ, zenitové úhly z a šikmé délky d, je možné vektor měřených veličin, 1 vyjádřit ve tvaru,,,, (206) kde,, jsou počty hodnot měřených vodorovných směrů, zenitových úhlů a šikmých délek a je celkový počet hodnot měřených veličin. Dle stejného předpisu je sestaven vektor redukovaných měření. Neznámými veličinami jsou voleny prostorové pravoúhlé souřadnice všech bodů sítě,, a orientační posuny jednotlivých osnov vodorovných směrů. Vektor neznámých veličin, 1 má tedy tvar,,,, (207) kde 3,1 je subvektor neznámých souřadnic bodu sítě,,1 subvektor orientačních posunů, počet bodů v síti, počet orientační posunů v síti a 3 je celkový počet hodnot neznámých veličin. Dle stejného předpisu jsou sestaveny vektory,,. Přibližné hodnoty souřadnic bodů sítě jsou získány při detekci geodetické sítě popisované v kap. 3.1.2. Přibližné hodnoty hledaných orientačních posunů je možno volit, (208) neboť jejich vztah k měřeným vodorovným směrům je lineární, není třeba ho linearizovat, a lze tedy přímo vyjádřit. (209) Vzhledem k sestavení vektoru měřených veličin, 1 a vektoru neznámých veličin, 1 jsou jednotlivé prvky matice jejich linearizovaných vztahů o celkové velikosti, určeny jako parciální derivace 89

, (210) kde je funkce neznámých veličin vyjadřujácí měřenou veličinu a je j-tá neznámá veličina. Nenulové parciální derivace pro jednotlivé typy geodetických veličin měřených obecně mezi k-tým stanoviskovým a r-tým cílovým bodem geodetické sítě mají tvar: 1. pro měřený vodorovný směr:, (211), (212) 1, (213) 2. pro měřený zenitový úhel:, (214), (215) 3. pro měřenou šikmou délku:, (216), (217), (218). (219) Literatura (např. [21] či [62]) uvádí množství přístupů, které zaváděním různých podmínek hledaných neznámých veličin umožňují ukotvení volné geodetické sítě v prostoru. Vzhledem ke skutečnosti, že hlavním cílem přesných inženýrských měření je určení skutečného rozměru a tvaru geodetické sítě a nikoli určení její absolutní polohy, je volba metody umístění sítě do prostoru prakticky libovolná. Nejčastěji je volena podmínka Helmertovy transformace minimalizující souřadnicové rozdíly přibližných a vyrovnaných souřadnic bodů sítě. Za předpokladu, že změny přibližných a vyrovnaných souřadnic bodů jsou minimální (tj. že přibližné hodnoty jsou určeny dostatečně přesně), lze transformaci převést do diferenciální linearizované formy. Pro přibližné a vyrovnané souřadnice a obecného i-tého bodu sítě platí 90

0 1 0 0 0 0 1 0, (220) 0 0 0 1 kde,, jsou úhly stočení jednotlivých os mezi souřadnicovými systémy;,, vyjadřují vzájemný posun počátků obou systémů a je změna jejich rozměru (měřítko). Pro veškeré body sítě lze vyjádřit,,. (221) Zavedením podmínky Helmertovy transformace na všech bodech geodetické sítě kde min., (222), (223) lze linearizací a následnou úpravou rovnice (221) vyjádřit podmínku neznámých veličin ve tvaru. (224) Podrobné odvození je uvedeno v [21]. Převedením na tvar (203) je vyjádřena kompletní soustava podmínek pro souřadnice bodů sítě i pro orientační posuny. (225) Jelikož je ve volné inženýrsko-geodetické síti vždy měřena alespoň jedna šikmá délka (viz předpoklady sítě v kap. 2.1), je definován její rozměr a není nutné zavádět podmínku pro měřítko. Dále také není nutné definovat podmínku úhlů stočení a, neboť pomocí měřených zenitových úhlů je dosaženo ukotvení osy Z souřadnicového systému (k rotaci kolem osy X a Y nedochází). Vynecháním daných podmínek je matice redukována o příslušné řádky a má tedy tvar 0 1 0 0. (226) 0 1 0 0 0 1 91

Soustava linearizovaných podmínek má tedy konečný tvar a rozměr 4, 4,3 4,3 4,, (227) 4,1. (228) Dalším z možných řešení singulární soustavy normálních rovnic je použití metody pseudoinverze, využívající např. SVD rozkladu matic (Singular Value Decomposition), uváděné např. v [68]. V tomto případě není nutné rozšiřovat soustavu rovnic o stabilizační podmínky. Z geometrického pohledu metoda samovolně zavádí podmínky Helmertovy transformace pro všechny body sítě. Výsledek je tedy totožný z výše popisovaným řešením. Různorodé měřené geodetické (náhodné) veličiny jsou charakterizovány rozdílnou základní přesností. Tato skutečnost je při řešení úlohy vyrovnání měření zohledňována zaváděním vah jednotlivých hodnot měřených geodetických veličin [3]. Váha měření je v tomto případě dána vztahem, (229) kde váha obecného měření, apriorní jednotková směrodatná odchylka (směrodatná odchylka měření o váze 1) a apriorní směrodatná odchylka měřené veličiny (tj. vodorovného směru, zenitového úhlu a šikmé délky ). V případě zde popisovaného řešení komplexního zpracování měření inženýrské geodézie je apriorní jednotková směrodatná odchylka volitelná, její základní hodnota je nastavena 1. Směrodatné odchylky měřených veličin, a mohou být jednak přímo zadávány (jsou-li předem známy) či určeny apriorní analýzou geodetických měření (vycházející z opakovaného měření či ze stanovených podmínek měření, viz kap. 3.1.3). Dle podmínky homogenity měření (stanovené v kap. 2.1) veškeré hodnoty příslušného typu geodetické veličiny odpovídají stejné základní přesnosti, tj. stejné základní směrodatné odchylce. Váhová matice měřených veličin, je sestavena jako diagonální matice diag,,,,,,,,. (230) Správnost výpočtu úlohy vyrovnání měření geodetické sítě lze ověřit množstvím známých kontrol uváděných např. v [3] či v [62]. V případě automatizovaného softwarového řešení se většina těchto kontrol neuplatní, neboť tyto jsou zaměřeny na kontrolu chyb vzniklých při ručním výpočtu. Výjimku tvoří kontrola linearizace modelu ověřující, zda počáteční přibližné hodnoty neznámých veličin jsou dostatečně blízké hledanému odhadu (což je podmínkou linearizace funkčních vztahů pomocí Taylorova rozvoje [66]). Princip zde navržené kontroly není založen na obvyklém postupu dvojího výpočtu oprav měření (použitém např. v [13]), ale na opakovaném iteračním vyrovnání postupně zpřesňovaného přibližného modelu geodetické sítě. V obecném j-tém kroku iterace je provedeno zpřesnění přibližného modelu 92

, (231) měření je znovu převyrovnáno a je provedeno hodnocení, při kterém musí platit max, (232) kde je uživatelem zadávaná maximální přípustná změna souřadnice bodu geodetické sítě. Při splnění podmínky je iterační výpočet zastaven. 3.2.2.2 Robustní M-odhad měření geodetické sítě Princip užití robustního M-odhadu je založen na postupném iterativním vyrovnání geodetických měření metodou nejmenších čtverců, a to za podmínky postupné změny vah jednotlivých hodnot měřených geodetických veličin. Změna váhy měření je přímo závislá na vývoji velikosti jejich oprav určených vyrovnáním. Čím je hodnota měřené veličiny vzdálenější od jejího odhadu (tj. má větší opravu), tím její váha klesá, a tedy klesá i její vliv při následně určeném zpřesněném odhadu měřených veličin. Tímto způsobem dochází k postupné eliminaci odlehlých hodnot měřených veličin a je získáván robustní odhad měřených veličin nezávislý na vliv odlehlých měření. V každém kroku iterace je v závislosti na normované opravě měření vypočtena robustní změna váhy hodnoty měřené veličiny (233) a stanovena matice robustních změn vah diag,,,. (234) V počátečním (nultém) iteračním kroku jsou robustní váhy všech měření nastaveny na 1 (matice robustních změn vah má podobu jednotkové matice, ), robustní váhy nejsou zavedeny a je vypočten odhad měřených veličin nerobustní metodou nejmenších čtverců tedy, (235). (236) Po určení odhadu měřených veličin jsou vypočteny normované opravy jednotlivých hodnot měření, v obecné j-tém kroku iterace platí, (237) 93

, (238) kde je váha obecného měření, je apriorní jednotková směrodatná odchylka a je apriorní směrodatná odchylka měřené geodetické veličiny (tj. vodorovného směru, zenitového úhlu a šikmé délky ). Výpočetní model je vyrovnán (239) a pro následující iterační krok upřesněn,,. (240) V závislosti na velikosti normované opravy měření je dle váhové funkce robustního M-odhadu (přehled váhových funkcí je uveden v kap. 2.3.1.4) vypočtena nová robustní změna váhy hodnoty měřené geodetické veličiny, (241) stanovena nová matice robustních změn vah diag,, (242) a určen nový odhad měřených veličin. (243) Po dostatečném ustálení iteračního výpočtu vyrovnání geodetických měření je výpočet zastaven a je určen konečný hledaný robustní odhad měřených veličin. Ustálení iteračního výpočtu je posuzováno kritériem max, (244) kde je uživatelem zadávaná maximální přípustná změna robustní změny váhy měřené geodetické veličiny. Konvergence tohoto iteračního výpočtu je dokázána v [34]. 3.2.2.3 Vyhledání odlehlých hodnot měřených veličin Navržený princip vyhledání odlehlých hodnot souboru měřených veličin je založen na posouzení velikosti oprav jednotlivých měření. Tyto opravy jsou získány z výsledků vyrovnání geodetických měření při aplikaci robustního M-odhadu. Užitím robustního M-odhadu při vyrovnání geodetických sítí dochází ke snižování vlivu odlehlých hodnot měření a získání tak odhadu měřených veličin nezávislého na odlehlých 94

hodnotách. Je předpokládáno, že získaný odhad měřené veličiny je blízký její pravé (skutečné) hodnotě a že soubor hodnot (náhodný výběr) měřené veličiny pochází z normálního rozdělení pravděpodobnosti,. Pro vyhledání odlehlých hodnot je použito následujícího postupu založeného na principu testování statistických hypotéz. Po ustálení iteračního výpočtu vyrovnání geodetických měření a určení robustního odhadu měřených geodetických veličin jsou dle (198) vypočteny opravy jednotlivých hodnot měření a dále stanoveny jejich mezní hodnoty, tj. mezní opravy měřených veličin, které jsou dány vztahem, (245) kde je 1001 /2%-ní kvantil normovaného normálního rozdělení pravděpodobnosti 0,1 (viz Obr. 30, tabelovaného např. v [50], např., 1,96 pro 0,05) a je směrodatná odchylka opravy měřené veličiny, která je dána vztahem, (246) kde je volená apriorní jednotková směrodatná odchylka a diagonální prvek matice váhových koeficientů oprav měřených veličin, (247) kde je matice váhových koeficientů měření, matice váhových koeficientů vyrovnaných měření. Následně je provedeno porovnání (je použit oboustranný test, neboť opravy mohou nabývat kladných i záporných hodnot), kdy musí platit. (248) Dojde-li k překročení mezní opravy, jak je naznačeno na Obr. 30, je hodnota měřené geodetické veličiny (příslušící hodnocené opravě ) prohlášena (na zvolené hladině významnosti ) za odlehlou a ze souboru měření vyloučena. Tímto způsobem jsou otestovány veškeré hodnoty měřených veličin přítomné v souboru zpracovávaných měření. u Odlehlé hodnoty v 0 u v Odlehlé hodnoty Obr. 30 Funkce hustoty pravděpodobnosti normálního rozdělení detekce odlehlých hodnot pomocí mezní opravy měřené veličiny 95

Navržená metoda detekce odlehlých hodnot vychází z metody data-snooping [53] (uváděné v kap. 2.3.2.2.1), a to s tím rozdílem, že odlehlost hodnot měřených veličin je posuzována k jejich robustnímu M-odhadu a nikoli k odhadu metodou nejmenších čtverců. V tomto případě není nutné detekovaná odlehlá měření vyřazovat postupně při postupném převyrovnávání měření (zpřesňování odhadu), ale veškerá měření otestovat a případně vyloučit najednou, tj. pouze v jednom výpočetním kroku. Značná výhoda oproti metodě postupného vyřazování měření vyplývá ze skutečnosti, že při výpočtu robustního odhadu nejsou jednotlivé hodnoty přímo vylučovány, ale pouze je potlačován jejich negativní vliv. Jsou tedy správně řešeny i případy, kdy se některé správné neodlehlé hodnoty mohou na počátku jevit jako odlehlé, ale to pouze k počátečnímu chybně určenému odhadu. Vliv těchto hodnot je nejprve potlačen (nejsou vyřazeny), dojde-li ovšem v následném výpočtu k potlačení vlivu opravdu chybných odlehlých hodnot (hodnot, které způsobily počáteční chybu odhadu), navrací se tyto správné hodnoty do výpočtu, jejich vliv roste a podílí se na správném určení konečného odhadu měřených veličin. V případě použití metody jednokrokové detekce je po vyloučení odlehlých hodnot předpokládáno, že redukovaný soubor měřených veličin již splňuje podmínku normality měřických dat a pro výpočet nejlepšího nestranného odhadu měřených veličin může být použito nerobustní metody nejmenších čtverců [3]. Hladina významnosti, a tedy i z ní odvozená hodnota mezní opravy měřené veličiny, může být pro oblast inženýrské geodézie volena např. 2,0, pro 0,05, (249) 2,5, pro 0,01. (250) Volba hladiny významnosti se v tomto případě odvíjí od množství nadbytečných měření ve zpracovávaném měřickém modelu a požadavku přesnosti dosažených výsledků. Je-li tedy zpracovávaná geodetická síť natolik měřicky přeurčitá, že i po vyloučení části měření neztrácejí vyrovnané výsledky na objektivitě, je možné použít kritérium odpovídající vyšší hladině významnosti, provést důraznější vyloučení i méně odlehlých hodnot a získat tak opravdu spolehlivý výsledek. Při použití metody dvoukrokové detekce jsou při prvním vyhledání na hladině významnosti vylučovány pouze velmi odlehlé hodnoty, tj. předpokládané hrubé chyby. Dále je proveden druhý zpřesněný robustní odhad a druhé vyhledání odlehlých hodnot, a to na hladině významnosti, která odpovídá hladině významnosti použité u metody jednokrokové detekce. Po druhém vyhledání a vyloučení odlehlých hodnot je již předpokládáno, že redukovaný soubor měřených veličin splňuje podmínku normality měřických dat a pro výpočet nejlepšího nestranného odhadu měřených veličin může být použito nerobustní metody nejmenších čtverců [3]. Pro představu je níže uveden příklad volby hladiny významnosti, a z ní odvozené hodnoty mezní opravy měřené veličiny, kterou lze použít pro detekci hrubých chyb měření inženýrské geodézie 5,0, pro 1 10, (251) 96

Chování metod detekce odlehlých hodnot, a to pro různě volené hodnoty hladiny významnosti, je dále testováno. 3.2.3 Testování metody detekce odlehlých hodnot měření Použitelnost navrhované metody detekce odlehlých hodnot měření je testována na základě experimentu vycházejícího ze simulace měření modelové inženýrsko-geodetické sítě. Navržený experiment je možno rozčlenit do čtyř základních částí: 1. Tvorba modelu geodetických měření s přesně nadefinovanými parametry. 2. Umělé zavedení odlehlých hodnot do modelového souboru geodetických měření. 3. Vyhledání odlehlých hodnot pomocí navržené detekční metody. 4. Posouzení účinnosti zvoleného postupu porovnáním množství zavedených a následně vyhledaných odlehlých hodnot. 3.2.3.1 Model geodetických měření Popisovaný experiment je založen na studiu účinnosti navržených detekčních metod použitých pro vyhledání odlehlých hodnot v přesně charakterizovaném uměle vymodelovaném geodetickém měření. Důvodem modelování geodetických dat je nutnost dokonalé znalosti apriorních přesností vygenerovaných geodetických měření. Tato znalost je nezbytná k objektivnímu posouzení výsledků dosažených výstupů. Modelována data simulují případ velmi přesných klasických terestrických měření pořízených v rámci zaměření prostorové inženýrsko-geodetické sítě. 3.2.3.1.1 Geodetická síť Modelová geodetická síť je navržena jako běžná prostorová vytyčovací síť středně velkých rozměrů ve tvaru nepravidelného pětiúhelníku s celkovým počtem šesti stanoviskových bodů. Při tvorbě modelu byl stanoven pouze přibližných tvar sítě, podrobná prostorová poloha jednotlivých bodů byla volena náhodně. Maximální vodorovná délka mezi body sítě činí 100,574 m; maximální převýšení je rovno 6,728 m. Podrobné rozložení jednotlivých bodů v síti (spolu s jejich prostorovými pravoúhlými souřadnicemi) je zobrazeno Obr. 31. 5 +Y +X 3 87,331 m 2 4 75,976 m 1 6 1 2 3 4 5 6 Y [m] X [m] Z [m] 0.000 48.854 49.604 8.470 1.031 0.000 0.000 60.645 35.339 87.331 27.121 52.403 0.000 2.573 4.323 3.437 2.405 1.223 Obr. 31 Model geodetické sítě 97

3.2.3.1.2 Geodetické měření Modelový soubor geodetického měření simuluje klasický výstup velmi přesného terestrického geodetického měření pořízeného pomocí totální stanice a sady odrazných hranolů. Soubor obsahuje velké množství opakovaně určených vodorovných směrů, zenitových úhlů a šikmých délek zaměřených mezi jednotlivými body sítě. Hodnoty zenitových úhlů a šikmých délek jsou vztaženy k přímé spojnici bodů sítě. Veškeré hodnoty měřených geodetických veličin jsou v rámci celého souboru setříděny do jednotlivých osnov vodorovných směrů, zenitových úhlů a šikmých délek zaměřených v jedné skupině (tj. ve dvou polohách dalekohledu). Ukázka osnovy vodorovných směrů, zenitových úhlů a šikmých délek je uvedena na Obr. 32. V případech, kdy byla na stanovisku namodelována osnova vodorovných směrů měřená ve více skupinách (2 či 3), byly tyto skupiny do následného zpracování zařazeny jako samostatné osnovy se společným orientačním posunem. Dále byly modelovány situace opakovaného zaměření jednotlivých stanovisek (s přemístěním měřicího přístroje), v těchto případech byly modelovány osnovy směrů s různým orientačním posunem na stejných stanoviscích. 5 3 3,z,d 3 3 5,z,d 5 5 6,z,d 6 6 6 0 4 2 2 2 2,z,d 1,z,d 1 1 1 Obr. 32 Ukázka osnovy vodorovných směrů φ, zenitových úhlů z a šikmých délek d Pro řešení předkládaného experimentu bylo vymodelováno celkem 5 souborů experimentálních geodetických dat. Jedná se různě objemné soubory měření ze stejné modelové geodetické sítě (stejná konfigurace bodů) obsahující různý počet nadbytečných hodnot měřených veličin. Parametry modelových souborů jsou vedeny v Tab. 15. Modelování souboru geodetických měření probíhalo v následných krocích: 1. Stanovení počtu hodnot měřených veličin v modelové síti (viz Tab. 15). Tab. 15 Model geodetického měření základní informace Označení souboru Počet hodnot měřených geodetických veličin Vodorovný směr Zenitový úhel Šikmá délka 98 Počet neznámých veličin Souřadnice bodů sítě Orientačních posunů Počet nadbytečných hodnot A 85 85 71 18 8 219 995% B 50 50 41 18 6 121 605% C 30 30 25 18 6 65 325% D 20 20 16 18 4 38 211% E 10 10 8 18 2 12 75%

2. Vymodelování souboru měření pro každou polohu dalekohledu. Pomocí generátoru pseudonáhodných čísel [69] byl vygenerován soubor (náhodný výběr) hodnot normovaného normálního rozdělení 0,1, který byl následně přetransformován na soubor s obecným normálním rozdělením,, kde je pravá hodnota měřené veličiny (vodorovný směr, zenitový úhel, šikmá délka vypočtené z namodelovaných souřadnic bodů sítě) a směrodatná odchylka měřené veličiny v jedné poloze dalekohledu (směrodatná odchylka vodorovného směru, zenitového úhlu a šikmé délky měřených v jedné poloze dalekohledu). Směrodatné odchylky měřených veličin odpovídají přesnosti totálních stanic s vyšší třídou přesnosti, jako např. [70] (číselné hodnoty směrodatných odchylek jsou uvedeny v Tab. 16). Tab. 16 Směrodatné odchylky měřených veličin vodorovný směr φ zenitový úhel z šikmá délka d 1 poloha dalekohledu 2 0,3 0,4 mgon 2 0,3 0,4 mgon 2,0 mm 1 měřická skupina (2 polohy dalekohledu) 1,4 mm 3.2.3.2 Kontaminace experimentálních dat odlehlými hodnotami Testování navrženého postupu vyhledání odlehlých hodnot měřených veličin je založeno na opakovaném zpracování (vyrovnání) uměle vygenerovaného modelového souboru geodetických měření, a to při postupném zavádění různého množství různě odlehlých hodnot měřených vodorovných směrů, zenitových úhlů a šikmých délek. Odlehlé hodnoty jsou do modelového souboru zaváděny zcela náhodně bez ohledu na typ měřené veličiny (,, ). Množství zaváděných odlehlých hodnot je vyjadřováno relativně vzhledem k celkovému množství hodnot měřených geodetických veličin v modelové síti. Souboru experimentálních geodetických měření je postupně kontaminován 1% až 30% různě odlehlých hodnot. Míra odlehlosti obecné měřené hodnoty je stanovena součinitelem směrodatné odchylky odpovídající měřené veličiny (,, ). Zavedené odlehlé měření je vyjádřeno vztahem. (252) Použité součinitele směrodatných odchylek jsou uvedeny v Tab. 17. Do modelového souboru experimentálních dat jsou vnášena i velmi odlehlá měření ovlivněná hrubou chybou až 500. Výskyt takto chybných měření je v této fázi zpracování přesných geodetických dat prakticky nereálný, neboť tyto odlehlé hodnoty jsou odhaleny již při počáteční kontrole prováděné v rámci předzpracování měření (blíže v kap. 3.1.1.3). Takto vysoké chyby měření (hrubé chyby) jsou do experimentu zaváděny z důvodu posouzení teoretické míry únosnosti představované metody detekce odešlých hodnot. 99

Tab. 17 Použité součinitele směrodatné odchylky měřených veličin vyjadřujících míru odlehlosti zaváděných odlehlých měřených hodnot Méně až středně odlehlé hodnoty Vysoce odlehlé hodnoty Hrubé chyby, omyly 2 2,5 3 3,5 4 5 6 8 10 20 40 60 100 200 500 3.2.3.2.1 Test při konstantní míře odlehlosti měřených dat Jedná se o základní experiment, při kterém jsou zkoumány vlastnosti navržené metody detekce odlehlých hodnot, a to zejména její účinnost. Princip testu spočívá v kontaminaci experimentálních dat množstvím vždy stejně odlehlých hodnot. Výsledky tohoto zjednodušeného syntetického testu mají za cíl přinést základní orientační pohled na vlastnosti navržené metody. Z tohoto důvodu je pro vyhodnocení testu použita pouze metoda jednokrokové detekce, a to při vyřazování odlehlých hodnot na hladině významnosti pro 0,05 (kvantil, 1,96). Do souboru modelových měření jsou postupně zaváděny odlehlé hodnoty, a to s mírou odlehlosti dle Tab. 17 a v množství dle Tab. 18. Test je opakovaně aplikován na soubory obsahujících různý počet nadbytečných měření (viz Tab. 15) a je zkoumán vliv měřické přeurčenosti geodetické sítě na výsledek detekce odlehlých hodnot. Tab. 18 Množství zavedených odlehlých hodnot u testu při konstantní míře odlehlosti měřených dat Nižší množství odlehlých hodnot [%] Vyšší množství odlehlých hodnot [%] 1 2 5 10 15 20 25 30 3.2.3.2.2 Test při proměnlivé míře odlehlosti měřených dat Oproti výše uvedenému testu při konstantní míře odlehlosti je tento test již mnohem objektivnější. Princip testu taktéž spočívá v kontaminaci experimentálních dat odlehlými měřeními, a to s tím rozdílem, že zavedené odlehlé hodnoty nejsou vždy stejně odlehlé, ale jejich míra odlehlosti je proměnlivá. Celkové množství zavedených odlehlých hodnot je rozděleno do jednotlivých stejně objemných tříd, ve kterých je míra odlehlosti vyjádřena odlišným součinitelem směrodatné odchylky měřených veličin. Při tomto experimentu není zkoumána pouze celková účinnost použité detekční metody, ale i vzájemné působení různě odlehlých hodnot měření. Pro vyhodnocení testu je použita metoda jednokrokové i dvoukrokové detekce. Vzhledem k vysoké náročnosti není v tomto případě zkoumán vliv působení počtu nadbytečných hodnot na účinnost detekce odlehlých hodnot. Test je aplikován pouze na modelový soubor A (995% nadbytečných měření), který simuluje výstup měření ve velmi přesné inženýrsko-geodetické síti. Odlehlé hodnoty jsou při jednokolové detekci vylučovány na hladině významnosti 0,05 (kvantil / 1,96). Metoda dvoukrokové detekce je testována ve třech variantách při hladině významnosti prvního vyloučení odlehlých hodnot 1 10,1 10,1 10 (kvantil / 4, 5, 8) a společné hladině významnosti druhého vyloučení odlehlých hodnot 0,05 (kvantil / 1,96). 100

Do modelového souboru jsou postupně zaváděny různé kombinace různě odlehlých hodnot uskupených do 4 až 15 tříd. Míra odlehlosti hodnot v jednotlivých třídách je volena dle Tab. 17. Množství odlehlých hodnot v jednotlivých třídách činí 1% až 8% z celkového množství hodnot měřených geodetických veličin v modelovém souboru. Celkem je do modelového souboru zaváděno 5% až 32% odlehlých hodnot. Při každém zavedení odlehlých hodnot do modelového souboru je současně provedeno testování metody jednokrokové i dvoukrokové detekce, a to ve všech třech variantách. 3.2.3.3 Robustní M-odhady použité při experimentu Při řešení popisovaných experimentů bylo použito celkem 12 různých přepisů výpočtu robustních změn vah měření, tj. 12 rozdílných váhových funkcí (233). Seznam užitých robustních M-odhadů je uveden v Tab. 19. Podrobný popis veškerých uváděných robustních M-odhadů spolu s předpisy jejich váhových funkcí je uveden v kap. 2.3.1.4. Tab. 19 Seznam použitých M-odhadů Pořadí Název Pořadí Název 1 Huberův odhad 7 Gemanův McClureův odhad 2 Modifikovaný Huberův odhad 8 Andrewsův odhad 3 Hampelův odhad 9 Welschův odhad 4 Talwarův odhad 10 Fair odhad 5 Odhad Cauchyho rozdělení 11 L1 norma 6 Tukeyho biweight odhad 12 Hybridní L1/L2 norma 3.2.3.4 Vyhodnocení experimentů Výsledkem daných experimentů je stanovení účinnosti odhalení odlehlých hodnot. Tato účinnost je popisována dvěma hodnotami, a to množstvím správně odhalených zavedených odlehlých hodnot (množstvím hodnot měřených veličin, které metoda právem považuje za odlehlé; vyjádřeno procentuálně vzhledem k množství odlehlých hodnot zavedených do souboru) a množství chybně odhalených nezavedených odlehlých hodnot (množstvím hodnot měřených veličin, které metoda neprávem považuje za odlehlé; vyjádřeno procentuálně vzhledem k celkovému množství hodnot v souboru). 3.2.3.4.1 Test při konstantní míře odlehlosti měřených dat Podstatou realizace popisovaného testu je kontaminace modelového měření odlehlými hodnotami, následná aplikace detekční metody a konečné vyhodnocení úspěšnosti vyhledání zavedených odlehlých měření. Při experimentu bylo celkem použito: 1. 5 souborů modelových geodetických měření s různým počtem nadbytečných hodnot (viz Tab. 15), 2. 8 různých množství zaváděných odlehlých hodnot (viz Tab. 18), 3. 15 různých velikostí zaváděných odlehlých hodnot (vyjádřených součinitelem směrodatné odchylky měřené veličiny, viz Tab. 17), 4. 12 různých robustních M-odhadů použitých při jednokrokové detekci odlehlých měření (viz Tab. 19), 101

5. 10 opakování testování pro každou konfiguraci modelového souboru (zvýšení věrohodnosti dosažených průměrných výsledků). Z uvedeného přehledu vyplývá, že celkem bylo realizováno 72000 opakování experimentálního testování. Z důvodu zajištění nejvyšší míry reprezentativnosti a přehlednosti byly dosažené výsledky co nejvíce komprimovány. Základní metodou detekce odlehlých hodnot byla zvolena metoda využívající Huberův robustní odhad [34]. Výsledky ostatních metod (ostatních robustních odhadů) jsou vyjadřovány relativně vzhledem k této základní metodě. Prezentace výsledků tohoto testu je rozdělena do tabulkové a grafické části. V tabulkové části (Tab. 20, Tab. 21, Tab. 22, Tab. 23, Tab. 24) je pro každou modelovou sít uváděna úspěšnost detekční metody Huberova odhadu (množství správně a špatně odhalených zavedených odlehlých hodnot [%] a [%]) a dále diference úspěšnosti metod dvou dalších robustních odhadů (rozdíl množství správně a špatně odhalených zavedených odlehlých hodnot [%] a [%]). Tyto dvě metody popisují nejlepší a nejhorší výsledky detekce odlehlých hodnot v daném modelovém souboru měření. Z důvodu redukce značného počtu hodnot v uváděných tabulkách jsou dosažené hodnoty účinnosti rozřazeny do interpretačních oblastí a jsou uváděny pouze průměrné hodnoty účinnosti v těchto oblastech. V grafické části (Obr. 33, Obr. 34, Obr. 35, Obr. 36, Obr. 37) je hypsometricky znázorněn podrobnější průběh účinnosti detekce metody Huberova robustního odhadu, a to pro každý modelový soubor měření. Podrobné tabulkové i grafické výsledky účinnosti detekčních metody pro všech 12 robustních odhadů jsou uvedeny na přiloženém elektronickém datovém nosiči. Tab. 20 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot (soubor A, 995% nadbytečných měření) Odlehlost [h] Množství [%] Huberův odhad Hampelův odhad Andrewsův odhad 1 10 15 30 1 10 15 30 1 10 15 30 a b a b Δa Δb Δa Δb Δa Δb Δa Δb 2 51,6 0,4 48,9 1,1 1,5 0,1 1,1 0,1 0,8 0,2 0,5 0,4 2,5 72,1 0,4 65,7 1,4 1,1 0,1 0,9 0,0 1,2 0,2 0,8 0,2 3 85,1 0,3 80,0 1,5 2,4 0,1 0,3 0,1 0,5 0,0 1,7 0,3 3,5 5 98,6 0,4 95,1 2,0 0,2 0,1 0,6 0,5 0,0 0,2 0,2 0,7 6 60 100,0 0,7 99,7 4,3 0,0 0,0 0,0 0,4 0,0 0,3 0,3 0,4 100 500 100,0 8,8 100,0 22,2 0,0 1,8 0,0 1,5 0,0 12,8 0,4 25,0 Z výsledků uváděných v Tab. 20 vyplývá, že účinnost jednotlivých robustních M- odhadů použitých v jednokrokové metodě detekce odlehlých hodnot je v případě vysoce měřicky přeurčené modelové sítě srovnatelná. Detekce odlehlých hodnot je v tomto případě dosti úspěšná. Problémy nastávají při kontaminaci měření velmi hrubými chybami, kdy se projevuje negativní efekt nesprávné detekce neodlehlých hodnot. Hodnota 22,2 25,0 47,2% chybně odhalených měření u Andrewsova robustního odhadu vypovídá o kolapsu celé metody. 102

Tab. 21 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot (soubor B, 605% nadbytečných měření) Odlehlost [h] Množství [%] Huberův odhad L1 norma Talwarův odhad 1 10 15 30 1 10 15 30 1 10 15 30 a b a b Δa Δb Δa Δb Δa Δb Δa Δb 2 42,4 0,4 45,9 1,7 6,2 2,5 1,4 1,5 1,7 0,1 0,7 0,0 2,5 56,4 0,4 63,6 1,9 3,9 2,2 1,1 1,1 3,6 0,1 1,6 0,2 3 79,5 0,5 75,9 2,1 0,7 2,1 1,2 1,6 0,0 0,2 3,1 0,8 3,5 5 97,4 0,5 92,0 2,9 0,5 2,3 0,6 1,4 0,1 0,1 2,9 0,0 6 60 100,0 1,9 98,4 7,9 0,0 1,8 0,2 0,1 0,0 0,1 0,1 1,0 100 500 100,0 15,5 99,9 31,5 0,0 6,5 0,2 11,8 0,0 15,8 0,4 25,3 V případě testování modelového souboru B s 605% nadbytečných měření, jehož výsledky jsou uvedeny v Tab. 21, je účinnost detekce jednotlivých robustních odhadů taktéž srovnatelná. Nejúspěšnějším robustním odhadem byl v tomto případě stanoven odhad L 1 normy, který vykázal poměrně vysokou stabilitu i při kontaminaci měření velmi hrubými chybami. Oproti tomu při použití Talwarova robustního odhadu došlo sice k odhalení naprosté většiny zavedených odlehlých hodnot, ale při nepřijatelném vyloučení více jak 50% neodlehlých měření. Tab. 22 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot (soubor C, 325% nadbytečných měření) Odlehlost [h] Množství [%] Huberův odhad L1 norma Talwarův odhad 1 10 15 30 1 10 15 30 1 10 15 30 a b a b Δa Δb Δa Δb Δa Δb Δa Δb 2 35,5 0,2 41,8 1,8 6,5 2,9 3,2 3,2 3,8 0,1 0,3 0,4 2,5 48,8 0,3 55,0 2,2 2,2 2,6 2,1 2,5 0,8 0,0 1,3 0,7 3 80,8 0,4 64,9 3,2 0,4 2,5 3,4 2,1 0,7 0,5 2,2 0,6 3,5 5 92,2 0,9 84,2 4,1 1,1 2,7 0,8 2,7 0,0 0,1 2,3 0,3 6 60 99,9 2,3 95,5 13,1 0,0 2,8 0,4 0,1 0,1 1,1 0,6 1,7 100 500 100,0 13,5 98,7 41,7 0,1 1,7 1,0 14,1 0,0 26,3 0,6 23,1 Výsledky uvedené v Tab. 22 korespondují s výsledky dosaženými v předchozím případě testování detekce v souboru B (viz Tab. 21). Tab. 23 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot (soubor D, 211% nadbytečných měření) Odlehlost [h] Množství [%] Huberův odhad Welschův odhad Andrewsův odhad 1 10 15 30 1 10 15 30 1 10 15 30 a b a b Δa Δb Δa Δb Δa Δb Δa Δb 2 33,3 1,7 33,8 3,8 3,1 0,1 0,7 0,2 0,5 1,0 1,9 0,3 2,5 42,7 1,5 48,7 5,2 1,0 0,3 0,4 0,6 0,0 1,4 3,8 0,8 3 73,4 2,2 62,8 5,8 6,8 0,2 1,9 0,8 5,7 1,1 8,2 1,1 3,5 5 86,6 2,8 74,9 7,1 0,5 0,4 3,0 1,1 2,1 0,3 5,5 1,7 6 60 97,1 8,2 87,3 22,0 0,8 2,5 1,9 10,0 0,9 0,6 2,2 3,1 100 500 100,0 41,0 96,6 54,9 0,7 15,3 0,0 7,1 0,0 8,9 2,8 15,7 103

V případě testování modelového souboru D s 211% nadbytečných měření, jehož výsledky jsou uvedeny v Tab. 23, je nejúčinnějším robustním odhadem stanoven Welschův odhad. Z výsledků uvedených ve výše zobrazených tabulkách je možné pozorovat efekt snižující se účinnosti detekčních metod v závislosti na snižujícím se množství nadbytečných měření ve zpracovávaných souborech. Dochází ke snižování množství správně odhalených odlehlých hodnot a zvyšování množství chybně detekovaných neodlehlých hodnot. Tento efekt je pochopitelný, neboť při snižujícím se množství nadbytečných hodnot se zvyšuje vliv zavedených chybných měření a dochází ke zvýšení nestability robustního odhadu vycházejícího z vyrovnání metodou nejmenších čtverců. Tab. 24 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot (soubor E, 75% nadbytečných měření) Odlehlost [h] Množství [%] Huberův odhad Hampelův odhad Odhad Cauchyho rozdělení 1 10 15 30 1 10 15 30 1 10 15 30 a b a b Δa Δb Δa Δb Δa Δb Δa Δb 2 33,3 14,7 28,8 8,7 1,4 0,3 6,3 1,7 6,9 8,0 6,5 3,5 2,5 16,7 3,7 42,3 14,8 4,2 0,1 6,6 2,3 11,1 1,0 15,3 8,4 3 27,8 5,1 48,0 18,9 9,7 0,3 5,0 2,9 4,2 1,3 19,6 10,9 3,5 5 68,1 8,7 60,4 19,9 10,2 1,3 5,8 2,8 12,5 2,3 21,5 11,6 6 60 91,7 24,5 82,7 44,8 5,1 2,4 7,3 2,8 25,5 14,2 35,3 25,7 100 500 99,1 62,2 97,2 68,9 0,5 0,5 0,8 0,6 31,9 44,5 38,5 42,0 Jak vyplývá v Tab. 24, je detekce odlehlých hodnot v případě měření s malým počtem nadbytečných hodnot dosti problematická. Méně odlehlé hodnoty nejsou detekovány, více odlehlé hodnoty způsobují silný efekt vylučování neodlehlých měření. Obr. 33 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot při použití Huberova robustního odhadu (soubor A, 995% nadbytečných měření) 104

Obr. 34 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot při použití Huberova robustního odhadu (soubor B, 605% nadbytečných měření) Obr. 35 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot při použití Huberova robustního odhadu (soubor C, 325% nadbytečných měření) 105

Obr. 36 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot při použití Huberova robustního odhadu (soubor D, 211% nadbytečných měření) Obr. 37 Test při konstantní míře odlehlosti, účinnost metody detekce odlehlých hodnot při použití Huberova robustního odhadu (soubor E, 75% nadbytečných měření) Test při konstantní míře odlehlosti měřených dat byl použit pro detekci odlehlých hodnot v pěti souborech modelových měření obsahujících rozdílný počet nadbytečných hodnot. Test byl aplikován při různém množství zavedených různě odlehlých hodnot. Pro testování byla vybrána metoda jednokrokové detekce při použití 12 různých robustních odhadů (blíže v Tab. 19). Na základě tohoto testování nelze jednoznačně vybrat 106

nejúčinnější (nejstabilnější) robustní odhad použitelný pro detekci odlehlých hodnot. Z celkového hlediska vykazují veškeré zde testované robustní odhady srovnatelné výsledky. Hodnoty účinnosti detekčních metod v případě kontaminace dat velmi hrubými chybami jsou brány jako zcela orientační a není vhodné jim v celkovém hodnocení dávat velkou váhu. Hrubé chyby měření lze v případě zpracování měření přesných inženýrskogeodetických sítí úspěšně předem odstranit. Z výsledků provedeného testování je možno stanovit následující závěry. Účinnost správné identifikace odlehlých hodnot v souboru geodetických měření (a) je přímo úměrná velikosti chyby odlehlých měření (v experimentu vyjádřené součinitelem směrodatné odchylky h). Dále je patrno, že s rostoucí velikostí chyby odlehlých měření se zvyšuje i množství špatně identifikovaných neodlehlých hodnot (b). V porovnání s vlivem zvyšující se velikosti chyby odlehlých hodnot je vliv zvyšujícího se množství špatné identifikovaných neodlehlých hodnot mnohem méně výrazný. Významným faktorem ovlivňujícím účinnost detekce odlehlých hodnot je množství nadbytečných měření přítomných ve zpracovávaných datech. V případě zpracování měření se značným počtem nadbytečných hodnot a při nepůsobení hrubých chyb měření se navržená detekční metoda jeví jako velmi účinná. Její použití při zpracování velmi přesných měření inženýrsko-geodetických sítí lze na základě testování považovat za vhodné. 3.2.3.4.2 Test při proměnlivé míře odlehlosti měřených dat Podstatou realizace popisovaného testu je stejně jako v předchozím případě kontaminace modelového měření odlehlými hodnotami, následná aplikace detekční metody a konečné vyhodnocení úspěšnosti vyhledání zavedených odlehlých měření. Při experimentu bylo celkem použito: 1. 1 soubor modelových geodetických měření (soubor A s 995% nadbytečných měření, blíže v Tab. 15), 2. 25 různých variant kontaminace modelového souboru různým množstvím různě odlehlých hodnot (podrobné informace jsou uvedeny na přiloženém elektronickém datovém nosiči), 3. 12 různých robustních M-odhadů použitých při jednokrokové i dvoukrokové detekci odlehlých měření (viz Tab. 19), 4. 1 varianta metody jednokrokové detekce, 3 varianty metody dvoukrokové detekce (při různé hladině významnosti ), 5. 10 opakování testování pro každou konfiguraci modelového souboru (zvýšení věrohodnosti dosažených průměrných výsledků). Z uvedeného přehledu vyplývá, že celkem bylo realizováno 12000 opakování experimentálního testování. Z důvodu zajištění nejvyšší míry reprezentativnosti a přehlednosti byly dosažené výsledky co nejvíce komprimovány. Výsledky testování jsou prezentovány pouze grafickou formou, a to pomocí podrobného sloupcového grafu a souhrnného liniového grafu. Ve sloupcovém grafu je podrobně zobrazena úspěšnost 107

nalezení různě odlehlých hodnot rozdělených do tříd. Jednotlivé sloupce znázorňují průměrná množství správně nalezených odlehlých hodnot v daných třídách (průměr je tvořen z 10 opakování testu ve stejné konfiguraci). Souhrnný graf zobrazuje celkového množství správně a špatně nálezných odlehlých hodnot, a to pro každé opakování testu ve stejné konfiguraci zvlášť. Tento graf slouží pro snazší porovnání metody jednokrokové a dvoukrokové detekce. Celkem bylo při testování vytvořeno 2100 grafických výstupů, které zobrazují výsledky detekce odlehlých hodnot pomocí vybraných detekčních metod (4 varianty pro 12 robustních M-odhadů) v 25 souborech různě nakonfigurovaných modelových měření. Veškeré výsledky jsou uvedeny v příloze na elektronickém datovém nosiči. V tištěné formě disertační práce je uvedena pouze malá část výsledků, která ovšem plně postačuje k popisu základních charakteristik navržené metody detekce odlehlých hodnot měření. V první fázi testování je uvažována kontaminace modelových geodetických měření pouze méně odlehlými hodnotami, tj. je předpokládána absence hrubých chyb a omylů přítomných ve zpracovávaných datech. Výsledky tohoto testování jsou uvedeny na Obr. 39, Obr. 40 a Obr. 41. Množství odlehlých hodnot zavedeých do souboru Množství správně odhalených odlehlých hodnot na hladině významnosti 5% (kvantil: 1.96) Množství mylně odhalených neodlehlých hodnot na hladině významnosti 5% (kvantil: 1.96) Obr. 38 Legenda sloupcových grafů metody jednokrokové detekce Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda jednokrokové detekce (teoretické množství odlehlých ve třídě: 1% ) Celková množství 0.8 4 Množství odlehlých v souboru [%] 0.6 0.4 0.2 3 2 1 0 2.5 3 3.5 4 5 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] 0 Huber Obr. 39 Test při proměnlivé míře odlehlosti, zavedeno 5% méně odlehlých hodnot Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda jednokrokové detekce (teoretické množství odlehlých ve třídě: 3% ) Celková množství 14 Množství odlehlých v souboru [%] 2.5 2 1.5 1 0.5 12 10 8 6 4 2 0 2.5 3 3.5 4 5 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] 0 Huber Obr. 40 Test při proměnlivé míře odlehlosti, zavedeno 15% méně odlehlých hodnot 108

Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda jednokrokové detekce (teoretické množství odlehlých ve třídě: 6% ) Celková množství Množství odlehlých v souboru [%] 5 4 3 2 1 25 20 15 10 5 0 2.5 3 3.5 4 5 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] 0 Huber Obr. 41 Test při proměnlivé míře odlehlosti, zavedeno 30% méně odlehlých hodnot Výše uváděné výsledky popisují testování pouze metodou jednokrokové detekce. Metoda dvoukrokové detekce je navržena pro případy působení hrubých chyb měření (blíže v kap. 3.2.1.2), při jejich absenci jsou výsledky totožné s jednokrokovou metodou. Při působení pouze méně odlehlých hodnot je metoda detekce velice stabilní a účinná. I při kontaminaci měření až 30% odlehlých hodnot dokáže metoda 90% těchto hodnot nalézt. Množství měření, které metoda považuje neprávem za odlehlá, se pohybuje kolem 10% z celkového počtu přítomných odlehlých hodnot. Při použití různých robustních M- odhadů je výsledek prakticky totožný (z tohoto důvodu jsou zde uváděny pouze výsledky detekce při použití Huberova odhadu [34]). Při porovnání jednotlivých robustních odhadů je patrný jediný rozdíl, a to že u některých méně stabilnějších odhadů dochází k nárůstu chybně odhalených neodlehlých hodnot. Množství těchto hodnot dosahuje až 30-40% z celkového počtu přítomných odlehlých měření. Tento nárůst byl zaznamenán hlavně v případě kontaminace dat 5% odlehlých hodnot, se zvyšujícím se počtem odlehlých hodnot v souboru měření se rozdíly jednotlivých M-odhadů snižují. Mezi méně stabilnější odhady se v tomto případě řadí odhad Cauchyho rozdělení, Gemanův McClureův odhad a L 1 norma. Je zde nutno podotknout, že tyto závěry platí pouze pro soubor měření s vysokým množstvím nadbytečných hodnot. Další popisované testování je zaměřeno na situaci, kdy jsou zpracovávaná měření kontaminována nejen méně odlehlými hodnotami, ale i hrubými chybami. Pro detekci odlehlých měření je použito jednokrokové i dvoukrokové detekce. Jsou zde popisovány dva případy kontaminace měření, kdy je soubor nejprve znečištěn množstvím hrubých chyb rozdílných velikostí (Obr. 43, Obr. 44, Obr. 45, Obr. 46, Obr. 47 a Obr. 48) a dále hrubými chybami stejné velikosti (Obr. 49, Obr. 50, Obr. 51, Obr. 52, Obr. 53 a Obr. 54). Pro oba případy jsou uváděny více a méně stabilní výsledky detekce odlehlých hodnot reprezentované dvěma různými použitými robustními odhady. Na Obr. 55, Obr. 56 a Obr. 57 je dále uveden příklad selhání detekční metody vlivem působení značného množství silně odlehlých měření. Množství odlehlých hodnot zavedeých do souboru Množství správně odhalených odlehlých hodnot na hladině významnosti 5% (kvantil: 1.96) Množství správně odhalených odlehlých hodnot na hladině významnosti 1e-005% (kvantil: 5.33) Množství mylně odhalených neodlehlých hodnot na hladině významnosti 5% (kvantil: 1.96) Množství mylně odhalených neodlehlých hodnot na hladině významnosti 1e-005% (kvantil: 5.33) Obr. 42 Legenda sloupcových grafů metody dvoukrokové detekce 109

2 Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda jednokrokové detekce (teoretické množství odlehlých ve třídě: 2% ) Celková množství Množství odlehlých v souboru [%] 1.5 1 0.5 15 10 5 0 2 2.5 3 3.5 4 5 10 20 100 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] Obr. 43 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby rozdílné velikosti, metoda jednokrokové detekce, více stabilní výsledky detekce 0 Huber Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda dvoukrokové detekce (teoretické množství odlehlých ve třídě: 2% ) 2 Celková množství Množství odlehlých v souboru [%] 1.5 1 0.5 15 10 5 0 2 2.5 3 3.5 4 5 10 20 100 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] 0 Huber Obr. 44 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby rozdílné velikosti, metoda dvoukrokové detekce, více stabilní výsledky detekce Množství odlehlých ve třídě: 2%, odlehlost třídy: 2, 2.5, 3, 3.5, 4, 5, 10, 20, 100 Správně odhalené odlehlé hodnoty Mylně odhalené odlehlé hodnoty Veškeré odhalené odlehlé hodnoty 0.2 0.18 0.16 Množství odlehlých v souboru [%] 0.14 0.12 0.1 0.08 0.06 0.04 0.02 0 2 4 6 8 10 2 4 6 8 10 Pořadí opakovaní ex perimentu 2 4 6 8 10 Huber Množství odlehlých hodnot zavedeých do souboru Množství odhalených hodnot, metoda jednokrokové detekce (hladina významnosti: 5%, kvantil: 1.96) Množství odhalených hodnot, metoda dvoukrokové detekce - 1.krok (hladina významnosti: 1e-005%, kvantil: 5.33) Množství odhalených hodnot, metoda dvoukrokové detekce - 2.krok (hladina významnosti: 5%, kvantil: 1.96) Obr. 45 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby rozdílné velikosti, porovnání jednokrokové a dvoukrokové metody, více stabilní výsledky detekce 110

2 Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda jednokrokové detekce (teoretické množství odlehlých ve třídě: 2% ) Celková množství Množství odlehlých v souboru [%] 1.5 1 0.5 15 10 5 0 2 2.5 3 3.5 4 5 10 20 100 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] 0 L1 norm Obr. 46 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby rozdílné velikosti, metoda jednokrokové detekce, méně stabilní výsledky detekce Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda dvoukrokové detekce (teoretické množství odlehlých ve třídě: 2% ) 2 Celková množství Množství odlehlých v souboru [%] 1.5 1 0.5 15 10 5 0 2 2.5 3 3.5 4 5 10 20 100 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] Obr. 47 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby rozdílné velikosti, metoda dvoukrokové detekce, méně stabilní výsledky detekce 0 L1 norm 0.4 Množství odlehlých ve třídě: 2%, odlehlost třídy: 2, 2.5, 3, 3.5, 4, 5, 10, 20, 100 Správně odhalené odlehlé hodnoty Mylně odhalené odlehlé hodnoty Veškeré odhalené odlehlé hodnoty 0.35 0.3 Množství odlehlých v souboru [%] 0.25 0.2 0.15 0.1 0.05 0 2 4 6 8 10 2 4 6 8 10 Pořadí opakovaní ex perimentu 2 4 6 8 10 L1 norm Množství odlehlých hodnot zavedeých do souboru Množství odhalených hodnot, metoda jednokrokové detekce (hladina významnosti: 5%, kvantil: 1.96) Množství odhalených hodnot, metoda dvoukrokové detekce - 1.krok (hladina významnosti: 1e-005%, kvantil: 5.33) Množství odhalených hodnot, metoda dvoukrokové detekce - 2.krok (hladina významnosti: 5%, kvantil: 1.96) Obr. 48 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby rozdílné velikosti, porovnání jednokrokové a dvoukrokové metody, méně stabilní výsledky detekce 111

Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda jednokrokové detekce (teoretické množství odlehlých ve třídě: 3% ) Celková množství 14 2.5 12 Množství odlehlých v souboru [%] 2 1.5 1 0.5 10 8 6 4 2 0 2.5 3 3.5 4 100 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] Obr. 49 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby stejné velikosti, metoda jednokrokové detekce, více stabilní výsledky detekce 0 Huber Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda dvoukrokové detekce (teoretické množství odlehlých ve třídě: 3% ) Celková množství 14 2.5 12 Množství odlehlých v souboru [%] 2 1.5 1 0.5 10 8 6 4 2 0 2.5 3 3.5 4 100 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] Obr. 50 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby stejné velikosti, metoda dvoukrokové detekce, více stabilní výsledky detekce 0 Huber 0.2 Množství odlehlých ve třídě: 3%, odlehlost třídy: 2.5, 3, 3.5, 4, 100 Správně odhalené odlehlé hodnoty Mylně odhalené odlehlé hodnoty Veškeré odhalené odlehlé hodnoty 0.18 0.16 Množství odlehlých v souboru [%] 0.14 0.12 0.1 0.08 0.06 0.04 0.02 0 2 4 6 8 10 2 4 6 8 10 Pořadí opakovaní ex perimentu 2 4 6 8 10 Huber Množství odlehlých hodnot zavedeých do souboru Množství odhalených hodnot, metoda jednokrokové detekce (hladina významnosti: 5%, kvantil: 1.96) Množství odhalených hodnot, metoda dvoukrokové detekce - 1.krok (hladina významnosti: 1e-005%, kvantil: 5.33) Množství odhalených hodnot, metoda dvoukrokové detekce - 2.krok (hladina významnosti: 5%, kvantil: 1.96) Obr. 51 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby stejné velikosti, porovnání jednokrokové a dvoukrokové metody, více stabilní výsledky detekce 112

Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda jednokrokové detekce (teoretické množství odlehlých ve třídě: 3% ) Celková množství 14 2.5 12 Množství odlehlých v souboru [%] 2 1.5 1 0.5 10 8 6 4 2 0 2.5 3 3.5 4 100 0 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] L1 norm Obr. 52 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby stejné velikosti, metoda jednokrokové detekce, méně stabilní výsledky detekce Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda dvoukrokové detekce (teoretické množství odlehlých ve třídě: 3% ) Celková množství 14 Množství odlehlých v souboru [%] 2.5 2 1.5 1 0.5 12 10 8 6 4 2 0 2.5 3 3.5 4 100 0 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] L1 norm Obr. 53 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby stejné velikosti, metoda dvoukrokové detekce, méně stabilní výsledky detekce Množství odlehlých ve třídě: 3%, odlehlost třídy: 2.5, 3, 3.5, 4, 100 Správně odhalené odlehlé hodnoty Mylně odhalené odlehlé hodnoty Veškeré odhalené odlehlé hodnoty 0.25 Množství odlehlých v souboru [%] 0.2 0.15 0.1 0.05 0 2 4 6 8 10 2 4 6 8 10 2 4 6 8 10 Pořadí opakovaní ex perimentu L1 norm Množství odlehlých hodnot zavedeých do souboru Množství odhalených hodnot, metoda jednokrokové detekce (hladina významnosti: 5%, kvantil: 1.96) Množství odhalených hodnot, metoda dvoukrokové detekce - 1.krok (hladina významnosti: 1e-005%, kvantil: 5.33) Množství odhalených hodnot, metoda dvoukrokové detekce - 2.krok (hladina významnosti: 5%, kvantil: 1.96) Obr. 54 Test při proměnlivé míře odlehlosti, zavedeny hrubé chyby stejné velikosti, porovnání jednokrokové a dvoukrokové metody, méně stabilní výsledky detekce 113

Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda jednokrokové detekce (teoretické množství odlehlých ve třídě: 6% ) Celková množství Množství odlehlých v souboru [%] 5 4 3 2 1 40 30 20 10 0 2.5 3 3.5 4 500 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] Obr. 55 Ukázka selhání metody jednokrokové detekce vlivem značného množství silně odlehlých měření 0 Talwar Množství zavedených a odhalených odlehlých v souboru rozdělené do tříd, metoda dvoukrokové detekce (teoretické množství odlehlých ve třídě: 6% ) Celková množství Množství odlehlých v souboru [%] 5 4 3 2 1 40 30 20 10 0 2.5 3 3.5 4 500 Velikost odlehlosti hodnot [součinitel směrodatné odchylky] Obr. 56 Ukázka selhání metody dvoukrokové detekce vlivem značného množství silně odlehlých měření 0 Talwar Množství odlehlých ve třídě: 6%, odlehlost třídy: 2.5, 3, 3.5, 4, 500 Správně odhalené odlehlé hodnoty Mylně odhalené odlehlé hodnoty Veškeré odhalené odlehlé hodnoty 0.8 0.7 Množství odlehlých v souboru [%] 0.6 0.5 0.4 0.3 0.2 0.1 0 2 4 6 8 10 2 4 6 8 10 Pořadí opakovaní ex perimentu 2 4 6 8 10 Talwar Množství odlehlých hodnot zavedeých do souboru Množství odhalených hodnot, metoda jednokrokové detekce (hladina významnosti: 5%, kvantil: 1.96) Množství odhalených hodnot, metoda dvoukrokové detekce - 1.krok (hladina významnosti: 1e-005%, kvantil: 5.33) Množství odhalených hodnot, metoda dvoukrokové detekce - 2.krok (hladina významnosti: 5%, kvantil: 1.96) Obr. 57 Ukázka selhání detekční metody vlivem značného množství silně odlehlých měření, porovnání jednokrokové a dvoukrokové metody 114

Z výše uvedených výsledků vyplývá, že metoda detekce odlehlých hodnot je schopná reagovat na přítomnost určitého množství hrubých chyb přítomných ve zpracovávaných datech a odlehlé hodnoty i hrubé chyby odhalit. V uvedených příkladech jsou data kontaminována množstvím 15% a 18% různě odlehlých hodnot (Obr. 43 až Obr. 53). Metodou jednokrokové detekce dochází k odhalení přibližně 90% těchto hodnot. Množství měření, které metoda považuje neprávem za odlehlá, se pohybuje kolem 10-30% z celkového počtu přítomných odlehlých hodnot, a to v závislosti na typu použitého robustního odhadu. Při porovnání jednotlivých robustních M-odhadů nelze na základě dosažených výsledků stanovit jejich přesný kvalitativní žebříček. Dané metody je spíše vhodné rozdělit do dvou kategorií, a to na odhady s nižší a vyšší stabilitou. Tyto kategorie jsou v uvedených příkladech (Obr. 43 až Obr. 53) reprezentovány Huberovým odhadem a odhadem L 1 norma. Veškeré testované robustní M-odhady dosahují prakticky stejné účinnosti při správném vyhledání zavedených odlehlých hodnot. Rozdílnost odhadů (resp. jejich kategorií) je ve stabilitě výpočtu při působení hrubých chyb měření. Tato stabilita se projevuje množstvím špatně detekovaných neodlehlých hodnot. Nestabilní odhad se vyznačuje tím, že vlivem působení hrubých chyb dochází k jeho špatnému určení (robustní odhad měřených geodetických veličin není blízký skutečným (pravým) hodnotám veličin) a při následném vyhledání odlehlých hodnot dochází ke špatnému označení neodlehlých hodnot, které se jeví jako odlehlé, ale pouze ke špatně určenému robustnímu odhadu. Mezi nejstabilnější odhady lze na základě výsledků provedeného testování řadit Huberův odhad, Hampelův odhad a Fair odhad. Menší stabilitu prokázal odhad L 1 norma, Talwarův odhad, Tukeyho (biweight) odhad, Gemanův McClureův odhad a Andrewsův (sinový) odhad. Rozdíly stability (tj. i účinnosti) jednotlivých robustních M-odhadů se projevují až při působení většího množství více odlehlých hodnot, jejichž přítomnost vede až ke kolapsu detekční metody znázorněného Obr. 55. Při použití metody dvoukrokové detekce bylo dosaženo podobných výsledků jako v případě detekce jednokrokové. Z hlediska posouzení množství správně vyhledaných odlehlých hodnot jsou obě metody prakticky totožné. Významu nabývá tato metoda pouze v případě působení hrubých chyb měření, kdy zajišťuje vyšší stabilitu detekce. Při jejím použití dochází ke snížení vlivu působení hrubých chyb a následně i ke snížení počtu měření, které jsou chybně považovány za odlehlé (viz Obr. 52, Obr. 53, Obr. 54). Velikost hladiny významnosti prvního vyřazení odlehlých hodnot (tj. velikost hodnoty mezní opravy měření (245)) ovlivňuje míru snížení množství nesprávně odhalených odlehlých hodnot. Velikost hladiny významnosti je vhodné volit dle předpokládané velikosti hrubých chyb měření. Čím pravděpodobnější je výskyt větších hrubých chyb a omylů ve zpracovávaných datech, tím vhodnější je volit nižší hladiny významnosti (tj. volit větší hodnotu mezní opravy měření (245)). Výsledky testování s rozdílnými hladinami významnosti jsou uvedeny v příloze na datovém nosiči, zde jsou zobrazeny výsledky testování pouze pro variantu s hladinou významnosti 1 10 (kvantil / 5). Dvoukrokové vylučování odlehlých hodnot napomáhá k zajištění stability metody detekce, překročí-li však kontaminace dat určitou hranici, dochází stejně jako u metody jednokrokové k selhání robustního odhadu a ke kolapsu celého procesu detekce 115

(viz Obr. 56 a Obr. 57). K selhání nastává tehdy, je-li vlivem hrubých chyb robustní odhad měřených geodetických veličin natolik vzdálený od jejich skutečných (pravých) hodnot, že při následné detekci dojde k vyloučení většiny správných neodlehlých měření. Vyloučením těchto hodnot dochází k dalšímu nárůstu vlivu nevyloučených odlehlých měření a následně k určení ještě vzdálenějšího odhadu měřených veličin. Je ovšem nutné zdůraznit, že tyto případy vysoké kontaminace chybných měření se v přesné inženýrské geodézii prakticky nevyskytují. Při přesných geodetických měření je obvyklá pouze částečná kontaminace dat odlehlými hodnotami s ojediněle se vyskytujícími hrubými chybami. V těchto případech prokazuje detekční metoda vysokou stabilitu a umožnuje úspěšné vyhledání chybných měření. Z praktického hlediska je přínos detekční metody značný. Závěry vyslovené na základě provedeného testování platí pouze pro případy měření s velmi vysokým množstvím nadbytečných hodnot. 3.2.3.5 Závěr Výsledkem experimentu bylo stanovení použitelnosti navržené detekční metody založené na aplikaci robustních M-odhadů sloužící pro detekci odlehlých hodnot geodetických veličin měřených v rámci velmi přesných inženýrsko-geodetických sítí. Užití robustních odhadů pro detekci odlehlých hodnot je velice účinná metoda, jejíž použitelnost je ovšem podmíněna mnoha faktory a vstupními podmínkami. Pro dosažení patřičných výsledků je nutné zajistit dostatečný počet nadbytečných měření (odpovídající počtu nadbytečných měření v běžně měřených velmi přesných inženýrsko-geodetických sítích) a dále absence hrubých chyb měření (možno odstranit kontrolou dat před vlastním vyrovnáním měření). Z dosažených výsledků vyplývá, že navržená metoda detekce odlehlých hodnot je schopná účinně vyhledat kromě méně odlehlých hodnot i hrubé chyby měření. Vše ovšem závisí na počtu nadbytečných hodnot v souboru zpracovávaných měření a na množství a velikosti chyb měření. Při vyšší koncentraci chybných měření dochází k negativnímu efektu chybného vyloučení správných neodlehlých měření. Tento efekt lze redukovat, a to použitím metody dvoukrokové detekce, která v počáteční fázi zajistí vyloučení hrubých chyb měření a následně již stabilnější vyhledání méně odlehlých chybných měření. Při objektivním zhodnocení detekční metody je nutné zdůraznit, že provedené testování, při kterém metoda prokázala nestabilitu, simuluje extrémní případy chybných měření, které se v přesné inženýrské geodézii prakticky nevyskytují. V reálných případech, kdy je podílu chybných měření mnohem nižší, prokázala detekční metoda vysokou stabilitu a účinnost a její přínos pro praktické využití se jeví jako značný. Oproti klasicky užívaným metodám detekce odlehlých hodnot (jako je např. metoda data snooping, τ test, t test či metoda hodnocení aposteriorní jednotkové směrodatné odchylky, blíže v kap. 2.3.2), jejichž princip je založen na opakovaném zamítání jednotlivých měření s velkými opravami vůči odhadu metodou nejmenších čtverců [3], je aplikace robustního odhadu zcela automatická a rozhodnutí o zamítnutí veškerých odlehlých měření je možné provést naráz a nikoli postupně posouzením jednotlivých měření. 116

Značnou slabinou popisované metody je její závislost na klasickém postupu vyrovnání geodetických měření (vyrovnání metodou nejmenších čtverců [3]), který je výpočetně nestabilní a selže-li výpočet odhadu měřených veličin pomocí metody nejmenších čtverců, selže i celý postup detekce odlehlých hodnot měření. K tomuto selhání by však v případě přesných inženýrsko-geodetických měření prakticky docházet nemělo. 3.2.4 Závěr Daná kapitola je zaměřená na popis detekční metody použitelné pro vyloučení chybných (odlehlých) hodnot měřených geodetických veličin, které je prováděno v rámci komplexního automatizovaného zpracování velmi přesných klasických terestrických měření získávaných při zaměření lokálních inženýrsko-geodetických sítí. V první části kapitoly je popsán návrh metody detekce odlehlých hodnot vycházející z kombinace robustních statistických metod (přesněji robustních M-odhadů, blíže v kap. 2.3.1.2) a klasických metod hodnocení oprav měření daných z vyrovnání (blíže v kap. 2.3.2). Metoda vyhledání odlehlých měření je navržena ve dvou variantách, a to jako základní jednokroková detekce a dále jako dvoukroková detekce umožňující i částečné vyhledání hrubých chyb měření. Pro obě varianty je uveden podobný realizační postup umožňující implementaci detekční metody do procesu zpracování klasických terestrických měření prostorových geodetických sítí. Závěrečná část kapitoly je zaměřena na testování naražených detekčních postupů. Princip tohoto testování vychází z experimentu, při kterém je vytvořen model ideálních přesných geodetických měření. Do tohoto modelu jsou postupně zavedena různě odlehlá (chybná) měření a je posuzováno, zda navržené metody při určitém nastavení dokáží tato měření detekovat a z modelu vyloučit. Kromě podrobného popisu realizace experimentu je zde uveden přehled dosažených výsledků a zhodnocení účinnosti obou variant metody detekce odlehlých hodnot. Veškeré testování je prováděno s ohledem na použitelnost dané metody při zpracování velmi přesných inženýrsko-geodetických měření. 3.3 Zpracování geodetických měření Poslední část předkládané disertační práce je zaměřena na konečné vyhodnocení klasických terestrických geodetických prostorových sítí. Cílem tohoto vyhodnocení je určení prostorové polohy jednotlivých bodů sítě a určení tak jejich vzájemných prostorových vztahů. V případě velmi přesných měření inženýrské geodézie jsou z důvodu zajištění vysokých požadavků přesnosti geodetická data zpravidla pořizována opakovaně, ve vysokém množství a s velmi vysokým počtem nadbytečných hodnot jednotlivých měřených geodetických veličin. Tato geodetická měření jsou následně vyhodnocena formou vyrovnání při použití podmínky metody nejmenších čtverců [3]. Tato metoda je aplikována za předpokladu, že zpracovávaná geodetická měření již nejsou ovlivněna působením hrubých chyb a odlehlých hodnot (tyto byly již dříve detekovány a vyloučeny, viz předchozí kapitola) a odpovídají podmínkám normálním rozdělením pravděpodobnosti. Výsledkem zpracování metodou nejmenších čtverců je zisk nejspolehlivějších (nejlepších nestranných [61]) odhadů prostorové polohy jednotlivých 117

bodů geodetické sítě spolu s charakteristikami jejich dosažené přesnosti. Princip a podrobný postup vyrovnání měření geodetických sítí je uváděn v množství odborné literatury, a to zahraniční (např. [33] či [36]) i tuzemské (např. [3], [21] či [62]). V předkládané disertační práci je pro zpracování velmi přesných klasických terestrických měření inženýrské geodézie volen přístup vyrovnání měření volné prostorové geodetické sítě. Princip tohoto zpracování je založen na vyrovnání zprostředkujících měření, kdy zprostředkujícími veličinami jsou přímo voleny vstupní měřené geodetické veličiny. Prostorová poloha výsledné sítě je určena v obecném (předem neznámém) souřadnicovém systému definovaném na základě samotného měření, její skutečný tvar a rozměr není při výpočtu deformován vazbou na uživateli volený obvykle méně přesný výstupní souřadnicový systém. Obecnou polohu sítě je následně možné upravenou shodnostní transformací (blíže např. v [2] či v [71]) zachovávající tvar a rozměr sítě převést do libovolného uživateli definovaného souřadnicového systému. 3.3.1 Vyrovnání geodetických měření Postup konečného vyrovnání geodetických měření je totožný s postupem výpočtu počátečního odhadu měření geodetické sítě metodou nejmenších čtverců používaného při realizaci metody detekce odlehlých hodnot. Formulace úlohy vyrovnání měření volené prostorové geodetické sítě spolu s popisem její aplikace v případě zpracování klasických terestrických geodetických měření je podrobně uvedena v kap. 3.2.2.1. Tato část přímo navazuje na zmiňovanou kapitolu a zabývá se pouze popisem konečného vyhodnocení výsledků vyrovnání geodetických měření. Veškeré zde uváděné veličiny (spolu s jejich symbolika) jsou převzaty s tím rozdílem, že po vyloučení odlehlých hodnot měření došlo k redukci původního modelu geodetických měření. Po dodatečném ustálení iteračního výpočtu vyrovnání prováděného z důvodu postupného zpřesnění linearizovaného modelu měření, tj. po splnění podmínky (232), je dle (194) určen konečný odhad hledaných neznámých veličin (prostorových pravoúhlých souřadnic všech bodů geodetické sítě,, a orientačních posunů jednotlivých měřených osnov vodorovných směrů ). Dle (198) je určen vektor oprav a následně dle (192) i konečný odhad měřených geodetických veličin (měřených vodorovných směrů φ, zenitových úhlů z a šikmých délek d). Stanovené odhady hledaných neznámých veličin i měřených geodetických veličin jsou hodnoceny charakteristikami popisujícími přesnost jejich určení. Těmito charakteristikami jsou směrodatné odchylky vyrovnaných veličin. Při jejich výpočtu je nejprve vyjádřena kovarianční matice vyrovnaných neznámých veličin, která je dána vztahem či (253), (254) 118

kde je uživateli volená apriorní jednotková směrodatná odchylka vstupující do vyrovnání (směrodatná odchylka měření o váze 1), aposteriorní jednotková směrodatná odchylka určená z vyrovnání, matice váhových koeficientů vyrovnaných neznámých veličin. Aposteriorní jednotkovou směrodatnou odchylku lze pomocí oprav hodnot měřených geodetických veličin vyjádřit vztahem, (255) kde je vektor oprav měření, váhová matice měřených veličin sestavená dle (230) a počet nadbytečných měření v modelu vyrovnání, který je roven, (256) kde je celkový počet hodnot měřených geodetických veličin, počet hledaných neznámých veličin a počet stupňů volnosti (počet podmínek umístění volné geodetické sítě do prostoru). V případě volné prostorové sítě, ve které jsou měřeny zenitové úhly z a alespoň jedna šikmá délka d, je počet podmínek 4. Je-li volná geodetická síť kotvena v prostoru pomocí dodatečných podmínek neznámých veličin (metoda vyrovnání zprostředkujících veličin s podmínkami u neznámých [3]), je matice váhových koeficientů neznámých veličin vyjádřena submaticí, (257) kde je matice linearizovaných vztahů mezi měřenými a neznámými veličinami, matice lineárních členů linearizovaných podmínek neznámých veličin a nulová matice. Je-li pro řešení singulární soustavy normálních rovnic použita metoda pseudoinverze, využívající např. SVD rozkladu matic (Singular Value Decomposition), viz např. v [68], lze matici váhových koeficientů neznámých veličin určit přímo jako. (258) Hledané směrodatné odchylky vyrovnaných neznámých veličin jsou vyjádřeny z kovarianční matice, kdy platí, (259) kde je směrodatná odchylka i-té vyrovnané neznámé veličiny a je i-tý diagonální prvek kovarianční matice vyrovnaných neznámých veličin. Aplikací zákona šíření směrodatných odchylek (uváděného např. v [21]) lze z kovarianční matice vyrovnaných neznámých veličin vyjádřit kovarianční matici vyrovnaných měřených geodetických veličin 119

. (260) Pro směrodatné odchylky vyrovnaných neznámých veličin dále platí, (261) kde je směrodatná odchylka i-té vyrovnané měřené geodetické veličiny a je i-tý diagonální prvek kovarianční matice vyrovnaných měřených geodetických veličin. Pro snazší představu o dosažené přesnosti vyrovnaných neznámých veličin jsou pro jednotlivé body vyhodnocované prostorové geodetické sítě konstruovány elipsoidy chyb. Pomocí těchto elipsoidů lze snadno popsat přesnost odhadu prostorové polohy bodu sítě v závislosti na měnícím se směru. Jak je uvedeno např. v [62], lze parametry elipsoidů chyb určit výpočtem vlastních čísel a vlastních vektorů částí kovarianční matice vyrovnaných neznámých veličin příslušících jednotlivým bodům geodetické sítě. Z kovarianční matice je vyjádřena souměrná část kolem diagonály odpovídající souřadnicím jednoho (i-tého) bodu cov, cov, cov, cov, cov, cov,. (262) Vlastní čísla a vlastní vektory dané matice jsou určeny řešením soustavy lineárních rovnic, (263) kde je vlastní číslo, 3,1 vlastní vektor, 3,3 jednotková matice a 3,1 nulový vektor. Soustava rovnic má celkem tři řešení (blíže např. v [66]), vlastní čísla,, a jím odpovídající vlastní vektory,,. Vlastní čísla vyjadřují velikost poloosy elipsoidu chyb, (264) kde je délka poloosy j (hlavní poloosy max a vedlejší poloosy a ). Vlastní vektory vyjadřují směr jednotlivých poloos. Směr osy elipsoidu chyb lze nejjednodušeji vyjádřit jejím směrníkem definovaným pouze pro I. a II. kvadrant souřadnicového systému acos (265) a zenitovým úhlem 120

acos acos, (266) kde,, jsou prvky vlastního vektoru. Při výpočtu vlastních čísel a vlastních vektorů matic je výhodné použít metodu singulárního rozkladu matic SVD (jak je uváděno např. v [21]). 3.3.2 Transformace geodetické sítě Výsledkem zde popisovaného komplexního řešení automatického zpracování velmi přesných klasických terestrických geodetických měření je vyhodnocení volné prostorové geodetické sítě. Poloha jednotlivých bodů této sítě je definována kartézskými souřadnicemi v obecném lokálním ortogonálním souřadnicovém systému. Podoba souřadnicového systému je pro uživatele po celou dobu zpracování měření neznámá, neboť tato vzniká automaticky při detekci geodetické sítě (kap. 3.1.2) a při samotném vyrovnání geodetických měření (kap. 3.2.2.1). Hlavním cílem inženýrských měření je stanovení skutečných prostorových vztahů mezi jednotlivými body vyhodnocované geodetické sítě (určení skutečného rozměru a tvaru sítě), určení její absolutní polohy je druhořadé. V některých případech, a to hlavně při zkoumání posunů a přetvoření stavebních objektů (blíže např. v [5]), ovšem dochází k porovnávání výsledků polohy bodů více geodetických sítí (porovnání výsledků jedné sítě měřené ve více časových etapách). V těchto případech je nutné zajistit ztotožnění polohy jednotlivých geodetických sítí, a to jejich převedením do stejného souřadnicového systému. Na prostorovou transformaci souřadnic bodů inženýrsko-geodetické sítě jsou kladeny následující požadavky: 1. Rozměr a tvar transformované geodetické sítě zůstává nezměněn. Výsledkem zpracování inženýrsko-geodetických měření je určení skutečných prostorových vztahů jednotlivých bodů sítě. Použitím shodnostní transformace, kdy nedochází ke změně měřítka souřadnicového systému ( 1), jsou tyto vzájemné vztahy zachovány, a je tedy zachována i přesnost určených odhadů polohy jednotlivých bodů sítě (zachována relativní přesnost sítě). 2. Směr výškové osy vstupního i výstupního souřadnicového systému je totožný. Ve vstupním i výstupním souřadnicovém systému je předpokládáno měření zenitových úhlů. Tyto úhly jsou přesně definovány směrem k zenitu (směrem osy Z), který je v obou systémech stejný. Při transformaci nedochází k rotaci kolem osy X a Y (pro příslušné úhly stočení os platí 0), je uvažována pouze rotace kolem osy Z, a to o úhel. Výsledná transformace souřadnic je tedy složena z prostorového posunu a otočení kolem osy Z (viz Obr. 58). 121

2 y 2 z 2 x 2 0 t z 1 y 1 z 1 0 t x 1 x y Obr. 58 Transformace souřadnic bodů inženýrsko-geodetické sítě Transformační vztah, popisující převod prostorových souřadnic bodů geodetické sítě, lze vyjádřit ve tvaru 0 0 0 0 0 0, (267) kde 3, 1 je celkový vektor translace, 3, 3 celková matice rotace a 3, 1 a 3, 1 jsou vektory souřadnic všech bodů sítě ve vstupním a výstupním souřadnicovém systému. Pro výše uvedené veličiny platí cos sin 0,, sin cos 0, 0 0 1, (268) kde 3,1 je vektor translace pro jeden bod sítě obsahující posuny jednotlivých souřadnic (,, ), 3,3 je matice rotace jednoho bodu sítě kolem osy Z o úhel stočení, 3,1 a 3,1 jsou vektory pravoúhlých prostorových souřadnic i-tého bodu sítě,, ve vstupním a výstupním souřadnicovém systému. Součástí samotné transformace polohy jednotlivých bodů sítě je i převod charakteristik popisujících přesnost jejich určení. Aplikací zákona šíření směrodatných odchylek lze z (267) vyjádřit vztah pro kovarianční matici souřadnic bodů geodetické sítě ve výstupním souřadnicovém systému, (269) kde 3, 3 je příslušná část matice vyrovnaných neznámých velečin (určené z (253) resp. (254)) příslušící souřadnicím bodů geodetické sítě. 122

V případě zde popisovaného komplexního řešení automatického zpracování velmi přesných měřeni inženýrské geodézie jsou voleny dva přístupy realizace transformace. Tyto transformační postupy jsou dále podrobněji popsány. 3.3.2.1 Transformace na bod a směrník Jedná se o jednoduchou transformaci, pomocí které uživatel převádí vstupní geodetickou síť do souřadnicového systému definovaného pomocí dvojice identických bodů a jejich směrníku. Uživatelem je zadávána výstupní poloha jednoho vybraného bodu geodetické sítě (pevný bod) a dále výstupní hodnota směrníku na jiný bod geodetické sítě (orientační bod). Vztah mezi vstupním a výstupním souřadnicovým systémem lze vyjádřit jako, (270),,,, (271) kde a je vektor translace vstupního a výstupního souřadnicového systému. Pomocí vektoru je nejprve přesunut počátek vstupního souřadnicového systému do vybraného pevného bodu, je provedena rotace a následně je pomocí nastavena zadaná poloha počátku výstupního souřadnicového systému. Je-li pevným bodem zvolen k-tý bod geodetické sítě, jehož nová poloha je rovna, (272) a dále je zadán směrník a r-tý bod sítě, lze vektory translace pro jednotlivé body sítě vyjádřit jako, Úhel stočení souřadnicových systémů je roven. (273), (274) kde je směrník mezi k-tým a r-tým bodem geodetické sítě určený ze souřadnic ve vstupním souřadnicovém systému (výpočet směrníku ze souřadnic uveden např. v [23] či v [65]). 123

3.3.2.2 Transformace na identické body Jedná se o transformaci, při které je předpokládána existence skupiny identických bodů, jejichž prostorová poloha je známa ve vstupním i výstupním souřadnicovém systému. Jsou-li známy prostorové souřadnice dvou a více identických bodů, je hledaný transformační klíč (tvořený posuny souřadnic bodů sítě,, a úhlem stočení ) určen vyrovnáním metodou nejmenších čtverců [3]. Pro výpočet je využito metody vyrovnání zprostředkujících měření, kterými jsou voleny prostorové souřadnice identických bodů ve výstupním souřadnicovém systému. Podrobnosti o formulaci samotné úlohy vyrovnání zprostředkujících měření zde nejsou uváděny, neboť obdoba této úlohy již byla podrobně popsána v kap. 3.2.2.1. Je uvažován obecný případ vyrovnání transformačního klíče, kdy je známo identických prostorových bodů geodetické sítě. Měřenými veličinami jsou v tomto případě prostorové souřadnice identických bodů ve výstupním souřadnicovém systému. Vektor měřených veličin 3, 1 má tvar,, (275) kde 3,1 je vektor souřadnic i-tého identického bodu ve výstupním souřadnicovém systému. Neznámými hledanými veličinami jsou jednotlivé prvky transformačního klíče, vektor neznámých veličin 4,1, resp. vektor jejich odhadu 4,1, je vyjádřen jako,. (276) Jak vyplývá z (267), jsou vztahy mezi neznámými posuny souřadnic,, a souřadnicemi bodů geodetické sítě přímo lineární. Vektor přibližných hodnot neznámých veličin 4,1 a vektor přírůstků k přibližným hodnotám neznámých veličin 4,1 lze vyjádřit 0 0,. (277) 0 Vzhledem k jeho robustnosti [25] je přibližná hodnota úhlu stočení vypočtena jako medián z hodnot přibližných úhlů stočení určených ze všech kombinací rozdílů směrníků mezi příslušnými identickými body, tj. dle vztahu, pro 1,,, (278) 124

kde a jsou směrníky mezi k-tým a r-tým identickým bodem určené ze souřadnic vstupního a výstupního systému ([23] či [65]) a je počet kombinací rozdílů směrníků. Pro identických bodů je tento počet roven. (279) Dosazením z (277) do (267) lze pomocí přibližných hodnot neznámých vyjádřit funkční vztahy měřených veličin a následně i vektor redukovaných měření 3, 1, který má tvar cos sin 0, sin cos 0 0 0 1, (280) kde 3,1 je vektor redukovaných měření pro i-tý identický bod. Vzhledem k sestavení vektoru měřených veličin 3, 1 a vektoru neznámých veličin 4, 1 jsou jednotlivé prvky matice linearizovaných vztahů o celkové velikosti 3, 4 určeny jako parciální derivace funkce měřené veličiny (,, ) dle j-té neznámé (,,, ). Nenulové parciální derivace vztahů (267) jsou pro obecný i-tý identický bod uvedeny níže. 1. Parciální derivace dle posunů souřadnic: 1. (281) 2. Parciální derivace dle úhlu stočení osy Z: sin cos, (282) cos sin. (283) Snahou dané úlohy vyrovnání za podmínky metody nejmenších čtverců [3] je řešení soustavy normálních rovnic, které lze při neuvažování vah jednotlivých měření (souřadnic identických bodů) vyjádřit ve tvaru. (284) Z důvodu zajištění kvality dosažených výsledků je nezbytné do výpočtu zavést kontrolu linearizace založené na opakovaném iteračním vyrovnání postupně zpřesňovaného přibližného modelu měření (viz (231)), tj. postupném zpřesňování přiblížené hodnoty úhlu stočení. Iterační výpočet vyrovnání je zastaven při, (285) 125

kde je uživatelem zadávaná maximální přípustná změna úhlu stočení souřadnicové soustavy. Stejně jako v případě vyrovnání měření volné geodetické sítě (kap. 3.2.2.1) lze výpočet transformačního klíče rozšířit o detekci odlehlých měření, tj. o detekci odlehlých hodnot souřadnic identických bodů ve výstupním souřadnicovém systému. Řešení soustavy normálních rovnic robustního M-odhadu (blíže v kap. 3.2.2.2) má v tomto případě tvar, (286) kde je matice robustních vah měření (234). Jelikož je předpokládáno, že pro souřadnice identických bodů nejsou známy jejich apriorní směrodatné odchylky (nejsou zaváděny váhy měření [3]), je normování oprav hodnot měřených veličin (238) prováděno pomocí aposteriorní jednotkové směrodatné odchylky určené z vyrovnání. (287) Normované opravy měření (souřadnice identického bodu ve výstupním systému) jsou následně vypočteny ze vztahu. (288) Vylučování odlehlých hodnot, založené na testování velikosti normovaných oprav měření, je v tomto případě nutné provádět na principu τ testu odlehlých hodnot [57] a nikoli na principu metody data-snooping [53], jak je uváděno v kap. 3.2.2.3. 3.3.3 Závěr Závěrečná kapitola shrnuje možnosti konečného vyhodnocení a úpravy klasických terestrických geodetických měření zpracovaných metodou vyrovnání volné prostorové geodetické sítě. Je zde uváděn stručný popis výpočtu charakteristiky přesnosti určení odhadu hledaných neznámých veličin a vyrovnaných měřených geodetických veličin. Pro úplnost je dále popisován stručný postup konstrukce elipsoidů chyb jednotlivých bodů vyrovnané prostorové sítě. Poloha výsledné vyrovnané inženýrsko-geodetické sítě je stanovena v obecném (zpracovateli neznámém) lokálním souřadnicovém systému. Souřadnice bodů geodetické sítě lze následně transformovat a síť převést do souřadnicového systému definovaného uživatelem. Práce uvádí dva přístupy shodnostní transformace zachovávající skutečný tvar a rozměr inženýrsko-geodetické sítě. Jedná se o transformaci na předem stanovený pevný bod a směrník a dále transformaci na identické body sítě pomocí vyrovnaného transformačního klíče. 126

4 Závěr Výsledkem zpracování předkládané disertační práce je vytvoření komplexního řešení automatizovaného zpracování velmi přesných klasických terestrických měření získávaných při zaměření lokálních prostorových geodetických sítí. Zpracovávaná geodetická měření mají podobu objemných souborů opakovaně měřených šikmých délek, vodorovných směrů a zenitových úhlů měřených mezi jednotlivými body geodetické sítě. Celkové řešení v sobě zahrnuje množství dílčích zpracovatelských úkonů a metod, které byly v této práci podrobně teoreticky popsány, zhodnoceny a začleněny do funkčního autorského softwarového nástroje, který je přílohou disertační práce. Představovaný zpracovatelský postup se zaobírá automatizovaným vyhledáním, kontrolou a analýzou geodetických měření získávaných z načítaných klasických měřických zápisníků, dále jejich úpravou a vyhodnocením ve formě vyrovnaní volné prostorové geodetické sítě. Data jsou vyhodnocována s nejvyšším důrazem a ohledem na vysokou požadovanou přesnost inženýrských měření. Hlavní cíle a výstupy jednotlivých dílčích části jsou dále stručně zhodnoceny. V první části řešené problematiky byly teoreticky popsány navržené metody zabývající se tématikou předzpracování geodetických měření. Tato kapitola shrnuje veškeré přípravné práce zabývající se úpravou a analýzou vstupních geodetických dat a určením veškerých podkladů umožňujících správné použití metody vyrovnání měření geodetických sítí. Je zde navrhován postup počátečního vyhledání a uspořádání vstupních geodetických dat seskupených do měřických skupin, postup jejich důkladné kontroly a úpravy do formy umožňující jejich vyrovnání. Dále kapitola popisuje princip automatického vyhledání měření náležících zpracovávané prostorové geodetické síti založeného na automatickém výpočtu jejího přibližného tvaru a rozměru. Závěrečná část kapitoly se zaobírá apriorním hodnocením přesnosti měřených geodetických veličin. Jedná se o dva základní přístupy řešení apriorní analýzy měření geodetické sítě označované jako výpočet vnitřní a vnější přesnosti geodetické sítě. Při řešení dané problematiky bylo z převážné části vycházeno z již existujících v geodézii známých postupů, které bylo nutno z důvodu jejich použitelnosti v oblastech automatizovaného zpracování měření zobecnit a příslušně rozšířit. Spojením těchto postupů došlo k vytvoření zcela jedinečného řešení úlohy předzpracování přesných geodetických měření inženýrské geodézie. Druhá hlavní část disertační práce se zaobírá problematikou detekce odlehlých hodnot měřených geodetických veličin a jejího začlenění do procesu zpracování měření prostorových geodetických sítí. Je zde popisován návrh detekční metody založené na hodnocení oprav hodnot geodetických veličin určených z robustního vyrovnání. Výsledkem tohoto vyrovnání je zisk odhadu geodetických veličin nezávislého na vlivu odlehlých hodnot. Výpočet je realizován pomocí robustního odhadu vycházejícího z metody maximální věrohodnosti, tzv. M-odhadu. Metoda vyhledání odlehlých měření je navržena ve dvou variantách, a to jako základní jednokroková detekce a dále jako dvoukroková detekce umožňující i částečné vyhledání hrubých chyb měření. Pro obě dvě varianty detekční metody bylo provedeno rozsáhlé testování vycházející z umělého 127

modelování geodetických měření a jejich následné kontaminace odlehlými hodnotami a hrubými chybami. Pomocí tohoto experimentálního testování byla stanovena účinnost detekce, a to v závislosti na množství a odlehlosti chybných měření působících ve zpracovávaných datech. V případě velmi přesných měření inženýrské geodézie, která obsahují velký počet nadbytečných hodnot a jejichž kontaminace chybnými měřeními je pouze částečná, prokázala detekční metoda vysokou stabilitu a účinnost. Její začlenění do představovaného softwarového řešení je velmi přínosné a vede k dosažení kvalitních výsledků zpracování geodetických měření. Závěrečná třetí část práce shrnuje možnosti konečného vyhodnocení a úpravy geodetických měření zpracovaných metodou vyrovnání volné prostorové geodetické sítě za podmínky metody nejmenších čtverců. Jedná se o popis výpočtu charakteristik přesnosti určení odhadu hledaných neznámých veličin a vyrovnaných měřených geodetických veličin a dále o popis možností transformace vyrovnané volné geodetické sítě. Práce uvádí dva přístupy využívající shodnostní transformaci zachovávající skutečný tvar a rozměr inženýrsko-geodetické sítě. Jedná se o transformaci na předem stanovený pevný bod a směrník a dále transformaci na identické body sítě pomocí vyrovnaného transformačního klíče. Závěrem je možno říci, že veškeré stanovené cíle disertační práce se podařilo naplnit. Byl vytvořen a podrobně popsán postup zpracování velmi přesných klasických terestrických měření získávaných při zaměření lokálních prostorových geodetických sítí. Daný postup byl úspěšně implementován do výpočetního aparátu autorského softwarového nástroje EasyNet. Kvalita a funkčnost tohoto nástroje byla ověřena např. při hodnocení metody sledování posunů a přetvoření stavebního objektu publikovaného v [72] či při zpracování diplomových prací [73] či [74]. 128

Seznam použité literatury [1] Kolektív autorov: Terminologický slovník geodézie, kartografie a katastra. 1. vyd. Bratislava: Úrad geodézie, kartografie a katastra Slovenskej republiky, 1998. 539 s. ISBN 80-88716-36-5. [2] Hauf, M. a kol.: Geodézie technický průvodce. 2. vydání, SNTL nakladatelství technické literatury, Praha 1982. 544s. ISBN 80-03-00142-0. [3] Böhm, J. Radouch, V. Hampacher, M.: Teorie chyb a vyrovnávací počet. 2. vydání, Praha, Geodetický a kartografický podnik 1990. ISBN 80-7011-056-2. [4] Štroner, M. - Urban, R. - Braun, J.: Implementation of a high-accuracy spatial network for measurements of steel constructions. Slovak Journal of Civil Engineering. 2012, vol. 20, no. 2, p. 13-18. ISSN 1210-3896. [5] Michalčák, O. Vosika, O. Veselý, M. Novák, Z.: Inžinierska geodézia I. 1.vyd. Bratislava: Alfa; Praha: SNTL, 1985. 408 s. [6] Hojovec, V. a kol.: Kartografie. 1.vyd., Geodetický a kartografický podnik v Praze n.p., Praha 1987, 660 s. [7] Vykutil, J.: Vyšší geodézie. 1. vyd. Praha, Kartografie, 1982. 544 s. [8] Úplné Znění č. 869 - Katastr nemovitostí, zeměměřičství, pozemkové úpravy a úřady (Stav k 1. 1. 2012). Sagit 2012. 288 s. ISBN 978-80-7208-889-8 [9] Groma - Vyrovnání sítí. http://www.groma.cz/cz/mod_grmnet. 07.11.2012. [10] GEUSnet. http://www.geus.cz/geusnet.htm. 07.11.2012. [11] GEPRO KNET. http://www.gepro.cz/geodezie-a-projektovani/kokes/doplnkovemoduly/. 07.11.2012. [12] G-NET. http://www.gview.cz/gnetw.htm. 07.11.2012. [13] GNU Gama. http://www.gnu.org/s/gama/. 07.11.2012. [14] BEST-FIT Columbus. http://www.bestfit.com/. 25.11.2012. [15] GEOTEC Panda. http://www.geotec-gmbh.de/panda/. 25.11.2012. [16] Niemeier, W. Tengen, D.: PANDA - The Software Package for Precise Engineering Networks. In: Proceedings of the Second International Workshop on Accelerator Alignment, Deutsches Elektronen Synchrotron DESY Hamburg, Federal Republic of Germany. Dt. Elektronensynchrotron DESY, 1990, 486 p. [17] Mueller, M.: GSI ONLINE for LEICA TPS. Advanced User Guide. Leica Geosystems AG, Heerbrugg, Switzerland, 1999. Dostupný z: http://www.leicageosystems.com/media/new/product_solution/gsi_manual.pdf. 20.11.2012. [18] Groma. http://www.groma.cz/cz/. 20.11.2012. [19] GEUS. http://www.geus.cz/geuszaklpop.htm. 20.11.2012. [20] GEPRO KOKEŠ. http://www.gepro.cz/geodezie-a-projektovani/kokes/. 20.11.2012. [21] Hampacher, M. Štroner, M.: Zpracování a analýza měření v inženýrské geodézii, 1. vydání, Praha, ČVUT v Praze, 2011, ISBN 978-80-01-04900-6. 129

[22] Blažek, R. Skořepa, Z.: Geodézie 30 (Výškopis). 1.vyd. Praha, ČVUT v Praze, 1999. 92 s. ISBN 80-01-01598-X. [23] Ryšavý, J.: Praktická geometrie: (Nižší geodesie). Praha, Česká matice technická, 1941. 710 s. [24] Charamza, F.: Programový systém GEODET: Popis a příklady užití. 1. vyd. Zdiby, VÚGTK, 1984. 710 s. [25] Jurečková, J.: Robustní statistické metody. Nakladatelství Karolinum, Praha 2001. 133 s. ISBN 80-246-0259-8. [26] Veselý, J.: Výpočet přibližných souřadnic bodů v C++. Praha, 1999. Diplomová práce. ČVUT v Praze, FSv, Katedra mapování a kartografie. [27] Firemní literatura k přístroji Trimble S8. http://www.geotronics.cz/geodetickepristroje/totalni-stanice/trimble-s8.10.11.2012. [28] Firemní literatura k přístroji Topcon GPT 7500. http://obchod.geodis.cz/geo/gpt- 7500. 15.5.2010. [29] DIN 18723-3 Feldverfahren zur Genauigkeitsuntersuchung geodätischer Instrumente; Theodolite. DIN Deutsches Institut für Normung e.v. 1990 [30] Bajer, M. Procházka, J.: Inženýrská geodézie 10,20 - Návody ke cvičením. ČVUT Praha 1997. ISBN 80-01-01673-0. [31] Ryšavý, J.: Vyšší geodesie. Praha, Česká matice technická, 1947. 521 s. [32] Huber, P. J.: Robust Statistics. Wiley, New York, 1981. [33] Koch, K. R.: Parameter Estimation and Hypothesis Testing in Linear Models. Berlin Heidelberg New York, Springer Verlag, 1999, 333 s., ISBN 3-5406525-74. [34] Huber P. J.: Robust Estimation of a Location Parameter. Annals of Mathematical Statistics 35 (1964), 73 101. [35] Hampel, F. R. Ronchetti, E. M. Rousseeuw, P. R. Stahl, W. A.: Robust Statistics. Wiley, New York, 1986. [36] Jäger, R. Müller, T. Saler, H. Schwäble, R.: Klassische und robuste Ausgleichungsverfahren, Herbert Wichmann Verlag, Heidelberg, 2005. [37] Jørgensen, P. C. Frederiksen, P. Kubik, K. Wenig, W.: Ah, Robust estimation! International Archives of Photogrammetry and Remote Sensing, vol. XXV, part A3a, p. 268-277, Rio de Janeiro, 1984. [38] Rousseeuw, P. J.: Least median of squares regression. Journal of the American Statistical Association, roč. 79, č. 388, 1984. [39] Rousseeuw, P. J. Leroy, A. M.: Robust regression and Outlier Detection. Wiley, New York 1987. [40] http://en.wikipedia.org/wiki/ransac. 10.12.2012. [41] Fischler, M. A. Bolles, R. C.: Random sample consensus: A paradigm for model fitting with applications to image analysis and automated cartography. Communications of ACM, 24(6), 1981. 130

[42] Blatná, D.: Možnosti aplikace metod a nástrojů robustní regrese (na příkladu analýzy vybraných ukazatelů evropských zemí). Statistika, svz. 89, č. 4, 2009, ISSN 0322-788X. [43] Harvey, B. R.: Survey network adjustments by the L1 method, School of Surveying and Spatial Information Systems, 1993, UNSW. [44] Berné Valero, J. L. Baselga Moreno, S.: Robust estimation in geodetic networks. Física de la Tierra, n. 17, 2005, p. 7-22, ISSN: 0214-4557. [45] Gokalp, E. Gungor, O. Boz, Y.: Evaluation of different outlier detection methods for GPS networks. Sensors, n. 8, 2008, ISSN 1424-8220. [46] Berber, M.: Robustness Analysis of Geodetic Networks. Ph.D. dissertation, Department of Geodesy and Geomatics Engineering, Technical Report No. 242, University of New Brunswick, Fredericton, New Brunswick, Canada, 2006, 121 pp. [47] Grubbs, F. E.: Sample criteria for testing outlying observations. The Annals of Mathematical Statistics 21, 1950, p. 27-58. [48] Eckschlager, K. Horsák, I. Kodejš, Z.: Vyhodnocování analytických výsledků a metod, 1. vydání, Praha, SNTL Nakladatelství technické literatury 1980. [49] Pearson, E. S. Chandra Sekar, C.: The efficiency of statistical tools and a criterion for the rejection of outlying observations. Biometrika 28, 1936, p. 308-320. [50] Janko, J.: Statistické tabulky. ČSAV, Praha, 1978. 252 s. [51] McKay, A.T.: The distribution of the difference between the extreme observation and the sample mean in samples of n from a normal universe, Biometrika 27, 1935, p. 466-471. [52] Nair, K. R.: The distribution of the extreme deviate from the sample mean and its Studentized form. Biometrika 35, 1948, p. 118 144. [53] Baarda, W.: A testing procedure for use in geodetic networks. Publications on Geodesy, New Series, vol:2, no:5, Netherlands Geodetic Commission, Delft. 1968. [54] Sisman, Y.: Outlier Measurement Analysis With The Robust Estimation, Scientific Research an Essays, (SCI), Vol.5 (7), pp. 668-678, 4 April, 2010, ISSN: 1992-2248. [55] Axelsson, P.: Outlier detection in relative orientation removing or additing observations. International Archives of Photogrammetry and Remote Sensing. Vol. XXXI, Part B3. Vienna 1996. [56] Leick, A.: GPS Satellite Surveying, 3rd Ed., John Wiley & Sons, New York, 2004. 464 p. ISBN: 978-0-471-05930-1 [57] Pope, A. J.: The statistics of residuals and the outlier detection of outliers. NOAA Technical Reports, NOS 65, NGS 1, Rockville, Maryland/USA, 1976, p. 256. [58] Baselga, S.: Critical Limitation in Use of τ Test for Gross Error Detection. Journal of Surveying Engineering., ASCE, 133(2), 2007, 52 55. 131

[59] Hwang, C. Wang, C. Lee, L.: Adjustment of relative gravity measurements using weighted and datum-free constraints, Computers & Geosciences, 28(9), 1005 1015, 2002. [60] Gullu, M. Yilmaz, I.: Outlier Detection for Geodetic Nets Using ADALINE Learning Algorithm, Scientific Research and Essays, 5(5), 2010, 440-447. [61] Kubáčková, L. - Kubáček, L. - Kukuča, J.: Pravdepodobnosť a štatistika v geodézii a geofyzike. VEDA, Bratislava, 1982. 326 s. [62] Jandourek, J.: Geodézie 50 (Vyrovnání účelových geodetických sítí v E2 a v E3). Praha, ČVUT 2000, 189 s., ISBN 80-01-02171-8. [63] Pecháček, J. Machaň, J.: MDAVKA - Dávkové zpracovaní geodetických úloh zapsaných v zápisnicích podrobného měřeni (Uživatelská příručka). Geodézie, s.p., Opava, KGKS Opava. 1992. [64] Hauf, M. Krpata, F.: Základy elektronických metod v geodesii. 3. vyd., Praha, ČVUT, 1982, 196 s. [65] Ratiborský, J.: Geodézie 1. Měření a výpočty. 3. vyd. Praha, ČVUT v Praze, 2011. 234 s. ISBN 978-80-01-04788-0. [66] Rektorys, K. a spol.: Přehled užité matematiky I. Prometheus, Praha, 2003, 7. vyd. ISBN 80-7196-179-5. [67] Bubeník, F. Pultar, M. Pultarová, I.: Matematické vzorce a metody. 3. vydání, Praha, ČVUT, 2012, 320 s., ISBN 978-80-01-04524-4. [68] Press, W. H. Teukolsky, S. A. Vetterling, W. T. Flannery, B. P.: Numerical Recipes: The Art of Scientific Computing. 3rd Edition. Cambridge University Press. 2007. 1256 p., ISBN 05-218-8068-8. [69] http://www.mathworks.com/help/matlab/ref/randn.html. 22.12.2012. [70] Firemní literatura k přístroji Trimble S8. http://www.geotronics.cz/geodetickepristroje/totalni-stanice/trimble-s8. 22.12.2012. [71] Böhm, J.: Vyšší geodézie I: geometrická. 3. vyd. Praha, ČVUT v Praze, 1972. 388 s. [72] Jašek, P.: Geodetický monitoring při rekonstrukci a dostavbě historické budovy. In: Juniorstav 2013 - Sborník anotací [CD-ROM]. Brno: Vysoké učení technické v Brně, Fakulta stavební, 2013. (v tisku) [73] Dobrovolný, P.: Testování využití automatického cílení pro určování posunů a přetvoření vodních děl. Praha, 2013. Diplomová práce. ČVUT v Praze, FSv, Katedra speciální geodézie. [74] Královič, J.: Testování lokální přesnosti GNSS přijímačů Trimble GeoXR. Praha, 2013. Diplomová práce. ČVUT v Praze, FSv, Katedra speciální geodézie. [75] Štroner, M.: Virtuální laserový skener. Stavební obzor. 2006, roč. 15, č. 6, s. 187-190. ISSN 1210-4027. [76] Štroner, M. Pospíšil, J.: Systematic Geometrical Errors of Scanning Spherical Surfaces. Survey Review. 2011, vol. 43, no. 323, p. 731-742. ISSN 1752-2706. 132

[77] Scilab. http://www.scilab.org. 31.12.2012. [78] Matlab. http://www.mathworks.com. 31.12.2012. [79] http://en.wikipedia.org/wiki/linear_congruential_generator. 31.12.2012. [80] Knuth, D. E.: The Art of Computer Programming, Volume 2: Seminumerical Algorithms. Third Edition. Addison-Wesley, 1997. p. 17 19. ISBN 0-201-89684-2. [81] Marsaglia, G. Tsang, W. W.: The Ziggurat Method for Generating Random Variables. Journal of Statistical Software, vol. 5, no. 8, 2000. [82] Box, G. E. P. Muller, M. E.: A Note on the Generation of Random Normal Deviates. The Annals of Mathematical Statistics, vol. 29, no. 2, pp. 610 611, 1958. [83] Devroye, L.: Non-Uniform Random Variate Generation. Springer-Verlag, New York, 1986. [84] Olehla, M. Věchet, V. Olehla, J.: Řešení úloh matematické statistiky ve fortranu. Nakladatelství dopravy a spojů, Praha, 1982. [85] Marsaglia, G.: The Marsaglia Random Number CDROM including the Diehard Battery of Tests of Randomness, http://stat.fsu.edu/pub/diehard/. 31.12.2012. [86] DAgostino, R. B. Belanger, A. DAgostino, Jr., R. B.: A Suggestion for Using Powerful and Informative Tests of Normality. The American Statistician, vol. 44, no. 4., pp. 316 321, 1990. [87] Embarcadero RAD Studio. http://www.embarcadero.com/products/rad-studio. 2.1.2013. 133

Dodatek I Testování generátorů pro simulaci geodetického měření Počítačové generování hodnot s normálním rozdělením pravděpodobnosti je v oblasti inženýrské geodézie a laserového skenování poměrně častá úloha, výsledky se využívají při vytváření simulací měření (např. v [75] či v [76]) a slouží tam, kde je možno výpočetně zjednodušit či obejít zdlouhavý a nákladný proces měření experimentálních dat. Modelování experimentálních měření je podstatou testování metody detekce odlehlých hodnot měřených geodetických veličin popisovaného v kap. 3.2.3. Základní princip počítačového generování souborů hodnot s normálním rozdělením sestává ze dvou primárních kroků. Za pomoci zvoleného generátoru pseudonáhodných čísel je nejprve vytvořen soubor s rovnoměrným rozdělením pravděpodobnosti s hodnotami z intervalu 0,1. Tento soubor je následně pomocí příslušné metody přetransformován do normovaného normálního rozdělení 0,1 se střední hodnotou 0 a rozptylem 1, příp. do normálního rozdělení, s nestandardizovanými parametry 0, 1. V některých případech generování se využívají postupy, kdy se jako výsledné hodnoty souboru normálního rozdělení přijímají pouze některé z hodnot souboru s rozdělením rovnoměrným. V těchto případech může velikost souboru rovnoměrného rozdělení výrazně přesáhnout konečnou velikost normálního souboru. Obr. 59 Princip generování souborů s normálním rozdělením Jako metody pro generování (transformaci) hodnot normálního rozdělení a jejich porovnání byly vybrány metody principiálně jednoduché a jednoduše programovatelné. Kvalita generátorů (metod transformace) byla posuzovaná pouze z hlediska konečného užití v oblastech inženýrské geodézie (v oblastech laserového skenování). Výsledné testování se nezabývá otázkou závislosti či předvídatelnosti generovaných dat, ale je zaměřeno pouze na posouzení generátorů z hlediska normality vygenerovaných souborů. Hodnoty s rovnoměrným rozdělením lze generovat různými algoritmy. Teorie a vysvětlení fungování těchto metod již přesahuje rámec tohoto příspěvku, proto jsou tyto metody, poskytující dle literatury různě kvalitní výsledky, dále zjednodušeně popsány a při hodnocení kombinovány s metodami generování normálního rozdělení tak, aby byl zhodnocen jejich případný vliv na kvalitu a rychlost získání výsledků. 134

Pro generování hodnot bylo využito open source programového balíku Scilab verze 5 [77], pro statistické hodnocení výsledků pak programového prostředí Matlab verze R2009a [78]. I.1 Normální (Laplace Gaussovo) rozdělení pravděpodobnosti Obecně lze říci, že toto rozdělení pravděpodobnosti je použitelné všude tam, kde kolísání náhodné veličiny je způsobeno součtem velkého počtu nepatrných a vzájemně nezávislých vlivů [3]. U převážné většiny geodetických měření se předpokládá, že náhodné chyby mají toto rozdělení. Hustota pravděpodobnosti náhodné veličiny normálního rozdělení je dána frekvenční funkcí, (289) kde, je hodnota náhodné veličiny. Frekvenční funkce má dva parametry, a to střední hodnotu náhodné veličiny a rozptyl (varianci). V případě náhodného výběru pocházejícího z normálního rozdělení je střední hodnota odhadována aritmetickým průměrem a variance výběrovým rozptylem. Normální rozdělení je značeno,. Grafem frekvenční funkce normálního rozdělení je tzv. Gaussova křivka zobrazená na Obr. 60. Obr. 60 Frekvenční funkce normálního rozdělení pravděpodobnosti Distribuční funkce normálního rozdělení je dána integrací frekvenční funkce. (290) Zvláštním případem je normované normální rozdělení se střední hodnotou 0 a rozptylem 1. Frekvenční funkce má v tomto případě tvar, (291) kde, je normovaná hodnota náhodné veličiny normálního rozdělení. 135

Při praktických aplikacích se nejprve generují hodnoty normovaného normálního rozdělení 0,1. Tyto hodnoty se následně převádějí do normálního rozdělení s nestandardizovanými parametry,. Předkládaný příspěvek je zaměřen pouze na generování normovaného normálního rozdělení. I.2 Generování hodnot rovnoměrného rozdělení Základní princip generování hodnot rovnoměrného rozdělení lze nejsnáze ukázat na jednom z nejstarších a nejjednodušších generátorů pseudonáhodných čísel (např. podle [79] či [80]), na tzv. lineárně kongruentním generátoru (LCG). Tento generátor je definován vztahem mod, (292) kde operace mod (modulo) představuje zbytek po celočíselném dělení;, a jsou vhodně zvolené konstanty. Počáteční nastavení je dáno počáteční hodnotou a nazývá se random seed (náhodné semínko). Je tedy zřejmé, že volbou konstant (stavových hodnot) a počáteční hodnoty je předurčena celá posloupnost generovaných hodnot. Tento generátor vytváří posloupnost celých čísel s rovnoměrným rozdělením pravděpodobnosti v rozsahu 0. Pro získání hodnot v intervalu 0,1 postačí hodnotu dělit. Lze dokázat, že nejpozději po vygenerovaných číslech se začne opakovat stejná posloupnost (tzv. perioda generátoru). Tento jednoduchý generátor s různými konstantami je použit v mnoha běžně používaných programovacích jazycích (např. glibc (GCC), Microsoft Visual C/C++, Borland C/C++, Borland Delphi). Lineární kongruentní generátor má mnohé vady, jejichž popis již přesahuje rámec tohoto příspěvku. Proto bylo vytvořeno velké množství jiných, komplikovanějších a lepších, přesto však pracujících na obdobném principu. Mnohé generátory pseudonáhodných čísel jsou např. základem vytváření šifrovacích klíčů, a proto je tato oblast velmi obsáhlá. Vzhledem k množství dostupných možností byly pro testování využity pouze generátory rovnoměrného rozdělení vestavěné v programu Scilab. Kromě nich existují desítky dalších, porovnání by pak již však nemohlo být přehledné a implementace do programu Scilab by nebyla homogenní, bylo by nutné je zavést jako externí funkce. Použity byly generátory dále uvedené v Tab. 25, popis lze také nalézt v manuálu k programu. Pojmenování bylo přejato z označení v programu. Tab. 25 Použité generátory pseudonáhodných čísel Označení Popis Počet stavových Perioda hodnot urand Lineární kongruentní generátor. 1 2 31 clcg2 Generátor kombinující 2 lineár. kong. generátory (P. LEcuyer). 2 2 61 clcg4 Generátor kombinující 4 lineár. kong. generátory (P. LEcuyer). 4 2 121 kiss Tzv. Keep It Simple Stupid generátor (G. Marsaglia) 4 2 123 fsultra Tzv. Subtract with Borrow generátor (A. Zaman, G. Marsaglia). 39 10 356 mt Tzv. Marsene Twister generátor (M. Matsumoto, T. Nishimura). 625 2 19937 136

I.3 Generování hodnot normálního rozdělení Jako metody pro generování, či spíše transformaci hodnot z rovnoměrného rozdělení na hodnoty s normálním rozdělením, byly vybrány metody principiálně jednoduché a jednoduše programovatelné, konkrétně Box Mullerova transformace, inverzní transformace, metoda odmítání a metoda založená na centrální limitní větě. Např. tzv. Ziggurat algoritmus (používaný v prostředí Matlab) byl vzhledem ke své složitosti a nutnosti použití tabelovaných hodnot vynechán, blíže je popsán např. v [81]. Jednotlivé metody budou dále blíže popsány. I.3.1 Box - Mullerova transformace Metoda publikovaná v [82] spočívá v transformaci dvou hodnot a s rovnoměrným rozdělením pravděpodobnosti v intervalu 0,1 na dvě hodnoty a s rozdělením normovaným normálním s využitím následujících vztahů 2 ln cos2, 2 ln sin2. (293) Tuto metodu je možno vyjádřit i v polární formě [83]. V tomto případě je dvojice hodnot, s rovnoměrným rozdělením v intervalu 0,1 pomocí níže uvedených vztahů nejprve přetransformována do intervalu 1,1 2 1, 2 1. (294) Je-li dodržena podmínka kde 0s1, (295) s, (296) jsou hodnoty s normálním rozdělením určeny dle vztahů kde,, (297). (298) Není-li podmínka (295) dodržena, dvojice hodnot, je z výpočtu vyřazena a generování začíná znovu. Výhodou tohoto postupu je eliminace výpočtů goniometrických funkcí, které jsou výpočetně náročnější. I.3.2 Inverzní transformace Metoda je založena na využití distribuční funkce normálního rozdělení pravděpodobnosti (290). Generování probíhá tak, že vygenerovaná hodnota 137

s rovnoměrným rozdělením 0,1 se pomocí inverzní funkce k (290) transformuje na hodnotu s normálním rozdělením. Inverzní funkci nelze analyticky vyjádřit, je nutné výpočet provést pomocí metod numerické matematiky. Dle rovnice (299) je opakovaným výpočtem určena hodnota. Numerickou integraci lze řešit např. Simpsonovou metodou, nalezení hodnoty pak metodou půlení intervalu (obojí blíže viz např. [83]). Metoda je vzhledem k opakované numerické integraci velmi výpočetně náročná. Pro snížení výpočetní náročnosti je při zpracování dnes často využíváno aproximace inverzní distribuční funkce. Základní princip metody inverzní transformace je schematicky zobrazen na Obr. 61. I.3.3 Metoda odmítání Obr. 61 Princip metody inverzní transformace Metoda odmítání je založena na plošné interpretaci Gaussovy křivky, detaily lze nalézt např. v [67]. Při generování je nejprve vytvořena dvojice hodnot, z rovnoměrného rozdělení v intervalu 0,1. Následně je první z dvojice hodnot přetransformována do rovnoměrného rozdělení z intervalu odpovídajícímu definičnímu oboru frekvenční funkce normovaného normálního rozdělení,. V našem případě byl tento interval volen v relativních mezích 3,5; 3,5. V dalším kroku je hodnota převedena z původního intervalu 0,1 do intervalu odpovídajícímu oboru hodnot frekvenční funkce normovaného normálního rozdělení 0; 1 2. Platí-li vztah 73,5,. (300), (301) kde je určeno dle (291), je hodnota hledanou generovanou hodnotou s normálním rozdělením. Není-li podmínka (301) splněná, hodnoty, jsou vyloučeny a generování se opakuje. Nevýhodou této metody je skutečnost, že i přes známou velikost výsledného vygenerovaného souboru není možné předem stanovit nutný počet 138

vygenerovaných dvojic,. Základní princip metody odmítání je schematicky zobrazen na Obr. 62. I.3.4 Obr. 62 Princip metody odmítání Metoda založená na centrální limitní větě Velmi jednoduchá metoda uvedená např. v [84], založená na centrální limitní větě. Součet hodnot s rovnoměrným rozdělením až se blíží asymptoticky normálnímu rozdělení, generování se pak uskutečňuje dle vztahu, (302) kde je výsledná hodnota normálního rozdělení. I.4 Generování souborů hodnot s normálním rozdělením Pro porovnání kvality generátorů normálního rozdělení bylo použito celkem 6 typů generátorů pseudonáhodných čísel rovnoměrného rozdělení pravděpodobnosti (viz Tab. 25) a 5 metod transformace rovnoměrného rozdělení na rozdělení normální. V případě metody transformace založené na centrální limitní větě byl zkoumán vliv počtu sčítaných hodnot rovnoměrného rozdělení na výslednou kvalitu normálního rozdělení. Pro tento výzkum bylo použito součtu 2, 4, 6, 12 a 24 hodnot. Celkem tedy bylo použito devíti metod transformace Tab. 26. Tab. 26 Použité metody transformace Označení boxmullb boxmullp invtrans reject sum02 sum04 sum06 sum12 sum24 Popis Box Mullerova transformace (základní tvar) Box Mullerova transformace (polární tvar) Inverzní transformace Metoda zamítání Metoda založená na centrální limitní větě (součet 2 hodnot) Metoda založená na centrální limitní větě (součet 4 hodnot) Metoda založená na centrální limitní větě (součet 6 hodnot) Metoda založená na centrální limitní větě (součet 12 hodnot) Metoda založená na centrální limitní větě (součet 24 hodnot) Kombinací jednotlivých generátorů rovnoměrného rozdělení a metod transformace vzniklo 54 (6 generátorů 9 metod transformace) typově odlišných variant generování souborů hodnot s normálním rozdělením. Na generovaných datech byl zkoumán vliv velikosti souboru (vliv rozsahu výběru ze základního souboru normálního rozdělení) na jeho výslednou normalitu. Pro výzkum tohoto vlivu byly generovány středně velké soubory (náhodné výběry) o počtu hodnot 30 139

a 100 a dále soubory o počtu 500 hodnot, které je možno z hlediska geodetického měření považovat svým rozsahem za blízké základnímu souboru. Z důvodu eliminace náhodných vlivů, tj. z důvodu zvýšení objektivity dosažených výsledků, bylo každé generování souboru normálního rozdělení opakováno a to celkem třicetkrát. Při počtu 54 variant generování normálního rozdělení, počtu tří různých rozsahů generovaných výběrů a třicetinásobném opakování vzniklo celkem 4860 (54 3 30) souborů pseudonáhodných hodnot s normálním rozdělením pravděpodobnosti. Každý z těchto souborů byl následně podroben testování kvality normálního rozdělení. I.5 Testování souborů hodnot s normálním rozdělením Jak již bylo uvedeno výše, je kvalita generátorů posuzována pouze z hlediska konečného užití vygenerovaných dat pro možnosti simulace výsledků měření v oblastech inženýrské geodézie (v oblastech laserového skenování). Z tohoto důvodu nejsou pro testování generátorů použity často užívané teoreticky náročné testovací sady (uváděné např. v [85]), které se nezaobírají pouze testováním normality dat, ale také testováním závislosti či předvídatelnosti generovaných čísel. Testování pomocí těchto testovacích sad je užíváno např. v oblastech kryptografie a přesahuje rámec tohoto příspěvku. Kvalita zvolených generátorů normálního rozdělení je posuzována pouze z hlediska kvality shody vygenerovaných pseudonáhodných výběrů se základním souborem z normovaného normálního rozdělení 0,1. Celkem bylo zvoleno 5 v geodézii používaných testů normality, které posuzují různé vlastnosti normálního rozdělení, a jejichž společné závěry by měly posoudit normalitu testovaných souborů v komplexním měřítku. Jednotlivé testy budou dále blíže popsány. I.5.1 Jednovýběrový t test Jednovýběrový t test je parametrický test ověřující jeden z parametrů normálního rozdělení a to střední hodnotu. Při testování je ověřováno, zda střední hodnota náhodného výběru o rozsahu odpovídá střední hodnotě základního souboru pocházejícího z normovaného normálního rozdělení 0,1. Střední hodnota náhodného výběru je odhadována aritmetickým průměrem. Nulová a alternativní hypotéza jsou definovány jako :. (303) : Testovací kritérium jednovýběrového t testu vychází z definice náhodné veličiny Studentova t rozdělení [3] a je rovno, (304) 140

kde je výběrová směrodatná odchylka náhodného výběru a je rozsah náhodného výběru. Střední hodnota základního souboru je v případě normovaného normálního rozdělení rovna 0. Platí-li, že střední hodnota normálního rozdělení, ze kterého náhodný výběr pochází, je rovna, má testovací kritérium Studentovo t rozdělení o 1 stupních volnosti. Přijetí či zamítnutí nulové hypotézy je posuzováno na, v inženýrské geodézii běžně užívané, hladině významnosti, 0,05. (305) Překročí-li hodnota testovacího kritéria t kritickou hodnotu Studentova rozdělení,, je nulová hypotéza zamítnuta a střední hodnota náhodného výběru je na hladině významnosti považována za neodpovídající střední hodnotě normovaného základního souboru 0. Výsledkem testování je kromě rozhodnutí o zamítnutí či potvrzení nulové hypotézy na zvolené hladině významnosti i určení p hodnoty, tj. pravděpodobnosti, při které je testovací kritérium rovno kritické hodnotě,. (306) Určená p hodnota popisuje mezní hladinu významnosti, tj. maximální pravděpodobnost zamítnutí nulové hypotézy, přestože je platná. I.5.2 Test rozptylu normálního rozdělení Test rozptylu normálního rozdělení je parametrický test ověřující další z parametrů normálního rozdělení. Při testování je ověřováno, zda rozptyl náhodného výběru o rozsahu odpovídá rozptylu základního souboru pocházejícího z normovaného normálního rozdělení 0,1. Rozptyl náhodného výběru je odhadován výběrovým rozptylem. Nulová a alternativní hypotéza jsou definovány jako : :. (307) Testovací kritérium je definováno jako. (308) Rozptyl základního souboru je v případě normovaného normálního rozdělení roven 1. Přijetí či zamítnutí nulové hypotézy je posuzováno na hladině významnosti,/,/ 0,05, (309) 141

kde 1 je počet stupňů volnosti rozdělení [3]. Překročí-li hodnota testovacího kritéria kritickou hodnotu,/, příp. klesne-li pod kritickou hodnotu,/, je nulová hypotéza o rovnosti rozptylů zamítnuta a rozptyl náhodného výběru je na hladině významnosti považován za neodpovídající rozptylu základního souboru 1. p hodnota pro test rozptylu normálního rozdělení je rovna pravděpodobnosti I.5.3,/ D agostinův sdružený K 2 test, příp.,/. (310) D agostinův sdružený K 2 test posuzuje normalitu testovaného náhodného výběru pomocí vypočtených hodnot empirických centrálních momentů [3]. Tento test určitým způsobem sdružuje dříve užívané testy šikmosti (asymetrie) a špičatosti (excesu) [3] a posuzuje tak náhodný výběr z hlediska souměrnosti rozložení a míry kumulace jednotlivých hodnot výběru kolem střední hodnoty (Obr. 63). Obr. 63 Význam koeficientu šikmosti a špičatosti Při výpočtu testovacího kritéria K 2 se v prvním kroku určí koeficienty šikmosti a špičatosti (Obr. 63), které jsou dány vztahy,, (311) kde je rozptyl náhodného výběru o rozsahu hodnot a, jsou hodnoty empirických centrálních momentů třetího a čtvrtého stupně. V dalším kroku jsou určeny transformované hodnoty koeficientů šikmosti a špičatosti a (popis transformace je uveden v [86]). Pomocí hodnot přetransformovaných koeficientů je určeno testovací kritérium D agostinova sdruženého testu jako. (312) 142

Přijetí či zamítnutí nulové hypotézy o původu náhodného výběru ze základního souboru normovaného normálního rozdělení 0,1 je posuzováno na hladině významnosti, 0,05, (313) kde 2 je počet stupňů volnost rozdělení. Překročí-li hodnota testovacího kritéria kritickou hodnotu,, je nulová hypotéza na hladině významnosti zamítnuta a shoda testovaného náhodného výběru se základním souborem normovaného normálního rozdělení 0,1 není prokázána. p hodnota pro D agostinův sdružený test je rovna pravděpodobnosti I.5.4,. (314) Pearsonův test dobré shody Pearsonův test dobré shody je jedním z často používaných testů normality. Test spočívá v porovnání skutečných třídních četností testovaného náhodného výběru s teoretickými četnostmi danými distribuční funkcí normálního rozdělení. Základem testu je vytvoření histogramu třídních četností (podrobný postup tvorby histogramu je uveden např. v [3]). Základním parametrem pro tvorbu histogramu je stanovení celkového počtu tříd a velikosti třídního intervalu. V tomto případě (dle [3]) byl počet tříd volen v intervalu 8,12. Jelikož prakticky všechny hodnoty náhodné veličiny normálního rozdělení je možno očekávat v mezích 2,5 až 3,5 [3], je velikost třídního intervalu volena 0,5, kde je směrodatná odchylka základního souboru. V případě normovaného normálního rozdělení je směrodatná odchylka 1 a velikost třídního intervalu rovna 0,5. Skutečná absolutní třídní četnost v obecné třídě je rovna počtu hodnot náhodného výběru vyskytujících se v intervalu vymezeném hranicemi třídy a (jak je zobrazeno na Obr. 64). Teoretická relativní třídní četnost je rovna pravděpodobnosti výskytu hodnot náhodné veličiny normovaného normálního rozdělení v příslušných třídách a je rovna ploše pod Gaussovou křivkou omezenou hranicemi třídních intervalů. Tuto pravděpodobnost je možno určit integrací frekvenční funkce normovaného normálního rozdělení v příslušných mezích jednotlivých tříd. Obecně lze zapsat vztah pro výpočet teoretické relativní třídní četnosti v j-té třídě s hranicemi a jako, (315) kde a jsou hodnoty distribuční funkce normovaného normálního rozdělení v bodech a. Absolutní teoretická četnost v obecné j-té třídě (Obr. 64) je dána vztahem 143

, (316) kde je rozsah testovaného náhodného výběru. Obr. 64 Porovnání skutečných a teoretických třídních četností Je-li splněna podmínka minimální teoretické třídní četnosti 1 (pro všechny třídy), 5 (pro minimálně 80% třídy), (317) je testovací kritérium Pearsonova testu dobré shody rovno. (318) Při nesplnění podmínky (317) je nutné provést sloučení problematických tříd a znovu určit teoretické a skutečné třídní četnosti. Přijetí či zamítnutí nulové hypotézy o původu náhodného výběru ze základního souboru normovaného normálního rozdělení 0,1 je posuzováno na hladině významnosti, 0,05, (319) kde 1 je počet stupňů volnosti rozdělení, je počet tříd a je počet určovaných parametrů rozdělení, (v případě normovaného normálního rozdělení je počet určovaných parametrů 0). Překročí-li hodnota testovacího kritéria kritickou hodnotu,, je nulová hypotéza na hladině významnosti zamítnuta a shoda testovaného náhodného výběru se základním souborem normovaného normálního rozdělení 0,1 není prokázána. p hodnota pro Pearsonův test dobré shody je rovna pravděpodobnosti,. (320) 144

I.5.5 Kolmogorovův Smirnovův test Princip Kolmogorovova Smirnovova testu normality je založen na posouzení maximálního rozdílu empirické distribuční funkce hodnot náhodného výběru a teoretické distribuční funkce normálního rozdělení, tj. na posouzení maximálního rozdílu sčítané relativní skutečné a teoretické četnosti. Základní princip Kolmogorovova Smirnovova testu normality náhodného výběru je zobrazen na Obr. 65. Obr. 65 Princip Kolmogorovova Smirnovova testu normality Jsou-li jednotlivé hodnoty náhodné výběru seřazeny dle velikosti, (321) kde je rozsah náhodného výběru, je možno testovací kritérium vyjádřit dle vztahu max,, (322) kde 1,, a je distribuční funkce normovaného normálního rozdělení v bodě. Přijetí či zamítnutí nulové hypotézy o původu náhodného výběru ze základního souboru normovaného normálního rozdělení 0,1 je posuzováno na hladině významnosti, 0,05, (323) kde, je kritická hodnota maximální odchylky empirické a teoretické distribuční funkce pro hladinu významnosti a rozsah náhodného výběru (tyto hodnoty jsou tabelovány např. v [50]). Překročí-li hodnota testovacího kritéria kritickou hodnotu,, je nulová hypotéza na hladině významnosti zamítnuta a shoda testovaného náhodného výběru se základním souborem normovaného normálního rozdělení 0,1 není prokázána. p hodnota pro Kolmogorovův Smirnovův test je rovna pravděpodobnosti, 0,05. (324) 145

I.6 Výsledky porovnání generátorů normálního rozdělení Každý z vygenerovaných souborů hodnot s normálním rozdělením (celkem 4860) byl podroben testování normality pomocí pěti výše uvedených testů. Výsledkem každého testování bylo určení p hodnoty souboru a dále rozhodnutí o přijetí či zamítnutí nulové hypotézy na hladině významnosti 0,05 (hodnota 1 = nulová hypotéza zamítnuta, hodnota 0 = nulová hypotéza přijata). Z výsledků testování příslušných třiceti souborů (počet opakování generování souborů) a výsledků jednotlivých testů (výsledky jednotlivých testů byly brány za rovnocenné) byla určena průměrná p hodnota souboru a celkový počet zamítnutých nulových hypotéz, tj. celkový počet zamítnutých souborů. Tímto způsobem byly pro každou metodu generování (generátor + transformace) a pro příslušnou velikost souboru (30, 100, 500) určeny charakteristiky kvality generování normálního rozdělení. Tyto hodnoty byly následně setříděny dle typů generátorů pseudonáhodných čísel (tab. 3 a 4) a dle metod transformace (tab. 5 a 6). Jako kritérium porovnání kvality generátorů normálního rozdělení je použita hodnota relativního množství vygenerovaných vadných souborů, tj. souborů, jejichž normalita nebyla na hladině významnosti 0,05 prokázána. Na určenou p hodnotu je možno zjednodušeně nahlížet jako na pravděpodobnost shody vygenerovaného náhodného výběru se základním normálním souborem. Hodnota je brána jako orientační a popisuje míru kvality dlouhodobého generování souborů s normálním rozdělením. Rychlost generátorů normálního rozdělení je posuzována pro generátory pseudonáhodných čísel a metody transformace odděleně (tab. 7). Vyjádření rychlosti je uvedeno relativně vzhledem k nejrychlejšímu typu generátoru pseudonáhodných čísel a nejrychlejší metodě transformace. Tab. 27 Porovnání generátorů rovnoměrného rozdělení dle relativního množství nevhodně vygenerovaných souborů normálního rozdělení ([%]) pořadí generátor rozsah souboru 30 100 500 1 urand 3,9 2,8 4,6 3,8 2 kiss 3,6 3,2 5,2 4,0 3 clcg2 4,1 3,0 5,2 4,1 4 mt 4,1 3,8 4,8 4,2 5 fsultra 3,8 4,3 5,8 4,6 6 clcg4 4,2 4,5 5,1 4,6 Tab. 28 Porovnání metod transformace podle relativního množství nevhodně vygenerovaných souborů normálního rozdělení ([%]) pořadí generátor rozsah souboru 30 100 500 1 sum06 3,8 3,9 2,0 3,2 2 sum12 3,8 3,1 2,9 3,3 3 sum04 3,3 2,6 3,9 3,3 4 sum24 3,6 3,9 3,2 3,6 5 reject 4,2 3,6 4,0 3,9 6 boxmullb 4,2 4,3 4,4 4,3 7 invtrans 5,1 3,6 4,4 4,4 8 boxmullp 4,7 3,8 4,8 4,4 9 sum02 2,9 3,9 16,4 7,7 146

Tab. 29 Porovnání generátorů rovnoměrného rozdělení dle pravděpodobnosti shody vygenerovaného náhodného výběru se základním normálním souborem ([%]) pořadí generátor rozsah souboru 30 100 500 1 urand 58,1 61,5 61,5 60,4 2 clcg2 61,1 61,7 57,9 60,2 3 fsultra 61,9 59,8 58,3 60,0 4 mt 59,9 60,8 58,5 59,7 5 kiss 59,2 61,2 56,8 59,1 6 clcg4 60,9 57,9 57,1 58,6 Tab. 30 Porovnání metod transformace dle pravděpodobnosti shody vygenerovaného náhodného výběru se základním normálním souborem ([%]) pořadí generátor rozsah souboru 30 100 500 1 sum06 61,4 60,9 60,5 60,9 2 sum12 60,8 61,1 60,5 60,8 3 invtrans 61,3 60,5 60,2 60,7 4 boxmullp 61,2 61,8 58,5 60,5 5 sum24 60,9 61,2 59,2 60,4 6 boxmullb 60,2 59,6 59,6 59,8 7 reject 59,1 59,8 60,2 59,7 8 sum04 62,0 60,4 56,7 59,7 9 sum02 59,8 58,8 44,6 54,4 Tab. 31 Porovnání generátorů rovnoměrného rozdělení a metod transformace dle relativní rychlosti vygenerovaných souborů pořadí generátor relativní relativní pořadí transformace rychlost rychlost 1 fsultra 1x 1 boxmullb 1x 2 mt 1,001x 2 sum24 1,1x 3 clcg2 1,003x 3 sum12 1,1x 4 clcg4 1,003x 4 sum06 1,2x 5 urand 1,003x 5 sum02 1,2x 6 kiss 7,8x 6 sum04 1,2x 7 boxmullp 1,6x 8 reject 4,6x 9 invtrans 2053,7x I.7 Vyhodnocení výsledků Výsledky provedeného testování prokázaly, že z hlediska množství nevhodně vygenerovaných souborů jsou generátory pseudonáhodných čísel na srovnatelné úrovni kvality, kdy se množství vadných souborů pohybuje v blízkosti hodnoty 4%. Nejvyšší kvalita normálního rozdělení byla překvapivě zaznamenána u principiálně nejjednoduššího lineárně kongruentního generátoru pseudonáhodných čísel. p hodnota popisující pravděpodobnost shody náhodného výběru se základním normálním souborem nedosáhla původních odhadů a pohybuje se na relativně nízké hodnotě přibližně 60%. Podobné výsledky jako u generátorů pseudonáhodných čísel byly dosaženy i u jednotlivých metod transformace. S výjimkou metody založené na centrální limitní větě, při které byly sčítány pouze dvojice hodnot, vykazují ostatní metody srovnatelné výsledky. Množství vygenerovaných vadných souborů se u těchto metod taktéž pohybuje 147

v blízkosti hodnoty 4%. V případě výše zmiňované metody vycházející z centrální limitní věty (součet dvou hodnot) je množství vygenerovaných vadných souborů dvojnásobné a to necelých 8%. Tato chyba je zjevně způsobena nedostatečným množstvím sčítaných hodnot rovnoměrného rozdělení (viz [84]). I v případě metod transformace byla nejvyšší kvalita prokázána u principiálně nejjednodušší metody, a to metody založené na centrální limitní větě, která se při dostatečném množství sčítaných hodnot rovnoměrného rozdělení jeví jako nejvhodnější. Výsledky prokazují, že není nutné dodržovat v literatuře uváděný součet dvanácti hodnot rovnoměrného rozdělní, ale již při součtu 4 hodnot lze dosáhnout srovnatelných výsledků. Z hlediska rychlosti generování souborů normálního rozdělení byl zjištěn pouze jeden případ generátoru pseudonáhodných čísel, jehož rychlost se výrazněji liší od ostatních prakticky stejně rychlých generátorů. Generátor Keep It Simple Stupid vykazuje přibližně 8x nižší rychlost než nejrychlejší generátor Subtract with Borrow. V případě metod transformace je možné za nejrychlejší brát metody Box Mullerovy transformace a metodu založenou na centrální limitní větě. Rychlost metody zamítání, která je přibližně 4x pomalejší než výše zmiňované metody, je způsobena vyšší velikostí souboru rovnoměrného rozdělení, který je transformován na rozdělení normální, a také náročnějším výpočtem frekvenční funkce. V případě metody inverzní transformace, kdy nejsou pro výpočet užity žádné tabelované hodnoty a výpočty jsou prováděny pomocí výpočetně náročných metod numerické matematiky, je rychlost mnohosetkrát nižší než u ostatních metod transformace. I.8 Závěr Na základě dosažených výsledků je možno říci, že jednotlivé testované generátory (generátory rovnoměrného rozdělení ve spojení s metodami transformace do normálního rozdělení) nevykazují mezi sebou výraznějších rozdílů v kvalitě generovaného normálního rozdělení. Použití těchto generátorů je pro účely simulací měření v oblastech inženýrské geodézie (v oblastech laserového skenování) z praktického hlediska naprosto libovolné. Mnohé kvality a naopak i nedostatky generátorů pseudonáhodných čísel, jejichž vývoj byl spojen např. s použitím v oblastech kryptografie, jsou v případech simulací geodetického měření nepostihnutelné. Z hlediska posouzení rychlosti generátorů a metod transformace byly dosaženy srovnatelné výsledky. Výjimku tvoří pouze generátor Keep It Simple Stupid, metoda inverzní transformace a metoda odmítání, které vykázaly vyšší výpočetní náročnost. Pro simulaci geodetického měření je zcela postačující využití principiálně nejjednodušších a výpočetně nenáročných metod, jako např. použití lineárního kongruentního generátoru ve spojení s metodou transformace vycházející z centrální limitní věty, a to při dodržení podmínky součtu dostatečného množství hodnot rovnoměrného rozdělení. 148

II Uživatelská příručka softwaru EasyNet EasyNet, v aktuální verzi 2.4 (platné ke dni 2.1.2013), je softwarovou aplikací sloužící pro snadné uživatelsky nenáročné zpracování a vyhodnocení velmi přesných měření inženýrské geodézie. Jedná se o zpracování velkého množství opakovaně zaměřených klasických terestrických geodetických veličin (tj. opakovaně zaměřených šikmých délek, vodorovných směrů a zenitových úhlů) uspořádaných do měřických skupin a jejich následné vyhodnocení v podobě robustního vyrovnání volné prostorové geodetické sítě. Aplikace je vyvíjena v objektově orientovaném programovacím jazyce Object Pascal ve vývojovém prostředí Embarcadero RAD Studio 2010 [87] a její užití je určeno pro operační systémy MS Windows. Programem nabízený automatický postup zpracování a vyhodnocení vstupních měřických dat umožnuje: 1. základní kontrolu veškerých načítaných hodnot měření, 2. automatickou detekci měřických skupin, 3. kontrolu měřických skupin (zahrnující jak mezipolohové, tak meziskupinové porovnání příslušných měření), 4. zpracování měřických skupin (skládající se ze zpracování měření v I. a II. poloze dalekohledu a z redukce zenitových úhlů a šikmých délek na spojnici stabilizačních značek bodů měřické sítě, tzv. spojnici kámen kámen ), 5. detekci geodetické sítě (výpočet přibližných prostorových souřadnic bodů sítě), 6. apriorní analýzu geodetické sítě (výpočet apriorních směrodatných odchylek měřených geodetických veličin vstupujících do vyrovnání), 7. vyhledání a následné vyloučení odlehlých hodnot měřených veličin pomocí robustního vyrovnání volné geodetické sítě, 8. vyrovnání volné geodetické sítě metodou nejmenších čtverců (již bez vyloučených odlehlých měření), 9. transformaci souřadnic a směrodatných odchylek bodů vyrovnané geodetické sítě (do uživatelem definovaného výstupního souřadnicového systému). Teoretická podstata zde uváděného zpracování a vyhodnocení geodetických měření je podrobně popsána v kap. 3. V této části je uváděno pouze základní uživatelské seznámení se softwarovým nástrojem. II.1 Instalace a spuštění Software ve verzi 2.4 nevyžaduje počáteční instalaci, je tvořen jediným spustitelným souborem [EasyNet24.exe], po jehož spuštění je otevřeno hlavní okno aplikace (Obr. 66) uvedené do základního nastavení. V základním nastavení je preferována anglická mutace programu. 149

II.2 Ukončení programu Obr. 66 EasyNet, hlavní okno aplikace Ukončení programu EasyNet je prováděno příkazem [Hlavní Ukončit]. II.3 Nastavení programu II.3.1 Jazykové nastavení Jazykové nastavení programu je prováděno příkazem [Hlavní Nastavení Jazyk CZ / EN]. Současná verze EasyNet 2.4 odporuje dvě jazykové mutace a to v českém (CZ) a anglickém jazyce (EN). Základním jazykem je angličtina, tento jazyk je preferován v základním nastavení programu. II.3.2 Nastavení jednotek Dialogové okno (levá část Obr. 67) pro nastavení jednotek geodetických veličin je přístupné pomocí příkazu [Hlavní Nastavení Jednotky ] či klávesovou zkratkou [Ctrl + U] z hlavního okna aplikace. Součástí samotného nastavení jednotek jednotlivých veličin (Jednotky) je i nastavení rozlišení (počtu desetinných míst), se kterým jsou tyto veličiny v programu zobrazovány (Zobrazení). Dále je zde definován lokální kartézský souřadnicový systém (Souřadnicový systém). Uživatelé volí mezi klasickým pravotočivým (matematickým) a levotočivým (geodetickým) systémem. Jednotky a rozlišení veličin (úhlových a délkových geodetických veličin a prostorových souřadnic) je uváděno zvlášť pro jejich hodnoty a zvlášť pro směrodatné odchylky. Pro úhlové geodetické veličiny, tj. vodorovný směr, zenitový úhel, směrník a orientační posun, mohou být voleny jednotky: 1. radiány/miliradiány (rad/mrad), 2. gony/miligony (gon/mgon), 150

3. úhlové stupně v dekadickém tvaru/milistupně (deg/mdeg), 4. úhlové stupně, minuty a vteřiny/vteřiny (dms/sec). Pro délkové veličiny (šikmá délka, výška přístroje a výška cíle) a prostorové souřadnice (X, Y, Z) jsou nabízeny jednotky: 1. metry/milimetry (m/mm), 2. stopy/palce (ft/inch). Obr. 67 EasyNet, nastavení jednotek a kontroly veličin II.3.3 Nastavení kontroly hodnot měřených geodetických veličin Dialogové okno (pravá část Obr. 67) pro nastavení kontroly zpracovávaných měření je přístupné pomocí příkazu [Hlavní Nastavení Kontrola ] či klávesovou zkratkou [Ctrl + L] z hlavního okna aplikace. Nastavení kontroly spočívá ve volbě mezních rozdílů měřených geodetických veličin (vodorovných směrů, zenitových úhlů a šikmých délek) používaných při kontrole měřických skupin (mezipolohová a meziskupinová kontrola, viz kap 3.1.1.3). Jedná se o mezní rozdíly hodnot měřených ve dvou polohách dalekohledu (Rozdíl poloh dalekohledu), mezní rozdíly hodnot veličin mezi jednotlivými měřickými skupinami (Rozdíl skupin) a mezní rozdíly hodnot protisměrně měřených veličin (Rozdíl protisměrných hodnot). Dále jsou zde nastavovány maximální rozdíly hodnot geodetických veličin používané při základní kontrole dat načtených měřických zápisníků (blíže v kap. 3.1.1.1). II.3.4 Nastavení procesu vyrovnání měření geodetické sítě Dialogové okno (levá část Obr. 68) pro nastavení procesu vyrovnání měření geodetické sítě je přístupné pomocí příkazu [Hlavní Nastavení Vyrovnání ] či klávesovou zkratkou [Ctrl + T] z hlavního okna aplikace. V této části nastavení jsou voleny parametry metody vylučování odlehlých hodnot měření (Vyloučení odlehlých hodnot), kritéria ukončení iteračního výpočtu vyrovnání 151

měření geodetické sítě (Ukončení iteračního výpočtu) a apriorní charakteristiky přesnosti měřených geodetických veličin (Směrodatná odchylka měřené veličiny, Apriorní jednotková směrodatná odchylka). Při aktivaci automatické detekce odlehlých hodnot je nastavována varianta robustního M-odhadu (implementováno celkem 12 robustních odhadů, viz Tab. 19) a hladina významnosti ovlivňující velikost mezní opravy měřené veličiny (245). Opakovaný iterační výpočet vyrovnání měření geodetické sítě je ukončován v případech, klesne-li největší změna robustní změny váhy mezi dvěma kroky iterace pod stanovenou hodnotu (ustálení robustního odhadu (244)), klesne-li největší změna souřadnice pod stanovenou hodnotu (kontrola linearizace modelu měření (232)). Maximální počet iterací je použit pro zastavení výpočtu nekonvergujícího iteračního řešení, tj. nedojde-li k zatavení výpočtu z předchozích důvodů. Obr. 68 EasyNet, nastavení vyrovnání a transformace geodetické sítě II.3.5 Nastavení procesu vyrovnání transformačního klíče Dialogové okno (pravá část Obr. 68) pro nastavení procesu vyrovnání transformačního klíče je přístupné pomocí příkazu [Hlavní Nastavení Transformace ] či klávesovou zkratkou [Ctrl + O] z hlavního okna aplikace. Jedná se o nastavení metody detekce odlehlých hodnot a nastavení iteračního řešení v případě výpočtu transformačního klíče shodnostní transformace geodetické sítě na zadané identické body (Transformace s vyrovnáním). II.4 Načítání a ukládání geodetických dat II.4.1 Formát měřických zápisníků Současná verze programu EasyNet 2.4 umožnuje načítání surových měřických zápisníků ve formátu MAPA2 [63] (textové soubory s příponou ASC) a interním maticovém formátu (textové soubory s příponou MTX). Ukázka měřických zápisníků v obou přípustných formátech je přiložena na elektronickém datovém nosiči. 152

II.4.2 Formát souborů souřadnic identických bodů Kromě měřických zápisníků jsou do aplikace načítány seznamy souřadnic identických bodů, na něž je možné transformovat vyhodnocené prostorové geodetické sítě. Software podporuje načítání textových souborů s příponou TXT. Tyto soubory obsahují na jednotlivých řádcích čísla a prostorové souřadnice bodů, a to v pořadí XYZ či YXZ. Ukázka souborů s identickými body ve formátu XYZ a YXZ je přiložena na elektronickém datovém nosiči. II.4.3 Načtení měřického zápisníku Načítání měřického zápisníku (tj. surových měřických dat) je prováděno formou jeho přidání do aktuálního seznamu měření. Má-li být načten pouze nový zápisník, musí byt aktuální seznam měření prázdný. Dialogové okno Přidat surová měření pro načtení měřického zápisníku je přístupné pomocí příkazu [Hlavní Přidat ]. II.4.4 Uložení měřického zápisníku Měřická data jsou ukládána ve formátech popisovaných v kap. II.4.1 (formát ASC a MTX). Dialogové okno Uložit surová měření pro uložení aktuálního (otevřeného) měřického zápisníku je přístupné pomocí příkazu [Hlavní Uložit jako ]. II.4.5 Export měřického zápisníku Export měřického zápisníku představuje uložení předzpracovaných měřických dat. Předzpracováním je rozuměno vyhodnocení měření v I. a II. poloze dalekohledu a redukce měřených zenitových úhlů a šikmých délek na přímou spojnici stabilizačních značek bodů (viz kap. 3.1.1.4). Export měření je umožněn ve chvíli, kdy se v načtených měřených datech nevyskytují žádné chyby (viz kap. II.5). Dialogové okno Exportovat surová měření pro export aktuálního (otevřeného) měřického zápisníku je přístupné pomocí příkazu [Hlavní Exportovat ]. II.4.6 Otevření EasyNet projektu EasyNet projekt představuje textový soubor v interním formátu PEN obsahující měřický zápisník, soubor identických bodů pro transformaci geodetické sítě a veškeré uživatelské nastavení aplikace. Po načtení projektu je aktuální obsah spolu s nastavením programu nahrazen. Ukázkový soubor EasyNet je přiložen na elektronickém datovém nosiči. Dialogové okno Otevřít EasyNet projekt je přístupné pomocí příkazu [Hlavní Otevřít projekt ]. II.4.7 Uložení EasyNet projektu Uložení EasyNet projektu umožňuje uschování aktuálního měřického zápisníku, soubor identických bodů pro transformaci geodetické sítě a veškerého aktuálního uživatelské nastavení do textového souboru formátu PEN. Dialogové okno Uložit jako EasyNet projekt je přístupné pomocí příkazu [Hlavní Uložit jako projekt ]. 153

II.5 Detekce a kontrola měřených dat II.5.1 Detekce měřických skupin Po úspěšném načtení měřického zápisníku je automaticky provedena detekce měřických skupin (blíže v 3.1.1.2). Identifikovaná měření jsou graficky zvýrazněna, střídáním barev podbarvení měřených hodnot je docíleno grafického oddělení měřických skupin (viz Obr. 69). Měřické záznamy, které nebyly zařazeny do žádné skupiny, jsou označeny jako chybné a jsou graficky potlačeny. Přítomnost chybných záznamů způsobuje zamezení dalšího postupu ve zpracování měření. Počet nezařazených záznamů je uveden v dolním stavovém řádku hlavního okna aplikace. Podbarvení měřických skupin či označení polohy dalekohledu lze skrýt pomocí příkazů [Identifikace Měřická skupina] a [Identifikace Poloha dalekohledu] či použitím klávesových zkratek [Ctrl + S] a [Ctrl + P]. II.5.2 Základní kontrola Obr. 69 EasyNet, detekce měřických skupin Po úspěšném načtení měřického zápisníku je automaticky provedena kontrola veškerých měřených dat. Součástí této kontroly je i základní kontrola měřených hodnot (blíže v 3.1.1.1). Hodnoty měřených veličin, které jsou základní kontrolou prohlášeny za chybné, jsou graficky označeny, a to zvýrazněním červenou barvou (jak je patrno na Obr. 70). Přítomnost chybných hodnot měření způsobuje zamezení dalšího postupu zpracování. Počet chybných hodnot je promítnut do celkových počtů chybných záznamů zobrazených ve stavovém řádku ve spodní části hlavního okna aplikace. Grafické znázorňování chyb odhalených základní kontrolou zle skrýt pomocí příkazu [Kontrola Základní kontrola]. Zobrazování počtů chyb ve stavovém řádku lze přepínat příkazem [Kontrola Přehled chyb] či použitím klávesové zkratky [Ctrl + J]. 154

II.5.3 Mezipolohová a meziskupinová kontrola Součástí automaticky prováděné kontroly měřených dat je i mezipolohová a meziskupinová kontrola hodnot geodetických veličin (podrobnosti kontroly jsou uvedeny v kap. 3.1.1.3). Hodnoty měřených veličin, které jsou těmito kontrolami prohlášeny za chybné, jsou graficky označeny. Příslušné dvě hodnoty geodetické veličiny měřené ve v rámci jedné skupiny v I. a II. poloze dalekohledu či měřené ve více měřických skupinách jsou opatřeny grafickou značkou upozorňující na chybu (viz Obr. 70). Použité značky jsou uvedeny v Tab. 32. Obr. 70 EasyNet, kontrola měřených dat Tab. 32 Přehled značek chyb při mezipolohové a meziskupinové kontrole Číslo Značka Popis 1 Mezipolohová kontrola, překonání mezního rozdílu (viz kap. II.3.3). 2 Mezipolohová kontrola, jiná chyba než v 1. 3 Meziskupinová kontrola, překonání mezního rozdílu (viz kap. II.3.3). 4 Kombinace 1 a 3. 5 Kombinace 2 a 3. Přítomnost chybných hodnot měření způsobuje zamezení dalšího postupu zpracování. Počet chybných hodnot je promítnut do celkových počtů chybných záznamů zobrazených ve stavovém řádku ve spodní části hlavního okna aplikace. Grafické znázorňování chyb odhalených při mezipolohové a meziskupinové kontrole zle skrýt pomocí příkazů [Kontrola Rozdíly poloh dalekohledu] a [Kontrola Rozdíly skupin]. II.6 Správa záznamů měření II.6.1 Označení záznamů Výstupní okna aplikace jsou tvořena formou řádkových tabulek, kdy každý řádek tabulky představuje jeden záznam (měření, souřadnic, aj.). Při práci s jednotlivými záznamy je nejprve nutné příslušné řádky označit (Obr. 71). Aplikace umožňuje: 155

1. označení jediného akruálního řádků stiskem Levého tlačítka myši či klávesy Enter, 2. postupné označení/odznačení více řádků stiskem klávesy Ctrl + Levého tlačítka myši, 3. blokové označení/odznačení více řádků stiskem klávesy Shift + Levého tlačítka myši, (označení prvního a posledního vybraného řádku), 4. označení/odznačení všech záznamů v tabulce příkazem [Výběr Vybrat vše] a [Výběr Zrušit výběr] či [Kontextové menu Vybrat vše] a [Kontextové menu Zrušit výběr] či pomocí klávesových zkratek [Ctrl + A] a [Ctrl + D]. II.6.2 Vkládání nových záznamů měření Obr. 71 EasyNet, označení záznamů Při ruční tvorbě měřického zápisníku je možno v hlavním okně aplikace využít funkce pro vložení nového stanoviska a vložení nového záznamu měření. Vložení nového měření je umožněno pouze při označení jednoho stávajícího záznamu. Nové měření je následně vloženo do stanoviska s označeným záznamem. Dialogové okno Vložit nové stanovisko (levá část Obr. 72) je přístupné pomocí příkazu [Měření Nový Stanovisko ] či [Kontextové menu Nový Stanovisko ] či pomocí klávesové zkratky [Ctrl + Ins]. Dialogové okno Vložit nové měření (prostřední část Obr. 72) je přístupné pomocí příkazu [Měření Nový Měření ] či [Kontextové menu Nový Měření ] či pomocí klávesy [Ins]. Obr. 72 EasyNet, vkládání a úprava záznamů měření 156

II.6.3 Úprava záznamů měření Aplikace umožňuje editaci stávajících záznamů měření. Jedná se o úpravu jednoho čí více záznamů najednou. Hromadná úprava měření je možná pouze při označení záznamů náležících stejnému stanovisku. Dialogové okno Upravit měření (pravá část Obr. 72) je přístupné z hlavního okna aplikace pomocí příkazu [Měření Upravit ] či [Kontextové menu Upravit] či pomocí klávesové zkratky [Ctrl +B]. II.6.4 Kopírování, vyjmutí a vkládání záznamů měření Pro snadnou práci s měřickými jsou v hlavním okně aplikace uživateli zpřístupněny klasické funkce kopírování, vyjmutí a vkládání záznamu měření. Tyto funkce jsou přístupné pomocí příkazů či klávesových zkratek: 1. [Měření Kopírovat], [Kontextové menu Kopírovat], [Ctrl + C], 2. [Měření Vyjmout], [Kontextové menu Vyjmout], [Ctrl + X], 3. [Měření Vložit], [Kontextové menu Vložit], [Ctrl + V]. V hlavním okně aplikace tyto funkce umožnují snadnou editaci (přesun a kopírování) načteného zápisníku. Veškerá okna aplikace umožňují pomocí funkce kupírování ukládat jejich obsah do schránky operačního systému a vkládat ho do externích textových editorů. II.6.5 Posun záznamů měření V rámci měření jednoho stanoviska je umožněn posun (změna pořadí) jednotlivých označených záznamů. Tento posun je v hlavním okně aplikace prováděn pomocí příkazů vyvolávaných z hlavní nabídky či kontextového měnu či pomocí klávesových zkratek. Jedná se o: 1. [Měření Posun Posun nahoru], [Kontextové menu Posun nahoru], [Ctrl + N], 2. [Měření Posun Posun dolu], [Kontextové menu Posun dolu], [Ctrl + M]. II.6.6 Přesun záznamů měření Pro úpravu měřického zápisníku dále software nabízí funkci pro přímý přesun označených záznamů měření do vybraného stanoviska. Tato funkce je v hlavním okně aplikace přístupná pomocí příkazu [Měření Přesun] či pomocí klávesové zkratky [Ctrl + R]. II.6.7 Odstranění záznamů měření Funkce pro odstranění označených záznamů měření je v hlavním okně aplikace přístupná pomocí příkazu [Měření Smazat] či [Kontextové menu Smazat] či pomocí klávesy [Del]. 157

II.7 Zpracování měřických skupin Aplikace umožňuje zobrazení dílčích výstupů získaných v rámci předzpracování měření, a to konkrétně při zpracování měřických skupin (blíže v kap. 3.1.1.4). Jedná se o rozdíly hodnot měření v I. a II. poloze dalekohledu, zpracované hodnoty měření v I. a II. poloze dalekohledu a hodnoty měřených geodetických veličin redukované na přímou spojnici značek bodů. Výstupy jsou přístupné z hlavního okna aplikace, a to pomocí příkazů či klávesových zkratek: 1. [Identifikace Rozdíl poloh dalekohledu] či [Ctrl + F], 2. [Identifikace Průměr poloh dalekohledu] či [Ctrl + G], 3. [Identifikace Hodnoty přímé spojnice značek bodů] či [Ctrl + K]. Výstupní okna mají pro veškeré uváděné výstupy zpracování měřických skupin stejnou podobu, viz ukázka Obr. 73). Střídáním barev podbarvení měřených hodnot je docíleno grafického oddělení měřický skupin. Zobrazení hodnoty měření redukovaných na přímou spojnici značek bodů geodetické sítě je umožněno pouze až po případném odstranění chyb v měřickém zápisníku (viz kap. II.5). Obr. 73 EasyNet, ukázka výstupu zpracování měřických skupin II.8 Detekce geodetické sítě Výsledkem detekce je stanovení přibližných hodnot prostorových souřadnic bodů geodetické sítě v automaticky zvoleném lokálním kartézském souřadnicovém systému (blíže v kap. 3.1.2). Tyto souřadnice jsou z hlavního okna aplikace přístupná pomocí příkazu [Vyrovnání Souřadnice před vyrovnáním]. Dále software poskytuje přístup k zpracovaným měřením náležícím detekované geodetické síti [Vyrovnání Měření před vyrovnáním]. Detekce geodetické sítě je zpřístupněna pouze v případě absence chyb v měřickém zápisníků (viz kap. II.5). II.9 Apriorní analýza geodetické sítě Apriorní analýza geodetické sítě je rozdělná na dvě základní části, a to analýzu geodetických veličin vycházející z opakovaného měření (výpočet vnitřní přesnosti sítě) a analýzu geodetických veličin ze stanovených podmínek měření (výpočet vnější přesnosti sítě). Podrobný popis apriorní analýzy sítě je uveden v kap. 3.1.3. Zpřístupnění analýzy je 158

podmíněno absencí chyb v měřickém zápisníků (viz kap. II.5). Aplikace EasyNet poskytuje podrobný záznam výsledků určení vnitřní přesnosti sítě (Obr. 74) a vnější přesnosti sítě (levá část Obr. 75) a dále přehled dosažených a zadaných apriorních směrodatných odchylek měřených veličin (pravá část Obr. 75). Podrobný záznam výsledků je uváděn samostatně pro měřené vodorovné směry, zenitové úhly, šikmé délky. Výstupy jsou z hlavního okna aplikace přístupné pomocí příkazů: 1. [Vyrovnání Vnitřní přesnost sítě Vodorovný směr], 2. [Vyrovnání Vnitřní přesnost sítě Zenitový úhel], 3. [Vyrovnání Vnitřní přesnost sítě Šikmá délka], 4. [Vyrovnání Vnější přesnost sítě Vodorovný směr], 5. [Vyrovnání Vnější přesnost sítě Zenitový úhel], 6. [Vyrovnání Vnější přesnost sítě Šikmá délka], 7. [Vyrovnání Apriorní analýza sítě]. Obr. 74 EasyNet, vnější přesnost sítě Obr. 75 EasyNet, vnitřní přesnost sítě, přehled výsledků apriorní analýzy sítě V přehledu dosažených a zadaných apriorních směrodatných odchylek (pravá část Obr. 75) je vybírán typ apriorní přesnosti (vnitřní, vnější, zadaná), dle které jsou při následném vyrovnání geodetické sítě určovány váhy hodnot měřených veličin. 159

Výpočet vnitřní apriorní přesnosti sítě je zpřístupněn pouze v případě, obsahuje-li aktuálně načtený zápisník měření dostatečné množství hodnot geodetických veličin (vodorovných směrů, zenitových úhlů a šikmých délek) měřených opakovaně ve více měřických skupinách. Výpočet vnější apriorní přesnosti sítě je zpřístupněn pouze v případě, obsahuje-li aktuálně načtený zápisník měření dostatečné množství hodnot protisměrně měřených geodetických veličin (zenitových úhlů a šikmých délek) a dále hodnoty vodorovných směrů uskupených do směrových trojúhelníků (viz kap.3.1.3.2.3). Neumožnuje-li měření výpočet apriorní analýzy geodetické sítě, jsou pro výpočet vyrovnání geodetické sítě automaticky použity zadávané směrodatné odchylky měřených veličin (viz kap. II.3.3). II.10 Vyrovnání měření volné geodetické sítě Vyrovnání měření volné geodetické sítě je prováděno z hlavního okna aplikace příkazem [Vyrovnání Vyrovnání sítě]. Tato funkce je přístupná pouze při absenci chyb v měřickém zápisníku (viz kap. II.5) a při existenci nadbytečných hodnot měření v detekované geodetické síti. Podrobný popis procesu vyrovnání a vyhodnocení měření volné geodetické sítě je uveden v kap. 3.2.2.1, resp. v kap. 3.3. Po úspěšném dokončení výpočtu je aplikací zobrazeno hlavní okno vyrovnání (levá část Obr. 76) obsahující vyrovnané souřadnice volné vyhodnocené prostorové geodetické sítě Obr. 76 EasyNet, hlavní okno vyrovnání geodetické sítě, informace o vyrovnání Veškeré níže popisované funkce a výsledky jsou přístupné pouze z hlavního okna vyrovnání. II.10.1 Informace o vyrovnané geodetické síti Základní informace o provedeném vyrovnání měření volné geodetické sítě jsou zobrazeny příkazem [Síť Informace]. Obsah uváděných základních informací je patrný z Obr. 76 (pravá část). 160

II.10.2 Vyrovnané neznámé veličiny Kromě vyrovnaných souřadnic volné geodetické sítě (hledaných neznámých veličin) software EasyNet nabízí množství doplňujících výstupů. Konkrétně se jedná o směrodatné odchylky vyrovnaných souřadnic vyjádřené pomocí apriorní i aposteriorní jednotkové směrodatné odchylky (viz levá část Obr. 77), parametry elipsoidů chyb jednotlivých bodů sítě vyjádřené pomocí apriorní i aposteriorní jednotkové směrodatné odchylky, přírůstky vyrovnaných souřadnic bodů a matici váhových koeficientů vyrovnaných souřadnic bodů (viz pravá část Obr. 77). Tyto výstupy jsou z hlavního okna vyrovnání přístupné pomocí příkazů: 1. [Souřadnice Apriorní směrodatné odchylky], 2. [Souřadnice Aposteriorní směrodatné odchylky], 3. [Souřadnice Apriorní elipsoidy chyb], 4. [Souřadnice Aposteriorní elipsoidy chyb], 5. [Souřadnice Přírůstky souřadnic], 6. [Souřadnice Matice váhových koeficientů]. Obr. 77 EasyNet, parametry elipsoidů chyb, matice váhových koeficientů II.10.3 Vyrovnané měřené geodetické veličiny Odhad měřených geodetických veličin je vyjadřován pomocí vyrovnaných hodnot měřených vodorovných směrů, zenitových úhlů a šikmých délek doplněných o směrodatné odchylky vyjádřené pomocí apriorní i aposteriorní jednotkové směrodatné odchylky. Tyto výstupy jsou z hlavního okna vyrovnání přístupné pomocí příkazů: 1. [Měření Apriorní přesnost Vodorovný směr], 2. [Měření Aposteriorní přesnost Vodorovný směr], 3. [Měření Apriorní přesnost Zenitový úhel], 4. [Měření Aposteriorní přesnost Zenitový úhel], 5. [Měření Apriorní přesnost Šikmá délka], 6. [Měření Aposteriorní přesnost Šikmá délka]. 161

Výstupy měřených geodetických veličin jsou dále doplněny o vyrovnané hodnoty orientačních posunů osnov vodorovných směrů doplněné o směrodatné odchylky vyjádřené pomocí apriorní i aposteriorní jednotkové směrodatné odchylky. Tyto výstupy je možné z hlavního okna vyrovnání zobrazit příkazem: 7. [Měření Apriorní přesnost Orientační posun], 8. [Měření Aposteriorní přesnost Orientační posun]. Ukázka výstupu vyjadřujícího odhad měřených geodetických veličin je uvedena na Obr. 78, resp. na Obr. 79. Obr. 78 EasyNet, odhad měřené geodetické veličiny Obr. 79 EasyNet, odhad orientačních posunů osnov měřených vodorovných směrů II.10.4 Detekce odlehlých hodnot Pro jednotlivé měřené geodetické veličiny jsou uváděny podrobné výsledky automatické detekce odlehlých hodnot (ukázka Obr. 80). Princip implementované detekční metody je uveden v kap. 3.2.1.1. Software poskytuje podrobné výsledky detekce odlehlých hodnot měřených vodorovných směru, zenitových úhlů a šikmých délek. Tyto výsledky jsou z hlavního okna vyrovnání přístupné pomocí příkazů: 1. [Odlehlé hodnoty Vodorovný směr], 2. [Odlehlé hodnoty Zenitový úhel], 3. [Odlehlé hodnoty Šikmá délka]. 162

Obr. 80 EasyNet, detekce odlehlých hodnot Jak je parné z Obr. 80, jsou detekované odlehlé hodnoty měřených veličin označovány chybovou značkou (je použita značka 2 z Tab. 32). II.11 Transformace souřadnic bodů geodetické sítě II.11.1 Identické body Rozhraní pro správu souřadnic identických bodů (levá část Obr. 82) je dostupné pomocí příkazu [Transformace Vstupní systém]. V daném okně jsou zobrazeny souřadnice identických bodů ve výstupním souřadnicovém systému. Identické body jsou načítány přímo jako součást souboru EasyNet projekt (viz kap. II.4.6) či pomocí funkce pro přidání souřadnic z textového souboru. Dialogové okno Přidat body pro načtení seznamu identických bodů z textového souboru je přístupné pomocí příkazu [Hlavní Přidat ]. Formát načítaných dat je popsán v kap. II.4.2. Souřadnice identických bodů je možné zpětně ukládat. Dialogové okno Uložit body pro uložení seznamu identických bodů do textového souboru je přístupné pomocí příkazu [Hlavní Uložit jako ]. Pro správu načítaných identických bodů je poskytováno množství uživatelských funkcí. Jejich použití je totožné s funkcemi používaných při práci se záznamy měřického zápisníku v hlavním okně aplikace (viz kap. II.6). Tyto funkce umožnují: 1. vkládání jednotlivých bodů ([Souřadnice Nový ] či [Ins]), 2. úpravu jednoho či více bodů ([Souřadnice Upravit ] či [Ctrl + B]), 3. odstranění jednoho či více bodů ([Souřadnice Smazat] či [Del]), 4. posun jednotlivých bodů ([Souřadnice Posun Posun nahoru] a [Souřadnice Posun Posun dolu] či [Ctrl + N] a [Ctrl + M]), 5. seřazení seznamu dle čísel či souřadnic bodů ([Souřadnice Seřadit ]), 6. kopírování bodů ([Souřadnice Kopírovat]), 7. vyjmutí bodů ([Souřadnice Vyjmout]), 8. vkládání bodů ([Souřadnice Kopírovat]). 163

Většina funkcí je taktéž dostupná z kontextového menu okna pro správu souřadnic identických bodů. Obr. 81 EasyNet, vkládání a úprava bodů Po načtení identických bodů je automaticky prováděna kontrola duplicitních záznamů. Duplicitní záznamy jsou označeny (viz levá část Obr. 82). Jedná se o záznamy se stejnými souřadnicemi XY (použita značka 1 z Tab. 32) či XYZ (použita značka 2 z Tab. 32) a stejnými čísly bodů (červené označení čísel bodů). Vyskytují-li se v seznamu souřadnic body s duplicitními čísly, je toto vyhodnoceno jako vážná chyba a výpočet transformace je znepřístupněn. Po zavření okna pro správu souřadnic je možné provést porovnání identických bodů ve vstupním i výstupním souřadnicovém systému (pravá část Obr. 82), a to pomocí příkazu ([Transformace Identické body]). Obr. 82 EasyNet, načítání a porovnání souřadnic identických bodů II.11.2 Transformace na bod a směrník Princip transformace na bod a směrník je podrobně popsán v kap. 3.3.2.1. Tato transformace je přístupná pomocí příkazu ([Transformace Transformace na bod a směrník]). V hlavním okně transformace na bod a směrník jsou zobrazeny souřadnice přetransformovaných bodů (levá část Obr. 83). V tomto okně je možné přímo volit pevný a orientačního bod a zadávat směrník mezi nimi. Po stisknutí tlačítka [Transformovat] je proveden přepočet souřadnic bodů dle aktuálního nastavení. Součástí výstupu je i výpis podrobných informací o provedené transformaci. Tento výpis je z hlavního okna transformace na bod směrník dostupný příkazem [Transformace Informace]. Obsah výpisu informací je uveden na Obr. 83 (pravá část). Kromě přetransformovaných souřadnic bodů vyrovnané geodetické sítě software poskytuje množství dalších výstupů. Jedná se o přetransformované výstupy uváděné v kap. II.10.2. Tyto výstupy jsou přístupné z hlavní nabídky v části [Souřadnice]. 164

Obr. 83 EasyNet, transformace na bod a směrník II.11.3 Transformace na identické body Princip transformace na identické body je podrobně popsán v kap. 3.3.2.2. Tato transformace je přístupná pomocí příkazu ([Transformace Transformace s vyrovnáním]). V hlavním okně transformace s vyrovnáním jsou zobrazeny souřadnice přetransformovaných bodů (viz Obr. 84). Obr. 84 EasyNet, transformace na identické body Obr. 85 EasyNet, informace o transformaci na identické body 165

Součástí výstupu je i výpis informací o provedené transformaci. Zvlášť jsou uváděny informace o použitých identických bodech a o vyrovnaném transformačním klíči. Výpis těchto informací je z hlavního okna transformace dostupný pomocí příkazů [Transformace Informace Identické body] a [Transformace Informace Transformační klíč]. Obsah výpisu informací je uveden na Obr. 85, kdy pravé okno se týká identických bodů a levé okno transformačního klíče. Při výpočtu transformačního klíče je možno provádět detekci odlehlých hodnot souřadnic identických bodů (viz nastavení programu v kap. II.3.5). Výsledky detekce je možné zobrazit v přehledu oprav (residuí) identických bodů (viz Obr. 86) a pomocí podrobného výpisu testování odlehlosti jednotlivých souřadnic bodů (ukázka Obr. 87). Tyto výstupy jsou z hlavního okna transformace přístupné pomocí příkazů: 1. [Vyrovnání Odlehlé hodnoty Přehled], 2. [Vyrovnání Odlehlé hodnoty Souřadnice X], 3. [Vyrovnání Odlehlé hodnoty Souřadnice Y], 4. [Vyrovnání Odlehlé hodnoty Souřadnice Z]. Obr. 86 EasyNet, přehled odlehlých souřadnic identických bodů Obr. 87 EasyNet, podrobný výpis testování odlehlosti jednotlivých souřadnic bodů Jak je parné z Obr. 86, resp. Obr. 87, jsou detekované odlehlé souřadnice identických bodů označovány chybovou značkou (je použita značka 2 z Tab. 32). 166

Podrobné výsledky konečného vyrovnání transformačního klíče (již bez vlivu odlehlých hodnot) jsou zobrazeny pomocí přehledu oprav (residuí) identických bodů (viz Obr. 88) a pomocí podrobného výpisu výsledků vyrovnání jednotlivých souřadnic bodů (ukázka Obr. 89). Tyto výstupy jsou z hlavního okna transformace přístupné pomocí příkazů: 1. [Vyrovnání Opravy Přehled], 2. [Vyrovnání Opravy Souřadnice X], 3. [Vyrovnání Opravy Souřadnice Y], 4. [Vyrovnání Opravy Souřadnice Z]. Obr. 88 EasyNet, přehled oprav souřadnic identických bodů Obr. 89 EasyNet, podrobný výpis výsledků vyrovnání jednotlivých souřadnic bodů Kromě přetransformovaných souřadnic bodů vyrovnané geodetické sítě software poskytuje množství dalších výstupů. Jedná se o přetransformované výstupy uváděné v kap. II.10.2. Tyto výstupy jsou přístupné z hlavní nabídky v části [Souřadnice]. 167