Univerzita Pardubice. Fakulta chemicko-technologická Katedra analytické chemie. Licenční studium Statistické zpracování dat

Transkript

1 Univerzita Pardubice Fakulta chemicko-technologická Katedra analytické chemie Licenční studium Statistické zpracování dat Semestrální práce Interpolace, aproximace a spline 2007 Jindřich Freisleben

2 Obsah 1 VÝPOČET CHARAKTERISTICKÉ HODNOTY C Výpočet hodnoty C 90 pro ukazatel CHSK Cr (interpolace) KŘIVKA POSTUPOVÝCH DOB PRŮTOKŮ (KPDP) Metoda těžišť (aproximace) Nalezení nových bodů Grafické zobrazení bodů Hledání tvaru KPDP (spline) Hledání vhodné metody spline a vhodného počtu uzlů Navržené modely spline... 9 LITERATURA

3 1 Výpočet charakteristické hodnoty C 90 Pro klasifikaci jakosti povrchových vod dle normy ČSN [1] je nutné vypočítat charakteristickou hodnotu C 90. Jedná se o hodnotu s pravděpodobností nepřekročení 90 %. Z definice plyne, že hodnota C 90 je v podstatě výběrovým kvantilem (konkrétně 90-tý percentil či 9-tý decil) s přesně stanoveným postupem výpočtu. Pokud je počet stanovených hodnot sledovaného ukazatele jakosti vody vyšší než 23, pak se při výpočtu C 90 postupuje právě podle přílohy A výše zmíněné normy. Tabulka 1: Data [2] datum odběru CHSK Cr [mg/l] Výpočet hodnoty C 90 pro ukazatel CHSK Cr (interpolace) Vypočítáme charakteristickou hodnotu C 90 pro ukazatel CHSK Cr (Chemická spotřeba kyslíku dichromanem) stanoveném ve vzorcích vody odebraných v letech 2005 až 2006 na říčním profilu Srbsko (řeka Berounka). Pro n = 24 se užívá následujícího výpočtu: n 24 n je četnost stanovení P 90% P je zvolená pravděpodobnost 100 P k ( n 0.4) 0.3 (24 0.4) k je pomocná proměnná, která se vyjadřuje hodnotou zaokrouhlenou na celé číslo nahoru 3

4 100 P dp k ( n 0.4) (24 0.4) d pomocná proměnná P Ck C C k je k-tá hodnota v sestupné řadě n dat C C C k 1 je (k 1)-tá hodnota v sestupné řadě n dat k C ( d C ) (1 d ) C ( ) (1 0.26) p P k 1 P k Cp C Hledaná charakteristická hodnota C 90 pro stanovení CHSK Cr na řece Berounce v lokalitě Srbsko je rovna mg/l. 2 Křivka postupových dob průtoků (KPDP) Při sledování dvou říčních profilů slouží KPDP k vyjádření vztahu mezi vodním stavem H (výškou hladiny) popř. průtokem na horním profilu a postupovou dobou t (čas, který uplyne mezi výskytem vrcholu v horním a dolním profilu). KPDP má charakteristický průběh pro sledovanou řeku či úsek toku, jde o konvexní křivku jejíž tvar je zhruba zobrazen v grafu 1. Graf 1: Křivka postupových dob průtoků [3] 2.1 Metoda těžišť (aproximace) Protože reálné hodnoty postupových dob a říčních stavů v grafu závislosti jednoho na druhém vytváří obvykle velmi rozptýlený mrak bodů, užíval se v hydrologii dříve velmi často způsob redukce bodů metodou těžišť. Jedná se o aproximaci skutečné závislosti křivkou proloženou nově nalezenými body. Nové body: A. Z původních bodů byly vytvořeny dvojice. První dvojici tvořily body s nejmenší vzdáleností (tedy dva nejbližší body). Druhou dvojici body s druhou nejmenší vzdáleností. Třetí dvojici body s třetí nejmenší vzdáleností atd. B. Novými body jsou pak středy úseček nalezených dvojic původních bodů. V případě že nalezneme trojici stejně vzdálených bodů, pak novým bodem je těžiště trojúhelníka. 4

5 C. Jestliže po spárování bodů jeden zbude, pak je sám jedním z nových bodů, popř. vytvoří trojici s nejbližší dvojicí bodů a hledaný nový bod je opět těžiště trojúhelníka. Tento postup byl nezřídka vícekrát opakován do získání vizuálně snáze odhadnutelné závislosti. Metodu aplikujeme na data získaná v letech na dvou profilech řeky Úhlavy (Klatovy - Tajanov a Štěnovice). Tabulka 2: Data [3] datum H [cm] t [h] datum H [cm] t [h] datum H [cm] t [h]

6 2.1.1 Nalezení nových bodů Tabulka 3: Nové body 1. krok 2. krok dvojice bodů nové body dvojice bodů nové body d d H t H t H t H t H t H t H vodní stav (výška hladiny) v cm t postupová doba v h d vzdálenost bodů H1 H2 t1 t d Hmax Hmin tmax tmin H1 H2 t1 t2 H 3 t index 1 jeden bod z nalezené dvojice index 2 druhý bod z nalezené dvojice index 3 nový bod max maximální hodnota ze všech bodů min minimální hodnota ze všech bodů

7 2.1.2 Grafické zobrazení bodů Graf 2: KPDP (Úhlava) původní body [4] Graf 3: KPDP (Úhlava) body po 1. kroku [4] 7

8 Graf 4: KPDP (Úhlava) body po 2. kroku [4] Po dvojím opakování postupu metody těžišť dostáváme body blíže u sebe, snížil se vliv extrémů. Rovněž lze lépe odhadnout pravděpodobný tvar křivky prokládající body. Tato metoda nacházela uplatnění zejména v dřívějších dobách, kdy byl tvar křivky KPDP hledán bez využití výpočetní techniky a bylo tudíž žádoucí zredukovat počet bodů z důvodu snazšího prokládání křivky metodou nejmenších čtverců. 2.2 Hledání tvaru KPDP (spline) Pokusíme se metodou spline nalézt křivku nejlépe prokládající body získané po druhém kroku metody těžišť z předchozího příkladu. Kvadratický (resp. Kubický) spline je proložení bodů více polynomy druhého (resp. třetího) stupně, spojenými v uzlových bodech Hledání vhodné metody spline a vhodného počtu uzlů Tabulka 4: Charakteristiky regrese [5] Metoda Počet uzlů RSC Me Mer [%] S 2 (e) S(e) Kvadratická Kubická RSC Reziduální suma čtverců Me Průměr absolutních hodnot reziduí Mer [%] Průměr relativních reziduí S 2 (e) Odhad reziduálního rozptylu S(e) Odhad směrodatné odchylky reziduí 8

9 Rozhodčím kritériem pro určení nejvhodnější metody a optimálního počtu uzlů je průměr relativních reziduí (Mer). Bohužel na nevhodnost modelů s nižšími hodnotami Mer poukazovala skutečnost, že predikční pásy okolo kalibrační křivky jsou méně plynulé s častým výskytem prudkých změn jejich šířky (špatná predikční schopnost modelů). Jako nejvhodnější model byl proto vybrán kubický spline bez uzlových bodů (tedy prostý polynom 3. stupně) z důvodu minimální hodnoty odhadu reziduálního rozptylu S 2 (e). Obdobně dobré proložení vykazuje i kvadratický spline s 1 uzlovým bodem Navržené modely spline Kvadratický spline s 1 uzlovým bodem Pro H = 50.5 až Y = E-04 X E-01 X E+01 Pro H = až 277 Y = E-04 X E-01 X E+00 Graf 5: Kvadratický spline s 1 uzlovým bodem [5] 9

10 Kubický spline, bez uzlových bodů (prostý polynom 3. stupně) Pro H = 50.5 až 277 Y = E-06 X E-03 X E-01 X E+01 Graf 6: Kubický spline bez uzlových bodů (prostý polynom 3. stupně) [5] Nalezený tvar křivky, co by polynomu 3. stupně, sice nekoresponduje přesně s teoretickou představou tvaru KPDP (Graf 1), ale je ve shodě s obvyklým tvarem regresí získávaných modelů a to včetně lokálního maxima na pravém konci křivky. Minimum na křivce značí vylití řeky ze břehů, čímž logicky následuje snížení rychlosti toku, protože část vody zaplavuje okolí. Po zaplavení okolí výškově blízkého výši břehů vedou další přírůstky množství vody k opětovnému zvyšování průtoku, což odpovídá lokálnímu maximu na pravé straně křivky. 10

11 Literatura [1] ČSN : Jakost vod Klasifikace jakosti povrchových vod [2] Český hydrometeorologický ústav databáze jakosti vody ( [3] Němečková S.: Analýza faktorů působících na postupovou dobu průtoků na vodních tocích v povodí Berounky a Sázavy. Univerzita Karlova v Praze, Přírodovědecká fakulta, magisterská práce, Praha [4] Microsoft Excel ( [5] ADSTAT 1.25 ( [6] Meloun M., Militký J.: Kompendium statistického zpracování dat. Academia, Praha [7] Meloun M., Militký J.: Statistické zpracování dat. East publishing, Praha