4.1 Regresní úloha a regresní funkce

Transkript

1 Lekce 4 Metoda eeších čtverců Metoda eeších čtverců e další z výkladích skříí statstk M se sezáíe pouze s eí ezákladěší verzí, kd regresí ukce, ěřící průěh závslost, e ukcí edé proěé leárí v paraetrech, případě pro estue learzuící trasorace Budee poocí í řešt regresí úlohu, což e úloha, v íž vsvětluící proěá e řízeá velča a áhodou velčou e pouze vsvětlovaá proěá Součástí etod eeších čtverců e rověž rozklad součtu čtverců odchlek pozorovaých hodot vsvětlovaé proěé od ech průěru a složku vsvětleou regresí a evsvětleou rezduálí složku Rozklad součtu čtverců odchlek ás přvede k charakterstce tezt závslost deu korelace Čtverce deu korelace e de deterace, který vadřue zpravdla v %, akou část rozptlu pozorovaých hodot vsvětlovaé proěé se podařlo oast regresí adustace; ukce leárí v paraetrech; Gaussov orálí rovce; de deterace; de korelace; krtéru eeších čtverců; learzuící trasorace; atce regresorů; etoda eeších čtverců; regresí ukce; rezduálí součet čtverců; řízeá proěá; vsvětlovaá proěá; vsvětluící proěá 4 Regresí úloha a regresí ukce Datový souor e tvoře uspořádaý dvoce hodot [, ] Zatíco hodot sou realzace pozorovaé hodot áhodé velč Y, hodot sou hodot řízeé proěé, echž velkost e určea eperetátore Náhodá velča Y se azývá vsvětlovaá proěá, hodot představuí hodot vsvětluící proěé Cíle úloh e určt průěh závslost vsvětlovaé proěé a ěících se hodotách vsvětluící proěé poocí spoté regresí ukce a zěřt teztu této závslost Pokud de o regresí ukce, oezíe se a ukce edé proěé, které sou avíc leárí v paraetrech Takovouto ukc ůžee zapsat ako součet součů ezáých paraetrů a záých ukcí regresorů vsvětluící proěé Jede z paraetrů, ozačovaý, e asolutí čle regresí ukce Regresí ukc edé proěé leárí v paraetrech zapíšee ako, kde [ ] T e vektor paraetrů a ukce, pro,,,,, které eosahuí žádé další ezáé paraetr, sou regresor Regresor, další regresor sou zpravdla eleetárí ukce hodot, apř,,,log,, Mez tpcké regresí ukce patří apř polo stupě leárí ukce, příka, stupě kvadratcká ukce, paraola, stupě kucká paraola a ohé é Estue ovše oho ukcí, které cho potecálě chtěl použít př řešeí regresí úloh, které však esou leárí v paraetrech, apř ukce,,, + + Řadu těchto ukcí lze podrot learzuící trasorac apř všech uvedeé s výkou posledí Pro ěkteré však learzuící trasorace, ak se právě vděl, eestue

2 Příklad 4 Budee learzovat regresí ukce epoecálí ukce a + Logartcká trasorace epoecálí ukce: c c log +, kde log, log c c Loeou ukc trasoruee ako + Learzovaou ukc oecě ozačíe ϕ, kde ϕ e learzuící trasoračí ukce Po vzoru příkladu 4 learzuee ukce, + 4 Příklad 4 Neestece learzuící trasorace Např pro ukc + eestue trasorace, která uožla vádřt ve výše uvedeé tvaru Podoě e tou apř u ukce Případ ukcí, pro které eestue learzuící trasorace, se eudee zaývat 4 Metoda eeších čtverců Sestavíe vektor pozorovaých hodot závsle proěé [ ] T a atc regresorů prví sloupec souvsí s tí, že ukce á asolutí čle Vektor paraetrů regresí ukce určíe ako T T Příklad 4 Nalezeí vektoru paraetrů pro kvadratckou regresí ukc + + Matce regresorů, atce 4 T, a koečě vektor T

3 Vektor e ted řešeí soustav tzv Gaussových orálích rovc všech součt sou Po 4, eíž tá rovce e dáa ako vzoru příkladu 4 ukážee atc regresorů a sestavíe soustavu orálích rovc pro regresí ukc + 4 Lze ukázat, že títo způsoe získaé paraetr,,, po dosazeí do regresí ukce leárí v paraetrech vedou ke splěí dvou podíek z toho ple, Druhý z výrazů představue krtéru eeších čtverců, tzv rezduálí součet čtverců To, že výraz aývá své álí hodot právě pro paraetr,,,, vplývá z toho, že -tá orálí rovce vzke ako parcálí dervace krtéra podle paraetru, položeá rová ule Odtud ázev etoda eeších čtverců Zatíco estue ekoečě oho paraetrů,,,, pro které e splěa prví z oou podíek, estue pro každý tp ukce leárí, kvadratcká, loeá apod e edá sada paraetrů, která splňue druhou podíku Určeí kokrétího tpu ukce eí součástí úloh a e v rukou užvatele Vektor paraetrů regresí ukce,,,, které l staove výše popsaý postupe, edozačý způsoe alzue součet čtverců odchlek pozorovaých a aěřeých hodot závsle proěé pro přede zvoleý tp regresí ukce Příklad 44 Př zkoušeí turí l eperetátore vole otáčk a ěřea rekvece chvěí Pro každou zvoleou hodotu ěrých otáček vsvětluící proěá lo provedeo ěřeí edé až tří hodot ěré rekvece chvěí vsvětlovaá proěá Naěřeé hodot sou zázorě a or 4 Z orázku vplývá, že vhodou regresí ukcí ohla ýt kvadratcká ukce Staovíe ted eí rovc V úloze sou použt tzv ěré velč Každou rozěrou zkálí velču ůžee převést a ezrozěrou a a tervalu ; orovaou ěrou velču poocí vztahu a 4

4 Or 4 Naěřeé hodot ěrých otáček a ěré rekvece chvěí a uvažovaé regresí ukce K určeí regresí paraol příka e evdetě evhodá staovíe z aěřeých hodot tto velč 4 6; 8,5; 5,55;,65875;,7455; 6,55;,75;,65875 Tto použee k sestaveí soustav orálích rovc z příkladu 4 6,55,75 6 8,5, ,55 8,5 5,55, ,55,65875,7455, eíž řešeí održíe, 6 ; z čehož rovce kvadratcké ukce e,9745;,; vz or 4,9745, +,6 Or 4 Naěřeé hodot a vpočteá regresí paraola Určete př akých ěrých otáčkách ude ěré chvěí álí a staovte eho hodotu 5

5 4 Rozklad součtu čtverců a de korelace Rezduálí součet čtverců lze vádřt rověž ako rozdíl součtu čtverců pozorovaých hodot kole artetckého průěru a součtu čtverců vrovaých vpočteých hodot kole artetckého průěru př to : Rovce rozkladu součtu čtverců pozorovaých hodot vsvětlovaé proěé rozkládá varaltu pozorovaých hodot vsvětlovaé proěé a složku vsvětleou regresí a složku rezduálí Na toto prcpu e založeo ěřeí tezt závslost poocí deu korelace Or 4 Rozklad součtu čtverců vsvětlovaé proěé, Je-l regresí vsvětlea veškerá varalta pozorovaých hodot vsvětlovaé proěé, e a všech pozorovaé hodot leží přesě a regresí čáře Neí-l regresí vsvětlea žádá varalta, e apř ěí-l se hodot, zůstává kost vz or 4 a čtverce odchlek pozorovaých hodot kole ech artetckého průěru čtverce odchlek vrovaých hodot kole c čtverce odchlek pozorovaých hodot ech artetckého průěru kole hodot vrovaých + 6

6 Or 4 Etréí případ deu korelace kost K ákresů a or 4 přřaďte, Příklad 45 Výpočet deu korelace Rozklad rovce součtu čtverců odchlek pro vsvětlovaou proěou vedoucí k deu korelace v příkladu 44 e v ázaku:, 9744, 877 +, a pak,877,9744,9494 Podle očekáváí e závslost poěrě těsá Testováí výzaost deu korelace Hpotézu o ulové hodotě deu korelace prot alteratví hpotéze ověříe poocí testového kr- téra, kde e počet paraetrů regresí ukce ted s výkou Testové krté- ru á sherovo Sedecorovo rozděleí s a Jde o edostraý test, takže vpoč- α ; teá hodota se porovává s taelovaou hodotou pro [ ] Příklad 46 Test výzaost deu korelace Ověříe výzaost deu korelace z příkladu 45,9 59,6 Hpotézu ted a všech sltelých hladách výzaost zaítáe,,9 6 8 eoť pravděpodoost, že de korelace al své hodot áhodou e přlžě Př posuzováí statstcké výzaost deu korelace e třea vzít v úvahu, že eho ízká, evýzaá, hodota eusí ýt utě způsoea eestecí závslost vsvětlovaé proěé, ale příča ůže ýt v evhodé volě tpu ukce závslost estue, e zvoleá ukce eí průěh ěří špatě Pokud cho apř v příkladu 44 použl k vrováí příku, získal cho de korelace, 5, což e zaváděící hodota 4, 9 a pravděpodoost e,49, takže hpotézu 7

7 o ulové hodotě deu korelace elze a hladě α, zaítout Posledí výpočt l provede s použtí specalzovaého prograového vaveí a čteář s e eůže zkotrolovat Adustace deu korelace Další prolée e esrovatelost hodot deu korelace u ukcí s růzý počte paraetrů Vzhlede k tou, že regresí ukce s větší počte paraetrů á př volě vhodého tpu ukce lepší předpoklad vsthout průěh ukce, á přdáí dalšího paraetru za ásledek zvýšeí hodot deu korelace Proto se provádí tzv adustace deu korelace, která sžue eho hodotu v závslost a počtu paraetrů ukce s výkou paraetru : vzorce e zřeé, že adustace á výza zeéa př alé počtu ěřeí ad Ze + Příklad 47 Adustace deu korelace Provedee adustac vpočteého deu korelace z příkladu 45 ad 5,9,94 Hodota adustovaého deu se ted epatrě sížla de deterace Výše zíěá hodota, často vadřovaá, kde, udává, aká část varalt v % la vsvětlea regresí a azývá se de deterace 44 Prolé learzuící trasorace Použtí learzuící trasorace u ukcí, které esou leárí v paraetrech řada z ch se ěžě používá, eí ez proléů Je-l ukce leárí v paraetrech ve tvaru ϕ, kde ϕ e learzuící trasoračí ukce, e rezduálí součet čtverců odchlek rove [ ϕ ] ϕ t apř log log, apod Je zřeé, že všecha tato krtéra sou esrovatelá s původí krtére z odst 4 Proto esou srovatelé a de korelace, vpočteé př použtí růzých learzuících ukcí Teto prolé se týká rověž [ ϕ ϕ ], které e splěo pouze pro trasorovaé hodot vsvětlovaé proěé Pokud vpočteou ukc podroíe verzí trasorac, kladé a záporé odchlk pozorovaých hodot kole regresí ukce se ž ekopezuí 8

8 Příklad 48 Datový souor, v ěž vsvětlovaá proěá e epoecálí ukcí vsvětluící proěé, t, l po logartcké trasorac vrová ukcí log, +, 44 V toto případě e log log a ted log log Po odlogartováí e epoecálí ukce,79,, přčež ovše 4, 7 65, zatíco 4, 86 a 4,5 Rovce rozkladu rozptlu pro epoecálí ukc eplatí, protože 96,8 947,8 + 7, 8 de korelace l dokoce větší ež eda, zatíco pro logartovaou ukc e, 996 log Vzhlede k úskalí learzuících trasorací lo vvuto ěkolk algortů pro příou aplkac etod eeších čtverců a ukce, které esou leárí v paraetrech Jedí z těchto algortů lze apř staovt,99,47,, 999 Tto algort eleárí regrese ovše přesahuí ráec tohoto tetu a eudee se zaývat K příkladu 48 áte k dspozc data Na těchto datech prověříe všech výpočt z příkladu saozřeě s výkou eleárí regrese 4 V techcké pra se vužívá rověž řada ukcí, které aí často složté rovce s oha paraetr, které elze žádý způsoe learzovat Rověž v toto případě se vužívaí v příkladu 48 zíěé procedur eleárí regrese, které sou však výpočetě ohe áročěší Σ Další úlohou o ěřeí závslost e regresí úloha, kd pouze vsvětlovaá proěá e áhodou velčou, zatíco vsvětluící proěá e řízea eperetátore Charakterstkou tezt závslost e v toto případě de korelace a průěh závslost charakterzue spotá regresí ukce Stěžeí etodou řešeí regresích úloh e etoda eeších čtverců, poocí íž určuee sadu paraetrů regresí ukce, která alzue hodotu rezduálího součtu čtverců Metodu eeších čtverců se ukázal edak pro ukce leárí v paraetrech, edak pro ukce, pro ěž estue vhodá learzuící trasorace 4 Metoda eeších čtverců uožňue rozložt součet čtverců pozorovaých hodot vsvětlovaé proěé a složku oasěou regresí a rezduu Na toto prcpu e založe de korelace 5 Závěre e třea zdůrazt, že se se ezaýval a ěřeí závslostí více ež dvou proěých, a případe, kd v regresí úloze gurue regresí ukce, eleárí v paraetrech, pro íž eestue learzuící trasorace 9

9 4 4 log log + log, + 4 Výsledk sou součástí příkladu 48 Stačí e pouze zkotrolovat Pokuste se pokud ožo co epřesě speckovat a porovat regresí a korelačí úlohu Sestavte soustav orálích rovc pro regresí ukce a, c + log, + + Upřesěte okolost, za kterých ude a >,, c Ta, kde e to ožé, určete de korelace 4 Patří de korelace ez setrcké eo asetrcké charakterstk závslost? 5 Kolk procet varalt chvěí se podařlo oast závslostí a otáčkách turí v příkladu 44? Jak se azývá příslušá charakterstka? 6 Porovete výsledek adustace s dee korelace vpočteý a základě vrováí údaů v úloze 44 poloe stupě,9,95 +,78 +,4777 pro, Jak azvee a vsvětlíe rozdíl? 8 Př zkoušeí traktoru la eperetátore staovea rchlost v khod - ako vsvětluící proěá a ěřea síla a hací ápravě v kn ako vsvětlovaá proěá Zštěá data sou v taulce Ke každé hodotě vsvětluící proěé sou aěře shodě tř hodot vsvětlovaé proěé a ted Ze zkušeostí e záo, že vhodou ukcí e loeá ukce + Řešte úlohu po vzoru příkladů 44 až 47 Soustavu orálích rovc pro tuto ukc ste určoval ve 4