Metoda nejmenších čtverců a její aplikace

Transkript

1 Metoda ejmeších čtverců a její aplkace Leat qare method ad t applcato Motvace Reálé rozdělovací fkce e více č méě odlšjí od deál ormálí fkce Má to více příč a Na rozdíl od ormálího rozděleí e v reálých datech ojevjí mohem čatěj odchýleé od t moho velce lě zkrelt rčeí poloh třed rozptl Zkomaý vzorek eí homoeí je to mě třea ěkolka ormálích rozděleí výška vzork že + mž c e hře je závlot a dalších parametrech ejčatěj a čae Např ovtý průěh jaot e projeví v modálím rozděleí htot pravděpodoot alolda má otrý vrchol v mam jaot a rozáhlé křídlo apod okd měřeá velča měla ýt v čae kotatí apř jaot eproměé hvězd pak tadardí odchlka od průměr měla ýt dáa poze! epřeotí měřeí dotčé velč včetě tematckých ch a etalt Tto epřeot lze zhra odhadot třea porováím ěkolka po oě rchle áledjících měřeí Zjtíme-l že rozptl měřeí rčté velč je zjevě větší ež očekávaé ejtot měřeí lze odt že oa velča zřejmě de fkcí ějaké další promělvé velč ejčatěj ča roměé ojekt vžd l a do předmětem otředěého zájm atrofzků protože charakterem vé proměot toho o oě prozrazjí mohem více ež ojekt eproměé Čaová závlot měřeých velč maetcké pole jaot tezta pektrálích čar polarzace apod hledáí tredů cklckých změ perodct apod - to jo ejčatější úkol které praktcká atrofzka řeší Nejolíeějším átrojem pro zpracováí těchto závlotí je tzv metoda ejmeších čtverců MNČ - LSM Dříve ež přtopíte k aplkac MNČ doporčj ate celo tac ejprve zevrě ohlédl což mj zameá že do ejrůzějších rafů č chémat veete vzájemé závlot všech možých velč dotčého ojekt ať ž vám aměřeých eo převzatých z lteratr ěřte že tto orázk vám o povaze vzájemých ovlotí mez jedotlvým charaktertkam poví více ež eedokoalejší číelé rozor Zjtíte-l že zorazeé výledk měřeí { } jeví jto závlot jtě pocítíte eodolatelé tkáí tto závlot proložt ft ějako eleatí hladko křvko Dříve ež e do toho ptíte te ale měl zvážt zda je to ktečě ezté! Chceme-l totž je doložt že oa závlot etje je poctvější do raf žádo křvk evkrelovat tačí je zvolt vhodá měřítka a oách a orázek prezetovat v jeho orálí podoě oze tehd chceme-l výledk proložeí dále pracovat a ěco z ch vvozovat je případé ptt e do prokládáí Úvod Jedím z ejčatějších úkolů ímž e etkáte př zpracováí pozorováí je zjtt a matematck vjádřt průěh závlot jedé pozorovaé velč a jé pozorovaé velčě elč ktero zpravdla zjšťjeme meší relatví přeotí apř hvězdo velkot deme adále azývat závlo proměo a drho pozorovao velč rčovao přeěj

2 ejčatěj ča deme považovat za ezávle proměo velč Závlo a ezávlo velč elze ěhem výpočt zaměňovat! Reálý vztah mez oěma velčam dává ezámá fkce Dejme tom že máme k dpozc celkem měřeí dvojc ezávlé a závlé velč: { } které moho ýt v odůvoděých případech doplěa tzv vaho měřeí která kvatfkje polehlvot přílšého měřeí Zpravdla je tato váha epřímo úměrá kvadrát ejtot rčeí závlé velč Hledejme í takovo fkc F která co ejlépe odpovídala ktečém průěh závlot jež je azačea dvojcem { } rep { } Trválím řešeím této úloh je popojováí všech po oě áledjících odů lomeo čáro případě ějako hladko dotatečě zvlěo čáro apř polomem - tpě která procházela důledě všem aměřeým od Takovýto potp ovšem přcházel v úvah ad je tehd kd la poloha jedotlvých odů raf záma aoltě přeě což je ereálé Daleko lepší výledk dává protá rafcká metoda kd mez od veeým do raf táheme od rk hladko křvk která dle ašeho převědčeí co ejlépe vjadřje pozorovao závlot Nevýhodo je však to že teto způo proložeí eí oecě reprodkovatelý v am podrhé proložíte závlot troch jak avíc e tímto rafckým řešeím potom dot špatě pracje roto dáváme předot takovým metodám které vedo k aaltckém vjádřeí prokládaé fkce a k ojektvím reprodkovatelém taoveí krtéra ejlepší hod Ovkle potpjeme tak že hed a počátk defjeme tzv rereí model rereo model Rereím modelem z ekoečého možtví fkcí jmž lo možo pozorovao závlot proložt vereme je jto omezeo mož fkcí přčemž každá z fkcí této zvoleé mož modelových fkcí de plě defováa parametr které pracově ozačíme 3 elča pak vjadřje počet tpňů volot deree of freedom zvoleého model Na tom zda míme jž předem vtpovat optmálí rereí model který v oě oahje fkce co ejpodoější tšeé závlot záví úpěch eo eúpěch celého ašeho dalšího počíáí okd evíme o fzkálí podtatě závlot jedé z pozorovaých velč a drhé vůec c pak jako rereí model volíme oor těch co ejjedodšších fkcí - polom harmocké fkce - mž je radot pracovat Jetlže však jž předem víme jakým tpem fkce měla ýt pozorovaá závlot popáa měl chom to rát ohled jak způoíme ztečé prolém př terpretac zjštěé závlot ola odpovídajícího rereího model optmálím tpěm volot je tím ejdůležtějším mometem př zpracovaí mometem a ěmž ve začé míře záví výledk a jejch hodoceí rávě zde e platí zalot zkšeot a všeoecý rozhled zpracovávatele právě t e projeví jeho vztah k povaze aměřeých dat Správo a ctlvo volo rereího model lze ze oor dat vtěžt pot formací aopak zvoleím eadekvátího model lze ado dopět ke zcela mlým a falešým vývodům Chcete-l mít v tomto oor doré výledk pak e míte ort začo dávko trpělvot a jž předem počítat tím že je zřídkakd e vám podaří ajít te právý rereí model hed apoprvé Z vlatí zkšeot vím že k ěkterým modelům e člověk dopracje až po ěkolka letech marých poků áh jme pov akceptovat zejméa v případě že pracjeme e oor dametrálě odlšo kvalto měřeí vzálí a fotoelektrcká pozorováí jaot eo tehd oví-l ejtota jedotlvých měřeí velkot závlé velč případě tehd epracjeme-l přímo aměřeo hodoto ale její eleárí traformací

3 Rereí model předtavje mož podoých fkcí které e od ee lší je růzým hodotam parametrů : F F K Upořádao -tcí parametrů j je výhodé zapovat jako -rozměrý vektor eo lopcovo matc o rozměrech řádků a lopec: [ ] K ředpokládejme í že jme v rámc rereího model zvoll ějako kokrétí hodot vektor parametrů pro -té měřeí { } pak lze vjádřt odchlk tohoto měřeí od daé závlot e vztahem: F + e Je zjevé že čím meší do odchlk tím lepší de proložeí pozorovaé závlot mez velčam a Naším úkolem í de vrat z tříd fkcí F popaých vektorem ajít takový vektor pro ějž do odchlk {e } mmálí O podmík mmálot je ovšem třea ejprve matematck preczovat Nejčatěj požívao a z moha důvodů ejolíeější kol však jedo je podmíka a očet kvadrátů odchlek pro všech od měřeí l mmálí Z této podmík pak vchází tzv metoda ejmeších čtverců které e deme adále věovat Zaveďme ejprve kalárí velč S zvao též očet čtverců odchlek 3 : [ ] [ ] S e F S e F Ní hledáme takový vektor pro ějž je očet čtverců odchlek S mmálí Ze zadáí je zřejmé že ma čtverců odchlek S mí ýt tě velčo ezáporo reálých případech je to avíc velča kladá a to ze dvo důvodů: je zřídkakd e ám podaří rereí model vrat atolk doře a pozorovao závlot popoval realtck v celém rozah v detalech kd e ám to podařlo pak je to počítat tím že závlo velč eměříme kd aoltě přeě Každé měřeí je zatížeo cho měřeí chž deme předpokládat že odchlk jm způoeé mají áhodé rozložeí 3 Jo takovo podmíko může ýt mmálot očt aoltích hodot odchlek eo jejch čtvrtých moc Ncméě takto defovaé podmík e požívají je zřídka a ve zcela odůvoděých případech 3 Odoě lze zavét očet čtverců odchlek v oecějším případě kd závle proměá pozorovaá velča je fkcí ěkolka ezávlých proměých m dávajících vektor m ložkam přčemž každém z měřeí můžeme přodt jto váh -té měřeí je pak dáo pořádao m+-tcí číel { } Rereí model pak de fkcí m ezávlých proměých a parametrů Hledáme í takovo fkc z rereího model pro ž je fkcoál mmálí [ F ] S

4 4 Fkc S můžete předtavt jako zprohýao ploch v + rozměrém protor kde rozměrů je vhrazeo pro ložk vektor a +-tý rozměr je rezervová pro fkčí hodot S Oecě může mít taková plocha dot komplkovaý vzhled Ncméě vžd a í můžeme jedo eo více lokálích mm z chž ovšem je ěkterá do mít ějaký dorý fzkálí ml ro vhledáváí mm v průěh fkce daé ěkolka proměým je vpracováa řada metod vemě merckých omezeém počt případů však lze k výledk dopět potp aaltcké matematk Fzkálě reálé mmm e vzačje tím že fkce S v ěm je pojtá a pojté jo všech parcálí dervace které v od mma jo rov le latí ted: S k pro všecha k Doadíme-l za S dotaeme rovc ve tvar: F F F F F F k k k k Natává-l pak v odě mmm pak je plěo všech podmíkových rovc daých výše vedeým vztahem Fkce F azývaá též rereí fkce je pak oo hledao fkcí která předtavje ejlepší přlížeí eo je jedím z ch k průěh fkčí závlot Ještě pozámk ř hledáí etrémů mma eo mama kalárích fkce je vhodé zavét pojem radet fkce Gradet v daém odě je vektor oretovaý v opačém měr ež pádce přčemž délka vektor je tím větší čím trměj v daém odě fkce proíhá Číelě jo ložk vektor radet fkce S která je fkcí proměých parametrů rov parcálím dervacím podle těchto parametrů: S S S rad S L Gradet lze takto podle potře chápat jako ď jako vektor o ložkách eo řádkovo matc lopc omocí radet očt čtverců odchlek lze podmík pro alezeí mma fkce lze pak eleatě zapat: rad S kde je vektorem o ložkách jež jo všech rov le odmíka tak říká že mmm kalárí fkce atává v tom odě kd všech ložk radet fkce jo rov le elkot vektor radet je v tomto odě lová jme a dě - hloěj e jž dotat elze opovaé metodě hledáí mma kalárí fkce e proto říká též radetí metoda radet method Doadíme-l í výraz pro m čtverců odchlek dojdeme po jtých úpravách k jedé vektorové podmíce: F F kde je radetem fkce F v od

5 5 F F F rad F L Leárí reree Řešeí otav rovc daých výše vedeým vztah je docela komplkovao záležtotí a proto eí dv že e jž předem hledají takové rereí model mž e dalo zacházet jedodšej ež oecým fkcem elké zjedodšeí zameá předpoklad že fkce F je vlatě leárí komací lovolě vraé mož fkcí f j tomto případě hovoříme o leárích rereích modelech a hledáme rereí fkc metodo leárí reree lear rereo ředpokládejme ted že rereí fkc hledáme v třídě fkcí F kde j j j F f f f f Za těchto okolotí lze ado vjádřt parcálí dervac podle k-tého parametr vektor : F k f k k-tá podmíková rovce pro alezeí mma fkce S které je v tomto případě jedé a tdíž aoltí ade podo: f f f f f f k j j k k j j k j j ztah lze po rozáoeí m přepat do tvar: f f f f f f j k j k j k j k j j ztah je zápem pro k- to ložk otav leárích rovc o ezámých jmž jo ložk hledaého vektor ohr celá tato otava vhlíží takto: M K+ + K+ M + K+ U U M U kde f f f f k j k j k j k j U f U f k k k k

6 6 Sotav rovc o ezámých j pak lze tadardím způoem řešt Nalezeím všech hledaých koefcetů je pak alezea rereí fkce kde okd á ezajímá přeot měřeí hodověrot proložeí ch parametrů a erčtot předpověd pak jme hotov opačém případě deme potpovat dále Hodot kj defjí prvk čtvercové metrcké matce rozměr zatímco hodot pravých tra rovce U k defjí prvk vektor U prvk lopcová matce Ní lze celo otav rovc zapat ještě eleatěj: U Defjme í tzv kovaračí matc H Jde o čtvercovo matc rozměr která je matcí verzí k matc latí ted o í: H - H H I kde I je jedotková matce áoím-l zleva oě dvě tra rovce matcí H dota přímý vztah pro hledao vektorovo matc : H U ro další výpočt je výhodé pracovat vektorovo fkc která je radetem fkce rereího model F případě že je rereí model leárí komací fkcí f f f je vjádřeí radet velm proté: rad F f f f Fkčí hodota rereí fkce F je očaě předpovědí pro zvoleo hodot F f j j j K odhad ejtot proložeí a ch rčeí jedotlvých parametrů a předpověd je to ejdříve vpočítat hodot ztkového rezdálího očt čtverců odchlek R pro alezeo hodot kd je teto očet mmálí: R S R S [ ] [ ] [ ] [ ] omocí rezdálí očt čtverců odchlek R lze odhadot velkot tředí kvadratcké odchlk jedoho měřeí σ Ta počtem měřeí počtem tpňů volot a očtem čtverců odchlek R oví takto: R R σ σ Odhad ejtot certat rčeí velkot k -tého parametr vektor δ je dá vztahem: δ σ da H δ σ da H

7 Odhad ejtot fkčí hodot alezeé rereí fkce v daém odě eol předpověd v odě δ je dáa vztahem: δ σ H δ σ H o rčtých úpravách vztah pro očet čtverců odchlek pro případ leárí reree lze velč S vét v trktvím tvar: j j f j S R + j j S R + j j f j Ze záp je okamžtě patro že fkce S má tvar paraolod mmem o hodotě v od Má ted jedé a tdíž aoltí mmm elm eleatí lze leárí rere řešt požtím matcového počt Defjme tř matce X Y případě W o rozměrech potpě a daoálí : f f f f f f X Y W da M M M M f f f X X X W X H X X H X W X U X Y U X W Y X X X Y U' / ' X \ Y X W X X W Y U' / ' Defjme í vektorovo lopcovo matc předpověd Y [ ; ; K; ] Y X Rezdálí očet čtverců odchlek je pak dá vztahem: R Y Y ' Y Y Y' Y ' U R Y Y ' W Y Y Y' W Y ' U R δ Y da XH X p 7 3 Základí rereí model - Aplkace MNČ Náledje ěkolk praktckých příkladů aplkace proté oecé metod ejmeších čtverců které mají ltrovat způo jak e má MNČ požívat okd tto příklad ěkom přpado jako trválí pak e emýlí eoť jde o záměr řadě příkladů do výhodo požt ěkteré tředí velč které zde zavedeme Artmetcký průměr velč a :

8 8 S S Dále tředí hodot oč velč a v růzých mocách: l m l m l m l m S kde m a l jo celá ezáporá číla Užtečé je též zavedeí tzv rozptl a a měrodatých odchlek a oor velč a a mír korelace mez m Bezrozměrý koefcet korelace r: r Lze kázat že koefcet korelace r aývá hodot mez - a přčemž je rove tehd kd mez velčam a eetje žádá leárí korelace ± je rove tehd kd jo všech hodot { } lože a jedé přímce 3 Středí hodota velč e tejo váho MNČ Navědčje-l měřeí dvojc { } tom že mez a eetje žádá závlot a že hodota je v mezích ch ejpíš kotatí potavíme rereí model takto: e + Optmálí hodot př íž je ma kvadrátů odchlek e mmálí azveme tředí hodoto Najdeme j mmalzací fkcoál S: + + S Grafem fkce je paraola mmem v od přčemž mmem R S : R I kdž mmalzac fkce S lze vpočítat přímo zkme í ze cvčých důvodů všech potřeé vztah odvodt pomocí matcových vztahů ] ; ; ; ; [ ;] ; [ 3 K K Y X X Y U X X H X X Jak patro kde e v důležtých velčách evktjí velč tdíž a ch ezáleží a moho aývat lovolo hodot

9 9 H U X X X Y U'/ ' Středí hodota podle MNČ je ted přímo rova artmetckém průměr R Y Y X Y R σ σ σ δ σ da H δ p 3 Středí hodota velč etejo váho OMNČ Staoveí tředí hodot velč etejo váho je ejjedodšší úloho řeštelo OMNČ ředpokládejme že máme trojc velč { } kde je váha -tého měřeí velč a ezávlá velča a jejíž velkot však v tomto případě jak ezáleží Rereí model de týž jako v případě A + e Optmálí hodot př íž je ma váhovaých kvadrátů odchlek e mmálí azveme tředí hodoto Najdeme j mmalzací fkce S: S I kdž mmalzace je v tomto případě jedodchá operace opět vžjeme matcových vztahů [ ; ; ; K ] da[ K ] X oe Y 3 W [ K ] Y [ K ] X W W X W X H X W X U X W Y X W X X W Y H U Středí hodota podle OMNČ je ted přímo rova váhovaém artmetckém průměr F R Y W Y X W Y R σ σ σ δ σ H δ σ [ H ] Za povšmtí jtě tojí že vztah pro δ a δ jo formálě tejé jako v případě A kd e tetýž prolém řešl pro tejé váh Rozdíl ovšem je v tom jak jo defová tředí velč z chž e př výpočt vchází

10 33 římka jdocí počátkem I MNČ Oča e můžeme etkat e tací kd je jede eo více odů závlot pevě fováo Z této ktečot míme př volě rereího model vcházet Nejjedodšším příkladem toho drh je aše očekáváí že odů o ořadcích [ ] e tejým váham lze proložt přímko jdocí odem o ořadcích [ ] eol počátkem Rereí model je pak: + e Optmálí hodot př íž je ma kvadrátů odchlek e mmálí azveme tetokrát tředím koefcetem úměrot [ ; ; K ; ] [ ; ; ; K ] X Y ; 3 3 XX H XX U XY U U p R YY XY R σ σ δ σ H δ p σ H σ ozámka: okme vpočítat koefcet úměrot jak Uvažme že pomocí každé z dvojc lze vpočítat dvdálí koefcet úměrot : / a tředí koefcet úměrot který í ozačíme ' pak lock měl ýt rove artmetckém průměr jedotlvých : Jak patro teto vztah e od výše vedeého vztah pro hodot tředího koefcet úměrot lší a žádo z dovoleých matematckých operací elze tto dva vztah ztotožt Jak to vvětlt? větleí ple z předpoklad a ěmž je protá MNČ potavea: rozptl měřeí od reálého průěh daého fkčí závlotí má povah áhodé velč a zejméa jak ezáví a hodotě další měřeé velč Je-l tato podmíka plěa pro mož měřeí { } pak ovšem emůže ýt plěa pro velč / jejíž očekávaá epřeot je epřímo úměra hodotě Růzě velko očekávao epřeot je třea v OMNČ ocet růzým ováhovaím odů kd váha jedotlvého od - - de epřímo úměra kvadrát očekávaého rozptl měřeí čl v tomto případě měla ýt úměra oložme proto přímo že Artmetcký průměr z mož e započítáím jejch dvdálích vah e vpočte podle vztah:

11 34 římka jdocí počátkem II OMNČ Oprot případ C deme avíc předpokládat že každém z odů měřeí o ořadcích [ ] de přozea rčtá dvdálí váha řevědčete e am že pokd deme počítat e tředím vážeým velčam a jejch oč pak vztah pro tředí koefcet úměrot tředí vážeo kvadratcko odchlk jedoho měřeí σ cha koefcet δ a cha předpověd δ do formálě tejé jako v případ Oecá přímka OMNČ Sad ejěžější úloho íž e př zpracováí pozorováí můžeme etkat je jak zjtt parametr předpokládaé leárí závlot mez velčam a eo jak proložt od v raf přímko Rereí model je zřejmý: e + + α římka echť je prokládáa od o ořadcích [ ] přčemž každém z odů je přozea jeho dvdálí váha Řešeím úloh je alezeí takové dvojce parametrů a a pro ěž je ma váhovaých čtverců odchlek Sα mmálí: + S α α O M M M W Y X W X X H W Y X U W X X r a a + U H kde r je korelačí koefcet ] [ ] [ a a +

12 řevědčte e že platí: což jým lov zameá že rereí přímka prochází těžštěm R Y W Y X W Y a σ R a σ σ δ σ H δ a σ H δ Nejtota měrce přímk ted ezáví a mítěí počátk zatímco cha aoltího čle a ao Mmálí je tato cha v případě kd počátek ořadc ztotožíme těžštěm Cha pak de δ a σ Cha předpověd fkčí hodot v odě - δ - je dáa vztahem: δ σ σ [ H ] + díme že podle očekáváí je cha předpověd mmálí v olat v těé lízkot těžště ve velkých vzdáleotech od ěj je amptotck přímo úměrá této vzdáleot Aoltí čle a lze eometrck terpretovat jako úek a oe který a í vtíá rereí přímka Nerčtot poloh tohoto průečík dává cha předpověd δ v odě Číelě tato cha je rova chě aoltího čle tak jak jej dává výše vedeý vztah pro δa ozámka: Doporčj ještě před výpočtem provét traformac závlé proměé tak že je deme vztahovat k jejch tředí vážeé hodotě: t Traformace ovlví je aoltí čle a δ a σ / σ t + t δ + Tímto potpem e výrazě omezí vlv zaokrohlovacích ch př výpočt a zvýší e tak přeot a polehlvot výledk 4 Úloha roložte přímk těmto dat {} a vpočtěte její parametr: a Tak a procházela počátkem Oeco přímko dktjte přtom zda eí model a lepší

13 c Zaměňte závlo a ezávlo proměo a výledek porovejte Dokažte že poměr měrc za těchto okolotí je rove r! d Řešte vše pro tac vaham a ez ch ýledk porovejte e Zkte proložt závlot polomem vššího tpě a dktjte oprávěot toho rereího model f krelete raf od proložeo přímko a ejtoto proložeí p ±δ p 3 3

14 4 5 Řešeí úloh a římka jež prochází počátkem: 6; 97±8 Oecá přímka ezávlá proměá: ; 5± + 9±7 r 78 model a je zřejmě lepší c Oecá přímka ezávlá proměá: 93; 7±8 + 69±3 r 78 Odmoca poměr měrc qrt9*69 78 je rova r d Stace vaham 4

15 5 římka jež prochází počátkem: 98; 99±8 Oecá přímka ezávlá proměá: 98; 5± + 9±7 r 8 model a je tejě dorý Oecá přímka ezávlá proměá: 85; ±8 + 76±3 r 8 Odmoca poměr měrc qrt9*76 8 je rova r e roložeí polomem tpě je ezávle proměá evážeo: -4±4 + 43±63 53±6 ; proložeí polomem 3 tpě: 4 ± + -5±97 + 3±44 3±7 3 f krelete raf od proložeo přímko a ejtoto proložeí p ±δ p 5