Modely veličin spojitých v čase funkce spojité v čase Binární matematické operace konvoluce a korelace

Transkript

1 Modly vličin spojiých v čas funkc spojié v čas Binární mamaické oprac konvoluc a korlac Základní informac Na konvoluci lz nahlíž jako na nudnou mamaickou opraci mzi dvěma funkcmi s jjími vlasnosmi a zákoniosmi. ak j o asi nzbyné při jjím uvdní a dfinici, kré nás v éo kapiol čkají. Na druhé sraně, konvoluc má významnou až nzasupilnou pozici při analýz vlasnosí linárních sysémů. O om al až přijd n správný čas, až bud známo vš co j pro práci s linárními sysémy řba. K pochopní dfinic konvoluc a jjího gomrického významu pomohou příklady, krých s čnář v éo kapiol dočká. Pokud s ýká korlac, čnář j npochybně sznámn (pokud ak nní, měl by o rychl dohna) s výpočm a významm korlačních koficinů mzi dvěma náhodnými vličinami, přdvším Parsonova korlačního koficinu. Korlační funkc, kré jsou v éo výukové jdnoc zavdny, zobcní Parsonův korlační koficin na časovou závislos dvou funkcí v čas. Výsupy z výuky. sznámi s s dfinicí a gomrickým významm konvoluc dokáza spočía konvoluci zadaných funkcí sznámi s s dfinicí korlačního koficinu, korlační funkc, auokorlační funkc, kovarianční funkc a umí vysvěli vzahy mzi nimi umě vypočía konvoluci, rsp. korlaci dvou či jdné funkc a inrprova výsldk.

2 Konvoluc Pokud pominm akové lgrační oprac, jako jsou souč a součin, či jiné lmnární binární, např. logické oprac s binárními funkcmi, j základní oprací, pracující s dvěma funkcmi, používanou v orii signálů a sousav konvoluc. V éo kapiol s sznámím s jjí dfinicí a někrými jjími vlasnosmi, jjí bzprosřdní prakický význam pro sysémovou orii vyplyn až z kapiol zabývajících s popism linárních sysémů. Dfinic.: Konvoluc j mamaická oprac mzi dvěma funkcmi () a () éhož argumnu dfinovaný v případě spojiých funkcí ingrálm () () () ( ). ( ).d, kd funkc () s časo nazývá konvoluční jádro. (.) Funkci (), jž j výsldkm konvoluc, lz považova za njádrovou funkci vsupující do konvolučního vzahu (zpravidla ()) modifikovanou vlasnosmi konvolučního jádra ( ()). Jak vyplývá hnd z dál uvdného komuaivního zákona, význam obou vsupních funkcí lz bz jakýchkoliv násldků zaměni. Význam konvoluc lz vníma jšě i jinak jako váhovaný průměr funkc () v čas, přičmž váhování j dáno funkcí (-) posunuou o čas. Přsož v konu ěcho učbních ů vnímám proměnou jako čas, můž bý ao proměnná obcně jakéhokoliv charakru. Konvolučního vzahu s používá njn v oblasi zpracování signálů (funkcí), či jak posléz nahlédnm časových řad, nýbrž i v orii pravděpodobnosi, saisic, počíačovém vidění a jiných chnických oborch. Pro konvoluci plaí násldující zákony: komuaivní zákon Důkaz: () () () () () (). (.) ( ). ( ).d (u). ( u).du d du () u u (). (.) disribuivní zákon () () + () () () + () () (.4) [ ] asociaivní zákon () () () () () () (.5) zákon o posunu v čas [ ] [ ] J-li () () c(), pak () ( ) c( ), ( ) () c( ) (.6) konvoluc (la. convoluus com s-, volvr vali, vál, oáč) sočný, sbalný, ovinuý.

3 a ( ) ( ) c( ). Gomrický význam konvoluc Jak vyplývá z dfiničního vzahu, j konvoluc rovna hodnoě určiého ingrálu z součinu dvou funkcí, z nichž jdna srvává v své pozici a druhá (konvoluční jádro) j invrována vzhldm k svému argumnu (času) a posouvána o hodnou, krá odpovídá argumnu funkcí, pro krý j výpoč prováděn (obr..). Obr.. Gomrický význam konvoluc Při výpoču j pořba si uvědomi, ž ingrační proměnná v dfiničním konvolučním vzahu j, proměnná j pouz paramrm. V příkladu na obr.. jsou ři charakrm odlišné úsky: a) kdy j součin funkc () a posunué funkc ( ) nulový ( < ) b) konsanní ( > ) c) proměnný ((, )). Proměnná čás s v omo případě řídí kvadraickou závislosí, jak si čnář jisě snadno vypočíá ingrací součinu linární funkc s konsanou. Příklad.: Urč konvoluci c() funkcí () a () podl obr...

4 Řšní: Pro řšní ohoo zadání použijm druhé variany dfiničního konvolučního vzahu, j. výrazu c( ), () () ( ). ( ).d. V om případě s výpoč konvoluc rozdělí podl vzájmné polohy obou funkcí na násldujících pě případů podl hodno paramru : < součin obou funkcí j v omo případě nulový, dy i plocha vymzná ímo součinm a konvoluc j rovna nul (obr..a), plocha součinu j vymzna průběhm funkc () v inrvalu od a polohou horní, j. ssupné hrany funkc ( + ), určné hodnoou + (obr..b,c) hodnoa konvolučního ingrálu j c() 4, +. ( + ) () () ( ). ( ).d.d (.8) 6, v omo inrvalu j plocha součinu ohraničná opě funkcí (), nokrá a v daném konkréním případu v inrvalu od do + (obr..c,d) c( ), ( ) ( ). ( ) ( 8) ( ). d (.7) ( + ) ( ) ( ). d (.9) 6 + Obr.. Konvoluc zadaných funkcí, 4 plocha součinu j nnulová v inrvalu od vzsupné hrany funkc (-+), krá j na pozici, do ssupné hrany funkc (), j. (obr..), dy plaí 4

5 > 4 součin obou funkcí j opě nulový, proo i konvoluční ingrál. Výsldný průběh konvoluc obou funkcí daný výš vypočíanými dílčími průběhy j uvdn na obr..f. Šířková vlasnos konvoluc Pokud jsou doby rvání (šířky, j. doby, kdy jsou hodnoy funkcí různé od nuly) funkcí () a () končné, např. v případě funkc () a pro () j doba rvání konvoluc obou funkcí rovna + (obr..). Konvoluc funkc s jdnokovým impulzm a Obr.. Konvoluc dvou obdélníkových impulzů délky Výsldkm konvoluc funkc () s jdnokovým impulzm j funkc (). Důkaz: Z dfinic konvoluc vyplývá, ž ()* δ() ( ). δ( ) d. (.) Proož δ( ) rprznuj jdnokový impulz pro, podl vzorkovací vlasnosi jdnokového impulzu j ingrál v vzahu (.) rovn hodnoě () v, j. (). Proo () * δ () (). (.) 5

6 Kauzalia Kauzalia j vlasnos spíš sysémová, v případě funkcí vyplývá až z podsay kauzálních sysémů. Dfinic.: Kauzální j akový sysém, jhož výsup v každém časovém okamžiku závisí pouz na průběhu vsupní funkc () pro. Jinými slovy, hodnoa výsupu sysému v každém okamžiku závisí pouz na vsupu v daném okamžiku a jho průběhu v minulosi, nikoliv na budoucích hodnoách vsupní funkc. Sysém, krý no požadavk nsplňuj, nazývám nkauzální, příp. anicipaivní. Nbo jšě jinak, sysém j kauzální, pokud s výsup sysému nobjví dřív, nž j na vsup přivdna vsupní funkc. Všchny rozumné rálné sysémy jsou sysémy kauzální. Zpracovávané vličiny (a samozřjmě i funkc jako jjich mamaické modly) zpravidla začínají v určiém rfrnčním okamžiku, krý nazývám počákm časové osy. Jako kauzální funkc zprosřdkovaně označujm Obr.. Vzájmné pozic dvou kauzálních funkcí při akové funkc, pro kré plaí () výpoču konvoluc pro < (obr..). Z oho plyn, ž j možné pro kauzální funkc změni ingrační mz v dfiničním vzahu pro konvoluci na Důvody snad názorně plynou z obr... () () ( ). ( ).d. (.) Příklad.: Graficky odhadně a vypočíj průběh konvoluc dvou obdélníků o jdnokové výšc, když: a) délka druhého obdélníka j čvrina délky prvního obdélníka b) délka druhého obdélníka j polovina délky prvního obdélníka c) oba obdélníky mají uéž délku d) délka druhého obdélníka j dvojnásobkm délky prvního obdélníka. Skryé výsldky: Obr.. Kauzální funkc kauzální (la. causalis) příčinný, vázaný na příčinu kauzalia znamná vzah mzi příčinou a jjím násldkm, vyjadřuj siuaci, kdy jdn jv vyvolává druhý, popřípadě s oba vzájmně podporují 6

7 7 a) + jind. 4 5, pro 4 5 4, pro 4 4, pro () ()* b) + jind., pro, pro, pro () ()* c) + jind., pro, pro () ()* d) + jind., pro, pro, pro () ()*

8 Z všch dílčích zadání ohoo příkladu vyplývá, ž čím kraší j doba rvání jdné z obou obdélníkových funkcí vsupujících do konvolučního vzahu (při zachování doby rvání druhého rfrnčního z obdélníků) ím osřjší jsou přchody mzi jdnolivými úsky výsldného průběhu. V liminích případch, krými jsou (a) nkončně kráký obdélník (idálně jdnokový impuls) a (b) nkončně dlouhý obdélník (idálně jdnokový skok) j výsldný var konvolučního výsupu: (a) var prvního rfrnčního obdélníku () (podl vzahu (.)) (b) po násupním linárním nárůsu po dobu rvání rfrnčního obdélníku () s hodnoa konvoluc usálí na konsanní úrovni rovné ploš obdélníka (). Příklad.: Urč konvoluci funkcí: a) () - a () σ(). Výsldk: () pro < pro 8

9 b) () - a () σ(-). Výsldk: c) () σ(-)a () σ(+). Výsldk: () pro < pro pro < pro. () 9

10 Korlac Slovo korlac obcně znamná vzájmný vzah, souvzažnos mzi dvěma znaky, vličinami, objky, ději. Jsou-li dvě vličiny korlovány, pak pokud s jdna vličina mění, přiměřně s mění, dl míry souvzažnosi, i vličina druhá. Obcný pojm al nvyjadřuj ani kvaliu vzahu (např. zda j linární, nbo nlinární, zda j přímo či npřímo úměrný, apod.), ani kvaniu míru vzájmného vzahu. Nlz ani posoudi orinaci éo vzájmnosi, j. krá vličina závisí na druhé, kd j příčina a kd důsldk případných změn o řší kauzalia. Mamaika, rsp. saisika vnímá korlaci v o něco užší smyslu jako linární vzah mzi dvěma vličinami, či procsy a za ohoo přdpokladu umí sanovi i míru ohoo vzájmného vzahu.. Korlační koficin Míru korlac mzi hodnoami dvou saických 4 vličin (vkorů) určujm pomocí korlačních koficinů. Způsob jjich výpoču závisí na charakru vličin, jjichž vzah zkoumám. V případě, ž vličiny X a X jsou náhodné kvaniaivní vličiny, pak pro dvojic ralizací (, ), (, ),, ( N, N ) j hodnoa zv. Parsonova korlačního koficinu dána vzahm ρ P, cov(x,x ) E((X µ σ σ σ X X X X )(X σ X µ X )) n i ( i µ X )( n n (,i µ X) i i,i ( µ,i X µ ) X ). (.) Díky sandardizaci vzhldm k sandardní odchylc s hodnoy Parsonova korlačního koficinu pohybují v inrvalu -. Obě mzní hodnoy znamnají přsný linární vzah. P V případě ρ s jdná o npřímou závislos, j. s růsm hodno jdné z proměnných,, + P hodnoy druhé proměnné klsají (funkční vzah má zápornou směrnici), pro ρ j úměra přímá, s růsm hodno jdné proměnné rosou hodnoy i druhé proměnné (funkční vzah má kladnou směrnici). V případě, ž vličiny mají vzájmné dvourozměrné normální rozložní, pak nulová hodnoa korlačního koficinu znamná i nzávislos obou vličin. Pokud al b) a) Obr.. Příčiny možného nadhodnocní Parsonova korlačního koficinu a) vlivm odlhlých hodno b) vlivm shluků no přdpoklad nní splněn (a nuno říci, ž v prai s no přdpoklad n vždy ověřuj), pak o obou vličinách nmůžm říci víc, nž jn, ž jsou nkorlované. korlac (la. corrlaio laio nsní, poskyování rlaio nsní zpě, odnášní, opakování, zpráva, vzah, poměr) vzájmný vzah, souvislos 4 Saická daa nzávisí na čas, ani na žádné další vličině pořadí, v jakém jsou sřazna, nní v jádru důlžié daa njsou zv. uspořádaná. Popisují určiý objk, jhož sav s nmění, nbo jhož změny njsou z hldiska analýzy podsané. ypickým příkladm jsou např. pacinské rgisry, nbo soubory popisných da, kré slouží k klasifikaci roslin nbo živočichů, příp. pacinské záznamy, na základě krých s sanoví diagnóza.

11 Hodnoy Parsonova korlačního koficinu mohou bý nsplněním přdpokladu o vzájmné dvourozměrné normaliě náhodných vličin X a X npříznivě ovlivněny (nadhodnocny), např. při příomnosi odlhlých hodno, pokud jsou daa rozdělna do shluků, nbo i vlivm další skryé vličiny (obr..9). Eisují i další způsoby posouzní, rsp. kvanizac vzájmného vzahu dvou náhodných vličin pro různé podmínky, příp. vlasnosi primnálních vličin. Zd však vysačím s uvdným Parsonovým koficinm, proož s ním j možné srovna způsob hodnocní dynamické vazby časově proměnných vličin.. Korlační funkc Výsldk výpoču korlačního koficinu j skalár a j proo vhodný pro posouzní korlac dvou saických vličin. Pokud chcm zkouma, jak s vlikos korlac mění v čas u dynamických da, j pořba použí jinou, funkční formu popisu korlac. akovou možnos poskyuj zv. korlační funkc (, ), krá j mírou souvzažnosi mzi hodnoami ralizac () náhodného procsu ξ v okamžiku a hodnoami ralizac () náhodného procsu ξ v okamžiku. V souladu s dfinicí Parsonova korlačního koficinu j korlační funkc dfinována vzahm, E (, ) [( ( ) µ )( ( ) µ )] σ σ V oblasi zpracování signálů, rsp. časových řad s daa časěji používají bz sandardizac, j. bz odčíání sřdní hodnoy a dělní směrodanou odchylkou. V om případě a dál za přdpokladu sacionariy a rgodiciy obou náhodných procsů ξ () a ξ () a jim odpovídajícím rálným ralizacím () a (), j odhad vzájmné (křížové) korlační funkc (cross-corrlaion funcion) určný z nkončného časového inrvalu závislý pouz na rozdílu obou časových okamžiků a j dfinován vzahm (.), ( ) lim ( ). ( + ) d lim Obr.. Příklad průběhu korlační funkc pro dvě sjně široké obdélníkové funkc ( ). ( + ) d, 5 (.) kd j doba pozorovaného časového inrvalu. Podobné vlasnosi má zv. kovarianční funkc, krá s od korlační liší pouz ím, ž hodnoy obou procsů jsou cnrovány pomocí sřdních hodno µ a µ daných ralizací () a (). J dfinována vzahm 5 V odborné lirauř s časo liší dfinic korlační funkc v znaménku přd argumnm v funkci v ingrálu na pravé sraně výrazu. ao difrnc znamná, ž s dfinic liší v vnímání posunu druhé funkc v čas. J-li >, pak výraz ( + ) rprznuj posun funkc směrm k záporným hodnoám času (viz kap..4.) a výraz ( ) posun funkc směrm k kladným hodnoám času. Jak posléz uvidím, z hldiska auokorlační či auokovarianční funkc, kré jsou sudé, nmá volba znaménka na výsldný průběh žádný vliv, z hldiska vzájmné korlační, rsp. kovarianční funkc rprznuj volba znaménka invrzi časové osy výsldné funkc. o samozřjmě můž způsobova ndorozumění v inrpraci výsldků, proo j řba bý si vědom éo skučnosi a volby. Proož s variana s kladným znaménkm vyskyuj časěji, dávám v omo u přdnos éo varianě.

12 C, ( ) lim lim ( () µ )( ( + ) µ ) ( () µ )( ( + ) µ ) d. d Pokud s zajímám o dynamiku vzahu mzi úsky jdné ralizac náhodného procsu, u lz posoudi na základě znalosi zv. auokorlační funkc, jjíž odhad pro rgodický procs ξ() s ralizací () lz pro případ s spojiým časm urči podl vzahu (.4) ( ) lim ()( )d, + (.5) rsp. auokovarianční funkc dfinované jako J zřjmé, ž hodnoy korlační, rsp. kovarianční funkc počíané pomocí uvdných liminích výrazů jsou za přdpokladu, ž j hodnoa ingrálu v obou dfiničních vzazích končná, nulové. Proo s v om případě používají pro urční obou funkcí pouz výrazy rsp. C ( ) lim ( () )( ( ) ) d. µ + µ (.6) ', ( ) () ( + )d, (.7) ( () µ )( ( + ) µ ) d, C', ( ) (.8) kré al vyjadřují pouz rlaivní míru vzájmnosi obou funkcí v závislosi na jjich vzájmném posunu. oéž samozřjmě plaí i pro auokorlační a auokovarianční funkci. Nkončné ingrační mz jsou určiě orickou zálžiosí, při zpracování rálných da jsou k dispozici vždy jn končné úsky zpracovávaných vličin. Pak nzbývá nž průběh korlační či kovarianční funkc odhadnou z oho, co j k dispozici. dy pro odhad vzájmné korlační funkc dvou proměnných j ˆ, ( ) (). ( )d, + (.9) kd j končná doba rvání známého úsku da. Principu korlační funkc lz použí i pro drminisické, zjména priodické funkc. I v om případě hodnoa korlační funkc dfinuj míru podobnosi obou funkcí v závislosi na jjich vzájmném posunuí. Pokud uvažujm dva priodické průběhy s ouéž priodou, j korlační funkc priodická s ouéž priodou. Vzájmná či křížová korlační funkc dvou priodických funkcí () a () o éž priodě j dfinována vzahm ( ) () ( + ) d (.) a kvivalnně auokorlační funkc priodické funkc () j ( ) ()( )d. + (.)

13 Navzdory skučnosi, ž jsou pravé srany v výrazch (.9) a (.) sjné, díky priodičnosi funkcí () a () v vzahu (.) přdsavuj no vzah výpoč skučného průběhu korlační funkc, zaímco vzah (.9) pouz odhad. Auokorlační i auokovarianční funkc jsou sudé, pro všchny rálné hodnoy posunu j () (), sjně ak jako C() C() a () j rovna výkonu funkc, rsp. C() výkonu variabiliy dané funkc. V případě, ž j zkoumaná funkc priodická, j jjí auokorlační (auokovarianční) funkc rovněž priodická s ouéž priodou. Příklad.: Urč průběh auokorlační funkc pro () a.σ(), kd σ() j jdnokový skok. Přdpokládjm, ž >. Ověř, jaký vliv na průběh výsldné auokorlační funkc má alrnac znaménka v druhém člnu dfiničního vzahu pro výpoč auokorlac. Řšní: Ingrál a. σ() j končný, proo budm auokorlační funkci počía podl vzahu d a a(+ (. σ() )(. σ( + ) ) (.) ) ˆ ' ( ) ()( + )d d (.) Abychom si výpoč rochu usnadnili, připomňm si, ž jdnokový skok j dfinován vzahm, pro < σ( ), pro. Proož >, plaí pro posunuý jdnokový skok, pro < σ( + ) (.4), pro. Z ěcho dvou dfinic plyn, ž pro součin obou jdnokových skoků (posunuého i nposunuého) j, pro < σ( ) σ( + ) (.5), pro. o končně znamná, ž výpoč ingrálu v vzahu (.) můž bý formulován ˆ ' ( ) a a a a(+) a d a d a.. a a a [ ] ( ). a a a d Uvažm ď alrnaivu výpoču auokorlační funkc podl vzahu o znamná, ž j a (.6) ˆ ' ( ) ()( ) d (.7) a a( (. σ() )(. σ( ) ) ) ˆ ' ( ) ()( )d d (.8) V om případě pro součin obou jdnokových skokových funkcí (posunué i nposunué) j

14 , pro < σ( ) σ( ) (.9), pro a výpoč ingrálu z (.8) j a ˆ ' a ( ) a a.d a a( ) d a a a a a [ ] ( ). a. a. a d a (.) Oba výsldky nám na konkréním příkladu dmonsrovaly konsaování o sudosi auokorlační funkc, proož oba získané výsldky jsou sjné bz ohldu na volbu znaménka v dfiničním vzahu pro výpoč korlac. Příklad.: Vypočě průběh vzájmné korlační funkc funkcí () cos(π) a () 4sin(π). Ověř, jaký vliv na průběh výsldné korlační funkc má alrnac znaménka v druhém člnu dfiničního vzahu. Řšní: Proož argumny obou harmonických funkcí jsou π ω πf π π, mají obě harmonické funkc uéž priodu [časové jdnoky]. dy Pokud by byla korlační funkc dfinována pomocí vzahu pak j ( ) cos( π).sin sin( π)d + ( ) cos( π).sin sin( π)d + () ( π( + ) ) ( π( + ) ) d [ sin( π) + sin( π + π) )] sin () ( + )d cos( π).4sin d d ( π + π) ) d sin( π)[] + sin( π). ( ) () ( )d, ( π( ) ) ( π( ) ) d [ sin( π) + sin( π π) )] sin ( )d cos( π).4sin d d ( π π) ) d sin( π)[] + sin( π). (.) (.) 4

15 Obr.. a) Harmonické funkc dl zadání příkladu, b) výsldná korlační funkc nokrá s oba výsldky liší v znaménku a pro oba případy j hodnoa korlační funkc pro rovna nul. V podsaě s pro daný konkréní případ vypočná vzájmná korlační funkc jví jako lichá (pozor - nlz zobcni). Pokusm s pomocí obr.. no rozdíl alspoň zhruba inrprova. Při výpoču korlační funkc pomocí vzahu s s + dochází při > k posunu funkc sin směrm k mnším hodnoám na časové os (vlvo). o znamná, ž podobnos obou křivk posunm z výchozího posavní njdřív ros. Proož funkc sin(π) s nárůsm hodnoy aké njdřív ros, odpovídá o očkávanému nárůsu hodnoy korlac. Při výpoču korlační funkc pomocí vzahu s s - dochází při > k posunu funkc sin směrm k věším hodnoám na časové os (vpravo). o znamná, ž podobnos obou křivk posunm z výchozího posavní njdřív klsá. Proož funkc sin(π) s nárůsm hodnoy od nuly njdřív ros, odpovídá o očkávanému poklsu hodnoy korlac vyjádřné funkcí sin(π). Příklad.: Urč hodnou auokorlační funkc pro () cos(ω) a korlační funkc pro () cos(ω) a () cos(kω), kd k j clé číslo, pro. Řšní: Funkc cos(ω) j priodická, auokorlační funkci proo budm počía podl vzahu (.). J dy ( ) cos( ω) cos( ω + )d cos( )d + cos( ) cos( ) [ ] + a pro bud (),5. Pro žádanou korlační funkci bud cos(ω + )d ( ) cos( ω) cos(kω + )d cos[(k ) ω ]d + cos[(k + ) ω + ]d. Proož oba získané výrazy ingrujm přs priodu funkc cos(ω), kd ω π a frkvnc druhé funkc j dána cločíslným násobkm frkvnc první funkc, jsou oba dílčí ingrály rovny nul, dy j i (). Pokusím-li s zobcni yo výsldky, pak můžm konsaova, ž hodnoa korlační funkc priodické funkc s jádrovou harmonickou funkcí s sjnou priodou pro nabý- 5

16 vá nějaké, obcně nnulové hodnoy (jjí vlikos zaím nrozbírjm). Pokud budm počía hodnou korlac mzi priodickou funkcí a jádrovou harmonickou funkcí, jjíž frkvnc j rovna cločíslnému násobku frkvnc dané priodické funkc, pak korlační funkc a ím i jjí hodnoa pro j nulová. 6