ANAÝZA A KASIFIKACE DAT pof. Ing. Jiří Holčík, CSc. INVESTICE Intitut DO biotatitiky OZVOJE VZDĚÁVÁNÍ a analýz
III. BAYESŮV KASIFIKÁTO Intitut biotatitiky a analýz
Intitut biotatitiky a analýz ZÁKADN KADNÍ POJMY A P POJMY A PŘEDPOKADY EDPOKADY při řešení paktických úloh je třeba předpokládat, že obazy ignálů jou ovlivněny víceméně náhodnými fluktuacemi zdoje ignálu, v přenoové cetě, při předzpacování i analýze, kteé e nepodaří zcela eliminovat. ztátová funkce udává ztátu při chybné klaifikaci obazu ze třídy do třídy. matice ztátových funkcí třední ztáta Ja udává půměnou ztátu při chybné klaifikaci obazu M O M M
KITÉIUM IUM MINIMÁN NÍ STŘEDN EDNÍ ZTÁTY TY pokud e outředíme na obazy pouze ze třídy, je třední ztáta dána půměnou hodnotou z d,a vzhledem ke všem obazům ze třídy, tj. J a d, a.p d kde p je podmíněná hutota pavděpodobnoti výkytu obazu ve třídě Intitut biotatitiky a analýz
KITÉIUM IUM MINIMÁN NÍ STŘEDN EDNÍ ZTÁTY TY Celková třední ztáta Ja je půměná hodnota ze ztát J a J a J a.p d, a.p d nebo podle Bayeova vzoce P.p p.p J a d, a kde p je hutota pavděpodobnoti výkytu obazu v celém obazovém potou a P je podmíněná pavděpodobnot, že daný obaz patří do třídy tzv. apoteioní pavděpodobnot třídy..p.p.p d Intitut biotatitiky a analýz
KITÉIUM IUM MINIMÁN NÍ STŘEDN EDNÍ ZTÁTY TY Návh optimálního klaifikátou, kteý by minimalizoval třední ztátu, počívá v nalezení takové množiny paametů ozhodovacího pavidla a*, že platí J a* minj a Doadíme-li za Ja z předchozího vztahu, je J a* min d, a a Je-li ztátová funkce kontantní po všechny obazy z,je dále J a* min a.p.p.p.p d d Intitut biotatitiky a analýz
KITÉIUM IUM MINIMÁN NÍ STŘEDN EDNÍ ZTÁTY TY Označíme-li ztátu při klaifikaci obazu do třídy.p.p tak po doazení dotaneme J a* min d Úloha nalezení minima celkové třední ztáty e tak převedla na minimalizaci funkce. Optimální ozhodovací pavidlo d,a* podle kitéia minimální celkové třední ztáty je d, a* min ME Intitut biotatitiky a analýz
KITÉIUM IUM MINIMÁN NÍ STŘEDN EDNÍ ZTÁTY TY Chceme-li využít pincipu dikiminačních funkcí Dikiminační funkci optimálního klaifikátou podle kitéia minimální chyby pak definujeme g min ma.p.p Intitut biotatitiky a analýz
KITÉIUM IUM MINIMÁN NÍ STŘEDN EDNÍ ZTÁTY TY DICHOTOMICKÝ KASIFIKÁTO Celková třední ztáta v případě dvou tříd je J a +.P.P.P.p. α + p p.p.p d +.d +.d +. β +.P.P.P.p p p. α +.P.d +.d d.p β Intitut biotatitiky a analýz
KITÉIUM IUM MINIMÁN NÍ STŘEDN EDNÍ ZTÁTY TY DICHOTOMICKÝ KASIFIKÁTO Dikiminační funkce po dichotomický klaifikáto bude + g.p.p g.p.p + +.p.p.p.p.p.p +.p.p g Položíme-li tento výaz nule dotaneme vztah po haniční plochu dichotomického klaifikátou, ze kteého můžeme učit pomě hutot pavděpodobnoti výkytu obazu v každé z obou klaifikačních tříd - věohodnotní pomě p.p Λ p.p Obaz zařadíme do třídy, když je věohodnotní pomě větší než výaz na pavé taně, je-li menší pak obaz zařadíme do třídy. + Intitut biotatitiky a analýz
VĚOHODNOSTNÍ POMĚ I. Sumaizuje veškeou infomaci zíkanou epeimentem. Pavděpodobnot, že jev data natane za daných podmínek hypotéza děleno pavděpodobnotí, že tejný jev natane za jiných podmínek. Podmínky jou vzájemně e vylučující. Intitut biotatitiky a analýz
VĚOHODNOSTNÍ POMĚ II. Věohodnotní pomě likelihood atio udává podíl pavděpodobnoti, že e vykytne nějaký jev A za učité podmínky jev B, k pavděpodobnoti, že e jev A vykytne, když podmínka neplatí jev nonb. Má-li například pacient náhlou ztátu paměti jev A, chceme znát věohodnotní pomě výkytu jevu A vpřípadě, že má mozkový nádo jev B, tj. podíl pavděpodobnoti, jakou ztáta paměti vzniká při nádou mozku, k pavděpodobnoti, jakou vzniká v otatních případech. Věohodnotní pomě je tedy podíl podmíněných pavděpodobnotí PA B PA nonb Intitut biotatitiky a analýz
KITÉIUM IUM MINIMÁN NÍ PAVDĚPODOBNOSTI PODOBNOSTI CHYBNÉHO HO OZHODNUTÍ Díky obtížnému tanovení hodnot ztátových funkcí e kitéium minimální chyby zjednodušuje použitím jednotkových ztátových funkcí definovaných Matice jednotkových ztátových funkcí má pak tva a celková ztáta je J a 0 M 0 po po což je hodnota pavděpodobnoti chybného ozhodnutí. 0 M X - O M 0 p.p d Intitut biotatitiky a analýz
KITÉIUM IUM MINIMÁN NÍ PAVDĚPODOBNOSTI PODOBNOSTI CHYBNÉHO HO OZHODNUTÍ Doadíme-li hodnoty jednotkových ztátových funkcí do vztahu po ztátu při klaifikaci obazu do chybné třídy p.p p.p p.p a využitím Bayeova vztahu p P p.p p nezávií na klaifikační třídě a tedy neovlivňuje výbě minima. Dikiminační funkci tedy můžeme učit jako g p.p p p.p Intitut biotatitiky a analýz
KITÉIUM IUM MINIMÁN NÍ PAVDĚPODOBNOSTI PODOBNOSTI CHYBNÉHO HO OZHODNUTÍ V případě dichotomického klaifikátou je dikiminační funkce g p.p p.p A věohodnotní pomě je potom Λ p p P P Intitut biotatitiky a analýz
Intitut biotatitiky a analýz KIT KITÉIUM MAXIM IUM MAXIMÁN NÍ APOSTEION APOSTEIONÍ PAVD PAVDĚPODOBNOSTI PODOBNOSTI Modifikujeme-li vztah po ztátu při chybné klaifikaci obazu podle Bayeova vztahu P.p p.p platí Hutota pavděpodobnoti p nezávií na klaifikační třídě a tedy míto lze použít a jednotkovými ztátovými funkcemi je.p p.p.p.p p ' P P P P '
nebo KITÉIUM IUM MAXIMÁN NÍ APOSTEIONÍ PAVDĚPODOBNOSTI PODOBNOSTI Minimum ztáty je pávě tehdy, když P je maimální. Tzn. že jako dikiminační funkci můžeme zvolit pávě hodnotu apoteioní pavděpodobnoti třídy, tj. g P Po případ dichotomického klaifikátou je dikiminační funkce g P - P 0. Z toho plyne, že hanicí mezi třídami učuje vztah P P P P Podle tohoto kitéia zatřídíme obaz do té třídy, jejíž apoteioní pavděpodobnot je při výkytu obazu větší. Intitut biotatitiky a analýz
KITÉIUM IUM MAXIMÁN NÍ PAVDĚPODOBNOSTI PODOBNOSTI MINIMAX Neznáme-li apioní pavděpodobnoti všech tříd, předpokládáme ovnoměné ozložení pavděpodobnot všech tříd je táž P P /. Potom celková třední ztáta J a doáhne minima, když.p d J a* min a.p d Dikiminační funkci lze jako v předchozích případech definovat jako g.p Intitut biotatitiky a analýz
KITÉIUM IUM MAXIMÁN NÍ PAVDĚPODOBNOSTI PODOBNOSTI MINIMAX V případě dichotomie je věohodnotní pomě Λ p p Pokud jou ceny pávného ozhodnutí nulové, tj. 0, je Λ p p Obaz je zařazen do třídy, když je věohodnotní pomě než pomě cen ztát chybných zatřídění. Jou-li obě ceny tejné, je obaz zařazen do té třídy, po kteou je hodnota p větší. Intitut biotatitiky a analýz
KITÉIUM IUM MAXIMÁN NÍ PAVDĚPODOBNOSTI PODOBNOSTI MINIMAX Intitut biotatitiky a analýz