Deset přednášek z teorie statistického a strukturního rozpoznávání

Transkript

1 Monografie Deset přednášek teorie statistického a strukturního roponávání Michail I. Schlesinger, Václav Hlaváč Praha 1999 Vydavatelství ČVUT

2 1. přednáška Bayesovská úloha statistického rohodování 1.1 Úvod ke koumání bayesovské úlohy Bayesovská teorie je jedním pilířů statistického roponávání. V první přednášce se senámíme se ákladními pojmy teorie, formulujeme bayesovskou úlohu statistického rohodování a dokážeme nejdůležitější vlastnosti úlohy. Tyto vlastnosti jsou považovány a obecně námé. Byli bychom rádi, kdyby tomu tak opravdu bylo, ale dost často můžeme poorovat návrhy řešení, která přímo odporují výsledkům bayesovské teorie, i když na první pohled vypadají přiroeně. Svědčí to o tom, že nalost bayesovské teorie je jen dánlivá. Taková neúplná nalost je možná horší než úplná nenalost. Zajisté měl pravdu kdosi, když řekl, že raději jedná s člověkem, který nepřečetl žádnou knihu než s někým, kdo přečetl jedinou knihu. Nepochopení a jen dánlivá nalost úloh bayesovského rohodování spočívá také v tom, že se jménem T. Bayese jsou spojovány růné výsledky v teorii pravděpodobnosti a statistickém rohodování. Vorec pro počítání s podmíněnými pravděpodobnostmi je nám jako Bayesův vorec. Doporučení, jak se má a jistých předpokladů vybrat nejpravděpodobnější hodnota náhodné veličiny, se také naývá Bayesovým jménem. Kromě toho i úlohám statistického rohodování aloženým na minimaliaci riika a pokutách se říká bayesovské úlohy. V našich přednáškách se budeme abývat především posledně jmenovanými úlohami. Uveďme ákladní pojmy a jejich načení, které využijeme i v dalších přednáškách. 1.2 Formulace bayesovské úlohy Nechť je nějaký objekt popsán dvěma parametry x a k. První nich je poorovatelný a druhý parametr je skrytý, tedy pro beprostřední poorování nepřístupný. Parametru x budeme říkat přínak objektu nebo poorování. Přínak x bude nabývat hodnoty jisté množiny X. Druhý parametr naveme stavem objektu nebo skrytým parametrem. Onačme symbolem K množinu hodnot skrytého parametru k. Onačení D použijme pro množinu možných rohodnutí. 1

3 9. přednáška Regulární jayky a odpovídající úlohy roponávání Nechť je δ[x, y] Kroneckerova funkce, pro kterou platí δx, y) 1, jestliže x y, a δx, y) 0, jestliže x y. Pro Kroneckerovu funkci také platí f[x, y] y δ[y, ] f[x, ], tj. konvoluce s Kroneckerovou funkcí samu funkci nemění a mění jen onačení jejího argumentu. Jestliže je polookruh tvořen operacemi min ve smyslu sčítání a + ve smyslu násobení, potom ískají konvoluční výray dodatečné vlastnosti plynoucí idempotentnosti sčítání, což namená f f f. Nechť je f[x, y] funkce tvaru X X R { }). Pro kteroukoliv funkci f tohoto tvaru onačíme f 0 [x, y] Kroneckerovu funkci a f n [x, y] konvoluci f[, y] f n 1 [x, ]. Nechť množina X obsahuje k prvků. V ta- Lemma 9.2 O konvergenci součtu. kovém případě součet f 0 [x, y] f 1 [x, y] f 2 [x, y]... f n [x, y] při n konverguje k funkci δ f) k 1, tj. Důka. lim n f i [x, y] δ f) k 1 [x, y]. Dokážeme nejdřív, že pro libovolné n platí f i δ f) n. 9.23) Rovnost 9.23) je jevně správná při n 0 a n 1. Jestliže n 0, potom levá strana je δ a pravá strana je δ f) 0, což je také δ, protože podle definice jakákoliv funkce v nulté mocnině je δ. Jestliže n 1, potom je levá i pravá strana rovnice 9.23) rovna δ f. Dokážeme, že když je správná rovnice 9.23) pro některé n, je ona správná i pro n + 1. Z idempotentnosti, tj. f f f, plyne následující odvoení n+1 ) n+1 ) f i [x, y] f i [x, y] f i [x, y] 426 i1 ) f i [x, y] f[x, ] f i [, y]) )

4 Levensteinova aproximace posloupnosti větou regulárního jayka 9.5 δ[x, ] ) ) f i [, y] f[x, ] f i [, y]) ) δ[x, ] ) ) f[x, ] f i [, y] δ[x, ] f[x, ] ) δ[x, y] f[x, y]) n+1. δ[, y] f[, y]) n Vtah 9.23) je dokáán pro každou celou hodnotu n. Dokážeme teď hlavní tvrení lemmatu 9.2. Ztotožníme množinu X s vrcholy grafu a hodnotu fx, y), x X, y X, s délkou orientované hrany šipky), která vycháí vrcholu x a míří do vrcholu y. Číslo fx, y) je délkou nejkratší cesty vrcholu x do vrcholu y a podmínky, že se cesta skládá jedné šipky. Hodnota fx, ) f, y) je délkou nejkratší cesty vrcholu x do vrcholu y a podmínky, že se cesta skládá e dvou šipek. V obecném případě je f n x, y) délkou nejkratší cesty vrcholu x do vrcholu y a podmínky, že se cesta skládá n šipek. Toto tvrení má smysl i tehdy, když n 0. Nejkratší cesta x do y, která se neskládá žádné šipky, je jevně 0 1, jestliže x y, a je 0, jestliže x y. Je to tedy δx, y), tj. f 0 x, y). Součet n f i [x, y] je délkou nejkratší cesty x do y, která se skládá nanejvýš n šipek. Tato cesta nemůže procháet více než k 1 šipkami. V opačném případě by tato cesta obsahovala cyklus, a to se při neáporně definované funkci f nemůže stát. Z toho plyne, že při n k platí rovnice k 1 f i [x, y] f i [x, y]. Následkem už dokáané rovnosti 9.23) máme lim n f i δ f) k 1. Dokáané lemma ukauje konstruktivní působ výpočtu nekonečného polynomu f i. Dále budeme pro tento nekonečný polynom používat onačení f, a to pro libovolnou funkci f: X X W. Na ákladě lemmatu 9.2 se pro jisté případy může ukáat konstruktivní působ výpočtu konvolucí podle proměnné, která nabývá hodnot nekonečné množiny, 427

5 Prof. Ing. Michail I. Schlesinger, DrSc. a prof. Ing. Václav Hlaváč, CSc. Deset přednášek teorie statistického a strukturního roponávání Vydalo Vydavatelství ČVUT, Zikova 4, Praha 6, jako svou publikaci. Graficky upravil a systémem TEX vysáel Vít Zýka. Vytisklo Ediční středisko ČVUT, Zikova 4, Praha stran, 61 obráků. Vydání první. Náklad 800 výtisků. Rosah 42,10 AA, 42,43 VA. PLU 2329