Výzkumný ústav geodetický, topografický a kartografický Bayesovská klasifikace digitálních obrazů Výzkumná zpráva č. 1168/2010 Lubomír Soukup prosinec 2010
1 Úvod V průběhu nedlouhého historického vývoje počítačového zpracování digitálních obrazů bylo navrženo ohromné množství nejrůzněnjších metod řešení problému klasifikace. V zásadě je možno rozdělit je do dvou hlavních skupin na deterministické a statistické. Dalším hlediskem dělení klasifikačních metod jsou praktické předpoklady řešení problému klasifikace. Pokud jsou k dispozici údaje o charakteristikách jednotlivých tříd, jde o tzv. řízenou klasifikaci (nebo též klasifikaci s učitelem), pokud předběžné údaje o třídách nejsou předem známy, jde o neřízenou klasifikaci (nebo též klasifikaci bez učitele). Neřízená klasifikace bývá někdy označována jako shluková analýza. V současné době mají velký význam především statistické metody řízené klasifikace (viz [2], [1]). Při řízené klasifikaci je nutné předem znát charakteristiky jednotlivých tříd. Nejobvyklejším způsobem obstarání předběžných údajů o charakteristikách tříd je vymezení tzv. trénovacích množin. Trénovací množina je oblast v obraze, která obsahuje reprezentativní vzorek obrazových dat, který výstižně charakterizuje určitou třídu. Cílem klasifikace je pak nalezení dalších oblastí v obraze s podobným rozložením barev jako v trénovací množině. Jde vlastně o obdobu interpolace. Interpolační funkcí je zde po částech konstantní funkce s hodnotami odpovídajícími jednotlivým třídám. Roli interpolačních bodů hrají trénovací množiny. Statistické metody řízené klasifikace jsou založeny na geometrické představě tzv. příznakového prostoru. Příznakový prostor je Euklidovský prostor, který slouží k rozlišení jednotlivých tříd. Souřadnice bodů příznakového prostoru představují veličiny (tzv. příznaky), přiřazené každému pixelu v digitálním obraze. Typickým příkladem příznaků jsou barevné složky R, G, B. Každý pixel digitálního obrazu se v příznakovém prostoru zobrazí jako bod o souřadnicích odpovídajících hodnotám jeho příznaků. Takovéto body vytvoří v příznakovém prostoru shluky odpovídající jednotlivým třídám. Některé body těchto shluků odpovídají příznakům pixelů trénovacích množin. Tyto body je možné označit návěštím příslušné třídy, neboť u pixelů trénovacích množin je vždy známo, do které třídy náleží. Pomocí takto označených bodů trénovacích množin je třeba označit i ostatní body v příznakovém prostoru. Úlohu klasifikace je tedy možno formulovat jako stanovení určitého pravidla, pomocí něhož se toto označování má provádět. Toto pravidlo, tzv. klasifikátor, lze hledat mnoha různými způsoby. Mezi nejpoužívanější klasifikátory patří např. lineární klasifikátor nebo bayesovský klasifikátor. Lineární klasifikátor odděluje výrazné shluky rovinami tak, aby tyto roviny rozložily příznakový prostor na buňky obsahující body vždy jen jedné třídy. Oddělující roviny jsou přitom umístěny tak, aby středy buňek byly co nejblíže ke středům shluků, kde je rozložení bodů nejhustší. Bayesovský klasifikátor je založen výhradně na pravděpodobnostním přístupu. Ve své nejjednodušší verzi nepotřebuje žádnou geometrickou pomůcku jako např. lineární klasifikátor. Účelem tohoto pojednání je připravit teoretické východisko pro další rozvíjení bayesovské klasifikace digitálních obrazů, zejména s ohledem na neurčitost přiřazení tříd jednotlivým pixelům. 2
2 Formulace problému V digitálním obraze je třeba vymezit oblasti, které jsou něčím charakteristické. Charakteristické vlastnosti určité oblasti (stručněji charakteristika oblasti) jsou dány nějakým dobře rozpoznatelným atributem, např. barvou. Charakteristika oblasti v obraze bývá obvykle spolehlivě rozpoznatelná pohledem. Všechny takovéto oblasti je tak možno rozčlenit (klasifikovat) do několika tříd tak, že všechny oblasti jedné a téže třídy mají stejnou charakteristiku. Cílem klasifikace je ke každému pixelu v daném digitálním obraze jednoznačně přiřadit určitou třídu s odpovídající charakteristikou. 2.1 Požadovaný výsledek Výsledkem klasifikace daného digitálního obrazu je nový digitální obraz, v němž jsou barevně vyznačeny homogenní oblasti příslušné stanoveným třídám. Přiřazení barev jednotlivým třídám je znázorněno legendou. 2.2 Vstupní údaje a předpoklady Je dán digitální obraz, na němž jsou vymezeny některé oblasti s určitými charakteristickými vlastnostmi, tzv. trénovací množiny. Podle rozdílných charakteristických vlastností je zvolen určitý počet tříd. Soubor všech zvolených tříd označíme C. U každé trénovací množiny je známo, do které třídy náleží. Ke každé třídě musí být vymezena alespoň jedna trénovací množina. Dále je nutno znát tzv. apriorní pravděpodobnosti P (C), které vyjadřují předběžnou obecnou znalost frekvence výskytu třídy C C v daném obraze. 3 Řešení problému Problém klasifikace je v tomto pojednání řešen výhradně bayesovským klasifikátorem. Bayesovský klasifikátor se opírá o tzv. Bayesův vzorec (viz [2]). Tento vzorec umožňuje vypočítat pravděpodobnost, že určitý pixel s příznakem F náleží do třídy C. Označíme ji P (C F). Pomocí trénovacích množin lze odhadnout opačné pravděpodobnosti P ( F C) pro každý příznak F a každou třídu C C. Výraz P ( F C) udává pravděpodobnost, že pixel třídy C bude mít příznak F. Za těchto předpokladů a při známých apriorních pravděpodobnostech P (C) má Bayesův vzorec tvar: P (C F) = P ( F C) P (C) P ( F T ) P (T ) T C Posledním krokem klasifikace je přiřazení třídy C pixelu s příznakem F tak, aby bylo splněno vhodné extremální kritérium pro jednoznačný výběr třídy. Nejjednodušším takovým kritériem je maximalizace aposteriorní pravděpodobnosti P (C F). 3 (1)
3.1 Příznakový prostor Před vlastním použitím Bayesova vzorce (1) je třeba stanovit charakteristické vlastnosti zvolených tříd tak, aby bylo možno jednotlivé třídy od sebe dobře odlišit. K rozlišení tříd slouží příznaky, které jsou přiřazeny jednotlivým pixelům obrazu. Nejjednodušším příkladem příznaků barevného obrazu jsou barevné složky R, G, B. Může to však být i jiná reprezentace barev (např. Hue, Saturation, Brightness) nebo odrazivost pixelu v různých spektrálních pásmech, např. infračerveném, ultrafialovém, radarovém apod. Daný soubor příznaků lze interpretovat jako souřadnice bodu v příznakovém prostoru. To znamená, že za příznaky lze volit i jakoukoliv transformaci souřadnic původního příznakového prostoru. V tomto pojednání se nebudeme zabývat volbou příznaků. Budeme předpokládat, že je dán soubor příznaků jako vektor F = [F 1, F 2,..., F n ], kde n je dimenze příznakového prostoru. Po vhodné volbě příznakového prostoru lze ke každému pixelu daného obrazu přiřadit určitou hodnotu vektoru příznaků F. Označíme ji f(x, y), přičemž x, y jsou celočíselné indexy udávající polohu pixelu v daném obraze. Tím je na daném obraze definována vektorová funkce f : H F : [x, y] f(x, y). Množina H N 2 definuje souřadnicový systém daného digitálního obrazu. Složkami vektorové funkce f(x, y) jsou jednotlivé příznaky f i (x, y) pixelu [x, y]. Tedy f i : H F, i {1, 2,..., n}, f = [f 1, f 2,..., f n ]. K pixelu o souřadnicích [x, y] též přiřadíme třídu, ke které náleží, pomocí funkce γ : H C. (2) Hodnoty této funkce jsou známy pouze pro pixely trénovacích množin. Pixely v trénovací množiné příslušné třídě C tvoří oblast K C {[x, y] H γ(x, y) = C}. Body příznakového prostoru obvykle vytváří v příznakovém prostoru shluky odpovídající jednotlivým třídám. Příslušnost nějakého pixelu k určité třídě lze pak stanovit podle polohy onoho pixelu vůči shluku pixelů té určité třídy. Pravděpodobnost náležení nějakého pixelu k určité třídě závisí na hustotě té části shluku, ve které se onen pixel vyskytuje. Charakteristika třídy C C je tedy dána rozdělením pravděpodobnosti příznaků jejích pixelů v příznakovém prostoru. 4
3.2 Odhad rozdělení pravděpodobnosti shluků Rozdělení pravděpodobnosti shluku příslušného k určité třídě lze odhadnout pomocí příznaků některých vybraných pixelů té třídy. Tyto pixely byly vybrány prostřednictvím trénovacích množin. Odhadovat rozdělení pravděpodobnosti shluků je možno v zásadě dvěma způsoby: podle relativních četností pixelů v trénovací množině, podle vzdáleností pixelů od shluku v příznakovém prostoru. 3.2.1 Metoda relativních četností Pravděpodobnost, že se v třídě C vyskytne pixel s příznaky F, odhadneme pomocí relativní četnosti {[x, y] K C } f(x, y) = F} K C Pro libovolný pixel [ x, ȳ] z trénovací množiny K C proto platí: P ( F C) = P (f( x, ȳ) = F γ( x, ȳ) C) = {[x, y] K C} f(x, y) = F} K C (3) 3.2.2 Metoda vzdáleností Tato metoda je založena na předpokladu, že shluky mají n-rozměrná normální rozdělení pravděpodobnosti. Za tohoto předpokladu je možné zvětšit trénovací množiny jednotlivých tříd přidáním pixelů, u nichž není příslušnost k některé třídě naprosto jistá. Hustotu pravděpodobnosti n-rozměrného normálního rozdělení lze vyjádřit ve tvaru: ϕ uc,m C ( u ) := 1 ( 1 2 π) n M C e 2 (u u C) T M 1 C (u uc). (4) Vektor středních hodnot u C a kovarianční matici M C příslušnou k třídě C odhadneme podle vztahů: u C = [x,y] K C f(x, y) K C, (5) M C = T (f(x, y) u C )(f(x, y) u C ). (6) [x,y] K C K C 1 Vektory u, u C, f(x, y) jsou sloupcové. Pixely [ x, ȳ], jejichž příznaky f( x, ȳ) jsou dostatečně blízko středu u C shluku příslušného trénovací množině K C, lze s jistým rizikem r považovat za pixely třídy C. Skutečnost, že příznakový vektor f( x, ȳ) je blízko středu shluku u C, budeme prozatím zapisovat 5
f( x, ȳ) u C (7) Pixely [ x, ȳ] s vlastností (7) tedy mohou doplnit původní trénovací množinu K C na novou, rozšířenou trénovací množinu K C,r. K C,r := K C {[x, y] H P (γ(x, y) C f(x, y) u C ) > 1 r)} (8) Tato rozšířená trénovací množina poskytuje reprezentativnější výběr pixelů, ovšem za cenu rizika r, že některé její pixely nepatří do třídy C. Pokud je toto riziko pod únosnou hranicí (např. menší než 0.05), je možné rozšířenou trénovací množinu K C,r dosadit do vzorce (3) za K C a získat tak lepší odhad pravděpodobnosti P (f( x, ȳ) = F γ( x, ȳ) C). Kritérium blízkosti pixelu od středu shluku Blízkost dvou bodů příznakového prostoru předběžně vyjádřená relací (7) je nyní třeba přesněji definovat. Vzdálenost v příznakovém prostoru nebudeme měřit Euklidovskou metrikou, ale pomocí jiné, tzv. Mahalanobisovy vzdálenosti ρ MC. ρ MC (u, u C ) = (u u C ) T M 1 C (u u C ). Geometrický význam metriky ρ MC je následující: Všechny body u příznakového prostoru, pro které je vzdálenost ρ MC (u, u C ) konstantní, vytvoří elipsoidickou plochu. Konstanta ρ MC (u, u C ) představuje násobnou konstantu, kterou je třeba vynásobit poloosy středního elipsoidu příslušného kovarianční matici M C (tj. elipsoidu, jehož poloosy jsou rovny odmocninám vlastních čísel matice M C ), aby vznikla zmíněná elipsoidická plocha procházející bodem u. u u C ρ MC (u, u C ) < t. (9) Parametr t udává míru blízkosti bodů u, u C. t R, t > 0 Menší hodnota parametru t znamená větší blízkost. Oblast blízkosti od středu shluku je tedy vymezena elipsoidem, který je t-krát větší než střední elipsoid daný kovarianční matici M C. Definice (9) umožní naharadit výraz f(x, y) u C v (8). Pravděpodobnost, že pixel [ x, ȳ] náhodně zvolený v blízkosti středu shluku u C náleží k třídě C, budeme tedy označovat P (γ(x, y) C ρ MC (u, u C ) < t). Tuto pravděpodobnost lze určit pomocí Bayesova vzorce P (γ(x, y) C ρ MC (u, u C ) < t) = = P ( ρ M C (u, u C ) < t γ(x, y) C ) P ( γ(x, y) C ) P ( ρ MC (u, u C ) < t). (10) 6
Pro vhodně zvolenou hodnotu parametru t se pravděpodobnost P ( ρ MC (u, u C ) < t) odhadne pomocí relativní četnosti. P ( ρ MC (u, u C ) < t ) = {[x, y] H ρ M C (u, u C ) < t} H Pravděpodobnost blízkosti barvy u od středu shluku u C se pro třírozměrný příznakový prostor určí ze vztahu:. kde P ( ρ MC (u, u C ) < t γ(x, y) C ) = erf ( ) t 2 t 2 2 π e 2 t, t... násobek středního elipsoidu, erf... funkce chyb (error function), erf(x) = 2 e x2 2 i x 2i+1 π (2i + 1)!!. Pro zvolené riziko r lze určit vzdálenost t řešením rovnice 1 r = P (γ(x, y) C ρ MC (u, u C ) < t). (11) i=0 4 Závěr Bayesovská klasifikace je zde představena jako univerzální nástroj pro klasifikaci digitálních obrazů. Kromě základní metody relativních četností byla navržena metoda vzdáleností, která tradičně nebývá používána v kontextu bayesovské klasifikace. Její bayesovská modifikace umožňuje korektně kvantifikovat kvalitu výsledné klasifikace i bez znalosti skutečného stavu (tzv. ground truth). Toho lze využít ke zobecnění problému klasifikace, při němž není cílem pouze jednoznačné přiřazení tříd pixelům v obraze, ale vymezení oblastí, v nichž je příslušnost k třídě neurčitá ve smyslu teorie fuzzy množin. Použitá literatura [1] D. G. T. Denison, C. C. Holmes, B. K. Mallick, and A. F. M. Smith. Bayesian Methods for Nonlinear Classification and Regression. Willey series in probability and statistics. John Willey & Sons, 2002. [2] Andrew Webb. Statistical Pattern Recognition. John Willey & Sons, 2003. 7