Matematická morfologie

Transkript

1 Matematická morfologie Václav Hlaváč České vysoké učení technické v Praze Centrum strojového vnímání (přemosťuje skupiny z) Český institut informatiky, robotiky a kybernetiky Fakulta elektrotechnická, katedra kybernetiky hlavac@ciirc.cvut.cz Osnova přednášky: Bodové množiny. Morfologická transformace. Eroze, dilatace, vlastnosti. Otevření, uzavření, tref či miň. Kostra oblasti. Ztenčování, sekvenční ztenčování. Vzdálenostní transformace.

2 Morfologie 2/55 V biologii: studium velikosti, tvaru a vnitřní struktury zvířat, rostlin a mikroorganismů a hledání souvislostí mezi jejich vnitřními částmi. V jazykovědě: studium vnitřní stavby slovních druhů. V nauce o materiálech: studium tvarů, velikostí, textury, termodynamicky odlišitelné fáze fyzikálních objektů. V teorii signálů / zpracování obrazu: matematická morfologie teoretický model opírající o teorii svazů a používaný pro předzpracování, segmentaci obrazů, atd.

3 Matematická morfologie, úvod 3/55 Matematická morfologie (MM) je teorií k analýze plošných a prostorových struktur; je vhodná pro analyzování tvaru objektů; je založena na teorii množin, integrální algebře a algebře svazů (angl. lattice); je úspěšná i kvůli jednoduchému matematickému formalismu, který otevírá cestu k mocným nástrojům pro analýzu obrazu. Přístup matematické morfologie... Hlavní myšlenkou morfologické analýzy je získávání znalostí z relace obrazu a jednoduché, malé sondy (nazývané strukturní element), která je předdefinovaným tvarem. V každém pixelu se ověřuje, jak sonda odpovídá nebo neodpovídá lokálním tvarům v obraze.

4 Průkopníci matematické morfologie 4/55 Georges Matheron Jean Serra Ivan Saxl Jossef Mikeš 1930, , Matheron, G. Elements pour une Theorie del Milieux Poreux Masson, Paris, Serra, J. Image Analysis and Mathematical Morphology, Academic Press, London V Československu byli prvními propagátory matematické morfologie v 70. letech 20. století Ivan Saxl a Josef Mikeš.

5 Další čtení 5/55 Jean Serra a jeho kurz matematické morfologie: serra/cours/ Jean Serra, Image analysis and mathematical morphology. Volume 2: theoretical advances, Academic Press, London, 1988 Pierre Soille, Morphological Image Analysis: Principles and Applications, Second edition, Springer-Verlag Berlin, 2004 Laurent Najman and Hugues Talbot (editors), Mathematical Morphology, John Wiley & Sons, Inc., London, 2010

6 Spojení s jinými teoriemi a přístupy 6/55 Matematická morfologie nesoupeří s jinými teoriemi, spíše je doplňuje. Diskrétní geometrie (např. vzdálenost, kostra oblasti). Teorie grafů, např. minimální kostra grafu (O. Borůvka 1926), rozvodí, výpočetní geometrie. Statistika: náhodné modely, teorie míry, stereologie, atd. Lineární teorie signálů: nahradí se operace + supremem. Prostor měřítek: nahradí se gaussovské vyhlazování otevřením a uzavřeními granulometrie. Level sets: dilatace s parciálními diferenciálními rovnicemi, FMM (Fast Marching Method) je vlastně vzdálenostní funkce. Poznámka: pro matematickou morfologii nejsou podobné nástroje jako Fourierova a vlnková transformace.

7 Různost matematických struktur 7/55 Zpracování signálů ve vektorovém prostoru Vektorový prostor tvoří množina vektorů V a množina skalárů K takových, že K je pole. V je komutativní grupa. Vektory lze sčítat a násobit skalárem. Matematická morfologie Úplný svaz (E, ) je množina E s relací uspořádání takovou, že x, y, z E platí (částečné uspořádání) x x, x y, y x x = y, x y, y z x z. Pro všechna P E existuje v E (úplnost) Největší dolní odhad P, nazývaný infimum. Nejmenší horní odhad P, nazývaný supremum.

8 Příklady svazů 8/55 Svaz barev v aditivním barevném modelu (RGB). Svaz reálných čísel R. Svaz reálných čísel rozšířených o nekonečno R = R {, + }. Svaz celých čísel N = N {, + }. Kartézský součin přirozených čísel uspořádaný relací tak, aby (a, b) (c, d) (a c) & (b d).

9 Příklady uspořádaných svazů užitečných v analýze obrazů 9/55 Booleovský svaz množin upořádaných inkluzí binární matematická morfologie, kde nás např. zajímá obsazenost pixelu. Svaz horních polospojitých funkcí šedotónová matematická morfologie nebo binární morfologie ve 3D binárních obrazech, kde nás zajímá obsazenost určitého voxelu. Poznámka: Zobecnění do vyšších dimenzí je také možné, např. pro n-rozměrné obrazy nebo pro více hodnotové funkce, např. časové řady při analýze pohybu. Svaz vícehodnotových funkcí matematická morfologie barevných obrazů.

10 Srovnání základních operací 10/55 Lineární zpracování signálů Lineární teorie signálů se opírá o princip superpozice. Základními operacemi jsou sčítání, násobení a skalární součin. Základní operace zachovávají sčítání, násobení a jsou vzhledem k nim komutativní. ( ) Ψ λ i f i = λ i Ψ(f i ). i i Důležitou operací je konvoluce dovolující hledat relaci mezi dvěma funkcemi. Matematická morfologie Svaz je založen na uspořádání, existenci suprema a infima. Základní operace zachovávají supremum a infimum. Je zachováno uspořádání {x y Ψ(x) Ψ(y)} Ψ je rostoucí. Komutování vzhledem k supremu Ψ ( x i ) = Ψ(x i ) dilatace. Komutování vzhledem k infimu Ψ ( x i ) = Ψ(x i ) eroze.

11 Symetrie suprema a infima 11/55 Supremum a infimum mají ve svazu symetrickou roli. Zamění se, když se změní uspořádání x y x y. To přivádí k pojmu dualita. Příklad: ve svazu všech podmožin množiny E(2E; ), se o dvou operacích Ψ a Ψ se říká, že jsou duální, právě když Ψ(X C ) = [Ψ (X)] C, kde X C = E \ X označuje doplněk množiny X vzhledem k množině E.

12 Svazy a uspořádání; extenzivní a antiextenzivní transformace 12/55 Operace Ψ je extenzivní ve svazu (E, ), právě když je transformovaný prvek pro všechny prvky z množiny E větší nebo rovný původnímu prvku, tj. Ψ je extenzivní x E, x Ψ(x). Operace Ψ je antiextenzivní ve svazu (E, ), právě když je transformovaný prvek pro všechny prvky z množiny E menší nebo rovný původnímu prvku, tj. Ψ je antiextenzivní x E, Ψ(x) x.

13 Proč tak abstraktně? 13/55 Protože tak můžeme zavést operátory, které jsou obecné. Operátory lze studovat, aniž by byl dán jejich definiční obor. Operátory mohou být použity např. pro následující aplikační oblasti či definiční obory, např. diskrétní obrazy, spojité obrazy, spojité obrazy, grafy, sítě bodů. Q: Jak lze použít formalizmu svazů pro obrazy? A: Obrazy lze považovat za funkci f : E T, kde E množina obrazových bodů a T je obor hodnot, tj. pro obrazy za množinu přípusntých hodnot pixelů (viz dále).

14 Svazy funkcí 14/55 E libovolná množina a T je uzavřená podmnožina R nebo Z. Funkce f : E T generují nový svaz T E. (T E označuje kartézský součin T } T {{... T} ), E times f g, právě když f(x) g(x) pro x E, jejichž supremum a infimum se odvozují přímo ze suprema a infima množiny T, ( ) fi (x) = f i (x) ( ) fi (x) = f i (x). Přístup lze zobecnit pro funkce více proměnných, např. v analýze obrazu pro barevné obrazy nebo pohyb (videosekvence).

15 Jednoduchý případ, zavedení svazu pro binární obrázky 15/55 Exituje několik způsobů, jak zavést svaz a vyplývajíci morfologické operace. Začněme jednoduchými, názornými a prakticky užitečnými binárními obrazy, f : E {0, 1}, F = {x E f(x) = 1}. Algerbraická struktura, tj. svaz (E, ) se pro binární obrazy zavede takto: ( 2 E, ), kde X Y X Y, infimum se nahradí průnikem, supremum se nahradí sjednocením.

16 Bodové množiny Obrázky lze modelovat pomocí bodových množin libovolné dimenze, např. v N-rozměrném euklidovském prostoru. 2D euklidovský prostor E2 a systém jeho podmnožin je přirozeným spojitým definičním oborem pro popis rovinných útvarů. Digitální protějšek euklidovského prostoru se reprezentuje celými čísly Z. Binární matematická morfologie ve 2D bodová množina vyjádřená dvojicemi celých čísel (x, y) Z 2. Výskyt bodu informuje o obsazenosti příslušného pixelu (místa v mřížce). Binární matematická morfologie ve 3D bodová množina vyjádřená trojicemi celých čísel (x, y, z) Z 3, kde (x, y, z) jsou prostorové souřadnice informující o obsazenosti příslušného voxelu. Šedotónová matematická morfologie ve 2D bodová množina vyjádřená trojicemi celých čísel (x, y, g) Z 3, kde x, y jsou souřadnice v rovině a g je hodnota šedi příslušného pixelu. 16/55

17 Čtyři principy matematické morfologie 17/55 1. Kompatibilita vůči translaci morfologický operátor Ψ má být nezávislý na translaci. 2. Kompatibilita vůči změně měřítka morfologický operátor Ψ má být nezávislý na změně měřítka. Poznámka: V případě digitálních obrazů je tento princip (mírně) porušen. 3. Lokální znalost morfologický operátor Ψ je lokálním operátorem (viz strukturní elementy, které brzy zavedeme). 4. Polospojitost morfologický operátor by neměl vykazovat náhlé změny svého chování. Shora polospojitost a zdola polospojitost jsou pojmy matematické analýzy, slabší než spojitost, ale složeny dohromady, již spojitost implikují. Zhruba řečeno, reálná funkce f je polospojitá v bodě x, pokud pro body y funkce f(y) není o mnoho větší než f(x).

18 Strukturní element 18/55 Strukturní element slouží v morfologických operacích jako lokální sonda. Strukturní element B je vztažen k lokálnímu počátku v bodě O (označeném v následujících obrázcích symbolem ). Příklady: Spojitý Digitální

19 Začneme binární matematickou morfologií, bodová množina 19/55 Zpočátku se omezíme na binární matematickou morfologii. Příklad bodové množiny v Z2, y x X = {(1, 0), (1, 1), (1, 2), (2, 2), (0, 3), (0, 4)}

20 Translace množiny o radiusvektor 20/55 Translace X h bodové množiny X o radiusvektor h X h = { p E 2, p = x + h pro některá x X }. X h X h

21 Symetrická bodová množina 21/55 Středová symetrie se vyjadřuje vůči reprezentativnímu bodu O. Někdy se také nazývá transponovaná bodová množina. Definice: B = { b : b B}. Příklad: B = {(2, 1), (2, 2)}, B = {( 2, 1)( 2, 2)}. Originál Po transpozici

22 Binární matematická morfologie 22/55 Pracuje s binárními obrázky. Definiční obor Z2. Obor hodnot {0, 1}. Dvě základní operace: dilatace a eroze. Nejsou invertovatelné. Dva používané formalismy pro součet a rozdíl Ve školské aritmetice obvyklé sčítání a odečítání. Minkowského součet, rozdíl. Do matematické morfologie zavedli G. Matheron v knize ve francouzštině z 1967, J. Serra v knize v anličtině z Rozdílnost obou přístupů hraje roli u eroze.

23 Minkowského součet, rozdíl 23/55 Minkowského součet (Hermann Minkowski , geometrie čísel 1889) X B = X b. b B Minkowského rozdíl (pojem zavedl až H. Hadwiger v roce 1957) X B = X b. b B

24 Binární dilatace 24/55 Dilatace je Minkowského součet, tj. sjednocení posunutých bodových množin X B = X b. b B Operaci dilatace vyjádřil ve funkčním tvaru J. Serra jako δ. Dilataci lze ekvivalentně vyjádřit jako funkci δ, δ B (X) = X B = { p E 2 : p = x + b, x X and b B }.

25 Binární dilatace, příklad 25/55 X = {(1, 0), (1, 1), (1, 2), (2, 2), (0, 3), (0, 4)} B = {(0, 0), (1, 0)} X B = {(1, 0), (1, 1), (1, 2), (2, 2), (0, 3), (0, 4), (2, 0), (2, 1), (2, 2), (3, 2), (1, 3), (1, 4)} X B X B

26 Binární dilatace isotropickým strukturním elementem /55 vlevo originál, vpravo dilatace. Dilatace se používá k zaplnění malých děr a úzkých zálivů v objektech. Zvětší původní velikost objektu. Má-li být velikost zachována, potom se dilatace kombinuje s erozí, viz dále.

27 Vlastnosti dilatace 27/55 Komutativní: X B = B X. Asociativní: X (B D) = (X B) D. Invariantní vůči posunu: X h B = (X B) h. Rostoucí transformace: Je-li X Y a (0, 0) B, potom X B Y B. Protipříklad při prázdném počátku (0, 0) / B X B X B

28 Binární eroze 28/55 Eroze je Minkowského rozdíl, tj. průnik všech posunů obrazu X o vektory b B, X B = X b. Ekvivalentně se pro každý bod obrazu p se ověřuje, zda pro všechna možná x + b leží výsledek v X. Pokud ano, je výsledek 1, jinak 0. b B X B = {p E 2 : p = x + b X for all b B}. Dilatace a eroze jsou duální morfologické operace.

29 Binární eroze, příklad 29/55 X = {(1, 0), (1, 1), (1, 2), (0, 3), (1, 3), (2, 3), (3, 3), (1, 4)} B = {(0, 0), (1, 0)} X B = {(0, 3), (1, 3), (2, 3)} X B X B

30 Binární eroze isotropickým strukturním elementem /55 vlevo originál, vpravo eroze. Objekty menší než strukturní element vymizí (např. čáry tloušťky 1). Eroze se používá ke zjednodušení struktury (rozložení objektu na jednodušší části).

31 Obrys pomocí binární eroze 31/55 Obrys X množiny X. Matematicky jde o hranici, v našem významu o hranici oblasti X v binárním obraze. Obrys poskytuje hranici oblasti o přirozené tlouštce 1. X = X \ (X B). vlevo originál X, vpravo obrys X.

32 Vlastnosti eroze 32/55 Antiextenzivní: Je-li (0, 0) B, potom X B X. Invariantní vůči posunu: X h B = (X B) h, X B h = (X B) h. Zachovává inkluzi: Je-li X Y, potom X B Y B. Dualita eroze a dilatace: (X Y ) C = X C Y. Kombinace eroze a průniku: (X Y ) B = (X B) (Y B), B (X Y ) (B X) (B Y ).

33 Vlastnosti dilatace a eroze (2) 33/55 Lze zaměnit pořadí dilatace a průniku: (X Y ) B = B (X Y ) (X B) (Y B). Dilatace průniku dvou obrazů je obsažena v průniku jejich dilatací. Možná záměna pořadí eroze a množinového sjednocení (umožňuje rozložit složitější strukturní elementy na sjednocení jednodušších): B (X Y ) = (X Y ) B = (X B) (Y B), (X Y ) B (X B) (Y B), B (X Y ) = (X B) (Y B).

34 Vlastnosti dilatace a eroze (3) 34/55 Postupná dilatace (resp. eroze) obrazu X nejdříve strukturním elementem B a potom strukturním elementem D je totožná jako dilatace (resp. eroze) obrazu X pomocí B D (X B) D = X (B D), (X B) D = X (B D).

35 Morfologická filtrace 35/55 V klasickém zpracování signálů/obrazů označuje pojem filtr jakoukoliv výpočetní proceduru, která má signál/obrázek na vstupu i výstupu. V matematické morfologii má pojem filtr přesný význam, tj. Operace Ψ je morpfologickým filtrem Ψ je nerostoucí a idempotntní. Slovy: morfologické filtry zachovávají uspořádání a konvergují během jedné iterace. Nejdůležitějšími operacemi v tomto kontextu jsou otevření a uzavření. Otevření jsou anti-extenzivní morfologické filtry. Uzavření jsou extenzivní morfolgické filtry.

36 Binární otevření 36/55 Eroze následovaná dilatací. X B = (X B) B Pokud se obraz X nezmění po otevření strukturním elementem B, říkáme, že je otevřený vzhledem k B.

37 Binární uzavření 37/55 Dilatace následovaná erozí. X B = (X B) B Pokud se obraz X nezmění po uzavření strukturním elementem B, říkáme, že je uzavřený vzhledem k B.

38 Vlastnosti otevření, uzavření 38/55 Otevření a uzavření jsou duální morfologické operace a speciálněji morfologické filtry (X B) C = X C B Idempotence je vlastností algebraických operací či prvků určité algebry. Operace je idempotentní, pokud jejím opakovaným použitím na nějaký vstup vznikne stejný výstup, jako vznikne jediným použitím dané operace. Zde speciálně, po jednom otevření, resp. uzavření, je množina již otevřena, resp. uzavřena. Další použití těchto transformací již nic nezmění. X B = (X B) B X B = (X B) B

39 Transformace tref či miň 39/55 Anglicky Hit or Miss. Používá složený strukturní element B = (B1, B2), B1 B2 =. X B = {x : B 1 X a B 2 X c }. Indikuje shodu složeného strukturního elementu a části obrazu. B1 testuje objekty, B 2 pozadí. Transformaci lze vyjádřit pomocí erozí a dilatací X B = (X B 1 ) (X c B 2 ) = (X B 1 ) \ (X B 2 ).

40 Příklad: detekce konvexních rohů 40/55 Masky detekující 4 možné konfigurace konvexních rohů pomocí tref či miň. Výsledek detekce rohů.

41 Homotopické transformace 41/55 Opírají se o relaci souvislosti mezi body, oblastmi. Vztahy souvislosti se vyjadřují homotopickým stromem. Homotopické transformace nemění homotopický strom. r 1 r 1 h 1 r 2 r 2 h 1 h 1 r b r 1 2 Příklad: dvěma různým obrázkům odpovídá stejný homotopický strom.

42 Kostra (skelet) 42/55 Podlouhlé objekty má smysl reprezentovat kostrou (viz animace člověka v počítačové grafice zachycující kinematiku). Blum v roce 1967 navrhl Medial axis transformation (analogie, vypalování trávy). Formální definice kostry se opírá o pojem maximálního kruhu (koule ve 3D).

43 Kostra pomocí maximálních kruhů 43/55 Kruh B(p, r) se středem p a poloměrem r, r 0 je množina bodů, pro něž je vzdálenost d r. Maximální kruh B vepsaný do množiny X se dotýká hranice X ve dvou a více bodech. Kostra je sjednocením středů maximálních kruhů. Not a maximal ball Maximal balls

44 Příklad koster, spojitý případ 44/55 Problémy se šumem.

45 Diskrétní kruhy o poloměru 1 45/55 V diskrétním rastru mohou kruhy vypadat různě, a to díky několika možným způsobům zavedení vzdálenosti. Příklady: r= B B B B E H 4 8

46 Třídění algoritmů binární skeletonizace oblastí 46/55 Vpisování kruhů podle definice se prakticky nepoužívá. Přílišná výpočetní složitost. Porušuje se souvislost. Skelet tloušťky > 1. Sekvenční ztenčování. Oblast se eroduje vhodným strukturním elementem, který zaručí, aby nebyla porušena souvislost. Obvykle homotopické ztenčování, s využitím strukturních elementů z Golayovy abecedy. Přes vzdálenostní transformaci. Rychlý výpočet. Nejčastěji používané. V koutkové reprezentaci. Napřed se oblasti bezeztrátově komprimují (koutky). Skelet se počítá vpisováním maximálních obdélníků přímo v komprimovaných datech (Schlesinger M.I., 1986).

47 Ztenčování a ztlušťování 47/55 Nechť X je obraz a B = (B1, B2) je složený strukturní element zavedený v transformaci tref či miň. Ztenčování X B = X \ (X B). Část ztenčované oblasti určená strukturním elementem B množinově odečítá od objektu samého. Ztlušťování X B = X (Xc B). Oblast se sjednocuje s částí pozadí danou strukturním elementem B. Ztenčování a ztlušťování jsou duální transformace (X B) c = X c B, B = (B 2, B 1 ).

48 Sekvenční ztenčování a ztlušťování 48/55 Nechť {B(1), B(2), B(3),..., B(n)} je posloupnost složených strukturních elementů B (i) = (B i1, B i2 ). Sekvenční ztenčování může být pro čtvercový rastr vyjádřeno pomocí posloupnosti strukturních elementů (např. 8 elementů 3 3, jak uvidíme v Golayově abecedě). X {B (i) } = (((X B (1) ) B (2) )... B (n) ). Sekvenční ztlušťování (analogicky) X {B (i) } = (((X B (1) ) B (2) )... B (n) ).

49 Užitečné sekvence z Golayovy abecedy 49/55 Existuje několik posloupností strukturních elementů {B(i)}, které jsou z praktického pohledu užitečné. Ukažme jen dvě z nich z Golayovy abecedy (1969) pro oktagonální rastr. Strukturní elementy rozměru 3 3 uvedeme ve dvou základních polohách, ostatní si domyslete pootočením. Stručný zápis složeného strukturního elementu: 1 ověřuje příslušnost k objektu, 0 ověřuje příslušnost k pozadí a konečně hodnota znamená, že prvek nehraje roli. Ztenčování a ztlušťování prvky Golayovy abecedy je idempotentní.

50 Ztenčování elementem L, homotopická náhrada skeletu tloušťky 1 50/55 L 1 = , L 2 = iterací

51 Ztenčování elementem L, pokračování 51/55 Ztenčování až do dosažení idempotence.

52 Ořezání volných konců elementem E 52/55 E 1 = , E 2 = Pokud by se ztenčování nechalo běžet až do dosažení idempotence, zůstaly by v obraze pouze uzavřené linie. 5 iterací

53 Motivace pro sekvenční morfologii Vzdálenostní transformace 53/55 Dosud nezáleželo na pořadí míst, v jakých byl morfologický operátor použit v obrazu. Operátor mohl být použit v náhodném pořadí, po řádcích, paralelně... Speciálnější přístup, kdy je vhodně předepsáno pořadí míst použití operátoru v obraze, může přinést podstatné zrychlení výpočtu. Výsledek operátoru totiž bude záviset nejen na vstupním obraze a transformaci, ale na výsledcích v předchozích polohách operátoru. Tím se může při výpočtu akumulovat potřebná globální informace, operátor může předchozí výsledky využít, a tak lze algoritmy výpočetně zjednodušit a zrychlit. Morfologické operátory opírající se o efektivní algoritmus výpočtu vzdálenostní transformace (probrána dříve) jsou důležitým příkladem tohoto přístupu, např při hledání skeletu v binární matematické morfologii.

54 Vzdáleností transformace příklad hvězdice, vstupní obrázek 54/55 Vzdálenostní transformaci jsme probrali v přednášce Digitální obraz, základní pojmy. Input color image of a starfish Starfish converted to gray scale image Segmented to logical image; 0 object; 1 background barevný šedotónový binární

55 DT příklad hvězdice, výsledky 55/55 Distance transform, distance D 4 (cityblock) Distance transform, distance D 8 (chessboard) Uvažujme topografický pohled na obrazovou funkci f(x, y), tj. jako na krajinu, kde jas odpovídá nadmořské výšce. D4 D Distance transform, distance D QE (quasi Euclidean) Distance transform, distance D E (Euclidean) Body skeletu objektu leží na hřebenech pohoří kvazieuklidovská euklidovská