Neuronové sítě v DPZ

Transkript

1 Univerzita J. E. Purkyně v Ústí nad Labem Fakulta životního prostředí Neuronové sítě v DPZ Seminární práce z předmětu Dálkový průzkum Země Vypracovali: Jan Lantora Rok: 2006 Zuzana Vašková

2 Neuronové sítě Neuronové sítě jsou biologickými neuronovými sítěmi - uměle vytvořené neuronové sítě by měly být schopny se chovat stejně nebo alespoň podobně jako jejich biologické vzory. Skýtá se tu šance simulovat některé funkce lidského myšlení. Neuronové sítě využívají distribuované, paralelní zpracování informace při provádění výpočtů - ukládání, zpracování a předávání informace probíhá prostřednictvím celé neuronové sítě spíše než pomocí určitých paměťových míst. Znalosti jsou ukládány především prostřednictvím síly vazeb mezi jednotlivými neurony. Vazby mezi neurony vedoucí ke "správné odpovědi" jsou oslabovány pomocí opakované expozice příkladů popisujících problémový prostor. Učení je základní a podstatná vlastnost neuronových sítí. Popis funkce neuronové sítě Základní složkou neuronové sítě je neuron. Neuron má několik výstupů a několik vstupů. Tvoří některou funkci mezi těmito vstupy a výstupy. Problémem je, že funkce nebyla určena přírodním neuronem. Zjednodušme tuto neuronovou funkci tak, aby byla co nejjednodušší a bylo možné ji zrealizovat na standardním osobním počítači. Abychom mohli zjednodušit funkci neuronu, musíme nejdříve představit biologický neuron. Neuronová síť pracuje pomocí elektrických impulsů. Tyto neuronové impulsy nabíjejí neuron a jeho napětí se zvyšuje. Vytvořený náboj se objevuje v neuronových výstupech, ale každý výstup (synapse) má odlišný náboj v krátkém odporu. To znamená, že po vstupu následujících neuronů se hodnota změní. A to je jedna z nejjednodušších realizací neuronu. Termín neuronová síť zahrnuje spojení několika neuronů s výše zmíněnými vlastnostmi. Komplexní funkce neuronové sítě je odvozena funkcemi jednoduchých neuronů, upravením jejich výstupů a individuálním způsobem organizace spojujícího neuronu. Čím bude funkce realizovaná neuronem jednodušší, tím vyšší bude muset být počet neuronů, řečeno jiným způsobem, pokud by neuronové funkce odpovídaly síťovým funkcím, stačil by jeden. Vhodným seskupením neuronů můžeme ušetřit mnoho neuronů nebo realizovat paměť (pomocí zpětné vazby).

3 Hodnoty signálů přenášených mezi jednotlivými prvky se mění v závislosti na nastavitelných parametrech, které se nazývají váhy, wij. Prvek sčítá všechny příchozí hodnoty vážených spojení a produkuje výslednou hodnotu, která je nelineární (statickou) funkcí jeho součtu. Výstup prvku může být výstupem systému nebo může být zaslán na stejný nebo jiný prvek. Obr.1 je ukázkou umělé neuronové sítě se třemi neurony P, kde každý neuron produkuje výstupní hodnotu na základě součtu vstupních vážených hodnot dále zpracovaných nelineární aktivační funkcí f(.) Obr.1 Umělá neuronová síť

4 Využití neuronových sítí v DPZ Využití dat dálkového průzkumu Země (DPZ) je v současné době stále častější a velmi rozsáhlé. Vzhledem k nejrůznějším aplikacím využívaným například pro zemědělskou evidenci půdního fondu, mapování využití území, zjišťování zamokření, lesní hospodářství či pro analýzy životního prostředí, se objevuje i mnoho rozličných metod zpracování těchto dat. Jelikož přesnost a správnost vyhodnocení snímků závisí také na správně zvolené metodě klasifikace, není divu, že se objevují stále nové přístupy. Mezi nejnovější metody klasifikace obrazu patří klasifikace pomocí umělé neuronové sítě (Artificial Neural Network Classification). Současně s nárůstem rozsahu dostupných dat DPZ přibývají i možnosti použití neuronových sítí, které se tak začaly používat i pro klasifikaci multispektrálních snímků. V posledních letech bylo zveřejněno několik aplikací klasifikačních přístupů založených na neuronových sítích, které ukázaly výhody umělých neuronových sítí oproti obvykle používaným statistickým klasifikátorům. Přístupy neuronových sítí jsou totiž nezávislé na statistickém rozložení dat a dokáží odhadnout nelineární vztah mezi vstupními a požadovanými výstupními daty. Nejčastěji se v této problematice využívá metoda řízené klasifikace obrazu neuronovou sítí Multi-Layer Perceptron feed-forward back-propagation, neboli vícevrstvou sítí se zpětným šířením při učení. Výzkum klasifikačních metod s neuronovými sítěmi je však stále ve vývoji. Klasifikace neuronovými sítěmi Ke zkoumání možností klasifikace snímků neuronovými sítěmi musí být navržen takový postup, který bude využívat profesionální program určený k řešení úloh pomocí neuronových sítí. Tomuto účelu plně vyhovuje program Statistica Neural Networks. K převodu snímků do tohoto programu může být použit program Idrisi, protože SNN umožňuje práci pouze s tabulkovými daty. Vhodnost zvoleného postupu je posouzena srovnáním s klasifikacemi v programu Geomatica.

5 V programu SNN byly vyzkoušeny s různým nastavením čtyři záladní typy neuronových sítí Multilayer Perceptron, Radial Basis Function, Lineární a Pravděpodobnostní neuronové sítě. Nejlepší výsledky dávala klasifikace neuronovou sítí Multilayer Perceptron s trénováním backpropagation. Vstupem do klasifikace jsou radiometrické hodnoty z jednotlivých kanálů Landsatu 7, které odpovídají odrazivosti objektů v jednotlivých spektrálních pásmech a určují velikost vstupního signálu. Vnitřní parametry sítě pak musí být nastaveny tak, aby největší výstupní signál byl u neuronu odpovídajícího požadované třídě. Toto nastavení se upravuje během trénování neuronové sítě a záleží na něm konečná přesnost klasifikace. Příklad zpracování snímku je znázorněn na obrázku 2 s vyznačenými aktivacemi neuronů pro pixel z městské zástavby, který má téměř ve všech kanálech vysokou odrazivost. Nastavená váhová propojení pak tyto vstupní signály změní tak, že nejvyšší výstupní signál vyjde právě u 4. výstupního neuronu. Ke všem ostatním výstupním neuronům váhy tento signál utlumí, kdežto směrem k požadovanému uzlu ho zvýší. Takto se pak při klasifikaci zpracuje pixel po pixelu celý obraz. Obr. 2. Příklad třívrstvé perceptronové sítě se 6 vstupními, 8 skrytými a 11 výstupními uzly (MLP ) s příkladem vstupu a výstupu při klasifikaci satelitních snímků (s vyznačenými aktivacemi pro město)

6 Neurony v síti jsou propojeny tzv. váhovými propojeními, které zesilují nebo zeslabují signál přicházející z předchozích neuronů. Suma těchto vážených signálů určuje aktivaci neuronu, která ovlivňuje další výstup z neuronu. Výstup z neuronu je pak funkcí právě této aktivace, jak je možné vidět na obr. 3. a ve vzorci (2), kde je výstup vypočten na základě nejčastější logistické aktivační funkce. Obr. 3. Matematický model neuronu aktivace neuronu a = n i= wi xi h 1 (1) výstup y = 1 f ( a) = 1+ e a (2) Nastavení vah tedy hraje ve fungování neuronové sítě důležitou roli. Ke správnému nastavení dojde při úspěšném trénování neuronové sítě, k čemuž použijeme trénovací soubor, ve kterém známe správné zařazení pixelů do jednotlivých klasifikačních tříd. Při trénování neuronové sítě se signály nejprve vyšlou směrem dopředu u výstupních neuronů se porovnají výstupy s požadovanými

7 zjištěné chyby se použijí ke změně nastavení vah v síti Hledání vhodných parametrů sítě se opakuje dokud nejsou chyby mezi požadovaným a aktuálním výstupem minimální. Tímto způsobem je neuronová síť schopna rozpoznat i statisticky podobná data a proto je úspěšnost její klasifikace velmi vysoká. Výstupy z klasifikace Definitivní výstupy v podobě digitálních rastrových map land use/land cover jsou vytvořeny z nejlepších klasifikací neuronovými sítěmi po vyhlazení obrazu a připojení na souřadnice S- 42, příklad je uveden na obr. 4. Tyto výstupy mohou sloužit pro určení výužití konkrétního území podle souřadnic, nebo mohou být vstupem do geografických informačních systémů (GIS) v rastrové, případně i vektorové podobě (po vytvoření vrstev pro jednotlivé kategorie). Obr. 4. Výstup z nejlepší klasifikace do 11 kategorií

8 Závěr Postup klasifikace snímků v programu Statistica Neural Networks podává lepší výsledky než běžně používané klasifikace v programu Geomatica a tudíž může být doporučen dalším uživatelům. Tím se rozšiřují možnosti využití tohoto moderního klasifikátoru, protože v dosavadních studiích si autoři většinou vytvářeli vlastní programy, které jsou nedostupné. Až v posledních letech se začaly objevovat nové moduly s tímto klasifikátorem v programech specializovaných na zpracování dat DPZ, ty jsou však obvykle velmi drahé. Použité zdroje informací: 1) 2) 3)