VYUŽITÍ IMUNITNÍCH SYSTÉMŮ V DATOVÉ ANALÝZE Luděk Kopáček Ústav systémového nženýrství a nformatky, FES, Unverzta Pardubce Abstract Ths paper presents basc prncples of artfcal mmune systems as a novel approach to data clusterng. Work s focused on artfcal mmune network - anet. Fnally the comparson of artfcal mmune network and artfcal neural network s presented. Key words Artfcal Immune System, Artfcal Neural Network, Resource Lmted Artfcal Immune Network, Artfcal Immune Network. 1. Úvod Umělé muntní systémy (Artfcal Immune System - AIS) reprezentují novou oblast výpočtové ntelgence. Jsou nsprovány bologckým pochody, které zajšťují obranyschopnost žvočchů prot vrům a bakterím. Původně byl muntní systém modelován za účelem dokonalejšího pochopení skutečných pochodů v rámc muntní odezvy. Pozděj byl kladen více důraz na využtí prncpů muntního systému pro návrh nových přístupů v rámc výpočtové ntelgence. Stejně jako nervový systém člověka nsproval k vývoj umělých neuronových sítí (Artfcal Neural Network ANN), nsproval muntní systém člověka návrh algortmů založených na prncpech muntního systému. Umělé muntní systémy lze defnovat jako algortmy založené na deách a teorích získaných z muntních systémů žvočchů. Umělé muntní systémy jž našly své uplatnění v úlohách rozpoznávání vzorů, optmalzac, datové analýze nebo detekc anomálí. V tomto příspěvku je důraz kladen na algortmy založené na síťové teor muntního systému, hlavně na algortmus anet a jeho využtí pro datovou analýzu. V závěru je uvedeno krátké srovnání popsaného algortmu s umělým neuronovým sítěm. 2. Algortmy založené na muntních systémech V posledních několka letech se v odborné lteratuře prezentují a dskutují algortmy založené na prncpech muntního systému žvého organzmu [3, 4, 5, 6, 7, 8, 9, 10,11, 12, 25]. Mez první publkace zabývající se algortmy nsprovaným muntním systémy patří [17]. Teoretckou munolog se zabývá [1, 15, 16, 20, 26, 27]. První publkací snažící se podat ucelený obraz algortmů charakterzovaných muntním systémy, včetně obecného rámce je [3]. Základní algortmy lze rozdělt do několka skupn dle obr. 1. Dle [3, 5, 6] je rozpoznávání v rámc umělých muntních systémů prováděno v rámc stavového prostoru S, s multdmenzonálním metrckým prostorem, kde každá osa představuje jeden atrbut charakterstcký pro rozpoznávaný antgen. V rámc popsu jednotlvých algortmů založených na muntních systémech je předpokládán zobecněný pops v L-dmenzonálním prostoru S, kde každý bod s S reprezentuje jednu molekulární konfgurac (jeden typ specfcty, kterou jsou schopny protlátky rozpoznat). Tvar protlátky antgenu je v tomto stavovém prostoru dán L-dmenzonálním vektorem [5]. 81
Obr. 1: Dělení AIS algortmů podle jejch prncpu 2.1. Algortmy založené na teor muntní sítě Imuntní systém je dle [18, 19] složen ze sítě molekul a buněk schopných rozeznávat se navzájem. Navržená teore předpokládá schopnost B-lymfocytů rozeznávat se navzájem. Některé teoretcké práce z oblast muntních systémů [14, 24] se snažly vytvořt model muntní sítě pro vysvětlení chování muntního systému organzmu. Navržené modely byly poté využty v oblast výpočtové ntelgence. Algortmy výpočtové ntelgence lze rozdělt do dvou hlavních skupn: o o Spojté modely muntní sítě jsou založeny na soustavě dferencálních rovnc popsujících varace ve velkost populace B-lymfocytů. Uplatnění nalezly v robotce, optmalzac a řízení; Dskrétní modely muntní sítě nejsou založeny na dferencálních rovncích, ale na teračních postupech, č dferenčních rovncích. Uplatnění nalezly ve strojovém učení nebo datové analýze. Imuntní systém spravuje sít B-lymfocytů, ve které jsou dvě buňky spojeny, pokud jejch vzájemná afnta překročí určtý práh [25]. Teore muntní sítě je založena na předpokladu, že receptory B-lymfocytů (protlátky) mají část nazývané dotopy, které mohou být rozeznány jným volným protlátkam nebo receptory buněk. 2.1.1. Spojté umělé muntní sítě Spojté umělé muntní sítě jsou založeny na dferencálních rovncích koncentrace lymfocytů. Byly formulovány za účelem snahy o matematcký pops chování muntního systému. Na jejch základě byly poté vytvořeny modely dskrétní, které se jž využívají pro návrh algortmů založených na teor muntní sítě. V prác [18] je publkován první model muntní sítě založený na popsu dynamky skupny dentckých lymfocytů dferencálním rovncem. Identcké lymfoycyty v tomto případě představují buňky, které jsou nerozlštelné na základě jejch receptorů (míře dferencace). Jednotlvé skupny jsou označovány jako typ a c představuje koncentrac (počet) lymfocytů tohoto typu. Lymfocyty typu nteragují s lymfocyty typu j a naopak. Tato nterakce může být poslující nebo potlačující. V [18] byl navržen vztah popsující vývoj skupny lymfocytů jednoho typu: dc dt = c N ( E j, K j, t) c g( I j, K j, t) N1 2 f j= 1 j= 1 + k 1 k c kde k 1 určuje mírů vznku (dozrávání) nových lymfocytů a k 2 určuje míru zánku lymfocytů. Funkce f() a g() určují šíření kladného nebo záporného sgnálu sítí. První suma je 2 (1) 82
přes všechny poslující (kladné) nterakce generované dotopy z množny E j a druhá suma je přes všechny potlačující nterakce generované lymfocyty z množny I j. Pro tento model není nutný žádný externí sgnál reprezentovaný antgeny pro dosažení dynamckého chování sítě. V [13] je navržen model muntní sítě založený na bnárním kódování protlátek. Význam této práce spočívá v tom, že jako první spojla matematckou teoretckou munolog s prvky výpočetní ntelgence. Tento model nebere v úvahu rozdíly mez B-lymfocyty (a jejch receptory) a volným protlátkam, ale na rozdíl od předchozího modelu zahrnuje vlv externích antgenů. V [28] je navržen model muntní sítě druhé generace. V této prác byly defnovány tř důležté vlastnost muntní sítě: struktura, dynamka a metadynamka. Dynamku muntní sítě lze defnovat jako změnu koncentrace protlátek vlvem jejch nterakce s okolím, naprot tomu metadynamka je zodpovědná za produkc a dozrávání nových prvků sítě a na druhé straně za jejch lkvdac v případě auto-reaktvty, nebo v případě, kdy nedošlo k žádné nterakc s okolím. Tento model rozlšuje mez protlátkam a B-lymfocyty. Každý dotop proto exstuje ve formě vázané na buňku v množství b (t) a ve formě volné protlátky f (t). Afnta (míra nterakce) mez dotopem a dotopem j je označena jako m j. Ctlvost σ sítě na dotop -tého typu je dán vztahem: N σ = m f (2) j= 1 j, Volné protlátky jsou výsledkem dozrávání specfckých B-lymfocytů. Pravděpodobnost dozrání B-lymfocytu je závslá na míře závslost příslušného dotopu s aktuální konfgurací sítě, tzn. závsí na ctlvost sítě na daný dotop. Závslost vývoje počtu volných a vázaných protlátek popsují rovnce: df dt db dt j ( ) + k 2 f k3 f = k σ σ (3) 1b Mat = k σ ( ) + Meta k5b 4b Prol Průběhy funkcí Mat(σ ) a Prol(σ ) znázorňuje Obr. 2. Část Meta[] zahrnuje buňky, které jsou nově začleněny do sítě. Tento model na rozdíl od předchozího modelu [13] nezahrnuje vlv antgenů. (4) Obr. 2: Průběhy funkcí Prol(σ ) a Mat(σ ) 83
Analoge návrhu algortmů podle teore muntní sítě je podrobně rozebírána vzhledem ke svým emergentním vlastnostem jako je učení, paměť, auto-tolerance dverzta populace a nterakce s okolním prostředím. Obecně všechny uvedené modely lze shrnout do vztahu: c Stmulace Potlačení autoreaktvních Ab Nové Ab Odumřelé Ab (5) Obr. 3: Znázornění obecného modelu dynamky muntní sítě Stmulace odpovídá stavu, kdy je paratop rozeznán dotopem jné protlátky nebo antgenním eptopem. Potlačení je výsledkem, kdy je dotop rozeznán pomocí paratopu (auto-reaktvní odezva). 2.1.2. Dskrétní umělé muntní sítě Modely dskrétních umělých muntních sítí jsou založeny na dferenčních rovnících a teračních procesech, které realzují chování sítě. Tyto modely se využívají pro návrh umělých muntních algortmů pro řešení problémů. V případě spojtých modelů se naráží na složtost jejch řešení a převážně je pro jejch řešení nutná numercká ntegrace. Vedle toho, jsou dskrétní modely schopny měnt nejen počet elementů sítě, ale také strukturu těchto elementů. Buňky a molekuly dskrétní sítě mohou měnt svůj tvar (reprezentac ve stavovém prostoru) za účelem zvýšení afnty. Další vlastností, kterou se lší dskrétní modely od spojtých je fakt, že dskrétní modely mplctně zahrnují vlv externího prostředí reprezentujícího antgeny. Původně byly dále popsané algortmy RAIN (Resource Lmted Artfcal Immune Network) a anet (Artfcal Immune NETwork) vyvnuty pro rozpoznávání, shlukování a datovou kompres. Ncméně následně byly tyto algortmy rozšířeny pro využtí v optmalzac, řízení a robotce. Pro dskrétní modely stále platí teore Jerne [19], podle které je muntní systém složen ze sítě, jejíž dynamka je vlvem působení czího antgenu změněna. Vlvem působení externího antgenu je v sít vytvořen nterní obraz. Imuntní síť představují skupny molekul a buněk, které korespondují se skupnam antgenů. V sít exstují dva typy nterakcí: o o Interakce prvků sítě s prostředím (externím antgeny); Interakce prvků sítě navzájem. Algortmus RAIN V [25] byl navržen algortmus nazvaný RAIN (Resource lmted Artfcal Immune Network). Jedná se o algortmus vytvářející muntní síť skládající se z jednotlvých elementů 84
reprezentujících B-lymfocyty a protlátky, která se vyvíjí v dskrétních časových krocích. Jednotlvé elementy sítě jsou reprezentovány třem vlastnostm: řetězcem atrbutů v Eukldově prostou, úrovní stmulace a záznamem o počtu držených zdrojů. Pomocí mechanzmu alokace zdrojů je prováděno řízení velkost populace prvků sítě. Prvním krokem je ncalzace sítě. Jednotlvé prvky sítě (protlátky) jsou ncalzovány náhodně vybranou skupnou vstupních vzorů (antgenů). Stmulační úroveň a počet držených zdrojů je nastaven na nulu. Dalším krokem je prezentace vstupních vzorů(antgenů) každému prvku sítě. Po prezentac všech vstupních vzorů pro prvek sítě je vypočtena úroveň stmulace dle vztahu: s = M n n ( D, j ) + ( 1 D, k ) j= 1 1 D (6) k = 1 k = 1, k kde M je počet antgenů, n je počet spojených B-lymfocytů, D j je Eukldovská vzdálenost mez antgenem j a B-lymfocytem a D k je Eukldovská vzdálenost mez B-lymfocyty a k. Výraz (1-D j ) představuje afntu mez buňkam. Úroveň stmulace určuje, které buňky jsou vybrány pro expanz (klonální expanze) a které buňky jsou ze sítě odstraněny (metadynamka). Pro určení, které buňky mají být algortmem udržovány, byl navržen mechanzmus alokace zdrojů. Pro tento mechanzmus je defnován konstantní počet zdrojů, o které jednotlvé prvky sítě musí soutěžt. Každému prvku sítě jsou zdroje přřazovány podle jejch úrovně stmulace tak, že čím větší je úroveň stmulace, tím více zdrojů je příslušnému prvku sítě přřazen. Je-l celkový počet přřazených zdrojů větší než je stanovený maxmální počet, tak jsou prvky s nejmenším počtem zdrojů ze sítě vyřazeny. Vyřazování je ukončeno v okamžku, kdy je celkový počet přřazených zdrojů pod stanoveným lmtem. Některé ze zbylých prvků sítě jsou vybrány pro klonální expanz podle úrovně stmulace. Vyšší úroveň stmulace odpovídá vyšší pravděpodobnost klonální expanze a většímu počtu vytvořených klonů. Dále je každý prvek sítě podroben mutac v nverzní proporc k úrovn stmulace. Vyšší úroveň stmulace odpovídá menší pravděpodobnost mutace. To odpovídá stavu, kdy prvky s vysokou úrovní stmulace podstupují jemnému doladění, naprot tomu prvky s malou úrovní stmulace podstupují velkým změnám. Nakonec jsou všechny mutované klony porovnány oprot sít a je spočítána jejch afnta. Pokud jejch afnta padne do stanoveného prahu jsou nové mutace zapojeny do sítě. Algortmus anet V [3, 5, 6, 10] byl publkován algortmus anet (Artfcal Immune NETwork). Cílem učícího algortmu anet je vytvořt množnu protlátek, která rozpozná a reprezentuje vstupní data včetně jejch struktury. Model umělé muntní sítě anet lze formálně defnovat jako hranově vážený graf, složený z uzlů nazývaných protlátky a z hran s přřazenou váhou (sílou spojení) [5, 6, 10]. Interní obraz antgenu je množna protlátek, které jsou rozpoznány stejnou skupnou protlátek jako czí antgen. Jným slovy, protlátky představující nterní obraz mají podobné povrchové vlastnost (jsou rozeznány stejnou skupnou protlátek) jako czí antgen. Stejného mechanzmu je využíváno v procesu učení umělé muntní sítě anet, kde na základě externích dat (nebo jejch shluků) je vytvářen jejch nterní obraz v rámc umělé muntní sítě. V rámc učení anet bez učtele dochází k vytváření reprezentace dat muntní sítí. Výsledný počet protlátek v sít anet je mnohem menší než je množství vstupních vzorků, ale větší než je počet shluků v datech. Přesto je zachováno prostorové pravděpodobnostní rozložení uzlů (protlátek) sítě jaké bylo ve vstupních datech. Interakce protlátek a antgenů (vstupních dat) je reprezentována vzdálenostní metrkou (eukldovská vzdálenost, vzdálenost v blocích, apod.). Afnta antgenu a protlátky je v nverzním vztahu se vzdáleností ve stavovém 85
prostoru mez jejch reprezentanty. Čím je menší vzdálenost mez reprezentanty, tím je jejch afnta větší. Pro pops algortmu anet byla v [5] zavedena tato notace: Ab: množna všech dostupných protlátek (Ab Ab N L, Ab = Ab d Ab m, kde N je počet všech dostupných protlátek a L je počet atrbutů popsujících protlátku); Ab m : množna paměťových protlátek (Ab m Ab m m L, m < N, kde m je počet paměťových protlátek); Ab d : množna d nově přdaných protlátek do množny Ab; Ag: populace antgenů (Ag Ag M L ); f j : vektor obsahující afntu mez antgenem Ag j a všem protlátkam Ab ( = 1,...,N). Afnta protlátky a antgenu je nverzní k jejch vzdálenost ve stavovém prostoru; S: matce podobnost mez všem páry protlátek Ab -Ab j (,j = 1,...,N). Prvek matce s j vyjadřuje afntu mez protlátkam Ab a Ab j. Matce S je symetrcká matce s nulovou dagonálou; C: množna Nc klonů vygenerovaných z množny Ag; C ' : množna C po procesu afntní maturace; d j : vektor obsahující afntu mez prvky množny C ' a antgenu Ag j ; ζ: množství zralých protlátek k výběru (vyjádřeno v procentech); σ d : práh přrozené smrt; σ s : práh potlačení Pro pops algortmu budou použty následující funkce: [Ab] = generate(n,l): funkce náhodně vygeneruje N protlátek popsaných L atrbuty a vrátí je ve formě matce Ab. [S] = affnty(ab1,ab2): funkce vypočítá afntu mez matcí protlátek Ab 1 a matcí protlátek Ab 2. Výsledná matce má rozměr N 1 xn 2, kde N 1 je počet protlátek v matc Ab 1 a N 2 je počet protlátek v matc Ab 2. [Ab n ] = select(ab,f,n): funkce vybere n protlátek z matce Ab podle nejvyšší hodnoty afnty ve vektoru f. [C] = clone(ab n,f): funkce vygeneruje množnu klonů C z množny Ab n podle jejch afnty f. [C'] = dmut(c,ag j,f j ): funkce vygeneruje množnu zmutovaných klonů C'. Mutace se řídí vztahem: C k ' C k k Ag j C k ; k 1 f j ; k 1,, N c ; 1,, N. (7) [Ab m,f] = suppress(ab m,s,σ d ): funkce elmnuje paměťové protlátky, jejchž afnta s j < σ d. [Ab] = nsert(ab m,ab d ): funkce sloučí matce Ab m a Ab d a vytvoří výslednou matc Ab. functon [Ab m,s] = anet(ag,l,gen,n,ζ,σ d,σ s,d) begn 1. Ab := generate(n0,l); // Náhodné vygenerování počáteční populace protlátek. 2. for t = 1 to gen // Opakuj pro všechny generace. 2.1. for j = 1 to M // Opakuj pro všechny antgeny z množny Ag. 2.1.1. f := affnty(ab,ag(j,:)); // Urč afntu všech protlátek z Ab prot Ag j. 2.1.2. Ab n := select(ab,f,n); // Vyber n protlátek s nejvyšší afntou. 2.1.3. C := clone(ab n,f); // Pro n vybraných protlátek vygeneruj N c klonů. 2.1.4. C':= dmut(c,ag(j,:),f); // Na množně C proveď mutac dle vztahu (7). 86
2.1.5. f := affnty(c',ag(j,:)); // Vypočítej afntu zmutovaných klonů C' prot Ag j. 2.1.6. Ab m := select(c',f,ζ); // Z C' vyber ζ% protlátek s nejvyšší afntou. 2.1.7. [Ab m,f]:=suppress(ab m,f,σ d ); // Elmnuj všechny paměťové protlátky s afntou nžší než daný práh σ d. 2.1.8. S := affnty(ab m,ab m ); // Vypočítej afntu zbylých paměťových protlátek. 2.1.9. [Ab m,s]:=suppress(ab m,s,σ s ); // Elmnuj všechny paměťové protlátky s afntou nžší než daný práh σ s. end; 2.2. S := affnty(ab m,ab m ); // Vypočítej afntu paměťových protlátek. 2.3. [Ab m,s]:=suppress(ab m,s,σ s ); // Elmnuj všechny paměťové protlátky s afntou nžší než daný práh σ s. 2.4. Ab d := generate(d,l); // Vygeneruj množnu Ab d nových protlátek. 2.5. Ab := nsert(ab m,ab d ); //Vytvoř novou populac protlátek spojením paměťových Ab m a nových Ab d protlátek. end; end; Síť je ncalzovaná malým počtem náhodně vygenerovaných prvků. Každý prvek sítě reprezentuje B-lymfocyt nebo molekulu protlátky (v rámc tohoto modelu jsou považovány za totožné) [5]. Dalším krokem je prezentace antgenů. Každý antgen je prezentován všem prvkům sítě a je vypočítána jejch afnta. Protlátky s největší afntou řídí aktvac muntní sítě a začnou se dělt a dferencovat podle prncpu klonální selekce. Protlátky s nízkou afntou jsou postupně elmnovány. Část vysoce afnních prvků je vybráno pro vytvoření klonální pamět. Případné auto-reaktvní protlátky jsou také elmnovány. Po ukončení fáze učení reprezentuje muntní síť protlátek nterní obraz prezentovaných antgenů (vstupních dat). V průběhu učení dochází ke změně koncentrace a afnty protlátek. Výstupem fáze učení je množna paměťových protlátek Ab m reprezentovaných svým souřadncem ve stavovém prostoru a matce afnty mez jednotlvým protlátkam S. Matce Ab m reprezentuje naučený nterní obraz antgenů (defnuje umístění jednotlvých uzlů sítě ve stavovém prostoru) a matce S určuje propojení jednotlvých uzlů (popsuje obecnou strukturu sítě). Tato reprezentace je nevhodná pro extrakc struktury naučené sítě. Cílem procesu extrakce struktury naučené anet sítě je učení počtu shluků v datech (počtu různých tříd) a přřazení jednotlvých protlátek ve výsledné paměťové množně k jednotlvým shlukům. Algortmus anet slouží k extrakc znalostí z množny dat a následná analýza výsledné sítě představuje vlastní nterpretac předzpracovaných dat. Pro nterpretac anet sítě se využívají metody herarchckého shlukování. Vstupní data algortmů herarchckého shlukování jsou reprezentována množnou paměťových protlátek, které jsou výsledkem učení anet sítě. Jedním ze způsobů reprezentace je dendrogram, pomocí kterého lze stanovt nejen počet shluků, ale také příslušnost jednotlvých vrcholů do shluků. Algortmus anet koresponduje se základní rovncí znázorněnou na Obr. 3. Změna populace protlátek je dána nárůstem o nově vygenerované protlátky (body 2.4 a 2.5), mínus elmnace nestmulovaných protlátek (bod 2.1.7), plus nárůst o klony stmulovaných protlátek (bod 2.1.3) a mínus elmnace auto reaktvních protlátek (body 2.1.9 a 2.3) Složtost algortmu je závslá na mnoha faktorech jako jsou: počet atrbutů vstupních vektorů L, počtu vstupních vzorů M, počtu klonů protlátek Nc a počtu paměťových buněk m. Dle [5] je nejnáročnějším bodem vyhodnocení afnty mez paměťovým protlátkam. Algortmcká složtost jedné terace algortmu anet je O(m 2 ), kde m je počet paměťových buněk. Počet prvků množny paměťových protlátek se mez teracem algortmu mění [5]. Algortmcká složtost celého algortmu anet je závslá na ukončovacím krtéru a nelze j stanovt obecně. 87
3. Neuronové a muntní sítě Neuronové muntní sítě jsou přístupy nsprované bologckým postupy. V lteratuře bylo publkováno mnoho varant kombnací neuronových sítí a muntních algortmů [3, 4, 5, 6, 7, 8, 9, 10], jak jž populačně nebo síťově založených. Hrance mez oběma přístupy není pevně vymezena. Na Obr. 4 jsou znázorněny možné kombnace a rozhraní mez neuronovým a muntním sítěm. Obr. 4: Znázornění kombnací neuronových a muntních sítí V lteratuře bylo publkováno mnoho varant neuronových sítí, od dopředných vícevrstvých perceptronů, přes různé varanty rekurentních sítí (např. Hopfeldovy sítě, ART), až po samoorganzující se mapy [21, 22, 23]. Varanty neuronových sítí lze dělt také podle způsobu učení na učení bez učtele, kdy dochází k nastavování sítě na základě stanované metrky, a na učení s učtelem, kdy jsou v průběhu učení nastavovány váhy synapsí podle trénovacích vzorků s defnovaným výstupem. Algortmy anet a RAIN reprezentují skupnu algortmů čstě nsprovaných teorí muntní sítě. Jedná se o algortmy učení bez učtele, prmárně určené pro klasfkac, které pracují na prncpech samoorganzace. Základní rozdíl mez algortmem anet a neuronovým sítěm spočívá ve funkc uzlů a hran mez nm. V případě algortmu anet představují uzly sítě vntřní obraz prezentovaných vstupních vzorů a váhy na hranách představují sílu spojení (podobnost). Naprot tomu v případě neuronových sítí představují uzly sítě výkonný element a váhy jednotlvých hran reprezentují získanou (naučenou) znalost. Porovnání neuronových a muntních sítí publkované například v [5, 10], je zaměřeno na srovnání muntních sítí a samoorganzujících se map SOFM (Self-Organzng Feature Map) [22, 23], jakožto podskupnu neuronových sítí. Základní rozdíl mez algortmem anet a samoorganzujícím se mapam spočívá v generování topologe adaptované mapy. V případě samoorganzujících se map SOFM je topologe dána předem, naprot tomu v případě algortmu anet je topologe generována v průběhu vlastního algortmu na základě vstupních dat. Další rozdíly anet a neuronových sítí jsou shrnuty v Tab. 1 [10]. Vedle algortmů anet a RAIN založených čstě na muntních prncpech, byly publkovány kombnace neuronových sítí a algortmů založených na muntních prncpech [7, 8, 9]. Do této kategore spadají algortmy, kde hlavní výkonnou část zastávají neuronové sítě a muntní algortmy jsou použty pro počáteční nastavování nebo učení neuronové sítě. 88
Tab. 1: Srovnání vlastností algortmu anet a neuronových sítí reprezentovaných algortmem SOFM Charakterstka anet Neuronová síť (SOFM) Základní prvek Interakce mez prvky sítě Učení Naučená znalost Robustnost Komunkace Buňky nebo protlátky reprezentované řetězcem atrbutů. Buňky jsou spojeny vaham, které ndkují míru nterakce s ostatním buňkam. Váhy jsou stanoveny podle schopnost rozeznat se navzájem. Nastavování atrbutů a asocovaných vah jednotlvých buněk. Uložena v nastavení jednotlvých atrbutů buněk a v síle jejch vazeb. Auto-tolerance, flexblta a odolnost prot šumům. Pomocí buněčné afnty, reprezentované sílou spojení. Neuron složený z aktvační funkce a aktvačního prahu. Váhový vektor může obsahovat kladné záporné hodnoty ndkující povzbuzující nebo potlačující aktvac. Modfkace váhových vektorů. Uložena ve vahách sítě. Vysoká flexblta a odolnost prot šumům. Pomocí spojení jednotlvých neuronů. Dynamka Změna koncentrace a afnty buněk v čase. Změna síly vazeb mez neurony v čase. 4. Závěr Cílem této práce bylo shrnout základní mechanzmy a prncpy, ze kterých vycházejí algortmy založené na muntních systémech. Pozornost byla soustředěna na skupnu vycházející z teore muntní sítě a hlavně pak na algortmus anet, který patří do skupny učení bez učtele. Algortmus anet slouží k extrakc znalostí z množny dat a následná analýza výsledné sítě představuje vlastní nterpretac předzpracovaných dat. Tím je algortmus anet využtelný v šroké škále aplkací. V [2] bylo publkováno rozšíření na úlohu optmalzace ve smyslu nalezení extrému účelové funkce, které přnáší další prostor využtí a dalšího výzkumu. V pracích [3, 5, 6, 10] byly uvedeny výsledky algortmu anet na testovacích úlohách, které byly vytvořeny s důrazem na názornost dosažených výsledků a z tohoto důvodu byly poměrně jednoduché. Další oblastí je uplatnění muntních algortmů na řešení reálných aplkací, kde není stavový prostor možných řešení kvůl názornost omezen maxmálně na dmenz 3. Přínosnou prací by také bylo srovnání s výsledky získaným na reálných aplkacích v kontrastu s jným přístupy, jako jsou jž zmňované neuronové sítě nebo genetcké algortmy. V závěru bylo uvedeno krátké porovnání síťového algortmu anet s umělým neuronovým sítěm, hlavně se samoorganzujícím se mapam SOFM. Dále byly naznačeny možné varanty kombnací umělých neuronových sítí a muntních algortmů. Některé kombnace jž byly publkovány v uvedené lteratuře, ale vzhledem k tomu, že se jedná o poměrně nové přístupy, zůstává otevřený velký prostor pro další vývoj a přzpůsobení publkovaných algortmů pro konkrétní účely. 5. Lteratura [1] Bartůňková, J. - Šedvá, A. Imunologe - mnmum pro prax. Praha: TRITRON, 1999. ISBN 80-7254-045-9. [2] Castro, L. N. - Tmms, J. I. An Artfcal Immune Network for Multmodal Functon Optmzaton. In Proceedngs of IEEE CEC'02, May. 2002. vol. 1, pp. 699-674. [3] Castro, L. N. - Tmms, J. I. Artfcal Immune Systems: A New Computatonal Intellgence Approach. London: Sprnger-Verlag, 2002. ISBN 1-85233-594-7. 89
[4] Castro, L. N. - Tmms, J. I. Artfcal Immune Systems as a Novel Soft Computng Paradgm. Soft Computng Journal. 2003, vol. 7, no. 7, pp. 526-544. [5] Castro, L. N. - Zuben, F. J. Data Mnng: A Heurstc Approach. Abbass H. A. - Sarker R. A. - Newton C. S. USA: Idea Group Publshng, 2001. Chapter XII, anet: An Artfcal Immune Network for Data Analyss, pp. 231-259. [6] Castro, L. N. - Zuben, F. J. An Evolutonary Immune Network for Data Clusterng. In Proceedngs of the IEEE Brazlan Symposum on Artfcal Neural Networks. Ro de Janero, 2000. pp. 84-89. [7] Castro, L. N. - Zuben, F. J. An Immunologcal Approach to Intalze Centers of Radal Bass Functon Neural Networks. In Proceedngs of CBRN'01. 2001. pp. 79-84. [8] Castro, L. N. - Zuben, F. J. An Immunologcal Approach to Intalze Feedforward Neural Network Weghts. In Proceedngs of ICANNGA'01. 2001. pp. 126-129. [9] Castro, L. N. - Zuben, F. J. Automatc Determnaton of Radal Bass Functon: An Immunty-Based Approach, Internatonal Journal of Neural Systems (IJNS), Specal Issue on Non-Gradent Learnng Technques. 2002, vol. 11, no. 6, pp. 523-535. [10] Castro, L. N. - Zuben, F. J. Immune and Neural Network Models: Theoretcal and Emprcal Comparsons. Internatonal Journal of Computatonal Intellgence and Applcatons (IJCIA).2001, vol. 1, no. 3, pp. 239-257. [11] Castro, L. N. - Zuben, F. J. Learnng and Optmzaton Usng the Clonal Selecton Prncple. IEEE Transactons on Evolutonary Computaton, Specal Issue on Artfcal Immune Systems. 2002, vol. 6, no. 3, pp. 239-251. [12] Dasgupta, D. et. al. Artfcal Immune Systems and Ther Applcatons. Sprnger-Verlag, 1999. [13] Farmer, J. D. et. al. Adaptve Dynamc Networks as Models for the Immune System and Autocatalytc. Ann. of the N.Y. Acad.of Sc. 1987. pp. 118-131. [14] Farmer, J.D. et. al. The mmune system, adaptaton, and machne learnng, Physca. 1986, no. 22D, pp. 187 204 [15] Fučíková, T. Klncká munologe v prax. Praha: Garlén, 1995. ISBN 80-85824-24-8. [16] Hořejší, V. - Bartůňková, J. Základy munologe. Praha: TRITRON, 1998. ISBN 80-85875-73-X [17] Ishda, Y. et. al. Immunty Based Systems-Intellgent Systems by Artfcal Immune Systems. Corona Pub. Co. Japan, 1998. [18] Jerne, N. K. Clonal Selecton n a Lymphocyte Network. Cellular Selecton and Regulaton n the Immune Response. Raven Press, NY 1974. pp. 39. [19] Jerne, N. K. Towards a Network Theory of the Immune System. An Immunologca. 1974, pp. 373-389 [20] Krejsek, J. - Kopecký, O. - Fxa, B. Kaptoly z lékařské munologe. Unverzta Karlova, vydavatelství Karolnum Praha, 1993. ISBN 80-7066-723-0. [21] Kvasnčka, V. a kol. Úvod do teore Neuronových sítí. Bratslava: IRIS, 1997. ISBN 80-88778-30-1. [22] Mařík, V. - Štěpánková, O. - Lažanský, J. Umělá ntelgence 1. Praha: Academa, 1993. ISBN 80-200-0496-3. [23] Mařík, V. - Štěpánková, O. - Lažanský, J. Umělá ntelgence 4. Praha: Academa, 2003. ISBN 80-200-1044-0. [24] Perelson, A. S. Immune network theory, Immunologcal Revew. 1989, no. 110, pp.5-36. [25] Tmms, J. Artfcal Immune Systems: A novel data analyss technque nspred by the mmune network theory. Unversty of Wales. Department of Computer Scence, 2001. [26] Trojan, S. a kol. Lékařská fyzologe. Grada Publshng, 1996. ISBN 80-7169-311-1. [27] Šterzl, J. Imuntní systém a jeho fyzologcké funkce. Praha: Česká munologcká společnost, 1993. [28] Varela, F. J. - Countnho, A. Second Generaton Immune Networks. Immunology Today. 1991. Kontaktní adresa: Ing. Luděk Kopáček USII/FES Unverzta Pardubce Studentská 84, Pardubce, 53210 e-mal: ludek.kopacek@upce.cz 90