Particle Swarm Optimization. Martin Macaš ČVUT FEL Katedra kybernetiky

Podobné dokumenty
Swarm Intelligence. Moderní metody optimalizace 1

Evoluční algoritmy. Podmínka zastavení počet iterací kvalita nejlepšího jedince v populaci změna kvality nejlepšího jedince mezi iteracemi

Metaheuristiky s populacemi

Vícekriteriální optimalizace

Cluster Analysis based on Bio-Inspired Algorithms

Evolučníalgoritmy. Dále rozšiřována, zde uvedeme notaci a algoritmy vznikléna katedře mechaniky, Fakulty stavební ČVUT. Moderní metody optimalizace 1

UČENÍ BEZ UČITELE. Václav Hlaváč

Projekční algoritmus. Urychlení evolučních algoritmů pomocí regresních stromů a jejich zobecnění. Jan Klíma

5. Umělé neuronové sítě. Neuronové sítě

Genetické programování

Rosenblattův perceptron

Využití hybridní metody vícekriteriálního rozhodování za nejistoty. Michal Koláček, Markéta Matulová

NÁVRH REGULÁTORU PRO VLT TELESKOP POMOCÍ MATLABU 1. Zdeněk Hurák, Michael Šebek

Úvod do optimalizace, metody hladké optimalizace


Vojtěch Franc Centrum strojového vnímání, Katedra kybernetiky, FEL ČVUT v Praze Eyedea Recognition s.r.o MLMU

11. Tabu prohledávání

Algoritmy a struktury neuropočítačů ASN - P10. Aplikace UNS v biomedicíně

Optimalizační algoritmy inspirované chováním mravenců

Návrh a implementace algoritmů pro adaptivní řízení průmyslových robotů

ŘEŠENÍ OPTIMALIZAČNÍCH ÚLOH ALGORITMY PSO SOLVING OPTIMIZATION TASKS BY PSO ALGORITHMS

Heuristiky UNIVERZITA PALACKÉHO V OLOMOUCI KATEDRA MATEMATICKÉ ANALÝZY A APLIKACÍ MATEMATIKY. Vypracovala:

Karta předmětu prezenční studium

Neuropočítače. podnět. vnímání (senzory)

ADAPTACE PARAMETRU SIMULAČNÍHO MODELU ASYNCHRONNÍHO STROJE PARAMETR ADAPTATION IN SIMULATION MODEL OF THE ASYNCHRONOUS MACHINE

Teorie (ještě teoretičtější)

PŘEDNÁŠKA 03 OPTIMALIZAČNÍ METODY Optimization methods

Rozpoznávání v obraze

Popis zobrazení pomocí fuzzy logiky

Strojové učení Marta Vomlelová

Genetické programování 3. část

Fluid-structure interaction

The Over-Head Cam (OHC) Valve Train Computer Model

jednoduchá heuristika asymetrické okolí stavový prostor, kde nelze zabloudit připustit zhoršují cí tahy Pokročilé heuristiky

PREDIKCE DÉLKY KOLONY V KŘIŽOVATCE PREDICTION OF THE LENGTH OF THE COLUMN IN THE INTERSECTION

VYSOKÉ UČENÍ TECHNICKÉ V BRNĚ BRNO UNIVERSITY OF TECHNOLOGY VČELÍ ALGORITMUS BEES ALGORITHM

Biologicky inspirované výpočty. Schématické rozdělení problematiky a výuky

Navrženy v 60. letech jako experimentální optimalizační metoda. Velice rychlá s dobrou podporou teorie

Eva Fišerová a Karel Hron. Katedra matematické analýzy a aplikací matematiky Přírodovědecká fakulta Univerzity Palackého v Olomouci.

Katedra kybernetiky laboratoř Inteligentní Datové Analýzy (IDA) Katedra počítačů, Computational Intelligence Group

Heuristické řešení problémů. Seminář APS Tomáš Müller

Přednáška 13 Redukce dimenzionality

OPTIMALIZACE. (přehled metod)

Lineární diskriminační funkce. Perceptronový algoritmus.

MATEMATICKÁ STATISTIKA - XP01MST

Zpracování digitalizovaného obrazu (ZDO) - Segmentace II

Umělé neuronové sítě

Imputace nulovy ch hodnot v metabolomice

Jak se matematika poučila v biologii

Algoritmy pro shlukování prostorových dat

Extrakce a selekce příznaků

Algoritmy pro spojitou optimalizaci

EVOLUČNÍ ALGORITMY A NEURONOVÉ SÍTĚ

Klasifikace a rozpoznávání. Lineární klasifikátory

VYSOKÉ UČENÍ TECHNICKÉ V BRNĚ

Využití metod strojového učení v bioinformatice David Hoksza

Prostorová variabilita

1. Vlastnosti diskretních a číslicových metod zpracování signálů... 15

Matematické modely spontánní aktivity mozku

NG C Implementace plně rekurentní

Analýza spolehlivosti tlakové nádoby metodou Monte Carlo

VUT Brno Fakulta informačních technologií Simulační nástroje a techniky (SNT) 2014/2015 Vehicle routing problem Ant colony

Odečítání pozadí a sledování lidí z nehybné kamery. Ondřej Šerý

HASHING GENERAL Hashovací (=rozptylovací) funkce

Trénování sítě pomocí učení s učitelem

ADAPTIVNÍ ALGORITMUS PRO ODHAD PARAMETRŮ NELINEÁRNÍCH REGRESNÍCH MODELŮ

Měření dat Filtrace dat, Kalmanův filtr

Úvod do stochastických optimalizačních metod (metaheuristik) Moderní metody optimalizace 1

Přírodou inspirované metody umělé inteligence

Programování. s omezujícími podmínkami. Roman Barták. rová hranová konzistence

Klasifikace a rozpoznávání

Numerické metody a programování. Lekce 8

METODY DOLOVÁNÍ V DATECH DATOVÉ SKLADY TEREZA HYNČICOVÁ H2IGE1

Optimalizace & soft omezení: algoritmy

Pokročilé metody učení neuronových sítí. Tomáš Řehořek

Biomedicínské inženýrství na ČVUT FEL

Pokročilé operace s obrazem

Počítačové simulace a statistická mechanika

bfs, dfs, fronta, zásobník, prioritní fronta, halda

1. Úvod Jednou z! "# $ posledn % & $$' ( )(( (*+ % ( (* $ $%, (* ( (* obvodech pro elektronickou regulaci.*' (( $ /

Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti

Genetické algoritmy. Informační a komunikační technologie ve zdravotnictví

Anotace. Klíčová slova: 1. Úvod

12. Globální metody MI-PAA

Karta předmětu prezenční studium

Vytěžování znalostí z dat

Seminář z umělé inteligence. Otakar Trunda

KLASIFIKÁTOR IZOLOVANÝCH SLOV NA BÁZI UMĚLÉ NEURONOVÉ SÍTĚ

Základy vytěžování dat

Řízení pohybu stanice v simulačním prostředí OPNET Modeler podle mapového podkladu

14. Složitější konstrukce

Klasifikační metody pro genetická data: regularizace a robustnost

UMÍ POČÍTAČE POČÍTAT?

PLÁNOVÁNÍ CESTY ROBOTA POMOCÍ ROJOVÉ INTELIGENCE

bfs, dfs, fronta, zásobník, prioritní fronta, halda

aneb jiný úhel pohledu na prvák

ACTA UNIVERSITATIS AGRICULTURAE ET SILVICULTURAE MENDELIANAE BRUNENSIS SBORNÍK MENDELOVY ZEMĚDĚLSKÉ A LESNICKÉ UNIVERZITY V BRNĚ

Rozpoznávání objektů ve video sekvencích

Neuronové sítě Ladislav Horký Karel Břinda

Uni- and multi-dimensional parametric tests for comparison of sample results

Transkript:

Particle Swarm Optimization Martin Macaš ČVUT FEL Katedra kybernetiky macas.martin@fel.cvut.cz

Úvod BIODAT Group 2

Úvod swarms, flocks, herds, schools, blooms mravenci, termiti,... včely, vosy,... pakoně, zebry,... ryby,... lidé... BIODAT Group 3

Proč hejna? Včely prohledávání Vysílají zvědy, kteří hledají nové místo pro hnízdo zvědi po návratu tancem přesvědčují ostatní zvědy, čím šťastnější tanec, tím větší pravděpodobnost, že se ostatní přidají Po určité době, když většina zvědů souhlasí s novým místem, celý roj se stěhuje Dobré místo musí být dostatečně prostorné, dobře chráněné před vnějšími elementy, mít správný přístup tepla i vzduchu a nesmí být zamořeno mravenci BIODAT Group 4

Proč hejna? Tadarida guánová ochrana před predátory komunikace a rozhodování Výřivý sloup říká ostatním, kdy vylétnout z hnízda, kam se dnes poletí -fúze zkušeností z předchozí noci kolektivní rozhodování BIODAT Group 5

Proč hejna? Mravenci Přeprava Tvorba voru z vlastních těl, pontonové mosty BIODAT Group 6

Proč hejna? Ryby Znásobení smyslů, obrana před predátorem BIODAT Group 7

Proč hejna? Ryby vnímání ostatních i predátorů postraní čárou varovné signály pomocí feromonů, rozechvívání vzduchových měchýřů, skřípění požerákových zubů BIODAT Group 8

Proč hejna? Ptáci Hledání potravy Ptáci letící desítky metrů nad zemí dokážou vidět a rozeznat zrnko obilí Sledují znamení zdroje potravy, t.j. aktivity ostatních:» Krmení se na zemi» Kroužení nad nějakým cílem» Otočení se a oddělení se od hejna za něčím» BIODAT Group 9

Proč hejna? Lov BIODAT Group 10

Simulace Ptačí hejna Craig Reynolds, 1987:BOIDS Tři lokální síly: Collision avoidance odtažení v případě hrozící kolize Velocity matching Jedinci se snaží pohybovat zhruba podobnou rychlostí jako jejich sousedi Flock centering Jedinci se snaží dostat do středu hejna BIODAT Group 11

Simulace Ptačí hejna Heppner, Grenander, Potter, 1990:BOIDS navíc přitahování k hnízdu tendenci udržovat si svou rychlost náhodná síla větru Toner and Tu, 1998: Flocks, herds and schools: A quantitative theory of flocking Chování hejna připomíná celulární automat 4. typu (charakteristické a nepredikovatelné vzory, které emergují po dlouhou dobu aby pak zanikly) BIODAT Group 12

Literatura BIODAT Group 13

Kde použít PSO? Number of variables Type of variables Number of optima Univariate Continuous Unimodal Multivariate Discrete (Integer) Multimodal Number of optimization criteria Combinatorial Constraints Degree of nonlinearity of fitness function Single-objective Unconstrained Linear Constrained Multi-objective Equality constraints Inequality constraints Nonlinear BIODAT Group 14

Notace Struktura swarmu S: n s... počet jedinců (velikost populace) n x... dimenzionalita prohledávaného prostoru x i... pozice i tého jedince (x i1, x i2,, x inx ) v i... rychlost i tého jedince (v i1, v i2,, v inx ) y i... personal best pozice i tého jedince y i /y... local/global best pozice i tého jedince BIODAT Group 15

Topologie Nejběžnější: Méně běžné: Kennedy, Mendes (2002): Population structure and particle swarm performance. Čím více lokálních optim, tím méně propojená topologie BIODAT Group 16

Local Best PSO Update rychlosti: v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Update pozice: x i t + 1 = x i t + v i t + 1 BIODAT Group 17

Local Best PSO Update rychlosti: v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Setrvačnost y 1 (t) Kognitivní komponenta Sociální komponenta v 1 (t) x 1 (t) y 1 (t) BIODAT Group 18

Local Best PSO Update rychlosti: v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Setrvačnost y 1 (t) Kognitivní komponenta Sociální komponenta wv 1 (t) x 1 (t) y 1 (t) BIODAT Group 19

Local Best PSO Update rychlosti: v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Setrvačnost y 1 (t) Kognitivní komponenta Sociální komponenta wv 1 (t) x 1 (t) y 1 (t) BIODAT Group 20

Local Best PSO Update rychlosti: v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Setrvačnost y 1 (t) Kognitivní komponenta Sociální komponenta wv 1 (t) x 1 (t) y 1 (t) BIODAT Group 21

Local Best PSO Update rychlosti: v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Setrvačnost Kognitivní komponenta Situace: Jedinci 1 a 2 jsou sousedé a mají společného souseda, který je zároveň nejlepším sousedem každého: y 1 (t) Sociální komponenta v 2 (t) v 1 (t) x 1 (t) y 1 t = y 2 t x 2 (t) y 2 (t) BIODAT Group 22

Local Best PSO Update rychlosti: v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Setrvačnost Situace: Jedinec jedna našel zatím nejlepší pozici ze svého okolí. Protože není sousedem jedince 2, má jedinec 2 jinou sociální znalost než jedinec 1 y 1 t Kognitivní komponenta = y 1 t Sociální komponenta v 1 (t) x 1 (t) y 2 t v 2 (t) x 2 (t) y 2 (t) BIODAT Group 23

Local Best PSO Update rychlosti: v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Update pozice: x i t + 1 = x i t + v i t + 1 BIODAT Group 24

Local Best PSO Update rychlosti: v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Vhodné nastavení parametrů: w... Lineárně klesající z 0.9 na 0.4 c 1... 2 c 2... 2 topologie... Každý s každým/prstenec V MAX... Podle rozsahu dané proměnné j BIODAT Group 25

Local Best PSO Algoritmus: lbest PSO Initialize n x -dimenzional swarm of n s particles repeat for each particle i = 1,, n s do if f x i < f y i then y i = x i end end for each particle i = 1,, n s do y i = argmin yk f(y k ) subject to k N i end for each particle i = 1,, n s do update the velocity update the position end until stopping condition is true BIODAT Group 26

BIODAT Group 27

Global Best PSO Všichni jedinci sdílejí jednu globální informaci o best so far řešení v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y j t x ij t BIODAT Group 28

Global Best PSO Algoritmus: gbest PSO Initialize n x -dimenzional swarm repeat for each particle i = 1,, n s do if f x i < f y i then y i = x i end if f y i < f y then y = y i end end for each particle i = 1,, n s do update the velocity update the position end until stopping condition is true BIODAT Group 29

Časté chyby Engelbrecht (2005): Fundamentals of computational swarm intelligence. Algoritmus: lbest PSO Initialize n x -dimenzional swarm of n s particles repeat for each particle i = 1,, n s do if f x i < f y i then y i = x i end if f y i < f y i then y = y i end end for each particle i = 1,, n s do update the velocity update the position end until stopping condition is true Global best nemá v local best algoritmu co dělat. Kdyby tam bylo y i = y i nemohla by být local best pozice dosažená jiným jedincem než je jedinec i BIODAT Group 30

Časté chyby del Valle et al. (2008): Particle Swarm Optimization: Basic Concepts, Variants and Applications in Power Systems rand1 a rand2 by v tomto případě musely být diagonální matice snáhodnými čísly na diagonále Při správné inicializaci lze použí pro řešení problémů s lineárním omezením Ax=B BIODAT Group 31

Časté chyby del Valle et al. (2008): Particle Swarm Optimization: Basic Concepts, Variants and Applications in Power Systems Global best pozice není pozice jedince s nejlepší hodnotou fitness! PSOtoolbox pro Matlab trpěl touto chybou BIODAT Group 32

Inicializace Rychlosti na nulovou hodnotu v i = 0 Pozice náhodně např. podle rozsahu prohledávaného prostoru Personal, local nebo global best pozice na aktuální pozici y i = x i Dalčí metody: Sobol sequences Faure sequences Nonlinear simplex method BIODAT Group 33

Ukončovací kritérium Maximální počet iterací Nalezení řešení Stagnace po určitou dobu Ztratí se diverzita (normalizovaný průměr swarmu je téměř 0) Pokles hodnoty cílové funkce je malý po určitou dobu BIODAT Group 34

Exploze (divergence) swarmu Může vzniknout, pokud pozice jedince je daleko od jeho personal best a local/global best v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Lze řešit pomocí omezení rychlosti if v ij > +V MAX,j then v ij = +V MAX,j if v ij < V MAX,j, then v ij = V MAX,j BIODAT Group 35

Exploze (divergence) swarmu Může vzniknout, pokud pozice jedince je daleko od jeho personal best a local/global best v ij t + 1 = w(t)v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t Lze také řešit pomocí constriction coeficientu: v ij t + 1 = χ v ij t + c 1 r 1j t y ij t x ij t + c 2 r 2j t y ij t x ij t BIODAT Group 36

Konvergence Konvergence do bodu p lim t y t = p Základní PSO není garantována kovergence do globálního optima!!!!!!! není garantována kovergence do lokálního optima!!!!!!! BIODAT Group 37

Konvergence GCPSO Guaranteed convergence PSO Van den Bergh and Engelbrecht (2002): A new locally convergent Particle Swarm Optimizer. Garantovaná konvergence do lokálního optima přidáním náhodného prohledávání okolí gbest pozice v ij t + 1 = w(t)v ij t + y j t x ij t + ρ t [1 2r 2j t ] ρ t se adaptivně prizpůsobuje a je vždy>0 BIODAT Group 38

Konvergence Van den Bergh (2002): An analysis of particle swarm optimizers, PhD thesis: Algoritmy s garantovanou konvergencí do globálního optima: RPSO Random particle PSO V každé iteraci, nejméně jedna pozice je náhodně resetována MPSO Multi-start PSO BIODAT Group 39

Binární PSO x ij 1 ( t 1) 1 pokud U 1 ( 0,1) ( t 1) 1 e v ij 0.9 0.8 0.7 P[x i (t+1)=1] 0.6 0.5 0.4 0.3 0.2 0.1 0-10 -8-6 -4-2 0 2 4 6 8 10 v i (t+1) BIODAT Group 40

Multiobjective optimalizace BIODAT Group 41

Multiobjective optimalizace Agregace jednotlivých funkcí Např. vážený součet Různé části prohledávání používají různé funkce např. Dynamic Neighborhood MOPSO, Vector evaluated PSO (VEPSO),... Metody založené na dominanci Hledání a uchovácání pareto fronty archiv Např. Moore a Chapman: Personal best je seznam, z kterého se vybírá náhodně BIODAT Group 42

Multiobjective optimalizace Další metody založené na dominanci: Coello Coello and Lechuga: Adaptive archive grid Mostaghim and Teich: Sigma method and ε dominance Hu, Eberhart and Shi: Global guide selection Zhang and Huang: Distance based selection Li: Non dominated sorting Yen and Lu Fieldsend and Singh: Dominated trees Ray and Liew: Swarm metaphor BIODAT Group 43

Dynamická optimalizace Detekce změny ztrátové funkce Např. sledováním chování global best pozice a její příslušné hodnoty f Odezva na změnu a sledování optima Např. restart některých jedinců Např. Simulátor skleníku pro rajčata optimalizace podmínek pro růst rajčat BIODAT Group 44

Aplikace Učení skrytých Markovských modelů Nahrazení hill-climbingového EM algoritmu PSO metodou Optimalizace s omezením Analýza nitrolebečního tlaku pro detekci traumatického poranění mozku Detekce fází spánku z EEG a x1 x2 11 a 22 a 21 G(m 1,U 1 ) G(m 2,U 2 ) BIODAT Group 45

Aplikace Plánování cesty robota Reprezentace cesty splineami Optimalizace parametrů spliny BIODAT Group 46

Aplikace Plánování cesty robota BIODAT Group 47

Aplikace Plánování cesty robota BIODAT Group 48

Aplikace Predikce aktivity reaktoru 17 vstupních prom. 1 výstupní prom. Cílem je Vytvořit adaptivní model (adaptace na změny procesu způsobené neměřitelnými vlivy) BIODAT Group 49

Inputs Prediction Aplikace Predikce aktivity reaktoru BIODAT Group 50

Aplikace Nevýhoda klasického přístupu: Uváznutí v lokálních extrémech Aproximace gradientu příspěvek vah zpětné vazby je zanedbán BIODAT Group 51

Aplikace Predikce aktivity reaktoru Adaptivita reinicializace části swarmu BIODAT Group 52

Aplikace Selekce příznaků pro rozpoznávání Binární PSO Klasifikace spánkového EEG novorozenců Predikce stavu pacienta Klasifikace při hloubkové stimulaci mozku Klasifikace srdečních signálů plodu BIODAT Group 53

Aplikace Optimalizace extrakce příznaků Klasifikace úrovně frakcionace intrakardiálních signálů Křemen, V. - Lhotská, L. - Macaš, M. - Čihák, R. - Kautzner, J. - et al.: A New Approach to Automated Assessment of Fractionation of Endocardial Electrograms During Atrial Fibrillation.Physiological Measurement. 2008, vol. 29, no. 12, p. 1371-1381. ISSN 0967-3334 BIODAT Group 54

Vizualizace Štěpánová, K. - Macaš, M.: Visualizing Correlations Between EEG Features by Two Different Methods. In BioDat 2012 - Conference on Advanced Methods of Biological Data and Signal Processing [CD-ROM]. Praha: České vysoké učení technické v Praze, 2012, vol. 1, p. 1-4. ISBN 978-80-01-05153-5. BIODAT Group 55

Aplikace Shlukování Detekce jednotlivých typů očních pohybů Fixace BIODAT Group 56

Aplikace Shlukování Detekce jednotlivých typů očních pohybů BIODAT Group 57

PSO poslední trendy Výrazný nárůst aplikací v energetice Obnovitelné zdroje, kvalita elektřiny,... BIODAT Group 58

PSO poslední trendy 2500 Pocet casopiseckych clanku ve WOS 2000 1500 1000 500 0 1996 1998 2000 2002 2004 2006 2008 2010 2012 2014 Rok BIODAT Group 59

Děkuji za pozornost BIODAT Group 60

Dodatek BIODAT Group 61

Formování názorů a optimalizace s v t s v t s? BIODAT Group 62

Social impact theory based optimizer q 1 ~-f(00101) 10111 00111 11101 q 3 ~-f(11101) 00101 00100 q 2 ~-f(00101) q i ~-f(00111) q 4 ~-f(00100) 63

Aplikace Predicting Mortality of ICU Patients: The PHYSIONET/COMPUTING IN CARDIOLOGY Challenge 2012 SITO based feature selection for Linear Bayes classifier Reduced initialization was used Event 1: maximize min(sensitivity, positive predictivity) Event 2: minimize Hosmer-Lemeshow statistic 30 participants We achieved 4 th place in Event 1 3 rd place in Event 2 BIODAT Group 64

Aplikace Predicting Mortality of ICU Patients: The PHYSIONET/COMPUTING IN CARDIOLOGY Challenge 2012 BIODAT Group 65

Aplikace Optimization of classification system for recognition of tea samples Central Scientific Instruments Organisation, INDIA BIODAT Group 66