Swarm Intelligence. Moderní metody optimalizace 1

Podobné dokumenty
Optimalizační algoritmy inspirované chováním mravenců

Navrženy v 60. letech jako experimentální optimalizační metoda. Velice rychlá s dobrou podporou teorie

Metaheuristiky s populacemi

Optimalizační algoritmy inspirované chováním mravenců

Ant Colony Optimization

Use of ant colony optimization for vehicle routing problem. Použití metody mravenčích kolonií pro úlohy okružních jízd

PŘEDNÁŠKA 03 OPTIMALIZAČNÍ METODY Optimization methods

Genetické programování

Algoritmy pro spojitou optimalizaci

VUT Brno Fakulta informačních technologií Simulační nástroje a techniky (SNT) 2014/2015 Vehicle routing problem Ant colony

Ant Colony Optimization 1 / 26

Evolučníalgoritmy. Dále rozšiřována, zde uvedeme notaci a algoritmy vznikléna katedře mechaniky, Fakulty stavební ČVUT. Moderní metody optimalizace 1

Cluster Analysis based on Bio-Inspired Algorithms

Particle Swarm Optimization. Martin Macaš ČVUT FEL Katedra kybernetiky

PLÁNOVÁNÍ CESTY MOBILNÍHO ROBOTU POMOCÍ MRAVENČÍCH ALGORITMŮ MOBILE ROBOT PATH PLANNING BY MEANS OF ANT ALGORITHMS

Pokročilé metody učení neuronových sítí. Tomáš Řehořek

Genetické programování 3. část

Faculty of Nuclear Sciences and Physical Engineering Czech Technical University in Prague

1 Přesnost metody konečných prvků

Úvod do stochastických optimalizačních metod (metaheuristik) Moderní metody optimalizace 1

Genetické algoritmy a jejich praktické využití

Úvod do optimalizace, metody hladké optimalizace

Biologicky inspirované výpočty. Schématické rozdělení problematiky a výuky

Uplatnění agentových kolon při ovládání a optimalizaci průmyslových procesů (2)

Vícekriteriální optimalizace

PLÁNOVÁNÍ CESTY ROBOTA POMOCÍ ROJOVÉ INTELIGENCE

Optimalizace pomocí mravenčích kolonií Inspirace, definice, aplikace a perspektivy

VYSOKÉ UČENÍ TECHNICKÉ V BRNĚ BRNO UNIVERSITY OF TECHNOLOGY VČELÍ ALGORITMUS BEES ALGORITHM

HLEDÁNÍ NEJKRATŠÍ CESTY POMOCÍ MRAVENČÍCH KOLONIÍ - JAVA IMPLEMENTACE

Ant Colony Optimization v prostředí Mathematica

ŘEŠENÍ OPTIMALIZAČNÍCH ÚLOH ALGORITMY PSO SOLVING OPTIMIZATION TASKS BY PSO ALGORITHMS

Problém obchodního cestujícího pomocí metody Mravenčí kolonie

Paralelní grafové algoritmy

Projekční algoritmus. Urychlení evolučních algoritmů pomocí regresních stromů a jejich zobecnění. Jan Klíma

Paralelní a distribuované výpočty (B4B36PDV)

Jak mravenčí kolonie dobývají znalosti

PSO OPTIMALIZACE V MATLABU

VYSOKÉ UČENÍ TECHNICKÉ V BRNĚ BRNO UNIVERSITY OF TECHNOLOGY

Jarníkův algoritmus. Obsah. Popis

Heuristiky UNIVERZITA PALACKÉHO V OLOMOUCI KATEDRA MATEMATICKÉ ANALÝZY A APLIKACÍ MATEMATIKY. Vypracovala:

FAKULTA INFORMAČNÍCH TECHNOLOGIÍ

Ant Colony Optimization with Castes

České vysoké učení technické v Praze Fakulta elektrotechnická. Diplomová práce Přepínání metaheuristik. Aleš Kučík

Užití systému Matlab při optimalizaci intenzity tepelného záření na povrchu formy

MODELOVÁNÍ PLANÁRNÍCH ANTÉN POMOCÍ UMĚLÝCH NEURONOVÝCH SÍTÍ

APLIKACE OPTIMALIZAČNÍ METODY PSO V PODNIKATELSTVÍ

Simulace pohybu chodců pomocí celulárních modelů

Seminář z umělé inteligence. Otakar Trunda

Rojová optimalizace v Matlabu

Optimalizace obecný úvod. [proč optimalizovat?] Formalizace problému. [existují podobné problémy?]

Uplatnění agentových kolon při ovládání a optimalizaci průmyslových procesů (1)

Faculty of Nuclear Sciences and Physical Engineering Czech Technical University in Prague

ADAPTIVNÍ ALGORITMUS PRO ODHAD PARAMETRŮ NELINEÁRNÍCH REGRESNÍCH MODELŮ

Analýza spolehlivosti tlakové nádoby metodou Monte Carlo

Systémy s umělou inteligencí

Faster Gradient Descent Methods

Kolektivní robotické vyhledávání založené na optimalizaci hejnem částic

Evoluční algoritmy. Podmínka zastavení počet iterací kvalita nejlepšího jedince v populaci změna kvality nejlepšího jedince mezi iteracemi

DETEKCE DISKREDIBILITY SENZORU U KOTLE NA BIOMASU OPTIMALIZAČNÍMI ALGORITMY

Numerické metody optimalizace - úvod

Algoritmus Minimax. Tomáš Kühr. Projektový seminář 1

Časová a prostorová složitost algoritmů

ANALÝZA A KLASIFIKACE BIOMEDICÍNSKÝCH DAT. Institut biostatistiky a analýz

Optimalizace & soft omezení: algoritmy

VYSOKÉ UČENÍ TECHNICKÉ V BRNĚ MRAVENČÍ KOLONIE DIPLOMOVÁ PRÁCE

Lineární stabilita a teorie II. řádu

Pružinový algoritmus a algoritmus úpravy hustoty pulsů ve 2D. Iva Bartůňková 3.ročník 2004/05

FACULTY OF MECHANICAL ENGINEERING INSTITUTE OF AUTOMATION AND COMPUTER SCIENCE

OPTIMALIZAČNÍ ÚLOHY. Modelový příklad problém obchodního cestujícího:

Neuronové sítě AIL002. Iveta Mrázová 1 František Mráz 2. Neuronové sítě. 1 Katedra softwarového inženýrství. 2 Kabinet software a výuky informatiky

Buněčné automaty a mřížkové buněčné automaty pro plyny. Larysa Ocheretna

Využití přímé inverzní metody pro řízení reálných systémů

Úvod do celočíselné optimalizace

OPTIMALIZACE CHEMICKÝCH STUPŇOVÝCH PROCESŮ POMOCÍ MATLAB SYMBOLIC MATH TOOLBOXU. Vladimír Hanta

Rovnovážné modely v teorii portfolia

Markov Chain Monte Carlo. Jan Kracík.

Návrh a implementace algoritmů pro adaptivní řízení průmyslových robotů

DIPLOMOVÁ PRÁCE ZÁPADOČESKÁ UNIVERZITA V PLZNI FAKULTA ELEKTROTECHNICKÁ. Paralelní polohování miniaturních robotů pomocí magnetického pole

Klasifikační metody pro genetická data: regularizace a robustnost

Optimalizační metody v CFD diferenciální evoluce

Fakt. Každou soustavu n lineárních ODR řádů n i lze eliminací převést ekvivalentně na jednu lineární ODR

2) Napište algoritmus pro vložení položky na konec dvousměrného seznamu. 3) Napište algoritmus pro vyhledání položky v binárním stromu.

Úvod do mobilní robotiky AIL028

Činnost: 1) Vyhodnotí se výraz E. 2) Jeho hodnota se uloží do proměnné V.

OPTIMALIZACE. (přehled metod)

Lineární diskriminační funkce. Perceptronový algoritmus.

Distribuovaný algoritmus diferenciální evoluce v platformě. A Platform Independent Distributed DE Algorithm

Obraz matematický objekt. Spojitý obraz f c : (Ω c R 2 ) R

Vyučovací hodina. 1vyučovací hodina: 2vyučovací hodiny: Opakování z minulé hodiny. Procvičení nové látky

Heuristické řešení problémů. Seminář APS Tomáš Müller


V každém kroku se a + b zmenší o min(a, b), tedy vždy alespoň o 1. Jestliže jsme na začátku dostali 2

Jaroslav Tuma. 8. února 2010

Aplikovaná informatika. Podklady předmětu Aplikovaná informatika pro akademický rok 2006/2007 Radim Farana. Obsah. Obsah předmětu

Algoritmy pro optimalizaci sítí GAME. Miroslav Janošík

SPECIFICKÝCH MIKROPROGRAMOVÝCH ARCHITEKTUR

NG C Implementace plně rekurentní

Simulace (nejen) fyzikálních jevů na počítači

Kontraktantní/dilatantní

SLAM. Simultaneous localization and mapping. Ing. Aleš Jelínek 2015

Transkript:

Swarm Intelligence http://pixdaus.com/single.php?id=168307 Moderní metody optimalizace 1

Swarm Intelligence Inteligence hejna algoritmy inspirované chováním skupin ptáků, hmyzu, ryb apod. Particle Swarm Optimization Ant Colony Optimization Glowworm Swarm Optimization rozdílné chování v předávání informací Moderní metody optimalizace 2

Swarm Intelligence Výhody: snadná implementace nepotřebuje gradienty ani Hessovu matici Nevýhody: potřeba správně určit konstanty a parametry pro danou úlohu Moderní metody optimalizace 3

Pravidla Swarm Intelligence Pravidlo 1: Vyhnutí se kolizi Moderní metody optimalizace 4

Pravidla Swarm Intelligence Pravidlo 2: Sladění rychlostí okolních ptáků Moderní metody optimalizace 5

Pravidla Swarm Intelligence Pravidlo 3: Zůstat blízko okolních členů hejna Moderní metody optimalizace 6

Particle Swarm Optimization http://www.crackedcamera.com/flock-of-birds-san-diego-ca/ Moderní metody optimalizace 7

Particle Swarm Optimization Optimalizace hejnem částic poprvé uveřejněna v roce 1995 autory Kennedym a Eberhartem [1] stochastická metoda není potřeba gradient, Hessova matice pro diskrétní, spojité i kombinované úlohy Moderní metody optimalizace 8

Particle Swarm Optimization Moderní metody optimalizace 9

Particle Swarm Optimization Původní přístup: v k 1 id wv k id c 1 rand() ( pid xid ) c2 Rand() ( p gd x id ) x x v k 1 k k 1 id id id w váhovací faktor c 1 kognitivní (poznávací) faktor c 2 sociální faktor Moderní metody optimalizace 10

Stochastický příspěvek rychlosti x i2 X i rand() = 0 Rand() = 0 P i rand() c 1 (p i x i ) Rand() c 2 (p g x i ) rand() = 1 P g Rand() = 1 x i1 Moderní metody optimalizace 11

Particle Swarm Optimization Clercova Constriction method (1999) [2, 3] v k 1 id K v k id c 1 rand() ( pid xid ) c2 Rand() ( p gd x id ) K 2 2 2, 4 kde c 1 c 2, 4 x x v k 1 k k 1 id id id K faktor konstrikce (zúžení) Moderní metody optimalizace 12

Orientační hodnoty parametrů c 1, c 2 2 rand(), Rand() (0, 1) w 0,4-0,9 pro konst. K 0,729 (pro ϕ = 4,1) pozn.: w - paralela s SA - lze konstantní číslo, lineárně se měnící hodnoty atp. Moderní metody optimalizace 13

Algoritmus nastavení konstant, faktorů, rozmístění počátečních částic v prostoru určení počáteční rychlosti while (ukončovací podmínka!= true ) k++ % iterace cyklu for i = 1 : počet částic výpočet hodnoty účelové funkce f k i if (f ik < p i ) then p i = f k i if (f ik < p g ) then p g = f k i aktualizace rychlosti částice V i end end aktualizace polohy částice X i Moderní metody optimalizace 14

PSO.m Moderní metody optimalizace 15

Varianty PSO [4] náhodná reinicializace rychlosti částic omezení maximální rychlosti omezení délky vektoru omezení každé složky vektoru omezení minimální rychlosti potrhlost částic (craziness) váhovací faktor (konstantní, lineární, ) faktor konstrikce a mnohé další Moderní metody optimalizace 16

Another Particle Swarm Toolbox Moderní metody optimalizace 17

Reference [1] Kennedy, J.; Eberhart, R. C. (1995). Particle Swarm Optimization. IEEE International Conference of Neural Networks, 4: 1942 1948. [2] Clerc, M. (1999). The Swarm and The Queen: Towards a Deterministic and Adaptive Particle Swarm Optimization. IEEE Congress on Evolutionary Computation CEC'99, 3: 1951 1957. [3] Eberhart, R. C.; Shi, Y. (2000). Comparing Intertia Weights and Constriction Factors in Particle Swarm Optimization. IEEE Congress on Evolutionary Computation, 1: 84 88. [4] Wilke, D. N.; Kok, D.; Groenwold, A. A. (2006). Comparison of Linear and Classical Velocity Update Rules in Particle Swarm Optimization : Notes on Diversity. International Journal for Numerical Methods in Engineering, 70: 962 984. Moderní metody optimalizace 18

Reference [5] Shi, Y.; Eberhart, R. C. (1999). Empirical Study of Particle Swarm Optimization. IEEE Congress on Evolutionary Computation CEC'99, 3: 1945 1950. [6] Clerc, M. (2006). Particle Swarm Optimization. 1. vyd. Wiley-ISTE. ISBN-13: 978-1-905209-04-0 Moderní metody optimalizace 19

Ant Colony Optimization http://ananthu-howtonameit.blogspot.com/2010/11/secret-of-success-get-mind-set-of-ant.html Moderní metody optimalizace 20

Ant Colony Optimization Optimalizace mravenčí kolonií v 90. letech uveřejněna M. Dorigem a kol. stochastická metoda není potřeba gradient, Hessova matice algoritmus původně testovaný na TSP feromon Moderní metody optimalizace 21

Ant Colony Optimization převzato z [7] Moderní metody optimalizace 22

Ant Colony Optimization http://www.liacs.nl/~baeck/nc/slides/applet/ ants.html Moderní metody optimalizace 23

Travelling Salesman Problem převzato z [8] Moderní metody optimalizace 24

Travelling Salesman Problem Moderní metody optimalizace 25

Algoritmus nastavení počtu mravenců, jejich rozmístění (náhodné) nastavení počátečních hodnot feromonů while (ukončovací podmínka!= true ) t++ % iterace cyklu (čas) sestavení řešení (lokální průzkum místa) aktualizace hodnot feromonů přemístění mravenců end Moderní metody optimalizace 26

Ant Colony Optimization Ant System (AS) MAX-MIN Ant System Ant Colony System Hyper-cube AS Moderní metody optimalizace 27

Způsoby aktualizace feromonu Ant System feromon je aktualizován všemi mravenci t1 ij Q / L ** 0 m * t t t k ( 1 ) ij ij, ij k 1 * je-li mravenec k použit na hraně (i,j) při řešení ** v ostatních případech Moderní metody optimalizace 28

Způsoby aktualizace feromonu MAX-MIN Ant System feromon aktualizují jedinci s nejlepším nalezeným řešením (nejlepší v iteraci, nejlepší od začátku nebo kombinace) t1 ij best ij t (1 ) 1/ L 0 ij * best ** best ij max min, * patří-li (i,j) k nejlepší nalezené cestě ** v ostatních případech Moderní metody optimalizace 29

Způsoby aktualizace feromonu Ant Colony System lokální aktualizace feromonu po každém vykonaném kroku ( 1) ij ij globální aktualizace feromonu na konci iterace jako u MAX-MIN AS * (1 ) ij ij ij ** ij 0 * patří-li (i,j) k nejlepší nalezené cestě, Δτ ij = 1/L best ** v ostatních případech Moderní metody optimalizace 30

Reference [7] Colorni, A.; Dorigo, M.; Maniezzo, V. (1991). Distributed Optimization by Ant Colonies. In European Conference on Artificial Life, 134-142. [8] Blum, Ch. (2005). Ant Colony Optimization: Introduction and Recent Trends. Physics of Life Reviews, 2(4): 353 373. [9] Dorigo, M. (2004). Ant Colony Optimization. 1. vyd. The MIT Press. ISBN: 978-0262042192. [10] Dorigo, M.; Birattari, M.; Stutzle, T. (2006). Ant Colony Optimization: Artificial Ants as a Computational Intelligence Technique. Technical Report No. RT/IRIDIA/2006-023, Université Libre de Bruxelles, IRIDIA. Moderní metody optimalizace 31

Swarm Intelligence - shrnutí stochastické metody nemusí nutně najít globální optimum rozdíl v komunikaci PSO na úrovni hejna ACO feromonem lokálně Moderní metody optimalizace 32

Odkazy http://www.mathworks.com/matlabcentral/fileexchange/11559- particle-swarm-optimization-simulation http://www.mathworks.com/matlabcentral/fileexchange/25986- another-particle-swarm-toolbox http://www.liacs.nl/~baeck/nc/slides/applet/ants.html http://www.mathworks.com/matlabcentral/fileexchange/14543 Moderní metody optimalizace 33

Prosba. V případě, že v textu objevíte nějakou chybu nebo budete mít námět na jeho vylepšení, ozvěte se prosím na matej.leps@fsv.cvut.cz. Datum poslední revize: 8.11.2011 Verze: 001 Moderní metody optimalizace 34