Obsah. Zelinka: UI v problémech globální optimalizace BEN technická literatura 3

Transkript

1 UMÌLÁ INTELIGENCE V PROBLÉMECH GLOBÁLNÍ OPTIMALIZACE Ivan Zelinka Praha 2002 Tato publikace vznikla za podpory grantù MŠM , GAÈR 102/00/0526 a GAÈR 102/02/0204

2 Kniha seznamuje ètenáøe se dvìma novými algoritmy evoluèního charakteru, jenž umožòují efektivní a jednoduché nalezení globálního extrému Veškeré informace jsou psány ètivou formou bez nárokù na hlubší vzdìlání v matematice Všechny dùležité pojmy a výsledky jsou graficky znázornìny pomocí pøehledných grafù Teoretické a praktické výsledky jsou podpoøeny simulacemi vèetnì dostupných kódù v jazyce C, jenž prolínají touto publikací Smyslem této publikace není podat hluboké teoretické vysvìtlení dané problematiky, ale naopak s použitím minimálního množství teorie podat srozumitelné vysvìtlení obou algoritmù s dùrazem na jejich praktické využití Kniha je urèena každému, kdo má zájem èi potøebu øešit optimalizaèní problémy bez použití vyšší matematiky Je urèena studentùm, uèitelùm, pracovníkùm z praxe, ale i vìdeckým pracovníkùm Ivan Zelinka Umìlá inteligence v problémech globální optimalizace Bez pøedchozího písemného svolení nakladatelství nesmí být kterákoli èást kopírována nebo rozmnožována jakoukoli formou (tisk, fotokopie, mikrofilm nebo jiný postup), zadána do informaèního systému nebo pøenášena v jiné formì èi jinými prostøedky Autor a nakladatelství nepøejímají záruku za správnost tištìných materiálù Pøedkládané informace jsou zveøejnìny bez ohledu na pøípadné patenty tøetích osob Nároky na odškodnìní na základì zmìn, chyb nebo vynechání jsou zásadnì vylouèeny Všechny registrované nebo jiné obchodní známky použité v této knize jsou majetkem jejich vlastníkù Uvedením nejsou zpochybnìna z toho vyplývající vlastnická práva Veškerá práva vyhrazena Ivan Zelinka, Praha 2002 Nakladatelství BEN technická literatura, Vìšínova 5, Praha 10 Ivan Zelinka: Umìlá inteligence v problémech globální oprimalizace BEN technická literatura, Praha vydání ISBN

3 Obsah 1 PŘEDMLUVA ÚVOD DO PROBLEMATIKY OPTIMALIZAČNÍCH ALGORITMŮ SOUČASNÝ STAV Nástin principu vybraných algoritmů PERSPEKTIVY A ALTERNATIVY OPTIMALIZACE A ÚČELOVÁ FUNKCE ÚČELOVÁ FUNKCE ÚČELOVÁ FUNKCE JAKO GEOMETRICKÝ PROBLÉM TVORBA ÚČELOVÉ FUNKCE VYBRANÉ ZÁKLADNÍ POJMY DEFINIČNÍ OBOR ALGORITMŮ SOMA A DIFERENCIÁLNÍ EVOLUCE SPOLEČNÉ RYSY OBOU ALGORITMŮ POPULACE OMEZENÍ A OŠETŘENÍ KRIZOVÝCH STAVŮ FORMALIZACE PROBLÉMU OMEZENÍ KLADENÁ NA ARGUMENTY ÚČELOVÉ FUNKCE PENALIZACE FUNKCÍ PRÁCE S CELOČÍSELNÝMI A DISKRÉTNÍMI HODNOTAMI SOMA : SAMO-ORGANIZUJÍCÍ SE MIGRAČNÍ ALGORITMUS PARAMETRY A TERMINOLOGIE POPULACE MUTACE KŘÍŽENÍ PRINCIP ALGORITMU SOMA STRATEGIE SOMA ALGORITMU ZÁVISLOST SOMA NA ŘÍDICÍCH A UKONČOVACÍCH PARAMETRECH ZAŘAZENÍ ALGORITMU SOMA SOMA A JINÉ OPTIMALIZAČNÍ ALGORITMY DIFERENCIÁLNÍ EVOLUCE HISTORIE PARAMETRY A TERMINOLOGIE POPULACE MUTACE KŘÍŽENÍ PRINCIP ČINNOSTI DIFERENCIÁLNÍ EVOLUCE VARIANTY DIFERENCIÁLNÍ EVOLUCE ZÁVISLOST DIFERENCIÁLNÍ EVOLUCE NA ŘÍDICÍCH PARAMETRECH Zelinka: UI v problémech globální optimalizace BEN technická literatura 3

4 7.9 STAGNACE Vliv mutace F Vliv křížící konstanty CR Vliv velikosti populace NP Stagnace doporučená nastavení parametrů POPIS OVLÁDÁNÍ PROGRAMŮ SOMA A DIFERENCIÁLNÍ EVOLUCE GALERIE TESTOVACÍCH FUNKCÍ UKÁZKOVÉ STUDIE TESTOVÁNÍ ALGORITMU SOMA A DIFERENCIÁLNÍ EVOLUCE OPTIMALIZACE PROBLÉMŮ STROJNÍHO INŽENÝRSTVÍ Příklad 1: Návrh ozubeného převodu Příklad 2: Návrh tlakové nádoby Příklad 3: Návrh pružiny STATICKÁ OPTIMALIZACE REAKTORU Optimalizovaný reaktor Nelineární model reaktoru Optimalizace s penalizací a suboptimalizací chladicí plochy PREDIKTIVNÍ ŘÍZENÍ Prediktivní řízení a P a T P PID REGULÁTOR OPTIMALIZACE VYZAŘOVACÍHO POLE ANTÉNY UČENÍ NEURONOVÉ SÍTĚ INVERZNÍ FRAKTÁLNÍ PROBLÉM Fraktální geometrie Inverzní fraktální problém a jeho řešení ZÁVĚR NEBO ZAČÁTEK? REJSTŘÍK POUŽITÁ A DOPORUČENÁ LITERATURA Seznam obrázků OBR. 2.1 PRINCIP HOROLEZECKÉHO ALGORITMU OBR. 2.2 PRINCIP EVOLUČNÍ STRATEGIE OBR. 2.3 ANT ALGORITMUS, PRINCIP OBR. 3.1 UNIMODÁLNÍ ÚČELOVÁ FUNKCE JAKO GEOMETRICKÝ PROBLÉM OBR. 3.2 MUTIMODÁLNÍ ÚČELOVÁ FUNKCE JAKO GEOMETRICKÝ PROBLÉM OBR. 3.3 NEKONEČNĚ MNOHO GLOBÁLNÍCH EXTRÉMŮ OBR. 3.4 PRINCIP PREDIKTIVNÍHO ŘÍZENÍ OBR. 3.5 ÚČELOVÁ FUNKCE PRO ODHAD PARAMETRŮ MODELU SYSTÉMU OBR. 3.6 PRINCIP ÚČELOVÉ FUNKCE U INVERZNÍHO FRAKTÁLNÍHO PROBLÉMU Zelinka: UI v problémech globální optimalizace BEN technická literatura

5 OBR. 3.7 KONVERZE EXTRÉMŮ OBR. 4.1UKÁZKY FUNKCÍ VYKAZUJÍCÍ KOMBINACE NĚKTERÝCH VLASTNOSTÍ 1 8, A G OBR. 4.2 UKÁZKY FUNKCÍ VYKAZUJÍCÍ KOMBINACE NĚKTERÝCH VLASTNOSTÍ 1 8, A G OBR. 4.3 POPULACE OBR. 4.4 FUNKCE S ROSTOUCÍMI EXTRÉMY A DVĚ NÁHODNĚ GENEROVANÉ POPULACE OBR. 4.5ČÍSELNÉ VYJÁDŘENÍ DVOU NÁHODNĚ GENEROVANÝCH POPULACÍ OBR. 4.6KONVERGENCE POPULACE KE GLOBÁLNÍMU EXTRÉMU OBR. 4.7 VÝVOJ HODNOTY ÚČELOVÉ FUNKCE BĚHEM EVOLUCE OBR. 5.1 SEPAROVANÉ PROSTORY MOŽNÝCH ŘEŠENÍ OBR. 5.2 GEOMETRICKÉ ZNÁZORNĚNÍ PRÁCE S CELOČÍSELNÝMI A DISKRÉTNÍMI HODNOTAMI OBR. 5.3 PRINCIP OŠETŘENÍ DISKRÉTNÍHO PARAMETRU JEDINCE OBR. 6.1PRINCIP UKONČOVACÍHO PARAMETRU ACCEPTEDERROR OBR. 6.2 PRTVECTOR V GRAFICKÉM DETAILU OBR. 6.3 PRINCIP SOMA UMĚLÝ PŘÍKLAD OBR. 6.4 SMĚROVÝ VEKTOR, VIZ VZTAHY (6.3) A (6.4) OBR. 6.5 POHYB JEDINCE PO HRANĚ SOMA MNOHOSTĚNU V ŘEZU OBR. 6.6 SOMA MNOHOSTĚN VE 3D S JEDINCI VE VRCHOLECH OBR. 6.8 PRINCIP SOMA OBR. 6.9 PRINCIP STRATEGIE ALLTOALL UMĚLÝ PŘÍKLAD OBR ZÁVISLOST SOMA NA ŘÍDICÍCH A UKONČOVACÍCH PARAMETRECH OBR. 7.1 UKÁZKOVÉ FUNKCE OBR. 7.2 KONVERGENCE POPULACE DO GLOBÁLNÍHO EXTRÉMU NA SWEFELOVĚ FUNKCI OBR. 7.3 NP = 40, F A CR MĚNĚNO OBR. 7.4 F = 0.9, NP A CR MĚNĚNO OBR. 7.5 CR = 0.9, NP A F MĚNĚNO OBR. 7.6 AKTUÁLNÍ POPULACE VLEVO A VŠECHNY MOŽNÉ NOVÉ POZICE OBR. 7.7 POROVNÁNÍ RŮZNÝCH HODNOT PRO VARIACE PARAMETRU F OBR. 7.8 POČET MOŽNÝCH ZKUŠEBNÍCH ŘEŠENÍ OBR. 8.1 VZHLED WWW STRÁNKY ALGORITMŮ SOMA A DE OBR. 9.1 MNOŽINA BODŮ (V 1D A 2D REALIZACI) LIŠÍCÍ SE OD GLOBÁLNÍHO EXTRÉMU OBR ST DE JONG PRVNÍ DE JONGOVA FUNKCE OBR. 9.3 ROSENBROCK S SADDLE ROSENBROKOVO SEDLO OBR RD DE JONG TŘETÍ DE JONGOVA FUNKCE OBR TH DE JONG ČTVRTÁ DE JONGOVA FUNKCE OBR. 9.6 RASTRIGIN S FUNCTION RASTRIGINOVA FUNKCE OBR. 9.7 SCHWEFEL S FUNCTION SCHWEFELOVA FUNKCE OBR. 9.8 GRIEWANGK S FUNCTION GRIEWANGKOVA FUNKCE OBR. 9.9 SINE ENVELOPE SINE WAVE FUNCTION OBR STRETCHED V SINE WAVE FUNCTION OBR TEST FUNCTION (ACKLEY) OBR ACKLEY S FUNCTION ACKELYHO FUNKCE OBR EGG HOLDER DRŽÁK (PLATO) VAJEC OBR RANA S FUNCTION RANOVA FUNKCE OBR PATHOLOGICAL FUNCTION PATOLOGICKÁ FUNKCE OBR MICHALEWICZ S FUNCTION MICHALEWICZOVA FUNKCE OBR MASTERS S COSINE WAVE FUNCTION MASTERSOVA COSINOVÁ VLNOVÁ FUNKCE Zelinka: UI v problémech globální optimalizace BEN technická literatura 5

6 OBR ST DE JONG S FUNCTION OBR ROSENBROCK S SADDLE OBR RD DE JONG S FUNCTION OBR TH DE JONG S FUNCTION OBR RASTRIGIN S FUNCTION OBR SCHWEFEL S FUNCTION OBR GRIEWANGK S FUNCTION OBR STRETCHED V SINE WAVE FUNCTION (ACKLEY) OBR TEST FUNCTION (ACKLEY) OBR ACKLEY S FUNCTION OBR TEST FUNCTION EGG HOLDER OBR RANA S FUNCTION OBR PATHOLOGICAL FUNCTION OBR MICHALEWICZ S FUNCTION OBR COSINE WAVE FUNCTION (MASTERS) OBR SOMA, ALLTOALL ADAPTIVE, 20 OPAKOVANÁ SIMULACE OBR UKÁZKY ZÁLUDNÝCH FUNKCÍ OBR OZUBENÝ PŘEVOD Z PŘÍKLADU OBR TLAKOVÁ NÁDOBA Z PŘÍKLADU OBR PRUŽINA OBR SCHÉMA REAKTORU OBR CHOVÁNÍ REAKTORU NASTAVENÉHO POMOCÍ PARAMETRŮ EXPERTA OBR STATICKÁ OPTIMALIZACE REAKTORU OBR STATICKÁ OPTIMALIZACE REAKTORU VÍTĚZNÝ REAKTOR OBR PRINCIP SIMULACE OBR PRINCIP PREDIKTIVNÍHO ŘÍZENÍ OBR PRINCIP SIMULACE OBR MIMO (5:2) PREDIKTIVNÍ ŘÍZENÍ BEZ PENALIZACE AKČNÍCH VELIČIN OBR STAVOVÝ PROSTOR ŘÍZENÉHO SYSTÉMU A JEHO VÝSTUP PRO W = OBR STAVOVÝ PROSTOR ŘÍZENÉHO SYSTÉMU A JEHO VÝSTUP PRO W = OBR SCHÉMA ZAPOJENÍ OBR PID ORIGINÁLNÍ PRŮBĚH A PARAMETRY PODLE OBR PID POKUS OBR PID POKUS S VYLEPŠENOU ÚČELOVOU FUNKCÍ POMOCÍ DE OBR PID POKUS S VYLEPŠENOU ÚČELOVOU FUNKCÍ POMOCÍ SOMA OBR ŘEZ HYPERPLOCHOU ÚČELOVÉ FUNKCE PRO SYSTÉM ŘÍZENÝ REGULÁTOREM PID OBR SPIRÁLNÍ ANTÉNA, ZÁKLADNÍ PRINCIP OBR PRINCIP KONSTRUKCE ÚČELOVÉ FUNKCE OBR VYZAŘOVACÍ POLE ORIGINÁLNÍ ANTÉNY OBR VYZAŘOVACÍ LALOK ANTÉNY OPTIMALIZOVANÉ ALGORITMEM SOMA OBR HISTORIE 100 OPAKOVANÉ OPTIMALIZACE OBR VYZAŘOVACÍ LALOK ANTÉNY OPTIMALIZOVANÉ DIFERENCIÁLNÍ EVOLUCÍ OBR OSCILUJÍCÍ VÝVOJ GLOBÁLNÍ CHYBY (METODA BACKPROPAGATION ) OBR HYPERPLOCHA ÚČELOVÉ FUNKCE NEURON OBR VÝVOJ GLOBÁLNÍ CHYBY PŘI UČENÍ UMĚLÉHO NEURONU 100 OPAKOVÁNO Zelinka: UI v problémech globální optimalizace BEN technická literatura

7 OBR AFINNÍ TRANSFORMACE OBR TVORBA FRAKTÁLU POMOCÍ AFINNÍCH TRANSFORMACÍ OBR TOTÉŽ MATEŘSKÉ TĚLESO A JINÝ VÝSLEDNÝ TVAR OBR TVORBA FRAKTÁLU KAPRADINA OBR TVORBA FRAKTÁLU STROM OBR FRAKTÁLY ALEJ A TŘEŠŇOVÝ SAD OBR PRINCIP TEA ALGORITMU OBR A JEHO BAREVNÝ VÝSLEDEK OBR PRINCIP ÚČELOVÉ FUNKCE U INVERZNÍHO FRAKTÁLNÍHO PROBLÉMU OBR PLOCHA ÚČELOVÉ FUNKCE PAVOUK OBR OPAKOVANÁ HISTORIE EVOLUCE HODNOTY ÚČELOVÉ FUNKCE OBR IFP MANDELBROTOVY MNOŽINY OBR IFP FRAKTÁLU VÍR OBR IFP FRAKTÁLU PAVOUK OBR NÁHODNĚ GENEROVANÉ FUNKCE Z OFP V RÁMCI AP OBR APROXIMACE FUNKCE SIN(T) OBR APROXIMACE FUNKCE SIN(T)+ COS(T) POMOCÍ AP OBR ŘEŠENÍ DIFERENCIÁLNÍ ROVNICE Z [ 104] POMOCÍ AP Seznam tabulek TAB. 2.1 MOŽNÉ USPOŘÁDÁNÍ OPTIMALIZAČNÍCH ALGORITMŮ TAB. 2 TVORBA SPECIMENU V JAZYCE C TAB. 3 TVORBA POPULACE TAB. 6.1 VÝZNAM PARAMETRŮ SOMA TAB. 6.2 PŘÍKLAD PERTURBAČNÍHO VEKTORU PRO JEDINCE O 4 PARAMETRECH A PRT = TAB. 6.3 GENEROVÁNÍ PERTURBAČNÍHO VEKTORU V JAZYCE C TAB. 6.5 POHYB JEDINCE V JAZYCE C TAB. 6.6 VÝZNAM BIOLOGICKÉ TEMINOLOGIE V ALGORITMU SOMA TAB. 6.7 DEFINICE PARAMETRŮ TAB. 6.8 TVORBA POPULACE TAB. 6.9 MIGRAČNÍ KOLA V JAZYCE C TAB UKONČOVACÍ PODMÍNKY MIGRACE TAB KONEC A NÁVRAT NEJLEPŠÍHO JEDINCE TAB. 7.1 HODNOTY ŘÍDICÍCH PARAMETRŮ DIFERENCIÁLNÍ EVOLUCE PŘEVZATO Z [ 36] TAB. 7.2 KŘÍŽENÍ V DIFERENCIÁLNÍ EVOLUCI V JAZYCE C TAB. 7.3 DEFINICE PARAMETRŮ TAB. 7.4 TVORBA POPULACE TAB. 7.5 EVOLUČNÍ CYKLUS TAB. 7.6 UKONČOVACÍ PODMÍNKA DIFERENCIÁLNÍ EVOLUCE TAB. 7.7 KONEC A NÁVRAT NEJLEPŠÍHO JEDINCE Zelinka: UI v problémech globální optimalizace BEN technická literatura 7

8 TAB. 7.8 PRINCIP DIFERENCIÁLNÍ EVOLUCE TAB. 7.9 PŘÍKLAD KONKRÉTNÍ POPULACE TAB VŠECHNA MOŽNÁ ŘEŠENÍ (ZKUŠEBNÍ VEKTORY JEDINCI) TAB. 8.1 SOUBORY PŘILOŽENÝCH PROGRAMŮ TAB. 8.2 VYBRANÉ FUNKCE PROGRAMŮ SOMA A DE TAB. 8.3 REALIZACE ÚČELOVÉ FUNKCE V JAZYCE C TAB. 8.4 STRUKTURA SOUBORU COSTVALUE.C TAB. 8.5 PO UKONČENÍ OPTIMALIZACE TAB. 8.6 DETAILNÍ VÝPIS V SOUBORU *.OUT TAB. 8.7 ADRESÁŘOVÁ STRUKTURA PO ROZBALENÍ SOUBORU COMPILED.EXE TAB NALEZENÉ EXTRÉMY U TESTOVACÍCH FUNKCÍ PRO ALGORITMUS SOMA TAB NALEZENÉ EXTRÉMY U TESTOVACÍCH FUNKCÍ PRO ALGORITMUS DE TAB TESTOVACÍ PROBLÉMY TAB ALTERNATIVNÍ METODY POUŽITÉ K ŘEŠENÍ TESTOVACÍCH PROBLÉMŮ TAB OPTIMÁLNÍ ŘEŠENÍ ZÍSKANÉ JINÝMI ALGORITMY NEŽ SOMA TAB OPTIMÁLNÍ ŘEŠENÍ ZÍSKANÉ ALGORITMEM SOMA TAB ALTERNATIVNÍ ŘEŠENÍ ZÍSKANÁ POMOCÍ SOMA TAB ALTERNATIVNÍ ŘEŠENÍ ZÍSKANÁ POMOCÍ DE TAB OBSAH INICIALIZAČNÍCH SOUBORŮ PRO SOMA A DE ALGORITMUS TAB REALIZACE ÚČELOVÉ FUNKCE V JAZYCE C TAB DETAILNÍ HLÁŠENÍ O VÝSLEDCÍCH OPTIMALIZACE V SOUBORU TYPU *.OUT TAB HRANICE JEDNOTLIVÝCH PROMĚNNÝCH PRO NÁVRH TLAKOVÉ NÁDOBY TAB OPTIMÁLNÍ ŘEŠENÍ TLAKOVÉ NÁDOBY PŘÍPAD A TAB OPTIMÁLNÍ ŘEŠENÍ TLAKOVÉ NÁDOBY POMOCÍ SOMA, PŘÍPAD A TAB OPTIMÁLNÍ ŘEŠENÍ TLAKOVÉ NÁDOBY PŘÍPAD B TAB OPTIMÁLNÍ ŘEŠENÍ TLAKOVÉ NÁDOBY POMOCÍ SOMA, PŘÍPAD B TAB OPTIMÁLNÍ ŘEŠENÍ TLAKOVÉ NÁDOBY PŘÍPAD C: ODLIŠNÁ DEFINICE OMEZENÍ G 5, TAB OPTIMÁLNÍ ŘEŠENÍ TLAKOVÉ NÁDOBY POMOCÍ SOMA, PŘÍPAD C TAB OBSAH INICIALIZAČNÍCH SOUBORŮ PRO SOMA A DE ALGORITMUS TAB REALIZACE ÚČELOVÉ FUNKCE V JAZYCE C TAB DETAILNÍ HLÁŠENÍ O VÝSLEDCÍCH OPTIMALIZACE V SOUBORU TYPU *.OUT TAB MOŽNÉ HODNOTY PRŮMĚRU PRUTU PRUŽINY V PALCÍCH TAB HRANICE PROMĚNNÝCH PRO NÁVRH PRUŽINY TAB OPTIMÁLNÍ ŘEŠENÍ, PŘÍPAD A TAB OPTIMÁLNÍ ŘEŠENÍ, POMOCÍ SOMA, PŘÍPAD A TAB OPTIMÁLNÍ ŘEŠENÍ, PŘÍPAD B TAB OPTIMÁLNÍ ŘEŠENÍ POMOCÍ SOMA, PŘÍPAD B TAB OBSAH INICIALIZAČNÍCH SOUBORŮ PRO SOMA A DE ALGORITMUS TAB REALIZACE ÚČELOVÉ FUNKCE V JAZYCE C TAB DETAILNÍ HLÁŠENÍ O VÝSLEDCÍCH OPTIMALIZACE V SOUBORU TYPU *.OUT TAB ROZDÍL MEZI EXPERTNĚ NAVRŽENÝM A OPTIMALIZACÍ ZÍSKANÝM REAKTOREM TAB OMEZENÍ AKČNÍCH VELIČIN V PREDIKTIVNÍM ŘÍZENÍ TAB NALEZENÉ HODNOTY REGULÁTORU TAB STRUKTURA INICIALIZAČNÍHO SOUBORU??ANTENA.TXT TAB ÚČELOVÁ FUNKCE PRO OPTIMALIZACI VYZAŘOVACÍHO POLE ANTÉNY Zelinka: UI v problémech globální optimalizace BEN technická literatura

9 TAB ROZDÍL MEZI NEURONOVOU SÍTÍ A KLASICKÝM POČÍTAČEM TAB TRÉNOVACÍ MNOŽINA TAB STRUKTURA INICIALIZAČNÍHO SOUBORU??NEURON.TXT TAB ÚČELOVÁ FUNKCE NEURON V JAZYCE C TAB NALEZENÉ EXTRÉMY (TOTOŽNÉ S GLOBÁLNÍM) A JEJICH SOUŘADNICE TAB STRUKTURA INICIALIZAČNÍCH SOUBORŮ JEDNOTLIVÝCH IFP TAB ÚČELOVÁ FUNKCE MANDELBROT V JAZYCE C Zelinka: UI v problémech globální optimalizace BEN technická literatura 9