PREDIKCNÍ SYSTÉM PRO DISTRIBUCNÍ SPOLECNOSTI

Transkript

1 PREDIKCNÍ SYSTÉM PRO DISTRIBUCNÍ SPOLECNOSTI CertiCon a.s., Aplikovaný výzkum Václavska 12, Praha 2, , Ceská republika PREDICTION SYSTEM FOR UTLITY COMPANIES Jan Kout Gerstnerova laborator pro inteligentní rozhodování a rízení, katedra kybernetiky, FEL CVUT Technická 2, Praha 6, , Ceská republika kout@labe.felk.cvut.cz Jirí Kléma Gerstnerova laborator pro inteligentní rozhodování a rízení, katedra kybernetiky, FEL CVUT Technická 2, Praha 6, , Ceská republika klema@labe.felk.cvut.cz Abstrakt: Otevrený predikcní systém (OPS) reší úlohy predikce a dolování dat. Jádro systému nabízí nekolik algoritmu založených jak na principech strojového ucení, tak i matematické statistiky. Mezi algoritmy najdeme analýzu singulárních císel, neuronové síte, metodu podpurných vektoru a rozhodovací stromy. Celý systém je podporen datovými strukturami a toky, které umožnují rychlou a snadnou definici problému, individuální prístup k jednotlivým algoritmum a prehledné vyhodnocení navržených modelu. Systém byl úspešne aplikován na nekolika prumyslových úlohách. Klícové slova: predikcní systém, distribucní spolecnosti, umelá inteligence, regrese, klasifikace 1 ÚVOD DO PROBLÉMU Inteligence je jako abstraktní vlastnost jakéhokoli systému velice casto konkretizována mírou schopnosti tohoto systému ucit se. Ucení je definováno jako využití drívejších zkušeností ke zlepšení kvality nových rešení libovolného typu. Z tohoto duvodu je pojem ucení jedním z nejrozšírenejších a zároven nejpropracovanejších pojmu oboru umelé inteligence (AI artificial intelligence). Budoucnost a otázky s ní spojené byly, jsou a vždy budou predmetem zájmu obycejných lidí, firem i institucí. Díky castým prícinným vztahum mezi velicinami aktuálne známými a jevy budoucími lze v rade prípadu sestavovat verné prediktivní modely. Tyto modely pak reprezentují ci napodobují vybrané vlastnosti sledovaného objektu nebo napomáhají porozumení a predvídání modelovaných jevu. Vetšina závislostí je však pomerne složitá a jejich model není triviální. Náš systém umožnuje vytvárení práve techto modelu na základe identifikace a reprezentace vztahu skrytých v datech nahromadených v minulosti. Tyto modely jsou následne aplikovány na soucasná data, což umožnuje odhadnout vývoj príštích událostí. Mohou tak predejít možným budoucím ztrátám nebo treba získat nezanedbatelnou konkurencní výhodu. Vytvárení modelu je komplexní matematický problém. Zde je však místo, kde nám pomáhá umelá inteligence a její nástroje. Vývoj a výsledky dosažené behem posledních desetiletí v oblasti dolování dat a strojového ucení poskytují radu výkonných technologií a algoritmu, které mohou být použity k vytvárení vhodných modelu (Weigend A., Gershenfeld N. 1993). Príklady minulého chování jsou vhodne predány nekterému z algoritmu strojového ucení, který je schopen odhalit skryté závislosti a vytvorit odpovídající model chování, pomocí kterého lze predpovídat budoucí hodnoty cílových velicin. Obrázek 1 Základní princip predikcního systému Obecne platí, že rozhodnutí jsou cinena na základe informací a zkušeností. Cím více spolehlivých informací je k dispozici, tím relevantnejší rozhodnutí muže být ucineno. Kvalita dosaženého výsledku je dána volbou 1

2 vhodného modelu, soucasne však musí platit to, že model je v prubehu ucení konfrontován s dostatecným množstvím vhodne predzpracovaných údaju, které jsou platné (tj. nejsou zastaralé), spolehlivé (minimalizuje se výskyt chybejících a nesprávných hodnot) a pokrývají celou nebo alepson významnou škálu podmínek, za kterých bude model v budoucnu používán (obecne platí, že techniky interpolace jsou spolehlivejší než techniky extrapolacní). 1.1 Distribucní spolecnosti Distribucní spolecnosti dopravující vodu, plyn, elektrinu ci jinou komoditu potrebují spolehlivý systém pro plánování objednávek a distribuci dodávek, který zarucí dostupnost jejich komodity tam, kde je treba. Existuje celá rada duvodu k dodržení daného objemu dodávek a zároven je jisté, že nespolehlivé zásobování vede k mnoha nežádoucím efektum. Efektivní rízení takové spolecnosti vede k otázkám typu kolik? kdy? kam?, jejichž správné zodpovezení prináší distributorum radu financních výhod. 1.2 Rídicí systémy Rídící systémy ovládající nárocné technologické procesy ci jiné nárocné aplikace jsou velmi citlivé na chyby zpusobené neocekávanými pády ovládaných systému. Tyto chyby pak mají za následek výpadky výrobních procesu, ohrožení života, financní ztráty a mnohé jiné nepríjemné události. Vcasná detekce a predikce stavu systému pomáhá efektivnejšímu a robustnejšímu rízení. Predikce stavu muže být založena na modelech chování systému a jeho chyb v minulosti. 2 DOLOVÁNÍ DAT, STROJOVÉ UCENÍ A PREDIKCNÍ PROBLÉMY Dolování dat je hledání cenných informací ve velkém množství zdroju a dat. Tyto informace mohou mít nejruznejší reprezentaci a nejširší možnosti praktického využití. Jednou z castých aplikacních oblastí je nalezení modelu, které jsou vhodné pro predikci. Predikce je urcování soucasných ci budoucích stavu a hodnot, které nejsou bežnými zpusoby odhalitelné ci meritelné. V uvažovaných datech neexistuje žádná zrejmá a jednoznacne definovaná závislost mezi hodnotami v minulosti a budoucnosti. Práve metody umelé inteligence umožnují rešit i takovéto úlohy. Dolování dat je kooperativní cinnost lidí a pocítacu vybavených vhodným softwarovým nástrojem. Existuje celá rada algoritmu strojového ucení a statistických metod, které slouží k dosažení definovaných cílu. Strojové ucení muže být také chápáno jako pocítacový prostredek, který se ucí ze zkušenosti (minulosti) vzhledem k definici úlohy. Regrese je problém odhadování neznámých funkcí ci hodnot (napr. zítrejší spotreba elektriny bude 250MWh). Regresní model je vytváren na základe císelných vstupu a jim odpovídajících výstupu. Výstupem regresní predikce je císelná hodnota reprezentující budoucí množství, trendy apod. Obrázek 2 Regresní úloha 2

3 Klasifikace je problém hledání skrytých stavu. Typicky je treba odhalit soucasný ci budoucí stav nejakého systému (bezpecný ci nebezpecný stav), který nelze prímo zmerit. K dispozici je však rada merení a dat, která s daným stavem souvisí. Na základe techto merení je vytvoren model, odhadnuta jeho presnost a možnost dalšího použití pro odhalování skrytých stavu. Obrázek 3 Klasifikacní úloha 3 ZÁKLADNÍ VLASTNOSTI SYSTÉMU Otevrený predikcní systém (OPS) je softwarový nástroj, který je založen na prediktivní metodologii zahrnující datové zpracování, toky a prediktivní algoritmy (Kout J., 2001a). Prediktivní algoritmy definují modely, které jsou založeny na datech shromáždených v minulosti. Modely odhalují soucasné ci budoucí množství, toky, stavy, chyby ci jiné požadované hodnoty. S OPS lze provádet analýzu dat, studii proveditelnosti, návrh systému ci kompletní rešení na prání zákazníka. Hlavní výhody pro konecné uživatele: Predvídání problému, které mohou vést k nebezpecným a nežádoucím situacím. Podpora strategického plánování a alokace zdroju. Predikce budoucích hodnot a trendu. Vývojový nástroj OPS nabízí radu užitecných vlastností: Flexibilní predzpracování dat s využitím preddefinovaného datového toku zahrnující metadata, podpora datových transformací. Podpora zpracování casových rad taková data se casto vyskytují u distribucních spolecností. Kombinace statistických metod spolu s algoritmy strojového ucení podpora ruznorodosti rešení, s možností kombinace více prístupu vedoucí k vetší stabilite rešení. Dostupnost metody podpurných vektoru reprezentující moderní a progresivní prístup. Rychlý vývojový cyklus od dat k návrhu rešení predikcního systému. Nasazení systému podle potreb zákazníka. Podpora a školení. 4 DATOVÉ TOKY Formát vstupních dat hraje klícovou úlohu pri rešení predikcních úloh. Predzpracování dat je klícovou a mnohdy casove velmi nárocnou fází. Praktické zkušenosti ukazují (Pyle D. 1999), že fáze získávání a predzpravovávání dat zabírá až 80% casu projektu. Jsou dva hlavní duvody proc predzpracovávat data: (1) organizovat data do vhodného formátu pro zpracování a (2) pripravit vhodné vstupy a jim odpovídající výstupy. Flexibilní datové toky jsou jednou z hlavních výhod navržené prediktivní metodologie (Kout J. 2001). Predzpracování dat definuje tri základní datové struktury, které odpovídají jednotlivým krokum rešení úlohy: vstupní data, data problému a data prediktoru. Vstupní data odpovídají datovým vstupum celého systému. Jsou transformována do datové struktury, která odpovídá danému problému. Problémove orientovaná data obsahují veškeré vstupy a požadované výstupy, výstupy jednotlivých prediktoru a konecné výstupy. Jednotlivé predikcní 3

4 algoritmy vyžadují specifický zpusob predzpracování dat, a proto jsou data problému dále transformována do datových struktur jednotlivých prediktoru. Obrázek 4 Datové toky Vstupní data (Raw Input Data) jsou vetšinou shodná ci velmi blízká datum namereným nebo jinak získaným ze zkoumaného systému. Zároven jsou vstupními údaji odpovídajícími nejkratším vzorkovaným casovým úsekum. Data problému (Meta Record) slouží jako úložište pro data, spojovací clánek mezi vstupy a výstupy. Obecne lze definovat více sad dat problému pro jednu množinu vstupních dat. Transformacní funkce zajištují prechody mezi jednotlivými datovými strukturami. Rozlišujeme dva hlavní typy transformacních funkcí: casové a datové. Casové transformacní funkce definují casovou sekvenci a zároven umožnují casovou konverzi a kompresi. Datové transformace zajištují vhodnou prípravu vstupních a výstupních atributu. Duležitým faktorem datového zpracování je filtrace. Filtrace slouží k odstranení nežádoucích vstupu, ale zvlášte k vytvorení lokálních modelu, které zlepšují kvalitu predikce. 5 PREDIKTIVNÍ ALGORITMY 5.1 Analýza singulárních císel pro regresní úlohy Vetšina modulu statistického zpracování dat využívá lineární regresní analýzy pomocí populární metody nejmenších ctvercu. Metoda nejmenších ctvercu prokladá co možná nejideálneji lineární kombinace atributu danými daty. V mnoha aplikacích je tato normální metoda vhodná. Problém nastává, jestliže rovnice (data) vykazují singulární znaky. Singulární data nebo data blízká singulárním jsou pro pocítacové zpracování nebezpecná kvuli zaokrouhlující aritmetice používané pocítaci. Pri standartním postupu pomocí metody nejlepších ctvercu muže tento postup vést ke znacne nestabilnímu rešení, které v nekterých prípadech nemusí dávat správné výsledky. Z techto duvodu je vhodnejší použít metodu SVD (Singular Value Decomposition). Tato metoda je vhodná zvlášte pro systémy, kde pocet dat je znacne vetší než pocet jejich atributu (potencionální nebezpecí singularity). Metoda SVD poskytuje stejne jako metoda nejmenších ctvercu optimální rešení v duchu minimalizace sumy kvadrátu odchylek skutecných a predikovaných hodnot. Navíc její rešení je i nejstabilnejší možné. Pro vylepšení výsledku pomocí metody SVD, která je také omezená pouze na hledání lineárních kombinací vstupních atributu, je vhodné zavádet umele nelinearitu. Z analýzy dat vyplývá, jaký druh a na které vstupní atributy tuto individuální nelinearitu do systému zavést. Takto obohacený systém dosahuje daleko vetší presnosti než standardní lineární regrese. 5.2 Neuronové síte Základem matematického modelu neuronové síte je formální neuron, který je odvozen z funkce neurofyziologického neuronu. Neuronové síte se skládají z techto formálních neuronu, které jsou vzájemne propojeny tak, že výstup neuronu je vstupem obecne více neuronu. Pocet neuronu a jejich vzájemná propojení v síti urcuje architekturu (topologii) síte. Z hlediska využití v síti rozlišujeme vstupní, skryté a výstupní neurony. Druhým základním rysem neuronových sítí je jejich schoponost ucení. Existuje celá rada ucících algoritmu pro ruzné modely neuronových sítí. Od pocátku teorií neuronových sítí bylo ucineno mnoho kroku v zdokonalování techto algoritmu napr. zavedení nelinearity do neuronu ci objev algoritmu pro trénování velkých sítí. Bylo pridáno množství parametru pro schopnost zobecnení a heuristická vylepšení k preklenutí problému lokálních mimim. Soucasné neuronové síte existují v mnoha variantách, patrne nejoblíbenejší je tzv. feed-forward multi-layer varianta. Naše rešení nabízí nejpopulárnejší algoritmus zpetného šírení (backpropagation) spolu s výše uvedenými vylepšeními. 4

5 5.3 Metoda podpurných vektoru Metoda podpurných vektoru (Support Vector Machines) je založena na teorii uplatnující odlišný prístup k problému ucení - minimalizaci strukturálních rizik (Vapnik V. 1995). Tento postup je obecnejší než napríklad minimalizace chyb na množine trénovacích dat, bežne používané u neuronových sítí. Minimalizace strukturálního rizika znamená, že trénovací chyba a komplexnost diskriminacní funkce jsou minimalizovány soucasne. Výhoda tohoto prístupu je zrejmá: algoritmus nikdy nenabídne strategii (diskriminacní funkci), která by byla komplexnejší než ta, již by bylo možno zkonstruovat z daných dat. Puvodne byl algoritmus SVM navržen pro klasifikacní úlohy, ale postupem casu byl rozšíren i do oblasti regresních úloh (Muller K. A kol. 1997). K tomuto úcelu byla zavedena ztrátová funkce, jež je nulová, jestliže rozdíl mezi predikovanou a referencní hodnotou je menší než definovaný práh. 5.4 Rozhodovací stromy Prediktor využívá algoritmu ID3, z rodiny TDIDT (Top-Down Induction of Decesion Trees). Pro tvorbu stromu z príkladu je to velmi známý a osvedcený algoritmus. Jeho princip je relativne jednoduchý a pritom intuitivne srozumitelný. Poté co je strom vytvoren, sama klasifikace probíhá velmi prímocare a rychle. Strom je procházen od korene k listum, pri každém vetvení dochází k vlastnímu rozhodování dle aktuální hodnoty atributu v daném prípade. Prípadu je prirazena shodná trída jaká je spojena s dosaženým listem. Algoritmus TDIDT nevyužívá pro stavbu stromu žádné predem známé ci dríve získané informace. Strom je generován rekurzivne od korene k listum, delením puvodní trénovací množiny na menší a menší podmnožiny, uplatnujíce postup typický pro algoritmy typu rozdel a panuj. Pri tvorbe stromu je využívána obecná heuristika: jednoduché stromy jsou uprednostnovány pro jejich lepší predikcní schopnosti. Ke zpracování zašumnených dat a zmenšení hustých stromu je používána rada prorezávacích postupu. 5.5 Kombinace prediktoru Následující Obrázek 5 shrnuje celou predikcní metodologii, datové predzpracování a jednotlivé predikcní algoritmy, v jeden celek (Kout a kol. 2004). Obrázek 5 Prediktivní metodologie Problém numerické predikce je takovým typem problému, pro který je vhodné soucasne kombinovat více odlišných metod. Srovnáme-li systémy s numerickým výstupem napr. se systémy klasifikacními, kde je výstupem nekolik disjunktních tríd (A,B,C apod.), je evidentní, že u císelných vzájemne usporádaných údaju existuje mnohem vetší šíre prirozeného matematického aparátu použitelného ke kombinaci dosažených výsledku. Mámeli dve samostatné predikcní numerické jednotky, lze jejich celkový výstup v nejjednodušším prípade získat jako aritmetický prumer dílcích výsledku. U klasifikacních úloh se jedná o problematiku složitejší. Klasifikuje-li jedna jednotka posuzovaný stav do trídy A a druhá do trídy B nelze bez další informace napr. o spolehlivosti obou klasifikacních jednotek (popr. existence tretí meta-jednotky) rozhodnout o výsledné tríde. Navíc, zde nelze uplatnit výhodu numerických systému, která spocívá v tom, že se chyby opacného znaménka vzájemne kompenzují. Kombinace více numerických metod tedy prináší dva základní efekty: v prípade odlišných 5

6 znamének dílcích odchylek se tyto neutralizují, v prípade stejných znamének kombinace prispívá k eliminaci extrémních hodnot. Statisticky lze prínos kombinace více samostatných metod zduvodnit tím, že konecné chyby jednotlivých metod lze rozdelit na chyby zpusobené daty a chyby zpusobené samotnou metodou. Do první kategorie chyb patrí napr. odchylka predikcního systému zpusobená náhlou netypickou zmenou vstupních hodnot popr. jejich zcela chybným zadáním. Tyto chyby se na výsledné predikci odrazí vždy, nezávisle na typu ci kvalite použité metody. Druhou kategoríí jsou chyby zpusobené metodou samou a cílem každého systému je tuto chybu minimalizovat. Vhodným zpusobem minimalizace se jeví práve kombinace více metod. Zde lze uplatnit techniku lokální komparativní výhody nekteré z metod. Vyplývá-li napr. ze statistické analýzy úspešnosti jednotlivých metod, že nekterá z nich dosahuje nejlepších výsledku za specifických podmínek (v daném mesíci, za extrémních teplot nebo v odpoledních hodinách), bude tato metoda použita predostne práve za výše uvedených podmínek. 5.6 Vývoj predikcního systému Základní vývoj predikcního systemu lze shrnout do následujících fází: 1. Definice problému a získání dat. 2. Studie proveditelnosti, vyhodnocení ze strany zákazníka. 3. Návrh a implementace cílového systému, overení v provozu. První fáze slouží k defnici problému, nastavení kritérií úspešnosti jeho rešení a výberu relevantních dat. Vybraná data a jejich kvalita urcují úspešnost rešení problému. Základním kritériem je jejich relevantnost a množství. Cím více relevantních dat je k dispozici tím lépe je možné vyvtáret modely a simulovat reálný provoz. Duležitým vstupem je také defnice kritérií úspešnosti navrženého rešení. V této fázi je predpokládána úzká spolupráce mezi zákazníkem a navrhovatelem predikcního systému. Studie proveditelnosti slouží k analýze dat a návrhu rešení systému spolu s prepokládanou presností. Predikcní nástroj OPS je ideálním nástrojem pro vytvárení takovýchto rychlých rešení. Výstupem studie proveditelnosti je prototyp predikcního modulu a definice vstupu a výstupu. Návrh a implementace cílového systému jsou opet navrženy v úzké spolupráci se zákazníkem. Existují dve základní možnosti cílového systému: samostatný SW produkt ci integrace do stávajícího informacního systému. Nedílnou soucástí implementace je overení v reálném provozu. Takto navržený predikcní systém je možné v libovolných intervalech aktualizovat s využitím aktuálne nasbíraných dat pomocí vývojového nástroje OPS. Rada algoritmu však má schopnosti se aktualizovat samostatne. Obrázek 6 Schéma nasazení systému 6

7 6 REFERENCE PRÍKLADY NASAZENÍ SYSTÉMU 6.1 Predikce denní spotreby plynu Lokální distributori plynu zpravidla odebírají plyn od národních dodavatelu a dále jej distribuují v rámci regionu, který pokrývají. Jejich kontrakt s národními dodavateli je obvykle limitován a urcen smluvními denními limity odberu. Lokální distributori musí každodenne udržovat své odbery v techto predem dohodnutých mezích. Kdykoli je limit prekrocen, lokální distributor musí platit znacne vysokou pokutu. Je zrejmé, že denní predikce množství odebraného plynu muže lokálním distributorum znacne napomoci regulovat svuj odber v rámci nasmlouvaných mezí. Zpravidla mají dve možnosti, jak se nežádoucí penalizaci vyhnout. Jednak mohou nekterým svým odberatelum po dohode doporucit prepnutí na alternativní zdroj energie (napr. elektrinu ci olej). Druhá možnost, jak se vyhnout penalizaci, je naplnit vybudované rezervní nádrže plynu behem období menších spotreb. Zásoby z nádrží se potom použijí behem dnu se zvýšeným odberem plynu. Obrázek 7 Predikce spotreby plynu Nekolik variant systému je v soucasné dobe nepretržite používáno v Nemecku: Stadtwerke ve meste Paderborn, tri ruzné plynové síte spolecnosti NGW v Duisburgu, Stadtwerke v Buckeburgu a Stadtwerke spolecnosti Rheide dohromady na 6 ruzných sítích a to již od roku 1997 (Klema a kol. 1999). Presnost predikce je závislá na typu síte, odberatelích i kvalite nasbíraných dat v minulosti. Presnost predikce v zimních mesících bývá zpravidla od 96% do 99%. 6.2 Detekce kavitace u cerpadel Cerpadla patrí mezi nejrozšírenejší strojová zarízení. Uvádí se, že 20% celosvetove vytvárené energie je spotrebováno práve pri jejich pohánení. Všechna neocekávaná selhání s sebou nesou nákladné opravy, ztráty spojené s prostoji výroby a z dlouhodobejšího pohledu i pokles prodeju výrobce. Vcasná diagnostika pocátecních stádií techto selhání pomáhá výše zmínené ztráty redukovat na minimum. Nejcastejšími duvody selhání jsou poruchy ložisek a tesnení, jejichž puvodní prícinou muže být kavitace vznik parových bublin v oblastech s nižším tlakem v cerpané kapaline. Jde vlastne o studený var. Vedle poruch ložisek a tesnení dlouhodobejší kavitace zpusobuje i erozi vnitrních povrchu cerpadla. U diagnostických systému klademe duraz zejména na jejich spolehlivost, duležitými kritérii jsou však i nákladnost (cena a pocet senzoru), poprípade neinvazivnost. Z techto duvodu se rozvíjí zejména techniky detekce kavitace z údaju vibracních cidel, poprípade techniky založené na analýze statorového proudu hnacího motoru. U 7

8 techto postupu je treba identifikovat a odlišit vlivy ruzných faktoru na vibracní (nebo proudový) signál. Role umelé inteligence je v techto situacích nezastupitelná (Kout a kol. 2000). V tomto konkrétním prípade jsou výsledkem projektu odpovedi na následující otázky: Jaké je optimální umístení vibracních senzoru? Postacuje ke spolehlivé diagnóze jediné vibracní cidlo? Jaká je nejvhodnejší metoda predzpracování získaného signálu? Jsme schopni rozlišit více stupnu kavitace a detekovat také její pocátecní stadia? S jakou spolehlivostí? 6.3 Klasifikace událostí v topném systému Úloha byla zamerena na inteligentní analýzu systému a optimální rízení pumpy v topném okruhu. Hlavním cílem projektu bylo detekovat události v systému a soucasne navrhnout metodologii vcasné detekce chyb pri behu pumpy. Úcinná detekce prispívá k vcasnému odhalení závad, které mohou mít za následek znacné škody. Úlohou bylo klasifikovat jednotlivé poruchy (Kout a kol. 2001b). 6.4 Klasifikace srdecních arytmií Implantovaný kardiostimulátor je jednou z možností, jak efektivne rešit náhlé abnormality srdecního rytmu. Vcasná detekce jednotlivých arytmií umožnuje okamžitou aktivaci vhodné terapie, která prispívá ke zvýšené kvalite života pacientu. Studie byla zamerena na klasifikaci atriálních arytmií. 7 LITERATURA Kléma, J. - Kout, J. (1999): Prediction of Gas Consumption. In: Systems Integration '99. Prague : University of Economics, 1999, p ISBN Kout, J. - Kléma, J. - Štepánková, O. (2000): Fault Diagnostics of Intelligent Pump. In: Cybernetics and Systems Vienna : Austrian Society for Cybernetics Studies, 2000, vol. 2, p ISBN Kout J. (2001a): Prediction Methodology for Utility Companies, Ph.D. thesis in English, CVUT, FEL, Praha, 2001 Kout, J. - Klema, J. - Ertl, O. - Marík, V (2001b).: Heating Pump Control by Means of Valve Openness Prediction. [Research Report]. Prague : CTU FEE, Department of Cybernetics, The Gerstner Laboratory, GL 130/01. 9 p. ISSN Kout, J., Kléma, J., Vejmelka, M. (2004): Predictive System for Mutivariate Time Series. To appear at EMCSR 2004, Vienna, Muller K., Smola A., Ratsch G., Scholkopf B., Kohlmorgen J., Vapnik V. (1997): Predicting Time Series with Support Vector Machines, ICANN'97, pages Springer, 1997 Pyle D. (1999): Data Preparation for Data Mining. Morgan Kaufmann, California, Vapnik V. (1995): The Nature of Statistical Learning Theory, Sringer NY, 1995 Weigend A., Gershenfeld N. (1993): Time Series Prediction Forecasting the Future and Understanding the Past, Addison-Wesley, Reading, Massachussets,