Umělé neuronové sítě a jejich aplikace

Transkript

1 Bankovní institut vysoká škola Katedra matematiky, statistiky a informačních technologií Umělé neuronové sítě a jejich aplikace Bakalářská práce Autor: Aleksandr Podyablonskiy Informační technologie Vedoucí práce: Ing. Vladimír Beneš Praha duben 2013

2 Prohlášení Prohlašuji, že svou bakalářskou práci na téma Umělé neuronové sítě jsem vypracoval samostatně pod vedením vedoucího bakalářské práce. Veškerou použitou literaturu a podkladové materiály jsem uvedl v seznamu literatury a použitých zdrojů. Svým podpisem stvrzuji, že odevzdaná elektronická podoba práce je identická s její tištěnou verzí, a jsem seznámen se skutečností, že se práce bude archivovat v knihovně BIVŠ a dále bude zpřístupněna třetím osobám prostřednictvím interní databáze elektronických vysokoškolských prací. V Praze dne Aleksandr Podyablonskiy

3 Poděkování Děkuji vedoucímu bakalářské práce Ing. Vladimíru Benešovi za projevenou odbornou pomoc a další cenné rady při zpracování mé bakalářské práce.

4 Anotace Cílem této bakalářské práce je zkoumání příležitostí umělých neuronových sítí, aktuálního stavu technologie a možnosti jejich využití v praxi. V první části jsou definovány umělé neuronové sítě, porovnány s biologickými sítěmi a procesory osobních počítačů. Také je popsáno rozdělení na hlavní typy a podán stručný popis každé třídy. Ve druhé části se popisuje proces učení neuronové sítě, podrobně jsou popsána tři paradigmata strojového učení a také popsán test Turinga jako jedna z metod kontroly úrovně myšlení umělé inteligence. Ve třetí části se popisují různé metody aplikace neuronových sítí v praxi a příklady úspěšného použití sítě v podnikání. Čtvrtá část se kompletně věnuje budoucnosti umělé inteligence. Jsou popsány jeji perspektivy a příklady prototypů, které jsou založeny na neuronových sítích. Kromě pozitivních aspektů, jsou také popsána možná rizika spojená s kybernetickou formou života. Klíčová slova Umělá inteligence, umělé neuronové sítě, strojové učení, kybernetická forma života. Annotation The aim of this bachelor thesis is to explore the opportunities of artificial neural networks, the current state of technology and their use in practice. The first part defines the artificial neural network, compared with biological networks and processors of personal computers. Also describes a division of the main types and a brief description of each class. The second part describes the process of learning of neural networks, describes in detail three paradigms of machine learning and also describes Turing test as a method of control of the thinking artificial intelligence. The third section describes the different methods of application of neural networks in practice and examples of the successful use of networks in business. The fourth section is completely dedicated to the future of artificial intelligence. Are described it perspectives and examples of prototypes that are based on neural networks. Besides the positive aspects are also discussed possible risks associated with cybernetic life form. Key words Artificial intelligence, artificial neural networks, machine learning, cybernetic life form.

5 Obsah Úvod Definice umělých neuronových sítí Vznik umělých neuronových sítí Dvě architektury zpracování informací Základní rozdělení umělých neuronových sítí Podle charakteru učení Z hlediska nastavení vah Podle typu vstupní informace Podle modelu sítě Proces učení umělých neuronových sítí Etapy učení neuronových sítí Sběr dat Výběr topologie sítě Experimentální výběr vlastností sítě Experimentální výběr parametrů učení Samostatné učení Kontrola přiměřenosti učení Tři učební paradigmata Učení s učitelem Učení bez učitele Posílované učení Turingův test Eliza a Parry Kritika testu Aplikace umělých neuronových sítí Technika... 32

6 3.2. Telekomunikace Informační technologie Ekonomika a finance Reklama a marketing Zdravotnictví Budoucnost umělých neuronových sítí Perspektivy umělých neuronových sítí Umělá forma života Otázka bezpečností umělých neuronových sítí Hrozba lidstvu Jakou bude Závěr Seznam použité literatury... 49

7 Úvod Lidský mozek obsahuje miliardy zvláštních buněk zvaných neurony. Všechny jsou vzájemně propojeny stovkami bilionů nervových vláken, tzv. synapsí. Tak je získána obrovská síť neuronů, která je zodpovědná za všechny jevy, které jsme zvykli nazývat myšlenkami a emocemi, a také za rozmanitost senzomotorických funkcí. Do dneška ještě nemáme žádnou jednoznačnou odpověď na otázku, jak biologické neuronové sítě řídí všechny tyto procesy, ačkoliv už jsou probádané mnohé aspekty jejich práce. Vzhledem k technické nemožnosti vytvoření biologické neuronové sítě se vědci snaži vytvořit jeji neživé analogy umělé neuronové sítě. Význam výzkumu v této oblasti potvrzují veškeré možnosti aplikací neuronových sítí. To je napřiklad automatizace procesů rozpoznávání obrazů, adaptivní řízení, funkční sbližování, předpovídání, vytváření expertních systémů, organizace asociativní paměti a mnoho dalších aplikací. S pomocí neuronových sítí se mohou například předvídat indexy akciových trhů, provádět rozpoznání optických nebo zvukových signálů, vytvořit samoučící systémy schopné provozovat motorové vozidlo při parkování nebo syntetizovat řeč podle textu. Organizační struktura a funkce umělé neuronové sítě s několika vstupy a výstupy provádí transformaci vstupních podnětů - smyslové informace o vnějším světě na výstupní řidicí signály. Vrátíme-li se k obecným rysům, které jsou společné všem neuronovým sítím, je třeba upozornit na princip paralelního zpracování signálu, který je dosažen shromážděním velkého počtu neuronů v tzv. vrstvy a propojením neuronů různých vrstev a také v některých konfiguracích neuronů jedné vrstvy mezi sebou, přičemž zpracování interakce všech neuronů jde vrstvu po vrstvě. Teoretický počet vrstev a počet neuronů v každé vrstvě může být libovolný, ale ve skutečnosti je to omezeno prostředky počítače nebo čipu, na kterých je obvykle realizována neurosíť. Čim složitější je neuronová síť, tím větší úkoly může řešit. Široké spektrum úkolů, které mají být řešeny pomocí neuronových sítí, v současné době znemožňuje vytvořit univerzální výkonné sítě a nutí rozvíjet specializované neuronové sítě pracující na různých algoritmech. Typ neuronové sítě je do značné míry dán úlohou. Na volbu konkrétní neuronové sítě mohou mít vliv přítomnost nebo nepřítomnost příslušných programů úkolů. 7

8 1. Definice umělých neuronových sítí 1.1. Vznik umělých neuronových sítí Umělé neuronové sítě (UNS) jsou matematické modely a jejich softwarové nebo hardwarové implementace, postavené na principu organizace a fungování biologických neuronových sítí sítí nervových buněk živého organismu. Tento koncept vznikl ve stadiu procesů probíhajících v mozku a při pokusu o simulaci těchto procesů. Prvním takovým pokusem byly neuronové sítě McCullochu a Pittsu. Po vývoji algoritmů učení se výsledné modely začaly použivat pro praktické účely: na problematiku předvídání, rozpoznávání, úkolů řizení a jiných. UNS je systém propojených a vzájemně působících jednoduchých procesorů (umělé neurony). Takové procesory jsou obvykle velmi jednoduché, a to zejména ve srovnání s procesory používanými v osobních počítačích. Každý procesor takové sítě musí reagovat pouze na signály, které pravidelně dostává, a signály, které pravidelně odesílá dalším zpracovatelům. Ale přesto při připojení do dostatečně velké sítě s řízenou interakcí tyto lokálně jednoduché procesory společně mohou provádět velmi složité úkoly. Z hlediska strojového učení je neuronová síť speciální případ metody rozpoznávání obrazů, diskriminační analýzy, metody shlukování atd. Z matematického hlediska je učení neuronových sítí víceparametrální úkol nelineární optimalizace. Z hlediska kybernetiky se neuronová síť používá v úkolech adaptivního řízení a jako algoritmus pro robotiku. Z hlediska rozvoje vypočetní techniky a programování neuronové sítě jsou způsobem řešení problému efektivní souběžnosti. A z pohledu umělé inteligence je UNS základem filozofického proudu connectionisma a zakladním směrem ve strukturálním přístupu ke studiu možnosti výroby (modelování) přirozené inteligence pomocí počítačových algoritmů. Americký neurovědec Frank Rosenblatt navrhl koncepci zařízení, které simuluje proces lidského vnímání, a nazval ho "perceptron". Perceptron předával signály z fotonek představených ve tvaru dotykového pole do elektromechanických paměťových buněk. Tyto buňky byly vzájemně spojeny v náhodném pořadí v souladu s principy connectionisma. V roce 1957 v Cornell Aeronautical Laboratory bylo úspěšně ukončene modelování perceptronu na počítači IBM 704 a o dva roky později, 23. června 1960, v Cornell University byl nejprve demonstrován neuropočítač Mark-1, který byl schopen rozpoznat některé z písmen abecedy. 8

9 Uprostřed rostoucí popularity neuronových sítí v roce 1969 Marvin Minsky a Seymour Papert vydali knihu, ve které poukázali na zásadní omezení perceptronů. Toto přivedlo k posunu v zájmu výzkumu umělé inteligence v opačném směru od neuronových sítí z oblasti symbolických výpočtů. Také kvůli složitosti matematické analýzy perceptronů a nedostatku jednotné terminologie vznikly různé nepřesnosti a mylné představy. Od 70. let se v odborných časopisech začaly objevovat publikace tykajici se umělých neuronových sítí. Postupně byl vytvořen dobrý teoretický základ, na kterém se dodnes vytváří většina sítí. Po dvou desetiletích téměř úplného zanedbání zájem o umělé neuronové sítě rapidně vzrostl v průběhu posledních několika let. Odborníci z takových vzdalených oblasti, jakými jsou technické konstrukce, filozofie, fyziologie a psychologie, byli zaujati příležitostmi nabízenými touto technologií a hledají pro ně použítí ve svých oborech. V posledních dvou desetiletích se teorie začala aktivně rozvíjet pro řešení aplikovaných problémů. Objevily se firmy, které vyvíjejí softwarové aplikace pro konstrukci umělých neuronových sítí. Kromě toho 90. léta byla poznamenána příchodem umělých neuronových sítí do oblasti podnikaní, kde se ukázala jejich skutečná účinnost při řešení mnoha problémů od předpovědí poptávky po produktech po konkrétní analýzy bonity klientů bank. Tento obnovený zájem byl způsoben jak teoretickými, tak i aplikovanými pokroky. Náhle se otevřely možnosti použití výpočetní techniky v oblastech dříve patřících pouze do lidského intelektu, možnosti vytvoření strojů či schopnost učit se a pamatovat si se pozoruhodně podobá lidským myšlenkovým postupům. Tím byl kritizováný pojem umělá inteligence naplněn novým významným obsahem. Lepší porozumění fungování neuronu a jeho spojení umožnilo vědcům vytvořit matematický model pro testování jejich teorie. Experimenty lze nyní provádět na digitálních počítačích bez použití lidí nebo zvířat, čimž se vyřešílo mnoho praktických a etických problémů. Již v prvních pracich bylo zjištěno, že tyto modely nejen opakuji funkce mozku, ale jsou také schopny vykonávat funkce, které mají svou vlastní hodnotu. Proto se objevily a zůstavaji i v současné době dva vzájemně obohacujici se záměry neuronového modelování: první pochopit fungování lidského nervového systému na úrovni fyziologie a psychologie, druhý vytvořit výpočetní systémy (umělé neuronové sítě), které vykonávaji funkce podobné funkcím mozku. 9

10 Souběžně s pokrokem v neuroanatomii a neurofyziologii psychologové založili modely lidského učení. Jeden z takových modelů, který byl nejvic plodným, byl model Donalda Hebba, který v roce 1949 navrhl zákon učení. Tento zákon se stal východiskem pro algoritmy učeni umělých neuronových sítí. Dnes, doplněn o řadu dalších metod, ukázal vědcům své doby, jak může být síť neuronů naučena. Co jsou vlastně umělé neuronové sítě? Co mohou dělat? Jak fungují? Jak mohou být použity? Tyto a mnoho podobných otázek si kladou odborníci z různých oborů. Ale najít přijatelnou odpověď není snadné. Nejvýstižnéjší je následující definice umělých neuronových sítí jako adaptivního stroje: Umělá neuronová síť je paralelní distribuovaný procesor, který má schopnost zachovat a využivat odborné znalostí. Shoduje se s mozkem ve dvou směrech: Síť získává znalosti v procesu učení. Pro uchováni znalosti se používá síly mezineuronového spojení, známé také jako synaptické váhy. Existuje mnoho působivých demonstrací schopností umělých neuronových sítí: síť se naučila obracet text do fonetické reprezentace, který pak pomoci jiných metod obrátila do řeči; jiné sítě mohou rozpoznat ručně psaná pismena; byl navržen systém komprese obrazu na základě neuronové sítě. Všichni používají back-propagation (zpětné šíření) nejúspěšnější ze současných algoritmů. Zpětné šíření je systematická metoda pro výcvik vícevrstvené sítě, a tím překonává omezení uvedené Marvinem Lee Minskym. Zpětné šíření není bezproblémové. Za prvé není žádná záruka, že se to síť může naučit během určité doby. Mnoho úsilí vynaložené na učení se marně ztrácí při velkém počtu využitého počitačového času. Když se to stane, pokus učení se opakuje - bez jistoty, že výsledek bude lepší. Také neni žádná záruka, že se to síť naučí tím nejlepším možným způsobem. Bylo vytvořeno mnoho dalších algoritmů učení sítě, které maji své konkrétní výhody. Je třeba zdůraznit, že žádná z dnešních sítí není všelék, všechny trpí omezením jejich schopnosti učit se a pamatovat si. Zabýváme se oblastí, která prokázala svou účinnost, která má unikátní potenciál, hodně omezení a mnoho otevřených otázek. 10

11 Autoři mají tendenci publikovat své úspěchy, ale ne selhání, což vytváří dojem, který může být nereálný. Ti, kteří hledají kapitál, aby riskovali a vytvořili nové podniky, by měli předložit přesvědčivý projekt sledování a výnosnosti. Existuje tedy nebezpečí, že umělé neuronové sítě se budou prodávat dřiv, než jejich čas přijde, slibují funkce, které zatím není možné dosáhnout. Pokud se to stane, může oblast jako celek utrpět ztrátu důvěryhodnosti a vrátít se do stagnujícího období sedmdesátých let. Zlepšení stávajícího stavu sítě vyžaduje hodně solidní práce. Musí být vyvinuty nové technologie, zlepšeny stávající metody a rozšířena teoretická základna před tím, než tato oblast bude moci plně realizovat svůj potenciál Dvě architektury zpracování informací Od počátku počítačového věku byly identifikovány dva zásadně odlišné přístupy k zpracování informací: sekvenční zpracování symbolů a paralelní rozpoznávání vzorů. Jak symboly, tak i obrázky jsou "slova", která jsou zpracována na počítači, a hlavní rozdíl mezi nimi spočívá pouze v dimenzi. Přitom velikost obrazu může být o mnoho řádů větší než symbolu. Mohlo by se zdát, že rozdíl není příliš významný a vede jen k většímu času zpracování dlouhých slov, ale ve skutečnosti mají rozdíly ve velikosti dat zásadní význam, protože složitost zpracování obrazů se zvyšuje nelineárně. Pro relativně krátké symboly můžeme popsat všechny možné operace a vytvořit procesor, který zpracovává předpověditelným způsobem všechny vstupní symboly vykonávající rolí dat a příkazů. Ale implementovat to stejným způsoben pro obrazy neni možné, protože takový popis poroste exponenciálně. To znamená, že procesor pro zpracování obrazů obsahuje jen část možných vstupních vzorů a jim odpovídajících činnosti a musi promýšlet" své chování a shromáždit všechny známé příklady, aby jeho reakce byla podobná a přijatelná z hlediska účelu, pro který je určen. To znamená, že rozdíl mezi sekvenčním a paralelním výpočem spočívá v zásadně odlišných metodách formulací a řešení problémů týkajících se zpracování informací. Na principu postupných výpočtů s omezenou délkou symbolu jsou založeny počítače s tradiční architekturou Von Neumanna s algoritmickými programy. Paralelní výpočty a rozpoznávání vzorů jsou základem neuro-počítače, organizovaného na principech podobných architektuře a práci mozku. Moderní elektronické počítače značně překonávají lidské schopnost z pohledu provedení numerických výpočtů, nicméně člověk může snadno za pár sekund poznat člověka, jehož tvář blýskl v davu a s nímž se neviděl již mnoho let. 11

12 Tak co je důvodem pro významný rozdíl ve schopnostech těchto dvou výpočtových modelů? Zkusme vyřešit tento problém pomocí tabulky, která shrnuje hlavní rozdíly moderních počítačů, které slouži jako prototyp stroje von Neumannovy architektury a neuronových sítí. Procesor Paměť Výpočty Počitač s architekturou von Neumanna Složitý Vysokofrekvenční Jeden nebo několik Oddělená od procesoru Lokalizovaná Adresace bez ohledu na obsah Centralizované Sekvenční Zapsané instrukce 12 Neuronová síť Jednoduchý Nizkofrekvenční Velký počet Integrovaná do procesoru Distribuovaná Adresace podle obsahu Distribuované Paralelní Samoučení Specializace Symbolické a numerické operace Vnímání a zpracování obrazů Obr. 1: Porovnání počitačových architektur Zdroj: [2]. Jak již bylo zmíněno, hlavním cílem neuro-počítačů je zpracování obrazů. Ty přitom nemají, jako náš mozek, společnou sběrnici, není tu rozdělení na aktivní procesor a pasivní paměť, výpočty a odborné přípravy jsou distribuováné do všech elementárních procesorů neuronů, které fungují paralelně. Kvůli tomu mohou neuropočitače dosáhnout fantastického výkonu, který může překročit výkon milionů tradičních počítačů se sekvenční architekturou. Výhody přístupu neuronové sítě jsou následující: Paralelní zpracování informací. Účinné zásady učení. Provozní spolehlivost. Schopnost řešit neformalizované problémy. Biologická evoluce, která přivedla k takovým efektivním rozhodnutím, prošla cestou od obrazů k logice. Takže člověk se po narození uči rozpoznat obrazy a potom už získává schopnost logicky myslet a sestavovat algoritmy. Počítače naopak začaly z logiky a jen o několik desetiletí později se začaly učit rozpoznávát obrazy diky vytvoření speciálních programů pro počítače s tradiční architekturou, nebo vytvořením specializovaných hardwarových neuroprocesorů.

13 1.3. Základní rozdělení umělých neuronových sítí Vývoj umělých neuronových sítí je inspirovan biologií. To znamená, že popisuje síťové konfigurace a algoritmy, badatelé se zabývají organizací mozkové činnosti. Ale na tom může být analogie skončena. Naše znalosti o funkcích mozku jsou tak omezené, že je těžké najit vodítko pro systémy, které se mu pokusí podobat. Proto návrháři sítě musí jít nad rámec současného biologického poznání při hledání struktur schopných provádět užitečné funkce. V mnoha případech to vede k potřebě odmintnout biologickou analogii, mozek se stává jen metaforou. Vytvářejí sítě, které nejsou možné v živé hmotě, nebo vyžadují nepravděpodobně velké předpoklady o anatomii a funkci mozku. Navzdory tomu, že vztah s biologií je slabý a často nevýznamný, se umělé neuronové sítě i nadále srovnávaji s mozkem. Jejich fungování často připomíná lidské poznání, a proto je obtížné se vyhnout této analogii. Bohužel taková srovnání jsou neplodná a vytvářejí neodůvodněné očekávání nevyhnutelně vedouci ke zklamání. Nadšení výzkumu, záloženého na falešné naděje, se může rozplynout, kdy se setká s krutou realitou, jak to už nastalo v šedesátých letech, a slibná oblast opět bude klesat, pokud nebude plnit nezbytná zdrženlivost. V současné době existuje velké množství různých konfigurací neuronových sítí s různými principy fungování, které jsou zaměřeny na řešení různých problémů. Jako příklad se podíváme na vícevrstvou neuronovou síť přimého šiření, která je široce používána k hledání zákonitostí a třídění obrazů. Takovou plně provázanou neuronovou sítí přimého šiření se nazývá konstrukce, kde každý neuron každé vrstvy je spojen se všemi neurony v předchozí vrstvě a neurony první vrstvy se všemi vstupy neuronové sítě Podle charakteru učení Klasifikace neuronových sítí z pohledu charakteru učení se dělí na: Neuronové sítě využívající učení s učitelem. Neuronové sítě využívající učení bez učitele. Podrobný popis procesů strojového učení je umistěn v kapitolě čislo 2. 13

14 Z hlediska nastavení vah Síť s pevným spojením váhové koeficienty neuronové sítě jsou vybrány najednou, na základě požadavků tohoto úkolu. Sítě s dynamickým spojením pro ně v procesu učení probihá nastavení synaptických vah Podle typu vstupní informace Analogový vstupní informace uvedena ve formě reálných čísel. Binární všechny vstupní informace v rámci těchto sítí jsou reprezentovány ve tvaru jedniček a nul Podle modelu sítě Sítě přímého šiření všechny spoje směřují přímo od vstupu k výstupu neuronů. Mezi takové sítě patři: jednoduchý perceptron (vyvinutý Rosenblattem) a vícevrstvý perceptron. Rekurzivní neuronové sítě signál z výstupních neuronů nebo neuronů skryté vrstvy částečně převeden zpět na vstupy neuronů vstupní vrstvy. Funkce s radiální zakladnou typ neuronové sítě, která má skrytou vrstvu radiálních prvků a výstupní vrstvu lineárních prvků. Tento typ sítě je poměrně kompaktní a dost rychle se učí. Navržen v pracích Broomhead a Lowe (1988) a Moody a Darkin (1989). Radiální sítě mají následující vlastnosti: maji jednu skrytou vrstvu, jenom neurony skryté vrstvy mají nelineární aktivační funkce. Samoorganizující mapy Kohonena třída sítí, které se zpravidla uči bez učitele a jsou úspěšně používáné v úkolech rozpoznávání. Sítě této třídy jsou schopny identifikovat novost vstupních dat: v případě, že se po učení síť setká se sadou dat odlišnou od známých exemplářů, nebude schopna klasifikovat sadu, a tím odhalí její novost. Kohonenova síť má jen dvě vrstvy: vstupní a výstupní, složené z radiálních prvků. 14

15 2. Proces učení umělých neuronových sítí Nejdůležitějším rysem neuronových sítí je jejich schopnost se učit na základě dat prostředí a v důsledku učení zlepšit svůj výkon. Ke zvýšení výkonnosti dochází v průběhu času, v souladu s určitými pravidly. Učení neuronové sítě probihá prostřednictvím interaktivního procesu úpravy synaptických vah a prahů. V ideálním případě neuronová síť dostává znalosti o životním prostředí v každé iteraci procesu učení. S pojmem učení je spojeno mnoho aktivit, a proto je obtížné podat jednoznačnou definici procesu. Kromě toho proces učení závisí na úhlu pohledu na něj. To je to, co dělá téměř nemožné určit přesnou definici tohoto pojmu. Například proces učení z hlediska psychologie je zcela odlišný od učení z pohledu školního učitele. Z hlediska neuronové sítě pravděpodobně můžeme používat následující definici: Učení je procesem, během kterého jsou volné parametry neuronové sítě nastaveny prostřednictvím modelování prostředí, ve kterém funguje síť. Typ učení je určen způsobem nastavování parametrů. Tato definice procesu učení neuronové sítě přepokládá následující posloupnost událostí: 1. Neuronová sít přijímá podněty z vnějšiho prostředí. 2. V důsledku první činnosti se měni volné parametry neuronové sítě. 3. Po změně vnitřní struktury neuronová sít reaguje na buzení jinak. Výše uvedený seznam jasných pravidel pro řešení problému učení neuronové sítě se nazývá algoritmus učení. Je snadné odhadnout, že neexistuje univerzální algoritmus učení vhodný pro všechny architektury neuronových sítí. K dispozici je sada nástrojů, reprezentovaná souborem algoritmů, z nichž každá má své výhody. Algoritmy se liší způsobem nastavení synaptických vah neuronů. Dalším charakteristickým rysem je způsob komunikace neuronové sítě s vnějšim světem. V této souvislosti se mluví o paradigmatu učení spojeném s modelem prostředí, ve kterém působí neuronová sít. V poslední době se neuronové sítě stále více využívají a zlepšuji ve všech oblastech lidské činnosti. Proto popularita neuronových sítí stále roste. 15

16 2.1. Etapy učení neuronových sítí Etapy řešení úloh: Sběr dat pro učení. Příprava a normalizace dat. Výběr topologie sítě. Pilotní výběr vlastnosti sítě. Pilotní výběr parametrů učení. Samostatné učení. Kontrola přiměřenosti učení. Úprava parametrů, závěrečné učení. Verbalizace síti pro další použití. Je třeba podrobněji prozkoumat některé z techto fází Sběr dat Výběr dat pro učení sítě a zpracování je nejtěžší fáze řešení ulohy. Datový soubor pro učení musí splňovat několik kritérií: Reprezentativnost údaje by měly odrážet opravdový stav v dané oblasti. Konzistence protichůdné údaje v učícím souboru povedou ke špatné kvalitě učení sítě. Výchozí data se převáději do forem, ve kterých mohou být použita jako vstupy pro síť. Každý záznam v souboru dat se nazývá učicí dvojice nebo učicí vektor. Vektor obsahuje jednu hodnotu pro každý vstup sítě a v závislosti na typu učení (s učitelem nebo bez něho) jednu hodnotu pro každý výstup sítě. Učení sitě na hrubém" souboru dat obvykle nedává dobré výsledky. Existuje několik způsobů, jak zlepšit vnímání" sítě: Normalizace se provádí, když do různých vstupu dodávaji data různého objemu. Například do prvního vstupu jsou dodána data s hodnotou od nuly do jedné a do druhého s hodnotami v rozmezí od sta do tisíce. Bez normalizace hodnoty na druhém vstupu budou mít vždy mnohem větší vliv na výstup sítě než hodnoty na prvním vstupu. S normalizací se rozměrnost všech vstupních a výstupních dat upravuje na jednu úroveň. 16

17 Kvantizace se provádí pro nepřetržité proměnné, pro které existuje konečná sada diskrétních hodnot. Například kvantizace slouží k nastavení frekvence zvukových signálů při rozpoznávání řeči. Filtrování se provádí pro hlučná data. Kromě toho hraje důležitou roli i samotná reprezentace vstupních a výstupních dat. Předpokládejme, že se síť uči rozpoznat písmena v obrazech a má jen jeden číselný výstup čislo písmena v abecedě. V tomto případě síť dostane nesprávnou představu, že písmena s čísly 2(B) a 3(C) jsou více podobná než písmena s čísly 2(B) a 4(D), což v podstatě není pravda. Aby se tomu zabránilo, je třeba použit síťovou topologii s velkým počtem výstupů, kde každý výstup má svůj vlastní význam. Čím je více výstupů v sítich, tím větší je vzdálenost mezi třídami a snižuje se pravděpodobnost zmatení Výběr topologie sítě Vybirat typ sítě je třeba s ohledem na úlohu a existujici data pro učení. Pro učení s učitelem je potřebou odborně ohodnotit každý element datové sady. Někdy získat hodnocení pro velký masiv je naprosto nemožné. V takových případech je třeba vybrat síť, která se uči bez učitele, například samoorganizující mapy Kohonena nebo neuronové sítě Hopfielda. Při řešení dalších problémů, jako je například predikce časových řádů, je odborné hodnocení už obsažené ve zdrojových datech a může být vyčleněné během jejich zpracování. V takovém případě lze použít vícevrstvý perceptron nebo síť Warda Experimentální výběr vlastností sítě Po výběru struktury je třeba experimentálně najit parametry sítě. U sítí, jako je perceptron, tím parametrem bude počet vrstev, pro sítě Ward počet jednotek v skrytých vrstvách, přítomnost nebo absence obtokových připojení, přenosové funkce neuronů. Při výběru počtu vrstev a neuronů je třeba mít na paměti, že schopnost sítě zevšeobecnit je tím vyšší, čím větší je jeji celkový počet spojů mezi neurony. Na druhé straně počet spojů je ohraničen počtem záznamů v učebních datech. 17

18 Experimentální výběr parametrů učení Po výběru konkrétní topologie a vlastnosti si potřebujeme vybrat parametry učení neuronové sítě. Tento krok je obzvláště důležitý pro sítě, které se uči s učitelem. Na správně volbě parametrů záleži nejen to, jak rychle se odpovědi sítě budou shodovat se správnymi odpověďmi. Například volba nízké rychlosti učení zvýši dobu konvergence odpovědi, ale někdy se umožnuje vyhnout šlaku sítě. Zvyšení rychlosti výuky může vést jak ke zvýšení, tak i poklesu doby konvergence v závislosti na podstatě chyb. Na základě tohoto konfliktního účinku parametrů, lze konstatovat, že jejich hodnoty by měly být vybrány experimentálně s ohledem na kritériia ukončení učení (např. minimalizace chyb nebo omezení doby učení) Samostatné učení Během procesu učení síť v určitém pořadí prohledává učební data. Pořadi muže být sekvenčním nebo náhodným. Některé sítě, které se uči bez učitele, například sítě Hopfielda, prohledávaji data pouze jednou. Jiné, jako například sítě Kohonena, a sítě, které se uči s učitelem, prohlížeji data několikrát, přitom jeden kompletní průchod dat se nazývá epocha učení. Při učení s učitelem se sady vstupních dat rozděluji do dvou částí skutečný učební soubor a testovací údaje; princip dělby může být libovolný. Učební data jsou vedena do sítě pro učení a testovací údaje jsou použity k výpočtu chyb sítě (testovací údaje se nikdy nepoužívají pro učení). Proto pokud se na testovacích údajích snižuje chyba, síť opravdu provádi zobecnění. Pokud chyba na učebních datech stále klesá a chyba na testovacích udajích roste, znamená to, že síť přestala zobecňovat data a jenom si pamatuje" učební data. Tento jev se nazývá přeučení sítě nebo overfittingom. V takových případech se učení obvykle zastaví. Během procesu učení mohou nastat další problémy, jako je šlak, nebo vstup do sítě do lokálního minima povrchu chyb. Neni možné předpovědět projevy toho nebo jiného problému, stejně jako poskytnout unikátní doporučení k jejich řešení. Vše výše uvedené se vztahuje pouze na iterativní vyhledávací algoritmy neuronových sítí. Bohužel se nemůžeme opravdu za nic zaručít, stejně jako nelze úplně automatizovat proces učení neuronových sítí. Nicméně spolu s iteračními algoritmy učení existují také neiterační algoritmy, které mají velmi vysokou stabilitu a umožňují kompletní automatizaci procesu učení. 18

19 Kontrola přiměřenosti učení I když bylo na první pohled učení úspěšné, síť neučí vždy přesně to, co se od ní očekává. Existuje takový případ, kdy se síť učila rozpoznávat obrazy tanku na fotografiích, ale později se ukázalo, že všechny tanky byly fotografovány na stejném pozadí. V důsledku toho se síť naučila rozpoznavat tento typ krajiny misto toho, aby se naučila rozpoznat tanky. Tak síť chápe ne to, co se od ní potřebovalo, ale to, co je nejjednodušší pro zobecnění. Testování kvality učení neuronové sítě je třeba provádět na příkladech, které nebyly zapojeny do jeho učení. Navíc počet testovacích případů musi být tím větší, čím vyšší je kvalita učení. Pokud chyby neuronových sítí maji pravděpodobnost blízko k jedné miliardtině, pak se pro potvrzení této pravděpodobnosti potřebuje miliarda testovacích případů. Ukazuje se, že testování dobře naučených neuronových sítí je velmi obtížný úkol Tři učební paradigmata Jsou vyčlenena tři paradigmata učení: s učitelem, bez učitele a michaná. V první metodě známe správné odpovědi na každý vstupní přiklad a váhy se upravují tak, aby se minimalizovaly chyby. Učení bez učitele rozděluje vzory podle kategorie otevřením vnitřní struktury a přírody údajů. Při míchaném učení se kombinuji dva výše uvedené přístupy Učení s učitelem Angl. Supervised learning Jedna z metod strojového učení, během které je systém nucen se učit pomoci příkladu podnět - odezva". Mezi vstupem (podnět) a výstupem (odezva) může být nějaká zavislost, ale není známá. Známe pouze konečné množiny precedentů dvojice podnět-odezva. Na základě těchto dat je třeba obnovit vztah (postavit model vztahů podnět odezva, které jsou vhodné pro predikci), to znamena sestavit algoritmus, který může dát pro libovolný objekt poměrně přesnou odpověď. Systém se skládá z použivaného systému, podnětů dodávaných z vnějšího prostředí a řízení podepření (regulátoru vnitřních parametrů). Jako systém řídící podepření lze použít automatické regulační zařízení (např. termostat) nebo člověka operátora (učitel), který je schopen reagovat na odezvy sítí a podněty vnějšího prostředí pomocí zvláštních pravidel podepření, měnící stav paměti systému. 19

20 Existují dvě varianty: když reakce systému nemění stav vnějšího prostředí a když odezva systému mění podněty vnějšího prostředí. Toto ukazuje základní podobnost mezi neuronovými sítěmi a biologickým nervovým systémem Typologie úloh učení s učitelem Typy vstupních dat Atributový popis nejčastější případ. Každý objekt je popsán souborem svých vlastností, tzv. atributy. Příznaky mohou být číselné nebo nečíselné. Matice vzdáleností mezi objekty. Každý objekt je popsán vzdáleností do všech ostatních objektů z učební množiny. S tímto typem vstupních dat pracují jen některé metody, zejména metoda nejbližšího souseda, metoda parzenovského okna, metoda potenciálních funkcí. Časová řada nebo signál představuje sekvence vyměřování během času. Každé měření může být reprezentováno číslem, vektorem, ale obecně atributovým popisem objektu v daném čase. Obrázek nebo video. Existují i složitější případy, kdy se vstupní data dodávají ve formě grafů, textů, výsledky dotazů do databáze atd. Zpravidla je třeba převést tyto vstupy na první nebo druhý případ z předběžného zpracování a vytažení atributů Typy odezvy Když je množina možných odpovědí nekonečná (odpovědi jsou reálná čísla nebo vektory), mluví se o úkolech regrese a aproximace. Když množina možných odpovědí je konečná, mluví se o úkolech klasifikace a rozpoznávání vzorů. Když odpovědi charakterizují budoucí chování procesu nebo jevu, mluví se o úkolech prognózování. Degenerované typy systémů řízení podepření (učitelů) 20

21 Systém podepření řízený reakcí (R řízený systém) se vyznačuje tím, že informační kanál z okolního prostředí do systému podepření nefunguje. Tento systém, i přes přítomnost řídicího systému, patří mezi typy spontánního učení, protože systém se uči nezávisle, jen pomoci svýh výstupních signálů bez ohledu na jejich správnost. Při této metodě se nevyžaduje žádná externí informace pro změny stavu paměti; Systém podepření řízený podněty (S řízený systém) vyznačující se tím, že informační kanál ze sítí do systému podepření nefunguje. Přes nefunkční kanál od výstupů sítí patři mezi typy učení s učitelem, protože v tomto případě systém podepření (učitel) nuti síť produkovat reakce podle určitého pravidla, i když to nebere v úvahu přítomnost skutečných reakcí zkoušeného systému. Tento rozdíl umožňuje se hlouběji podívat na rozdíly mezi různými metodami učení, protože rozdíl mezi učením s učitelem a učením bez učitele je jemnější. Kromě toho takové rozlišování umožnílo zobrazit některá omezení umělých neuronových sítí pro S a R řídící systémy Učení bez učitele Angl. Unsupervised learning Samostudium, spontánní průběh jedna z metod strojového učení, při kterém se systém spontánně uči plnit svůj úkol bez zásahu člověka. Jedná se o metodu vhodnou pouze pro úlohy, ve kterých je známý popis množiny objektů (učební sady) a vyžaduje se najít vnitřní vztah, závislost, zákony, které existují mezi objekty. Učení bez učitelů je často dáváno do protikladu k učení s učitelem, kde je pro každý učený objekt násilně dána správná odpověď a je třeba najít vztah mezi podněty a reakcí systému Spojení s fyziologií Přes četné aplikační úspěchy bylo učení s učitelem kritizováno za svou biologickou nepravděpodobnost. Je těžké si představit učební mechanismus v mozku, které by porovnal požadovanou a aktuální výstupní hodnotu a prováděl korekce pomocí zpětné vazby. Pokud budeme předpokládat podobný mechanismus v mozku, kde pak najdeme požadované výstupy? Učení bez učitele je mnohem pravděpodobnější model učení v biologickém systému. Metoda učení vyvinutá Kohonenem a mnoha dalšími nepotřebuje cílový vektor pro výstupy, a proto nevyžaduje srovnání s ideálními odpověďmí. 21

22 Pojem učení bez učitele v teorii rozpoznávání obrazů Aby vytvořit teorie a vzdálit se od kybernetického experimentů učení bez učitele se snaží formalizovat matematicky. Existuje mnoho různých podtypů nastavení a definování formalizace. Jedna z nich se odráží v teorii rozpoznávání obrazů. Takový odchod od experimentu a tvorba teorie se týká různých pohledů odborníků v pohledech. Rozdíly jsou zejména v odpovědi na otázku: Mohou být společné zásady pro adekvátní popis obrazů různé povahy, nebo úkol pro specialisty specifických oborů tvoří takový popis pokaždé?. V prvním případě by nastavení mělo být zaměřeno na identifikaci společných zásad pro použití předem známé informace při přípravě adekvátního popisu obrázů. Je důležité, že informace a obrazy různé povahy jsou různé, ale princip jejich zpracovaní je stejný. Ve druhém případě problém tvorby popisu vystupuje mimo obecné tvrzení a teorie strojového učení rozpoznávání obrazů z pohledu statistické teorie učení může být snížena na problém minimalizace průměrného rizika ve speciální třídě rozhodovacích pravidel. V teorii rozpoznávání obrazů se obecně rozlišují tři přístupy k tomuto problému: Heuristické metody. Matematické metody. Lingvistické (syntaktické) metody. Experimentální schéma učení bez učitele je často používáno v teorii rozpoznávání obrazu, strojovém učení. A při tom se formuje do určité matematické koncepce v závislosti na přístupu. A pouze v teorii umělých neuronových sítí se úloha řeší experimentálně, použitím nějaké formy neuronových sítí. Přitom obvykle výsledný model může neobsahovat interpretace výkladu, což se někdy označuje za mínus neuronové sítě. Přesto jsou výsledky stejně dobré, a je-li to žádoucí, mohou být interpretovány pomocí speciálních technik Úloha shlukování Experiment učení bez učitele při řešení problému rozpoznávání obrazů lze formulovat jako problém shlukové analýzy. Soubor objektů se děli do disjunktních podmnožin, které se nazývají shluky tak, aby se každý klastr skládal z podobných objektů a významně se lišil od objektů jiných shluků. Vstupní informace uvedena ve formě matice vzdálenosti. 22

23 Metody řešení: Grafové algoritmy shlukování. Statistické algoritmy shlukování. Hierarchické shlukování nebo taxonomie. Kohonenova neuronová síť. K-means. Neuronová sít zpětného šiření. Metoda funkce s radiální zakladnou. Shlukování může hrát podpůrněrnou roli při řešení problémů klasifikace a regrese. Je třeba nejprve rozbít soubor dat do shluků, pak pro každý klastr aplikovat nějakou velmi jednoduchou metodu, například přiblížení cílové závislosti konstanty Úloha zobecnění Stejně jako v případě experimentů rozpoznání, které může být matematicky formulováno jako shlukování, při zobecnění pojmů lze prozkoumat spontánní zobecnění, kde jsou kritéria podobnosti nezaváděna zvnějšku a nejsou uložena experimentátorem Úloha hledání pravidel asociace Původní informace je uvedena ve formě atributového popisu. Úkolem je najít takovou sadu funkcí a takové hodnoty těchto atributů, které se velmí často (nenáhodně často) vyskytují v atributových popisech objektů Úloha snižování dimenzionality Původní informace je uvedena ve formě atributového popisu, přičemž počet atributů může být poměrně velký. Cílem je prezentovat data v nižší dimenzi, a pokud to je možné, minimalizovat ztráty dat. Metody řešení: Metoda hlavních komponent. 23

24 Metoda nezávislých komponent. Vícerozměrné škálování Úloha vizualizace dat Některé metody shlukování a snižování dimenzionality vytvářejí představu o souboru dat v dvojrozměrném prostoru. To umožňuje zobrazit vícerozměrná data ve formě rovinných grafů a analyzovat je vizuálně, což způsobí lepší pochopení dat a podstaty řešeného problému. Metody řešení: Dendrogram. Samoorganizující mapa Kohonena. Generativní topografická mapa. Mapa podobnosti Některé aplikace Sociologické výzkumy: vytvoření reprezentačního vybrání na organizace průzkumů. Marketingové výzkumy: rozdělení všech zákazníků do klasterů pro identifikaci typických preferencí. Analýza nákupního košíku: identifikace kombinace zboží, které se často objevuje spolu při nákupech Posílované učení Angl. reinforcement learning Jedna z metod strojového učení, během které se systém (agent) učí v interakci s prostředím. Odezvou prostředí (a ne zvláštního kontrolního systému podepření, jak je to v učení s učitelem) na rozhodnutí jsou signály podepření, proto tento typ učení je zvláštním případem učení s učitelem, ale tady je učitelem prostředí nebo jeho model. Také je potřeba mít na paměti, že některá pravidla jsou založena na implicitních učitelích, například v případě umělého neuronového prostředí na současné činnosti formálních neuronů, což je důvod, proč metoda může být přičítána k učení bez učitele. 24

25 Prostředí a agent Agent působí na prostředí a prostředí na agenta. Takovému systému se říká, že má zpětnou vazbu. Takový systém by měl být považován za celek, a proto je dělící čára mezi prostředím a agentem docela běžná. Samozřejmě z anatomického nebo fyzického pohledu mezi prostředím a agentem (organismus) je určitá hranice, ale z funkčního hlediska není toto rozdělení přesné. Například dláto v ruce sochaře lze počítat jako součást komplexního biofyzikálního mechanismu, který přidává formu kusu mramoru nebo jako část materiálu, který se snaží řídit nervový systém Systém podepření a jeho typy Rosenblatt se pokusil klasifikovat různé algoritmy učení a nazýval je systémy podepření. Stanovil následující definici: Systémem podepření je nějaký soubor pravidel, na základě kterých lze v průběhu času měnit matice interakcí (nebo stav paměti) perceptronu. Kromě klasické metody učení perceptronu metoda opravy chyb, které lze připsat k učení s učitelem, Rosenblatt také zavedl pojem učení bez učitele a nabídl několik způsobů učení: Alfa-systémem podepření je systém, v nichž se váha všech aktivních spojení, která vedou k určitému prvku, mění o stejnou hodnotu, a váha neaktivních spojení se během této doby nemění. Gamma-systémem podepření se nazývá pravidlo změny váhových koeficientů některého prvku, během kterého se váha všech aktivních spojení nejdřiv mění na stejnou hodnotu a pak ze všech vah těchto spojení se odečítá jiná hodnota, která se rovná kompletní změně vah všech aktivních spojení, vydělený celkovým počtem spojek. Tento systém má vlastnost konzervativisma, když se týká vah, protože jeji plná suma vah všech spojení se nemůže ani zvýšit, ani snížit. Existuje velké množství algoritmů učení zaměřených na řešení různých problémů. Mezi nimi je algoritmus zpětného šíření (který byl stručně popsán v kapitolě 1), je jedním z nejúspěšnějších moderních algoritmů. Jeho základní myšlenkou je, že změna vah synapsí probíhá s ohledem na lokální gradient chybové funkce. Rozdíl mezi skutečnými a správnými odpověďmi neuronové sítě, které se určuji ve výstupní vrstvě, rozšiřuje v opačném směru (obr. 2) proti toku signálu. V důsledku toho je každý neuron schopen určit přínos hodnoty 25

26 každé své váhy k celkové chybě v síti. Jednoduché pravidlo učení je v souladu s metodou nejrychlejšího klesání, to znamená, že změny synaptických vah jsou v poměru k jejich přínosu k celkové chybě. Obr. 2: Metoda zpětného šíření chyb pro vicevrstvou plněprovázanou neuronovou síť. Zdroj: [1] Samozřejmě při takovém učení neuronové sítě si nemůžeme být jistí, že byla dobře naučena, protože vždy existuje možnost, že algoritmus se dostane do lokálního minima. Proto jsou použivané speciální techniky, aby vytáhly řešení z lokálního extrému. Pokud se po několika takových činnostech neuronová sít přichází na stejné řešení, lze dojít k závěru, že získané řešení pravděpodobně, je optimálně Turingův test Empirický test, myšlenka, která byla navržena Alanem Turingem ve svém článku Výpočetní technika a inteligence (angl. Computting Machinery and Intelligence), publikována v roce 1950 ve filozofickém časopise "Mind". Turing se rozhodl zjistit, zda stroje myslí. Standardní interpretace tohoto testu je následující: Člověk komunikuje s jedním počítačem a jedním člověkem. Na základě odpovědí na otázky musi určit, s kým mluví: s osobou, nebo počítačovým programem. Úkolem počítačového programu zavést člověka do omylu, aby udělal nesprávnou volbu. Všichni účastníci testu se nevidí navzájem. Pokud soudce nemůže s jistotou říci, který z partnerů je člověk, znamená to, že počitač splnil podmínky testu. Protože je třeba otestovat 26

27 jenom inteligenci strojů spíše než jeho schopnost rozpoznat řeč, komunikace probíhá ve tvaru pouze text, například pomocí klávesnice a obrazovky (počítač zprostředkovatel). Přepisování musí být provedeno s určitými pauzami, aby soudce nedělal závěry na základě rychlosti odpovědi. V době Turinga počítače reagovaly pomaleji než člověk. Nyní to je naopak, počitače reagují rychleji než lidé. Přestože uplynulo více než 50 let, Turingův test neztratil svůj význam. Ale v současné době UI výzkumníci řeší, prakticky se hledají řešení, aby UI mohla absolvovat Turingův test, uvažuje se, že je mnohem důležitější studovat základní principy inteligence než duplikovat některého z nosičů přirozené inteligence. Zejména problém umělých letů byl úspěšně vyřešen, až bratři Wrightové a jiní přestali napodobovat ptáky a začali studovat aerodynamiku. Ve vědeckých a technických dokumentech o letectví účel tohoto poznání nebyl definován jako vytvoření strojů, které jsou tak připomínají letu holubů, které mohou oklamat i skutečné ptáky Eliza a Parry Blay Whitby ukazuje čtyři hlavní zlomy v historii Turingova testu zveřejnění článku Výpočetní technika a inteligence v roce 1950, zprávu o zřízení Josefem Weizenbaumem programu Eliza v roce 1966, vytvoření programu Parry Kennethem Colbym, který byl poprvé popsán v roce 1972 a kolokvium Turinga v roce Princip fungování Elizy spočívá ve studiu zadaných komentářů uživatelem pro klíčová slova. Pokud je zjištěno klíčové slovo, aktivuje se pravidlo, které transformuje komentáře uživatelů a vrátí výsledek návrhu. Pokud klíčové slovo není nalezené, Eliza vrátila uživateli obecnou odpověď, nebo opakovala předchozí komentáře. Kromě toho Weizenbaum naprogramoval Elizu tak, aby simulovala chování psychoterapeuta pracujicího pomocí metodiky zaměřené na klienta. To jí umožnílo předstírat, že neví nic o skutečném světě. Použití těchto metod pro program Weizenbaumema uvedlo do omylu některé lidi, kteří si mysleli, že mluví se skutečnou osobou. Na základě těchto vysledků někteří argumentují, že Eliza je jeden z programů (možná první), který mohl projít Turingovým testem. Nicméně toto tvrzení je velmi kontroverzní, protože lidé, kteří se na ni ptali, byli instruovaní, že s nimi bude mluvit opravdový psychoterapeut, a nevěděli o tom, že mohou komunikovat s počítačem. 27

28 Práce Colby Parry byla popsaná jako Eliza s názory : program se snažil simulovat chování paranoidního schizofrenika pomocí podobného (a možná i více pokročilého) přístupu, než jaký byl u Elizy použit Weizenbaumem. Aby se zkontroloval program Parry, testovali v 70. letech modifikovaným testem Turinga. Tým zkušených psychiatrů analyzoval skupinu složenou z pacientů a počítačů se systémem Parry. Dalšímu týmu 33 psychiatrů později ukázali přepisy rozhovorů. Poté byly oba týmy požádány, aby určily, který z pacientů člověk, a kdo počítačový program. Psychiatři byli pouze ve 48 % případů schopni učinit správné rozhodnutí. Toto číslo je v souladu s pravděpodobností náhodného výběru. Je třeba poznamenat, že tyto experimenty nebyly Turingovým testem v plném smyslu, protože k rozhodnutí tohoto vyšetření je vyžadováno, že otázky jsou stanoveny interaktivně, místo čtení přepisu rozhovoru. Zatím žádný z programů nezvládl absolvovat Turingův testu. I když programy jako Eliza někdy způsobily, že lidé uvěřili, že mluví s člověkem, jako v neformálním experimentu s názvem AOLiza, avšak tyto případy nelze považovat za platné absolvování Turingova testu z různých důvodů: Člověk v těchto rozhovorech neměl žádný důvod se domnívat, že mluví s programem, zatímco v původném testu se aktivně snaží zjistit, s kým konverzuje. Doložené případy obvykle odkazují na takové chaty jako IRC, kde jsou mnohé konverzace v úryvcích a nesmyslné. Mnoho uživatelů internetu používá angličtinu jako druhý nebo třetí jazyk, takže nesmyslná odpověď programu může být odepsána kvůli jazykové bariéře. Mnozí prostě nevědí nic o Elizě a podobných programech, a proto nepovažují partnera za program, a to i v případě kompletně nelidských chyb, které tyto programy dovolují Kritika testu Čínský pokoj myšlenkový experiment popsaný Johnem Searlem, který kritizoval možnost modelování lidského chápání, zejména přirozeného jazyka, a to prostřednictvím vytvoření umělé inteligence". Ve skutečnosti to je kritika Turingova testu. Byl navržen v roce 1980 v článku Minds, Brains and Programs ( Rozumy, mozky a programy ). Závěrem je nemožnost úplné simulace rozumu pomocí programu syntaktické analýzy, tzv. boty, což je 28

29 dobře potvrzeno v praxi. Typický pokus o vytvoření takových botu je například projekt Alice-bot. V populárním článku Is the Brain s Mind a Computer Program? ( Mozkové myšlení je počítačový program? ) vydaném v roce 1980 Searle popisuje experiment takto: Vezměme si například jakýkoli jazyk, kterému nerozumíte. Pro mě je tímto jazykem jazyk čínský. Text psaný v čínštině beru jako soubor nesmyslných symbolů. Nyní předpokládejme, že jsem v místnosti, ve které jsou umístěny koše plné čínských hieroglyfů. Předpokládejme také, že máme návod v angličtině, který obsahuje pravidla pro kombinování čínských hieroglyfů, a pro použití těchto pravidel je dostačující znát jen vzhled hieroglyfů a chápat význam symbolů není nutné. Například pravidla zní: Vezměte si takovou a takovou postavu z koše číslo jedna a postavte ji vedle takového a takového hieroglyfu z koše číslo dvě. Představme si, že jsou mimo pokoj lidé, kteří rozumí čínsky, a ti předávaji sady symbolů do pokoje a my manipulujeme se symboly pomocí knihy a předáváme jim jiné symboly zpět. V tomto případě kniha pravidel není nic jiného než počítačový program. Lidé, kteří ji napsali, jsou programátoři a my hrájeme roli počitače. Koše naplněné znaky jsou databáze, sady symbolů vysílaných do místnosti jsou otázky a my předáváme zpět odpovědi. Předpokládejme dále, že kniha pravidel je napsána tak, že moje odpovědi na otázky se neliší od odpovědí osoby, která umí čínsky. Například lidé, kteří jsou mimo mistnost, mi mohou předávat divné znaky, které znamenají Jakou barvu máte nejraději?. V reakci vyplnime manipulace podle předepsaných pravidel, vrátíme symboly, kterým stejné nerozumime a které znamenaji, že moje oblíbená barva je modrá, ale také milují zelenou. Takže tím splnime požadavky Turingova testu na pochopení čínského jazyka. Ale ve skutečnosti nerozumíme ani slovo v čínštině. Navíc se nemůžeme naučit tento jazyk v takovém systému, protože neexistuje žádný způsob, kterým bychom se mohli naučit významu alespoň jednoho znaku. Jako počítač my manipulujeme se symboly, ale nemůžeme jim přidat žádný smysl. 29