Technologická singularita

Transkript

1 Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 1 z 44 Technologická singularita Rudolf Pecinovský Informatika XXIX 2016

2 Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 2 z 44 Obsah Zajímavé starší předpovědi 1/3 Zajímavé starší předpovědi 2/3 Zajímavé starší předpovědi 3/3 Co to je? I. J. Good Moje zkušenost Opozice proti singularitě Stephen Hawking & spol. The Independent Názor AI AGI (Artificial General Intelligence) Co stroje umějí a neumějí příklady NAI Jak vytvořit AGI Postupné budování AGI Lineární exponenciální růst Seznamovací příklad: šachy Příklad 1: Analýza genomu Graf ceny analýzy genomu Graf růstu databáze Příklad 2: Vývoj života Moorův zákon Skutečný vývoj probíhá v S-křivkách Zvyšování výkonu počítačů K jeho udržení je třeba změn technologie Nezávislost na měřené oblasti Stabilita změny Odhad Kurzweil 1/2 Odhad Kurzweil 2/2 Odhady příchodu singularity Vernor Vinge Vlastní příchod singularity Dlouhodobé predikce 6 etap Skeptický názor Skeptický názor Otázky?

3 Zajímavé starší předpovědi 1/3 Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 3 z 44 Jízda vlakem vysokou rychlostí není možná, protože cestující nebudou moci dýchat a zemřou na udušení Dr. Dionysys Larder ( ) Fonograf nemá žádnou možnost komerčního využití Thomas Alva Edison (1880) Rentgenové paprsky jsou jen takový hoax Lord Kelvin, prezident královské společnosti (1883) Žádný stroj těžší než vzduch nemůže letět Rádio nemá žádnou budoucnost Lord Kelvin (1895) Lord Kelvin (1897)

4 Zajímavé starší předpovědi 2/3 Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 4 z 44 Kdo by ksakru chtěl poslouchat, jak herci mluví? H. M. Warner, spoluzakladatel Warner Brothers (1927) Není sebemenšího náznaku, že by se podařilo využít jadernou energii. Muselo by to znamenat rozbití atomu. Albert Einstein (1932) Raketa nikdy nebude schopna opustit atmosféru New York Times (1936) Televize se neuchytí, protože lidé nevydrží koukat každý večer na dřevěnou krabici Darryl Zanuck, 20th Century Fox (1946) Vysavače na jaderný pohon budou realitou do deseti let Alex Lewyt, prezident společnosti Lewyt vyrábějící vysavače (1955)

5 Zajímavé starší předpovědi 3/3 Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 5 z 44 Světový trh je schopen dohromady využít možná tak pět počítačů. Thomas Watson, IBM (1943) A k čemu je to dobré? Neexistuje důvod, proč by kdokoli chtěl doma počítač Robert Lloyd z IBM o mikroprocesoru (1968) Ken Olson, DEC (1977)

6 Co to je? Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 6 z 44 Technologická singularita nebo zkráceně Singularita (s velkým počátečním písmenem, v angličtině The Singularity) je ve futurologii, kybernetice, informatice, moderní mytologii a v literatuře typu science fiction označení zlomového bodu technologického výzkumu Za bod zlomu je považován okamžik, kdy člověkem navržený stroj dokáže samostatně navrhnout a vytvořit stroj, který bude dokonalejší než navrhovatel Termín poprvé použil von Neumann v roce 1958 Neustále se zrychlující vývoj technologií musí logicky dojít do okamžiku historické singularity, po němž se lidské bytí radikálně změní A. C. Clark: Dostatečně pokročilou technologii nelze odlišit od magie

7 I. J. Good Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 7 z 44 Definujme ultrainteligentní stroj jako stroj, který daleko předčí intelektuální činnosti sebechytřejšího člověka. Protože vývoj strojů je jednou z těchto intelektuálních činností, ultrainteligentní stroj může vyvíjet ještě lepší stroje; dojde nepochybně k "inteligenční explozi" a lidská inteligence zůstane daleko vzadu. První ultrainteligentní stroj bude proto posledním vynálezem, který člověk udělá, pokud tento stroj bude dostatečně hodný na to, aby nám řekl, jak ho můžeme udržet pod kontrolou.

8 Moje zkušenost Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 8 z 44 Pro získání kandidátského minima bylo v roce 1980 potřeba napsat odbornou práci z Marxismu-Leninismu Zvolil jsem téma: možnosti a nemožnosti umělé inteligence Při psaní jsem zjistil, že značná část lidí nevěří, že stroj nikdy dosáhne schopností, které se už v dané době testovaly v některé laboratoři Inteligence nemá svoji obecně uznávanou definici; řada lidí považuje za inteligenci to, co stroje ještě nedokáží Oblasti, V nichž se stroje dokáží orientovat a pohybovat (a to často lépe než člověk) nepovažují za ty, které vyžadují uplatnění inteligence

9 Opozice proti singularitě Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 9 z 44 Dlouhou dobu řada vědců možný příchod Singularity nepřipouštěla Dnes opozice proti singularitě slábne a diskutéři se již nehádají o to zda, ale kdy Odhady se pohybuje mezi lety 2020 a 2045 Hodně velká skupina vědců se shoduje na tom, že singularita je sice pouze jeden z mnoha scénářů budoucího vývoje, ale je to jediný nekatastrofický scénář

10 Stephen Hawking & spol. The Independent Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 10 z 44 Mysleli byste si, že čelíc možné budoucnosti singularity s nevypočitatelnými zisky a ztrátami, udělají experti všechno možné proto, aby zabezpečili co nejlepší výsledek? Mýlíte se. Kdyby nám mimozemská civilizace poslala vzkaz: Přijdeme za několik desetiletí, odpovíme jen OK, zavolejte nám, až dorazíte, necháme rozsvíceno? Pravděpodobně ne, jenomže to je to, co se dnes děje s umělou inteligencí.

11 Názor Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 11 z 44 Náš genom, tedy kompletní genetická informace o struktuře celého organismu, je v současnosti na 99,5 % shodná s neandrtálcem či dokonce se šimpanzem. Pouhý půlprocentní rozdíl znamená, že jeden druh stále loupá banány v lese a druhý objeví matematiku, fyziku, podrobí si atomy a létá do vesmíru. Naše inteligence tak možná není tak velká, jak se zdá. Možná je dokonce tak titěrná, že je spíše k smíchu. Prostě jsme chytřejší opičky, co si hrají s atůmky.

12 AI AGI (Artificial General Intelligence) Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 12 z 44 AGI je schopnost dosáhnout komplexních cílů v komplexním prostředí při využití omezených výpočetních zdrojů Musí být autonomní Musí chápat sebe a jiné Pochopení toho, co je problém je výrazně obtížnější než známý problém za pomoci známých postupů vyřešit Převážná většina výzkumů AI spadá do kategorie Narrow AI (NAI) NAI program je (v ideálním případě) schopen kompetentně vyřešit jisté komplexní cíle v jistém prostředí Historická zkušenost: Úspěchy v řešení NAI většinou nejsou příliš užitečné jako podklady pro řešení problémů AGI

13 Co stroje umějí a neumějí příklady NAI Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 13 z 44 Deep Blue: Je schopen porazit mistra světa v šachu, ale prozatím se není schopen naučit hrát novou hru podle zadaných pravidel To už se změnilo již existují programy, které s vámi začnou hrát hru, o které na počátku vůbec nic nevědí, a na základě svých úspěchů a neúspěchů se časem naučí hrát tak, že je člověk není schopen porazit Samořiditelná vozidla: Je schopen kvalitně řídit dané auto v provozu, ale není schopen se operativně přizpůsobit řízení různých typů vozidel (nákladní auta, lodě, motorky, ) Už existují nejenom samořiditelná auta, ale i motorky, letadla a lodě Google: Umí vyhledat informace na základě požadavků zadaného prostřednictvím definované syntaxe, ale není schopen kvalitně reagovat na obecné dotazy

14 Jak vytvořit AGI Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 14 z 44 AGI nemůžeme dosáhnout postupným zobecňováním metod NAI Abychom dosáhli AGI, musíme se vrátit k základům Musíme začít s vytvářením umělých prosťáčků Umělá zvířata Umělé děti Musíme začít tyto prosťáčky a současně se učit, jak je učit Teprve pak můžeme začít uvažovat o nasazení v praktických aplikacích

15 Postupné budování AGI Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 15 z 44

16 Ben Goertzel tvrdí: Podle současných zkušeností je vše dosažitelné v průběhu příštích deseti let Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 16 z 44

17 Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 17 z 44

19 Lineární exponenciální růst Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 19 z 44 Lidé jsou zvyklí na lineární aproximace probíhajících dějů Pravěký lovec musel umět trefit běžící zvěř Řidič předvídá chování ostatních účastníků provozu Odhadují se doby provedení různých prací, nastudování předmětu apod. V okamžiku, kdy je třeba odhadovat nelineárně se měnící děje, lidská schopnost předvídání selhává Neumíme odhadnout pohyb padajícího kamene (závislost pozice na čase je kvadratická) jeho trajektorii umíme spočítat, ale neodhadneme V okamžiku, kdy se setkáme s exponenciální závislostí, je náš odhad naprosto vykolejený

20 Seznamovací příklad: šachy Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 20 z 44 Známá legenda o mudrci, který naučil čínského císaře hrát šachy a za odměnu chtěl hrst obilí vzniklou tak, že se na první políčko šachovnice dalo jedno zrnko a na každé další dvojnásobek toho, co bylo na předchozím 1. řádek = 2 8 = 511 zrnek = 0,017 kg 2. řádek = 2 16 = zrnek = 2 kg 3. řádek = 2 24 = zrnek = 559 kg = 0,6 t 4. řádek = 2 32 = zrnek = kg = 143 t 5. řádek = 2 40 = zrnek = kg = t 6. řádek = 2 48 = zrnek = kg = t 7. řádek = 2 56 = zrnek = kg = t 8. řádek = 2 64 = zrnek = kg = t V lineárních souřadnicích tvoří graf této závislosti téměř pravý úhel, protože vše před poslední hodnotou je prakticky zanedbatelné

21 Příklad 1: Analýza genomu Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 21 z 44 Projekt odstartován v 90. letech s 15letým horizontem Na počátku měli vyřešenu pouze 1/ a málokdo věřil, že se to za 15 let podaří stihnout V polovině projektu jim říkali: Jste v polovině projektu a dokončili jste jen jedno procento projektu Nepočítali s tím, že rychlost se každý rok zdvojnásobuje, takže odkaz na zbylých 7 let měl být 2 7 krát vyšší 128 krát HIV sekvencovali 15 let, SARS 31 dní

22 Graf ceny analýzy genomu Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 22 z 44

23 Graf růstu databáze Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 23 z 44

24 Příklad 2: Vývoj života Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 24 z 44 Evoluce RNA-DNA trvala 2 miliardy let, vyvinutá technologie byla následně použita Kambrická exploze, doba, kdy se vyvinuly veškeré tělesné části zvířat, trvala pouhých 10 miliónů let byla 200krát rychlejší Poté evoluce použila tyto tělesné části k rozvoji vyšších kognitivních funkcí Homo sapiens, první živočišný druh tvořící technologie, se vyvíjel stovky tisíc let Poté přišlo další množství interakcí, kterými evoluce docílila toho, že technologie tvořící druh nastolil další etapy Kamenné nástroje oheň zemědělství kolo písmo knihtisk strojová výroba počítače atd.

28 Moorův zákon Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 28 z 44 Původní Moorovo tvrzení se týkalo pouze počtu integrovaných tranzistorů na čipu Postupně se ukázalo, že obdobný zákon platí i pro další veličiny: Velikost paměti Výpočetní výkon procesorů Přenosová rychlost Spotřeba na jednotku výkonu Podobná pravidla platila pro všechny druhy počítačů od nanopočítačů (vše na čipu) přes osobní mikropočítače až k největším superpočítačům Následující graf zobrazuje nejvýkonnější superpočítače své doby

30 Skutečný vývoj probíhá v S-křivkách Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 30 z 44

31 Zvyšování výkonu počítačů Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 31 z : OPS 1943: kops 1961: MFLOPS 1984: GFLOPS 1997: TFLOPS 2008: PFLOPS 2018: EFLOPS 2029: ZFLOPS 2040: YFLOPS

32 K jeho udržení je třeba změn technologie Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 32 z 44

33 Nezávislost na měřené oblasti Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 33 z 44 Přesnost dodržení exponenciální křivky je pozoruhodná nezávisle na tom, jakou charakteristiku měříme Stejně, jako roste výkon počítačů, rostou i naše medicínské znalosti => lze vbrzku očekávat dramatický nárůst léčitelných chorob Neustále roste schopnost mapovat události v mozku Rozlišení skenerů mozku se každoročně zdvojnásobuje A poslední generace skenerů konečně umožňuje vidění jednotlivých mezineuronových vláken a také vidí zpracování signálu v reálném čase Očekává se, že v dohledné době budeme umět nahrát kompletní obsah mozku do nějakého zařízení Zvládnutí této technologie zaručuje praktickou nesmrtelnost

34 Stabilita změny Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 34 z 44 Exponenciální růst prokazuje také národní hospodářství Růst se udává v meziročních procentních přírůstcích, které jsou sice malé, nicméně závislost je exponenciální Růst ekonomiky probíhá v důsledku pomalu, nicméně exponenciálně rostoucí produktivity práce Ukazuje se, že exponenciální tempo růstu je stabilní Nezávisí na krizích, válkách a jiných pohromách Je stabilní přestože je výsledkem souhry Důsledkem exponenciálního růste je očekávání, že během tohoto století se odehraje větší technologický skok, než za posledních let

35 Odhad Kurzweil 1/2 Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 35 z Osobní počítač bude mít zhruba stejný výpočetní výkon jako lidský mozek Rychlý nástup nanotechnologií. Nanoroboti budou pracovat v lidském těle, budou bránit stárnutí a nemocem. Zejména díky nim budeme moci mluvit o tzv. enhanced human Stroj projde Turingovým testem Budeme mít technologie s 2 25 lepším poměrem ceny a výkonu Počítač za tisíc dolarů bude mnohem výkonnější než lidský mozek (alespoň ve smyslu surového výkonu ) Zpětné inženýrství lidského mozku bude dokončeno V dalších letech bude možný upload mozku. Nanoroboty operující v lidském těle dramaticky rozšíří schopnosti těla a mozku a umožní člověku lépe komunikovat se strojem i mezi sebou

36 Odhad Kurzweil 2/2 Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 36 z Human Body ver Různé verze rozšířeného těla. Lidé stráví více času ve virtuální realitě než ve fyzickém světě. Budeme mít plně imerzní virtuální realitu simulovanou z vnitřního nervového systému, nanoroboty vypínající signály přicházející ze skutečných lidských smyslů, nahrazující je signály, které by člověk obdržel v právě simulovaném virtuálním prostředí, takže se bude cítit jako by skutečně byl v daném virtuálním prostředí 2045 Nastane singularita Armstrong na konferenci 2012 Singularity Summit: Není to plně formalizováno, ale můj současný 80% odhad říká, že nastane během nejbližších 5 až 100 let

37 Odhady příchodu singularity Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 37 z 44

38 Vernor Vinge Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 38 z 44 Když jsem uprostřed 60. let začal psát science fiction, připadalo mi velmi snadné najít nápady, které teprve po desetiletích pronikly do kulturního povědomí; dnes se realizují za nějakých osmnáct měsíců. (Samozřejmě může být na vině ztráta mé představivosti spojená s mým stárnutím, ale tento efekt pozoruji i na ostatních.) Jak nabíráme rychlost přes kritickou hodnotu, Singularita se blíží jako rázová vlna ve stlačitelné kapalině.

39 Vlastní příchod singularity Pokud k technologické singularitě může dojít, stane se tak Dokonce, i kdyby všechny vlády světa chápaly "hrozbu" a bály se jí jako čert kříže, vývoj by dále směřoval k tomuto cíli Protože se zakládá na lavinovitém růstu inteligence, proběhne pravděpodobně rychleji než jakákoli dosavadní technická revoluce. Bleskový účinek bude asi neočekávaný možná i pro vědce, kteří se na něm budou podílet. Budou-li dostatečně rozvinuté sítě (budou zahrnovat i všudypřítomné počítače vestavěné do jiných zařízení), může se zdát, jako by se naše artefakty jako celek náhle probudily Poté se lidstvo probudí v posthumanitní éře Po příchodu singularity nemusí lidstvu nutně hrozit vyhynutí, ultrainteligentní stroje se mohou chovat k nám obdobně, jako se my chováme ke zvířatům Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 39 z 44

40 Dlouhodobé predikce 6 etap Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 40 z Fyzika + Chemie Sestavování základních součástí hmoty 2. Biologie Vznik živých organismů 3. Mozek Zdokonaluje se zpracování informací nervovou soustavou 4. Technologie Informace se postupně začleňují do HW a SW 5. Sloučení technologie a lidské inteligence Objevené metody biologie se roubují do technologie a naopak 6. Rozšíření inteligence po vesmíru Vesmír se zaplňuje další inteligencí

42 Skeptický názor Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 42 z 44 Než se v současném přeregulovaném zdravotnictví rozšíří tak převratná technologie, jako jsou nanoroboti do krve, budeme my všichni už dávno mrtví. Možná se za takovou léčbou budou lidé vydávat do Číny či Singapuru. A možná bude technologie dostupná dříve pro psy. To není až taková sci-fi, veterinární medicína je méně regulovaná a už dnes nabízí mnohé prostředky, které pro člověka k dispozici nejsou. Trh je to obrovský a určitě zde existuje prostor i pro překladače štěkotu či čenichové tablety

43 Skeptický názor Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 43 z 44 K úspěchu je potřeba zásadnější revoluce v softwarovém inženýrství Samotná ekvivalence výkonu lidského mozku totiž ještě neznamená, že dosáhneme i ekvivalentu jeho funkčnosti. Cožpak neusilujeme o vytvoření inteligentních počítačů již po desetiletí? Zdá se, že umělá inteligence spadá spolu s termojadernou fúzí do kategorie technologických problémů, jejichž vyřešení se pokaždé předpokládá v průběhu příštích dvaceti let, splnění prognózy je však pokaždé třeba odložit. Skeptici se tedy domnívají, že pokud nenastane zásadní změna v oblasti softwaru, budou nám milionkrát výkonnější počítače dobré leda ke spouštění ještě nabobtnanějších textových editorů.

44 Otázky? Copyright Rudolf Pecinovský, Soubor: 2016_INF_Technologická singularita.doc, verze , uloženo po :43 44 z 44