Technologická singularita

Transkript

1 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 1 z 42 Technologická singularita Rudolf Pecinovský COMMON 2015

2 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 2 z 42 Obsah Zajímavé starší předpovědi 1/3 Zajímavé starší předpovědi 2/3 Zajímavé starší předpovědi 3/3 Co to je? I. J. Good Moje zkušenost Opozice proti singularitě Stephen Hawking & spol. The Independent Názor AI AGI (Artificial General Intelligence) Co stroje umějí a neumějí příklady NAI Jak vytvořit AGI Postupné budování AGI Další knihy z dané oblasti 1/2 Další knihy z dané oblasti 2/2 Lineární exponenciální růst Seznamovací příklad: šachy Exponenciála v lineální a logaritmické stupnici Příklad 1: Analýza genomu Příklad 2: Vývoj života Lineární stupnice Logaritmická stupnice Srovnání 15 různých analýz Moorův zákon Nejvýkonnější superpočítače své doby Typické počítače své doby Zvyšování výkonu počítačů Nezávislost na měřené oblasti Stabilita změny Kdy bude počítač umět něco lépe než člověk Jiné odhady 1/2 Jiné odhady 2/2 Vernor Vinge Vlastní příchod singularity Dlouhodobý vývoj 6 etap Skeptické názory 1/2 Skeptické názory 2/2 KONEC

3 Zajímavé starší předpovědi 1/3 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 3 z 42 Jízda vlakem vysokou rychlostí není možná, protože cestující nebudou moci dýchat a zemřou na udušení. Dr. Dionysys Larder ( ) Fonograf nemá žádnou možnost komerčního využití. Thomas Alva Edison (1880) Rentgenové paprsky jsou jen takový hoax. Lord Kelvin, prezident královské společnosti (1883) Žádný stroj těžší než vzduch nemůže letět. Rádio nemá žádnou budoucnost. Lord Kelvin (1895) Lord Kelvin (1897)

4 Zajímavé starší předpovědi 2/3 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 4 z 42 Kdo by ksakru chtěl poslouchat, jak herci mluví? H. M. Warner, spoluzakladatel Warner Brothers (1927) Není sebemenšího náznaku, že by se podařilo využít jadernou energii. Muselo by to znamenat rozbití atomu. Albert Einstein (1932) Raketa nikdy nebude schopna opustit atmosféru. New York Times (1936) Televize se neuchytí, protože lidé nevydrží koukat na dřevěnou krabici každý večer. Darryl Zanuck, 20th Century Fox (1946) Vysavače na jaderný pohon budou realitou do deseti let. Alex Lewyt, prezident společnosti Lewyt vyrábějící vysavače (1955)

5 Zajímavé starší předpovědi 3/3 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 5 z 42 Světový trh je schopen dohromady využít možná tak pět počítačů. Thomas Watson, IBM (1943) Mikroprocesor? A k čemu je to dobré? Robert Lloyd z IBM (1968) Neexistuje důvod, proč by kdokoli chtěl doma počítač. Ken Olson, DEC (1977) Nepřidávejte svoji případnou skeptickou předpověď do předchozí galerie slavných

6 Co to je? Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 6 z 42 Technologická singularita nebo zkráceně Singularita (s velkým počátečním písmenem, v angličtině The Singularity) je ve futurologii, kybernetice, informatice, moderní mytologii a v literatuře typu science fiction označení zlomového bodu technologického výzkumu Za bod zlomu je považován okamžik, kdy člověkem navržený stroj dokáže samostatně navrhnout a vytvořit stroj, který bude dokonalejší než stroj, který jej navrhl Termín poprvé použil von Neumann v roce 1958 Neustále se zrychlující vývoj technologií musí logicky dojít do okamžiku historické singularity, po němž se lidské bytí radikálně změní A. C. Clark: Dostatečně pokročilou technologii nelze odlišit od magie

7 I. J. Good Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 7 z 42 Definujme ultrainteligentní stroj jako stroj, který daleko předčí intelektuální činnosti sebechytřejšího člověka. Protože vývoj strojů je jednou z těchto intelektuálních činností, může ultrainteligentní stroj vyvíjet ještě lepší stroje; V tu chvíli dojde nepochybně k inteligenční explozi a lidská inteligence zůstane daleko vzadu. Nebude-li tento stroj dostatečně hodný na to, aby nám řekl, jak ho můžeme udržet pod kontrolou, bude současně posledním vynálezem, který člověk udělá

8 Moje zkušenost Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 8 z 42 Pro získání kandidátského minima bylo v roce 1980 potřeba napsat odbornou práci z Marxismu-Leninismu Zvolil jsem téma: možnosti a nemožnosti umělé inteligence Při psaní jsem zjistil, že značná část lidí je pevně přesvědčena, že stroj nemá šanci dosáhnout některých schopností, a přitom se již v době oné předpovědi testovalo dosažení základní verze daných schopností v laboratořích zabývajících se AI Inteligence nemá svoji obecně uznávanou definici; řada lidí považuje za inteligenci to, co stroje ještě nedokáží Jakmile stroje dokáží zvládnout nějakou činnost lépe než člověk, je tato činnost vzápětí vyjmuta z množiny činností, o nichž se prohlašuje, že jejich zvládnutí vyžaduje uplatnění inteligence

9 Opozice proti singularitě Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 9 z 42 Dlouhou dobu řada vědců možný příchod Singularity nepřipouštěla Dnes opozice proti singularitě slábne a diskutéři se již nehádají o to zda, ale kdy Odhady se pohybuje mezi lety Záleží také na tom, co přesně si daný prognostik pod dosažením onoho bodu zlomu představuje Hodně velká skupina vědců se shoduje na tom, že singularita je pouze jen jeden z mnoha možných scénářů budoucího vývoje. Nicméně je to jediný nekatastrofický scénář

10 Stephen Hawking & spol. The Independent Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 10 z 42 Mysleli byste si, že čelíc možné budoucnosti singularity s nevypočitatelnými zisky a ztrátami, udělají experti všechno možné proto, aby zabezpečili co nejlepší výsledek? Mýlíte se. Kdyby nám mimozemská civilizace poslala vzkaz: Přijdeme za několik desetiletí, odpovíme jen OK, zavolejte nám, až dorazíte, necháme svítit? Pravděpodobně ne, jenomže to je to, co se dnes děje s umělou inteligencí.

11 Názor Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 11 z 42 Náš genom, tedy kompletní genetická informace o struktuře celého organismu, je v současnosti na 99,5 % shodná s neandrtálcem či dokonce se šimpanzem. Pouhý půlprocentní rozdíl znamená, že jeden druh stále loupá banány v lese a druhý objeví matematiku, fyziku, podrobí si atomy a létá do vesmíru. Naše inteligence tak možná není tak velká, jak se zdá. Možná je dokonce tak titěrná, že je spíše k smíchu. Prostě jsme chytřejší opičky, co si hrají s atůmky.

12 AI AGI (Artificial General Intelligence) Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 12 z 42 AGI je schopnost dosáhnout komplexních cílů v komplexním prostředí při využití omezených výpočetních zdrojů Subjekt vykazující AGI Musí být autonomní Musí chápat sebe a jiné (musí vykazovat schopnost sebeuvědomění) Pochopení toho, co je problém je výrazně obtížnější než známý problém za pomoci známých postupů vyřešit Převážná většina výzkumů AI spadá do kategorie Narrow AI (NAI) NAI program je (v ideálním případě) schopen kompetentně vyřešit konkrétní (byť komplexní) cíle v konkrétním prostředí Historická zkušenost: Úspěch v řešení NAI většinou nejsou příliš užitečné jako podklady pro řešení problémů AGI

13 Co stroje umějí a neumějí příklady NAI Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 13 z 42 Hraní her: Počítač je schopen porazit mistra světa v šachu či Go, ale prozatím se není schopen naučit hrát zcela novou hru podle zadaných pravidel Nicméně již existují programy, s nimiž začnete hrát rozumně jednoduchou hru, kterou vůbec neznají a pouze se dozvídají, kdy vyhrály a kdy prohrály, a ony si samy po odehrání většího počtu her odvodí pravidla a naučí se hrát hru tak, že člověka v dané hře téměř vždy porazí Samořiditelná vozidla: Je schopen kvalitně řídit dané auto v provozu, ale není schopen se operativně přizpůsobit řízení různých typů vozidel (nákladní auta, lodě, motorky, ) Vyhledávače a asistenti: Umí vyhledat informace na základě jednoduchých požadavků, ale prozatím nejsou schopny kvalitně reagovat na zcela obecné dotazy

14 Jak vytvořit AGI Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 14 z 42 AGI nemůžeme dosáhnout postupným zobecňováním metod NAI Abychom dosáhli AGI, musíme se vrátit k základům Musíme začít s vytvářením umělých prosťáčků Umělá zvířata Umělé děti Umělé jednoduché osoby Musíme začít tyto prosťáčky učit a současně se učit, jak je učit Teprve pak můžeme začít uvažovat o nasazení v praktických aplikacích

15 Postupné budování AGI Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 15 z 42

16 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 16 z 42 Ben Goertzel tvrdí: Podle současných zkušeností je vše dosažitelné v průběhu příštích deseti let Kniha je stáhnutelná na TheSingularity.pdf

17 Další knihy z dané oblasti 1/2 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 17 z 42

18 Další knihy z dané oblasti 2/2 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 18 z 42

19 Lineární exponenciální růst Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 19 z 42 Lidé jsou zvyklí na lineární aproximace probíhajících dějů Pravěký lovec musel umět trefit běžící zvěř Řidič předvídá chování ostatních účastníků provozu Odhadují se doby provedení různých prací, nastudování předmětu apod. V okamžiku, kdy je třeba odhadovat nelineárně se měnící děje, lidská schopnost předvídání selhává Neumíme odhadnout pohyb padajícího kamene (závislost pozice na čase je kvadratická) jeho trajektorii umíme spočítat, ale neodhadneme V okamžiku, kdy se setkáme s exponenciální závislostí, je náš odhad naprosto vykolejený

20 Seznamovací příklad: šachy Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 20 z 42 Známá legenda o mudrci, který naučil čínského císaře hrát šachy a za odměnu chtěl hrst obilí vzniklou tak, že se na první políčko šachovnice dalo jedno zrnko a na každé další dvojnásobek toho, co bylo na předchozím 1. řádek = 2 8 = 511 zrnek = 0,017 kg 2. řádek = 2 16 = zrnek = 2 kg 3. řádek = 2 24 = zrnek = 559 kg = 0,6 t 4. řádek = 2 32 = zrnek = kg = 143 t 5. řádek = 2 40 = zrnek = kg = t 6. řádek = 2 48 = zrnek = kg = t 7. řádek = 2 56 = zrnek = kg = t 8. řádek = 2 64 = zrnek = kg = t V lineárních souřadnicích tvoří graf této závislosti téměř pravý úhel, protože vše před poslední hodnotou je prakticky zanedbatelné

21 Exponenciála v lineální a logaritmické stupnici Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 21 z 42

22 Příklad 1: Analýza genomu Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 22 z 42 Projekt odstartován v 90. letech s 15letým horizontem Na počátku měli vyřešenu pouze 1/ a málokdo věřil, že se to za 15 let podaří stihnout Po 10 letech jim říkali: máte za sebou 2/3 doby vyhrazené na projekt, ale stihli jste analyzovat pouze zlomek HIV sekvencovali 15 let, SARS 31 dní

23 Příklad 2: Vývoj života Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 23 z 42 Evoluce RNA-DNA trvala 2 miliardy let, vyvinutá technologie byla následně použita Kambrická exploze, doba, kdy se vyvinuly veškeré tělesné části zvířat, trvala pouhých 10 miliónů let byla 200krát rychlejší Poté evoluce použila tyto tělesné části k rozvoji vyšších kognitivních funkcí Homo sapiens, první živočišný druh tvořící technologie, se vyvíjel stovky tisíc let Poté přišlo další množství interakcí, kterými evoluce docílila toho, že technologie tvořící druh nastolil další etapy Kamenné nástroje oheň zemědělství kolo písmo knihtisk strojová výroba počítače atd.

24 Lineární stupnice Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 24 z 42

25 Logaritmická stupnice Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 25 z 42

26 Srovnání 15 různých analýz Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 26 z 42

27 Moorův zákon Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 27 z 42 Původní Moorovo tvrzení se týkalo pouze počtu integrovaných tranzistorů na čipu Postupně se ukázalo, že obdobný zákon platí i pro další veličiny: Velikost paměti Výpočetní výkon procesorů Přenosová rychlost Spotřeba na jednotku výkonu Podobná pravidla platila pro všechny druhy počítačů od nanopočítačů (vše na čipu) přes osobní mikropočítače až k největším superpočítačům Na následujícím grafu jsou trendy odvozené z let Trendy odvozené z pozdější doby jsou rychlejší

28 Nejvýkonnější superpočítače své doby Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 28 z 42

29 Typické počítače své doby Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 29 z 42

30 Zvyšování výkonu počítačů Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 30 z : OPS 1943: kops 1961: MFLOPS 1984: GFLOPS 1997: TFLOPS 2008: PFLOPS 2018: EFLOPS 2029: ZFLOPS 2040: YFLOPS

31 Nezávislost na měřené oblasti Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 31 z 42 Přesnost dodržení exponenciální křivky je pozoruhodná nezávisle na tom, jakou charakteristiku měříme Stejně, jako roste výkon počítačů, rostou i naše medicínské znalosti => lze vbrzku očekávat dramatický nárůst léčitelných chorob Neustále roste schopnost mapovat události v mozku Rozlišení skenerů mozku se každoročně zdvojnásobuje Poslední generace skenerů konečně umožňuje vidění jednotlivých mezineuronových vláken a také vidí zpracování signálu v reálném čase Očekává se, že v dohledné době budeme umět nahrát kompletní obsah mozku do nějakého zařízení Zvládnutí této technologie zaručuje praktickou nesmrtelnost

32 Stabilita změny Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 32 z 42 Exponenciální růst prokazuje také národní hospodářství Růst se udává v meziročních procentních přírůstcích, které jsou sice malé, nicméně závislost je exponenciální Růst ekonomiky probíhá v důsledku pomalu, nicméně exponenciálně rostoucí produktivity práce Ukazuje se, že exponenciální tempo růstu je stabilní nezávisle na krizích, válkách a jiných pohromách

33 Kdy bude počítač umět něco lépe než člověk Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 33 z 42 Zprůměrované odhady 352 dotázaných vědců z oblasti AI 2024 Překládat články a knihy 2027 Řídit auto 2031 Obchodovat 2049 Psát bestsellery 2053 Operovat lidské pacienty Odhady hovoří o tom, kdy bude počítač něčeho schopen, ne o tom, kdy mu to lidé (tj. zákony) povolí Odhady jsou z roku 2015 Dotazovaní vědci tehdy současně odhadovali, že počítač porazí mistra světa v GO v roce 2027 to se ale podařilo již v roce 2016 Je vidět, že ani vědci neznají dobře současný stav výzkumu v oblasti, kterou se sami nezabývají, byť je oblastí velmi blízkou té jejich

34 Jiné odhady 1/2 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 34 z Počítač bude mít zhruba stejný výpočetní výkon jako lidský mozek Stejný výpočetní výkon ale ještě neznamená stejné schopnosti Rychlý nástup nanotechnologií. Nanoroboti budou pracovat v lidském těle, budou bránit stárnutí a nemocem. Zejména díky nim budeme moci mluvit o tzv. enhanced human Stroj projde Turingovým testem Budeme mít technologie s 2 25 lepším poměrem ceny a výkonu Počítač za tisíc dolarů bude mnohem výkonnější než lidský mozek (alespoň ve smyslu surového výkonu ) Zpětné inženýrství lidského mozku bude dokončeno V dalších letech bude možný upload mozku. Nanoroboty operující v lidském těle dramaticky rozšíří schopnosti těla a mozku a umožní člověku lépe komunikovat se strojem i mezi sebou

35 Jiné odhady 2/2 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 35 z Human Body ver Různé verze rozšířeného těla. Lidé stráví více času ve virtuální realitě než ve fyzickém světě. Budeme mít plně imerzní virtuální realitu simulovanou z vnitřního nervového systému, nanoroboty vypínající signály přicházející ze skutečných lidských smyslů, nahrazující je signály, které by člověk obdržel v právě simulovaném virtuálním prostředí, takže se bude cítit jako by skutečně byl v daném virtuálním prostředí 2045 Nastane singularita

36 Vernor Vinge Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 36 z 42 Když jsem uprostřed 60. let začal psát science fiction, připadalo mi velmi snadné najít nápady, které teprve po desetiletích pronikly do kulturního povědomí; dnes se realizují za nějakých osmnáct měsíců. (Samozřejmě může být na vině ztráta mé představivosti spojená s mým stárnutím, ale tento efekt pozoruji i na ostatních.) Jak nabíráme rychlost přes kritickou hodnotu, Singularita se blíží jako rázová vlna ve stlačitelné kapalině.

37 Vlastní příchod singularity Pokud k technologické singularitě může dojít, stane se tak Dokonce, i kdyby všechny vlády světa chápaly tuto "hrozbu" a bály se jí jako čert kříže, vývoj by dále směřoval k tomuto cíli Protože se zakládá na lavinovitém růstu inteligence, proběhne pravděpodobně rychleji než jakákoli dosavadní technická revoluce. Bleskový účinek bude asi neočekávaný možná i pro vědce, kteří se na něm budou podílet. Budou-li dostatečně rozvinuté sítě (budou zahrnovat i všudypřítomné počítače vestavěné do jiných zařízení), může se zdát, jako by se naše artefakty jako celek náhle probudily Poté se lidstvo probudí v posthumanitní éře Po příchodu singularity nemusí lidstvu nutně hrozit vyhynutí, ultrainteligentní stroje se mohou chovat k nám obdobně, jako se my chováme ke zvířatům Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 37 z 42

38 Dlouhodobý vývoj 6 etap Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 38 z Fyzika + Chemie Sestavování základních součástí hmoty 2. Biologie Vznik živých organismů 3. Mozek Zdokonaluje se zpracování informací nervovou soustavou 4. Technologie Informace se postupně začleňují do HW a SW 5. Sloučení technologie a lidské inteligence Objevené metody biologie se roubují do technologie a naopak 6. Rozšíření inteligence po vesmíru Vesmír se zaplňuje další inteligencí

39 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 39 z 42

40 Skeptické názory 1/2 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 40 z 42 Než se v současném přeregulovaném zdravotnictví rozšíří tak převratná technologie, jako jsou nanoroboti do krve, budeme my všichni už dávno mrtví. Možná se za takovou léčbou budou lidé vydávat do Číny či Singapuru. A možná bude technologie dostupná dříve pro psy. To není až taková sci-fi, veterinární medicína je méně regulovaná a už dnes nabízí mnohé prostředky, které pro člověka k dispozici nejsou. Trh je to obrovský a určitě zde existuje prostor i pro překladače štěkotu či čenichové tablety

41 Skeptické názory 2/2 Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 41 z 42 K úspěchu je potřeba zásadnější revoluce v softwarovém inženýrství Samotná ekvivalence výkonu lidského mozku totiž ještě neznamená, že dosáhneme i ekvivalentu jeho funkčnosti. Cožpak neusilujeme o vytvoření inteligentních počítačů již po desetiletí? Zdá se, že umělá inteligence spadá spolu s termojadernou fúzí do kategorie technologických problémů, jejichž vyřešení se pokaždé předpokládá v průběhu příštích dvaceti let, splnění prognózy je však pokaždé třeba odložit. Skeptici se tedy domnívají, že pokud nenastane zásadní změna v oblasti vývoje softwaru, budou nám milionkrát výkonnější počítače dobré leda ke spouštění ještě nabobtnanějších textových editorů.

42 KONEC Copyright Rudolf Pecinovský, Soubor: Technologická singularita.doc, verze , uloženo pá :15 42 z 42