Když budou počítače inteligentnější než lidé

Transkript

1 Když budou počítače inteligentnější než lidé Jiří Wiedermann Akademie věd ČR Podporováno grantem GA ČR P202/10/1333

2 Situace, kdy umělá inteligence dosáhne úroveň lidské inteligence, se v odborné literatuře nazývá singularitou. Dle mínění expertů singularita nastane v horizontu dvaceti či třiceti let. Poté lze očekávat explozi inteligence, protože počítače (či roboti) budou schopné svou inteligenci evolučně vylepšovat. Praktické důsledky dosažení singularity jsou jenom stěží představitelné. V přednášce uvedeme argumenty, převážně z oblasti exponenciálního rozvoje technologií a poznání činnosti lidského mozku, které vedou zmíněné experty k takovým závěrům. Jako protiklad uvedeme argumenty z oblasti výpočetní složitosti, které naznačují, že očekávaní ohledně exponenciálního rozvoje inteligence jsou možná přehnaná.

3 Within thirty years, we will have the technological means to create superhuman intelligence. Shortly thereafter, the human era will be ended When greater-than-human intelligence drives progress, that progress will be much more rapid The Coming Technological Singularity Vernor Vinge (1993) Credit: Wikipedia

4 Singularita: myšlenka, že exponenciálně se zrychlující technologie povedou k vytvoření umělého intelektu s nadlidskými schopnostmi, jež znemožní jakoukoliv předpověď budoucnosti. Původní myšlenka od V. Vingeho z r rozšiřována Rayem Kurzweilem v několika knihách název úmyslně evokuje horizont černé díry jako primární příčiny se citují rozvoj tzv. umělé obecné inteligence Intelligence AGI), genetiky a nanotechnologií (Artificial General důsledkem bude asymptotické dosažení hranic inteligence, síly a schopnosti manipulovat realitu dalším důsledkem bude konec existence lidské společnosti ve stávající podobě o singularitě se hovoří jak v pesimistické tak i v optimistické podobě o dosažení singularity málokdo pochybuje důsledky v oblasti super-inteligence však podléhají limitům výpočetní složitosti

5 Napřed sestrojíme prostředky a tyto pak sestrojí nás M. McLuhan Credit Miesto : Ray pre Kurzweil Vaše logo

6 Lineární versus logaritmický graf Credit: Ray Kurzweil

7 Credit: Miesto Ray Kurzweil pre Vaše logo

8 Credit: Miesto Ray Kurzweil pre Vaše logo

9 Další příklady exponenciálního růstu: cena RAM pamětí průměrná cena tranzistoru rychlost mikroprocesorů cena mikroprocesorů počet transistorů na mikroprocesoru Moorův zákon počet internetových serverů datový provoz na internetu čtení DNA velikost genomické banky Rezoluce neinvazivního skenování mozku rychlost obrazové rekonstrukce mozkového skenu citace článků z oblasti nanověd velikost mechanických strojů počat US patentů v oblasti nanověd Credit: Kurzweil The Singularity is Near

10 Tři zdroje a tři součásti singularity Robotika Singularita Genetika Nanotechnologie

11 Genetika: průsečník informací a biologie Můžeme žít věčně? RNA interference vypínaní škodlivých genů, způsobujících např. rakovinu Buněční terapie pěstování částí či celých orgánů přímo v těle Somatická buněční terapie (genetická terapie nereproduktivních buněk) řízení a změna genetické výbavy člověka Zvrácení degenerativních změn Potlačení srdečních chorob Překonání rakoviny Zvrácení stárnutí Nanobot opravující DNA Terapeutické klonování neinvazivní náhrada starých orgánů a tkání za nové Zdroj: Kurzweil The Singularity is Near

12 Nanotechnologie - průsečník informací a fyzického světa Biologický asembler Upgrade buněčného jádra nanopočítačem a nanobotem Nanoboti v krvi Quorum sensing Emitter Receptor Sender Finte state transducer Random bit generator Sender Recei- ver

13 Robotika: silná umělá inteligence (AGI) Nástroje: expertní systémy Markovovské modely neuronové sítě genetické algoritmy rekurzivní prohledávání Výpočetní paradigmata a technologie: molekulární výpočty sebestavování DNA výpočty spinové výpočty počítaní se světlem kvantové výpočty nanovýpočty amorfní výpočty

14 První cesta k získání softwaru lidské inteligence: reverzní inženýrství mozku ( whole brain emulation ) Credit: University of California, Los Angeles (UCLA), Health Sciences

15 Druhá cesta k získání softwaru lidské inteligence: výpočetní modely vtělené kognice

16 Impakt: Human Body Ver. 2.0: jedení pro radost přestavba digestivního systému programovatelná krev nanoboti namísto srdce nanoboti namísto orgánů, produkující hormony samo-opravující se kostra rekonstrukce/opravy mozku Human Body Ver. 3.0 (po r. 2030): morfologická rekonfigurace a reinstantizace Mozek: realistická virtuální realita prostřednictvím nanobotů simulujících všechny smysly převtělování - jaké je to být.. projekce zážitků a pocitů bezdrátová komunikace mozek-mozek a mozek - nebiologická inteligence Nesmrtelnost: fyzická, ve standardním smyslu morfologie těla jako projekce naší inteligence virtuální (přechod na ne-biologickou existenci) skenovaní mozku zevnitř pomocí nanobotů re-instantizace struktury a funkce v ne-biologickém mediu

17 PRIMO POSTHUMAN By Natasha Vita-More (media artist, futurist, cultural catalyst, proponent of morphological freedom) Miesto Credit:natasha.cc pre Vaše logo

18 Ray Kurzweil Datum singularity, která bude představovat hlubokou a skokovou transformaci lidských schopností, jsem odhadl na rok Ne-biologická inteligence vytvořená v tomto roce bude miliardkrát výkonnější než dnešní inteligence celého lidstva dohromady. Immortality Source: Google

19 Systém umělé obecné inteligence (AGIS) musí být interaktivní - aby mohl komunikovat se svým okolím, reflektovat jeho změny, dostávat zpětnou vazbu, apod. evoluční aby se mohl vyvíjet přes generace potenciálně časově neomezený aby jeho existence neměla pevný konec Rozšířená Church-Turingova teze (van Leeuwen, Wiedermann, 2001): libovolný interaktivní evoluční časově neohraničený výpočet je ekvivalentní výpočtu nějakého interaktivního Turingova stroje s rádcem, resp. nekonečné posloupnosti interaktivních neuniformních konečných automatů. input output advice Q1 Q2 Q3

20 Výpočetní síla AGIS se měří pomocí velikosti množin různých reakcí (resp. chování) které tyto systémy mohou produkovat během jejich potenciálně nekonečných interakcí s okolím Proč jsou AGIS super-turingovské: nekonečné výpočty interaktivita neuniformní softwarová a hardwarová evoluce během výpočtů podmíněná nepredikovatelnými interakcemi Příklady interaktivních evolučních výpočetních systémů: internet dynamické sítě mobilních bezdrátově komunikujících agentů vývojová větev živých organizmů rostoucí kolonie bakterií lidská společnost vesmír (?) Výsledky: výpočetní síla AGIS je větší než výpočetní síla Turingových strojů existuje nekonečná hierarchie výpočetně stále silnějších AGIS někde v této hierarchii je bod singularity výpočetní síla AGIS potřebná na překonání rozdílu mezi zajímavými stupni této hierarchie musí růst rychleji než jakákoliv vypočitatelná funkce

21 intelligence Výpočetní meze inteligence Human intelligence 2 level The Singularity 3 level x y F(x,y,w) Logarithmic scale Intelligence of simple organisms Computational power Logarithmic scale Výpočetní síla AGIS potřebná na překonání rozdílu mezi jednotlivými stupni aritmetické hierarchie musí růst rychleji než jakákoliv vypočitatelná funkce, tzn., že pravděpodobně se nikdy nedostaneme za singularitu

22 One might think that the singularity would be of great interest to academic philosophers, cognitive scientists, and artificial intelligence researchers. In practice, this has not been the case.... I think this resistance is a shame, as the singularity idea is clearly an important one. The argument for a singularity is one that we should take seriously. And the questions surrounding the singularity are of enormous practical and philosophical concern. Literatura: Chalmers, D. J.: The Singularity: A Philosophical Analysis, 2009, cf. D. J. Chalmers Kurzweil, R.: The Singularity is Near. Viking Books, 652 pages, 2005