SINGULARITA: KDYŽ BUDOU POČÍTAČE INTELIGENTNĚJŠÍ NEŽ LIDÉ

Transkript

1 SINGULARITA: KDYŽ BUDOU POČÍTAČE INTELIGENTNĚJŠÍ NEŽ LIDÉ Jiří Wiedermann Akademie věd ČR Podporováno grantem GA ČR P202/10/1333

2 Situace, kdy umělá inteligence dosáhne úroveň lidské inteligence, se v odborné literatuře nazývá singularitou. Dle mínění expertů singularita nastane v horizontu dvaceti či třiceti let. Poté lze očekávat explozi inteligence, protože počítače (či roboti) budou schopné svou inteligenci evolučně vylepšovat. Praktické důsledky dosažení singularity jsou jenom stěží představitelné. Vpřednášce uvedeme argumenty, převážně z oblasti exponenciálního rozvoje technologií a poznání činnosti lidského mozku, které vedou zmíněné experty k takovým závěrům. Jako protiklad uvedeme argumenty z oblasti výpočetní složitosti, které naznačují, že očekávaní ohledně exponenciálního rozvoje inteligence jsou možná přehnaná.

3 Obsah 1. Singularita 2. Důvody 3. Tři zdroje a tři součásti singularity 4. Impakt 5. Současný stav: Watson 6. Výpočetní meze inteligence Rychlá změna Tady jsme Technologická úroveň Relativně pomalá změna během lidské historie Čas Blízká budoucnost

4 Within thirty years, we will have the technological means to create superhuman intelligence. Shortly thereafter, the human era will be ended When greater than human intelligence drives progress, that progress will be much more rapid The Coming Technological Singularity Vernor Vinge (1993) Credit: Wikipedia

5 Singularita: myšlenka, že exponenciálně se zrychlující technologie povedou k vytvoření umělého intelektu s nadlidským schopnostmi, jež znemožní jakoukoliv předpověď budoucnosti. Původní myšlenka od V. Vingeho z r rozšiřována Rayem Kurzweilem v několika knihách název úmyslně evokuje horizont černé díry jako primární příčiny se citují rozvoj tzv. umělé obecné inteligence (Artificial General Intelligence AGI), genetiky a nanotechnologií důsledkem bude asymptotické dosažení hranic inteligence, síly a schopnosti manipulovat realitu dalším důsledkem bude konec existence lidské společnosti ve stávající podobě o singularitě se hovoří jak v pesimistické tak i v optimistické podobě o dosažení singularity málokdo pochybuje důsledky v oblasti super inteligence však podléhají limitům výpočetní složitosti

6 Napřed sestrojíme prostředky a tyto pak sestrojí nás M. McLuhan Credit : Ray Kurzweil

7 Lineární versus logaritmický graf Credit: Ray Kurzweil

8 Credit: Ray Kurzweil

9 Credit: Ray Kurzweil

10 Další příklady exponenciálního růstu: cena RAM pamětí průměrná cena tranzistoru rychlost mikroprocesorů cena mikroprocesorů počet transistorů na mikroprocesoru Moorůvzákon počet internetových serverů datový provoz na internetu čtení DNA velikost genomické banky citace článků z oblasti nanověd velikost mechanických strojů počet US patentů v oblasti nanověd Rezoluce neinvazivního skenování mozku rychlost obrazové rekonstrukce mozkového skenu Zdroj: Kurzweil The Singularity is Near

11 Tři zdroje a tři součásti singularity Nanotechnologie Genetika Singularita Robotika

12 Genetika: průsečník informací a biologie Můžeme žít věčně? RNA interference vypínaní škodlivých genů, způsobujících např. rakovinu Buněční terapie pěstování částí či celých orgánů přímo v těle Somatická buněční terapie (genetická terapie nereproduktivních buněk) řízení a změna genetické výbavy člověka Zvrácení degenerativních změn Potlačení srdečních chorob Překonání rakoviny Zvrácení stárnutí Nanobot opravující DNA Terapeutické klonování neinvazivní náhrada starých orgánů a tkání za nové Zdroj: Kurzweil The Singularity is Near

13 Nanotechnologie průsečník informací a fyzického světa Biologický asembler Upgrade buněčného jádra nanopočítačem a nanobotem Nanoboti v krvi Quorum sensing Emitter Receptor Sender Finte state transducer Random bit generator Sender Receiver

14 Robotika: silná umělá inteligence (AGI) Nástroje: expertní systémy Markovovské modely neuronové sítě genetické algoritmy rekurzivní prohledávání Výpočetní paradigmata a technologie: molekulární výpočty sebestavování DNA výpočty spinové výpočty počítaní se světlem kvantové výpočty nanovýpočty amorfní výpočty

15 První cesta k získání softwaru lidské inteligence: reverzní inženýrství mozku ( whole brain emulation ) Source: University of California, Los Angeles (UCLA), Health Sciences

16 Druhá cesta k získání softwaru lidské inteligence: výpočetní modely vtělené kognice G r o u n d i n g Control unit Abstract concepts Embodied concepts Symbolic level Sub symbolic level Motor instructions Motor instructions S M units Multimodal information Units of S M information Mirror net Perception Body Environment

17 Impakt: Human Body Ver. 2.0: jedení pro radost přestavba digestivního systému programovatelná krev nanoboti namísto srdce nanoboti namísto orgánů, produkující hormony samo opravující se kostra rekonstrukce/opravy mozku Human Body Ver. 3.0 (po r. 2030): morfologická rekonfigurace a reinstantizace Mozek: realistická virtuální realita prostřednictvím nanobotů simulujících všechny smysly převtělování jaké je to být.. projekce zážitků a pocitů bezdrátová komunikace mozek mozek a mozek ne biologická inteligence Nesmrtelnost: fyzická, ve standardním smyslu morfologie těla jako projekce naší inteligence virtuální (přechod na ne biologickou existenci) skenovaní mozku zevnitř pomocí nanobotů re instantizace struktury a funkce v nebiologickém mediu

18 PRIMO POSTHUMAN By Natasha Vita More (media artist, futurist, cultural catalyst, proponent of morphologicalfreedom)

19 Watson systém umělé inteligence schopný odpovídat na úlohy zadané v přirozeném jazyce. Jeopardy! hra Riskuj! na základě dané odpovědi je třeba uhodnout otázku. Např.: 5280 (kolik stop má míle?), anebo 79 Wistful Vista (adresa Fibber a Molly McGee) Category: Rhyme Time Clue: It s where Pele stores his ball. Subclue 1: Pele ball (soccer) Subclue 2: where store (cabinet, drawer, locker, and so on) Answer: soccer locker Category: General Science Clue: When hit by electrons, a phosphor gives off electromagnetic energy in this form. Answer: Light (or Photons) Category: Lincoln Blogs Clue: Secretary Chase just submitted this to me for the third time; guess what, pal. This time I m accepting it. Answer: his resignation Category: Head North Clue: They re the two states you could be reentering if you re crossing Florida s northern border. Answer: Georgia and Alabama Zdroj: AI Magazine, Fall 2010

20 Jak funguje Watson Zdroj: AI Magazine, Fall 2010 The power of metaknowledge Constraint satisfaction finding the best fit answer to a problem that does not have an exact mathematical solution Local search in masive data indicating when further searching is unlikely to yield a better result Algoritmus: identifikace klíčových slov v zadání prohledání paměti za účelem vyhledání klastrů asociovaných s klíčovými slovy a jejich ohodnocení kontrola nejslibnějších hitů vzhledem ke kontextové informaci, jako je NAZEV KATEGORIE, čas, místo, osoba, pohlaví, žánr, atd. výběr nejpravděpodobnějších hitů, formulace odpovědi, odpověď

21 Unstructured Information Management Architecture (Apache UIMA ) It parses questions well, one of the biggest failings in search and text analytics systems It gathers evidence for each of its hypotheses, and offers a confidence level, thereby tackling the question of how much to trust a computer based answer It searches and analyzes text in multiple formats from multiple sources, without taxonomies, schemas or controlled vocabularies It scales It's blindingly fast It handles language in all its ambiguity, including puns, metaphors, jokes and sly allusions. Element Number of cores Single core 1 2 hours Single IBM Power 750 server 32 <4 min Time to answer one Jeopardy question Single rack (10 servers) 320 <30 seconds IBM Watson (90 servers) <3 seconds ~ million lines of code 5 years development (20 men) Memory:20 TB 200 million pages (~ books) Aplikace: systémy pro podporu rozhodování; hledání odpovědí na nezformulovaná zadání

22 Ray Kurzweil Datum singularity, která bude představovat hlubokou a skokovou transformaci lidských schopností, jsem odhadl na rok Ne biologická inteligence vytvořená v tomto roce bude miliardkrát výkonnější než dnešní inteligence celého lidstva dohromady. Immortality Source: Google

23 Systém umělé obecné inteligence (AGIS) musí být interaktivní aby mohl komunikovat se svým okolím, reflektovat jeho změny, dostávat zpětnou vazbu, apod. evoluční aby se mohl vyvíjet přes generace potenciálně časově neomezený aby délka jeho existence neměla pevný konec Rozšířená Church Turingova teze (van Leeuwen, Wiedermann, 2001): libovolný interaktivní evoluční časově neohraničený výpočet je ekvivalentní výpočtu nějakého interaktivního Turingova stroje s rádcem, resp. nekonečné posloupnosti interaktivních neuniformních konečných automatů. input output advice Q1 Q2 Q3

24 Výpočetní síla AGIS se měří pomocí velikosti množin různých reakcí (resp. chování) které tyto systémy mohou produkovat během jejich potenciálně nekonečných interakcí s okolím Příklady interaktivních evolučních výpočetních systémů: internet dynamické sítě mobilních bezdrátově komunikujících agentů vývojová větev živých organizmů rostoucí kolonie bakterií lidská společnost vesmír (?) Proč jsou AGIS super Turingovské: nekonečné výpočty interaktivita neuniformní softwarová a hardwarová evoluce během výpočtů podmíněná nepredikovatelnými interakcemi Výsledky: výpočetní síla AGIS je větší než výpočetní síla Turingových strojů existuje nekonečná hierarchie výpočetně stále silnějších AGIS někde v této hierarchii je bod singularity výpočetní síla AGIS potřebná na překonání rozdílu mezi zajímavými stupni této hierarchie musí růst rychleji než jakákoliv vypočitatelná funkce

25 Výpočetní meze inteligence intelligence Σ 3 level Σ 2 level x y F(x,y,w) Human intelligence The Singularity Logarithmic scale Computational power Intelligence of simple organisms Logarithmic scale Výpočetní síla AGIS potřebná na překonání rozdílu mezi jednotlivými stupni aritmetické hierarchie musí růst rychleji než jakákoliv vypočitatelná funkce, tzn., že pravděpodobně se nikdy nedostaneme za singularitu

26 One might think that the singularity would be of great interest to academic philosophers, cognitive scientists, and artificial intelligence researchers. In practice, this has not been the case.... I think this resistance is a shame, as the singularity idea is clearly an important one. The argument for a singularity is one that we should take seriously. And the questions surrounding the singularity are of enormous practical and philosophical concern. D. J. Chalmers Literatura: Chalmers, D. J.: The Singularity: A Philosophical Analysis, 2009, cf. Kurzweil, R.: The Singularity is Near. Viking Books, 652 pages, 2005 Ferrucci et al: Building Watson: An Overview DeepQA Project. AI Magazine, Fall 2010