Singularita: doba, kdy naši roboti budou vyvíjet naše roboty

O singularitě jsem tu a tam na Twitter něco napsal a překvapilo mě, kolik debaty už jen to samotné slovo vyvolává. Reakce od nekritického přijetí blížící se singularity až po její akceptování jako nutné zlo a současně striktní odmítnutí z etického a duchovního úhlu pohledu.

Proto tento článek, který prosím berte jako velmi zjednodušující. Na Wikipedii si v případě zájmu dohledáte daleko větší detail, nezapomeňte přepnout na angličtinu.

Bavíme se zde nikoli o singularitě matematické, ale technologické. Technologická singularita znamená, že v blízké době (optimisté říkají několik málo desítek let) dojde k expozivnímu růstu technologického pokroku, který bude mít důsledky, které si v tuto chvíli jen těžko dokážeme představit.

Jen málokdo si to uvědomuje, náš vývoj od vzniku planety však není lineární, ale exponenciální. Na zmíněné Wikipedii najdete spoustu grafů, které to dokazují, nicméně možná daleko jasnější je následující minutové video.

Naše štěstí nebo smůla je v tom, že se nacházíme v „koleni“ této exponenciální křivky. Přirovnejme to k okamžiku, kdy se vozík horské dráhy na jejím vrcholu zlomí a rozletí se směrem dolů. Věřme, že tady to bude obrazně směrem nahoru. Náš pokrok není též lineární, ale exponenciální. Netýká se to jen zvyšování výpočetního výkonu podle Moorova zákona (který už dlouho funguje a fungovat patrně bude), ale i pokroku v jiných oblastech lidské činnosti (medicína apod.).

Každopádně tady hraje klíčovou roli právě technologická složka. Exponenciální nárůst výpočetního výkonu a obecně zrychlující se technologický pokrok vede k tomu, že stroj projde tzv. Turingovým testem. Ten zjednodušeně spočívá v tom, že člověk konverzuje v přirozeném jazyce s jinými lidmi a strojem, a ti jsou od něj fyzicky izolováni, takže člověk nevidí, kdo je stroj a kdo člověk. Stroj projde Turingovým testem v okamžiku, kdy člověk nedokáže kvalifikovaně rozlišit, zda mluví s člověkem, nebo strojem.

Od takového okamžiku vozík letí. Stroje dokážou vyvíjet samy sebe. Díky exponenciální křivce (Moorův zákon) se vývoj nadále zrychluje. Já vím, říkáte si pod dojmem scifi literatury a filmů, to bude souboj člověk proti stroji? Neměl by být. Člověk se vyvine ve stroj nebo spíše určitou formu umělé inteligence jako další stádium svého vývoje, koneckonců lze říci, že člověk tím předstihne „přirozený“ biologický vývoj. Nejprve možná vznikne enhanced human 2.0, poté už slovo human postupně ztratí svůj smysl…

Samozřejmě, singularita je silné téma a přitahuje logicky nejen normální lidi, ale i pošuky, jak to u takových témat bývá. Singularita je téma ale nejen pro magory, ale i pro spisovatele scifi literatury, vědce nebo filozofy. Něco jsem za poslední dva roky přečetl a zdá se mi, že opozice vůči singularitě slábne, minimálně ve skutečně vědeckém světě. Spor už není tolik o tom, zda singurita ano či ne, ale kdy. Pokud lze singularitu skutečně efektivně zpochybňovat, tak spíše z filozofických nebo náboženských pozic než čistě z vědeckých. Alespoň tolik mé pozorování.

Abychom singularitu ještě trochu víc konkretizovali, použiji některé prognózy hodně kontroverzního, ale také hodně známého singularitána Raye Kurzweila. Kurzweil není žádný maniak, ale opravdu vědec a futurolog, který se už mnohokrát za svůj život ve svých prognózách trefil. Samozřejmě, jeho provokativní závěry generují jak dav nekritických zastánců hraničících se sektou (ke kterým se Kurzweil paradoxně nehlásí), tak stejně sektářsky fanatické odpůrce. Mezi těmito tábory se nachází lidé, kteří se nad Kurzweilovými závěry zamýšlí, argumentačně ho umí podpořit, případně konstruktivně kritizovat. Ale opakuji, z čeho mě trošku mrazí v zádech, je fakt, že kritika se čím dál víc točí kolem otázky „kdy?“, než zda vůbec singularita ano či ne.

Podívejme se na některé Kurzweilovy předpovědi. Než se začněte smát, ťukat si na čelo, plakat, radovat se nebo vyskakovat z okna, zkuste si od něj něco přečíst. Je to, když nic jiného, minimálně trénink pro mozek a zkouška toho, zda proti pečlivě poskládaným argumentům dokážete najít vlastní protiargumenty. Spoustu věcí nedokážeme téměř pochopit údajně proto, protože máme proti svým následníkům stejnou kapacitu myšlení, jakou má třeba rybí mozek vůči našemu současnému.

Takže:

• 2020. Osobní počítač bude mít zhruba stejný výpočetní výkon jako lidský mozek.
• Dvacátá léta. Rychlý nástup nanotechnologií. Nanoboti (ano, ti už existují, nejen RK je též předpověděl) budou pracovat v lidském těle hlavně v medicíně. Zejména díky nim budeme moci mluvit o tzv. enhanced human 2.0. 2029. Stroj projde Turingovým testem.
• Třicátá léta. Bude možný upload mozku. Nanostroje operující v lidském těle dramaticky rozšíří schopnosti těla, mozku a umožní člověku lépe komunikovat se strojem i mezi sebou.
• Čtyřicátá léta. Human Body ver. 3.0. Různé verze rozšířeného těla. Lidé stráví více času ve virtuální realitě než ve fyzickém světě.
• 2045. Singularita. Za tisíc dolarů lze koupit počítač, který je miliardkrát výkonnější než lidský mozek. I nejlevnější počítač bude mnohonásobně schopnější než standardní mozek u nerozšířeného člověka (unenhanced human). Umělá inteligence překoná lidskou existenci jako dosud nejvyspělejší formu života na zemi. Podle Kurzweila je vyhlazení lidstva nepřátelskými stroji nepravděpodobné (nikoli však nemožné), protože bude obtížné hledat jasný rozdíl mezi člověkem a strojem, díky rozšířeným lidem (lepší překlad enhanced human mě fakt nenapadá) a i lidem s uploadovaným mozkem.

A prognóza pokračuje dále, ale to už by bylo na všední den asi moc. Jistě, oponenti říkají, že Kurzweil a další zastánci velmi blízké singularity prognózu ženou tak dopředu v čase, protože se chtějí dožít nesmrtelnosti (přesný download mozku by měl být možný někdy ke konci dvacátých let) a že singularita možná přijde jindy a jinak.

Asi určitě. Sám o sigularitě pochybuji. Při každé návštěvě zubního lékaře, s každou další verzí Windows a jiného nedokonalého softwaru, ve chvílích, kdy někdo odejde do jiného nesingularitárního světa díky nevyléčitelné nemoci. Najednou chceme být smrtelní, myslíme si, že přijdeme o svůj svět se všemi pro i proti. Láska, vůně lesa, posezení s přáteli u vína. Ale co když bude láska 2.0 nebo duše 2.0? Víte co? Já si nemyslím, že náš další vývoj bude probíhat právě takto. Nemyslím si, že jej dokážeme takhle relativně přesně předpovědět. Protože máme mozek ryby.

Poznámka pro zvídavé na závěr: Zvláštní je, že hodně velká skupina vědců se shoduje na tom, že singularita je jen jeden z mnoha scénářů budoucího vývoje. Ale jediný nekatastrofický scénář…

Pro možné další čtení hledejte termíny jako technological singularity, singularity is near, accelerating change, Technological_sin­gularity#Criti­cism … a vy už si poradíte, máte-li zájem. Já osobně knížku Singularity is near četl na dovolené a mezi čicháním vlhkého mořského vzduchu si ji opravdu užil. A až si budete číst, k poslechu doporučuji mého oblíbeného Chrise Rea a jeho Road to Hell.