Hlavní navigace

Singularita už za 50 let. Asimovovy zákony robotiky do strojů nedostaneme, věří Tim Berners-Lee

Jan Sedlák

Podle tvůrce WWW se do 50 let dočkáme umělé inteligence, která předčí člověka. Další názory ale o umělé inteligenci mluví jako o velké příležitosti.

Tvůrce world wide webu Tim Berners-Lee stojí před několikatisícovým publikem na konferenci v hotelu The Venetian v Las Vegas a jako jedna z významných technologických autorit se zamýšlí nad tím, co pro svět bude znamenat příchod umělé inteligence (AI). Je jedním z řady myslitelů, kteří nad něčím takovým dumají. Vzhledem k jeho minulosti jsou jeho názory a poznatky brány vážně, přesto se výrazně liší od postojů mnoha dalších expertů.

S nedávným příchodem knih jako Druhý věk strojů, Rise of the Robots a Superinteligence se debata o AI a robotizaci dostala do světla reflektorů, ovšem závěry si zatím v podstatě nelze udělat žádné. Někdo se budoucnosti bojí, někdo je nadšený a bere nové technologie jako příležitost. S velkou pravděpodobností ale vše nakonec bude vypadat trochu jinak, než si dnes představujeme.

Zrovna Berners-Lee ve Vegas vystoupil s jednou z temnějších řečí. „Není zde způsob, jak bychom do robotů mohli zabudovat Asimovovy zákony robotiky. Nemůžeme zaručit, že neublíží lidem. Není jasné, co se stane, když stvoříme inteligenci mimo naše těla, jak tato inteligence bude vypadat. Toto jsou obavy, které mají lidé jako Elon Musk a Bill Gates,“ myslí si Berners-Lee.

Singularita už za 50 let

Zmiňuje při tom i povedený film Ex Machina, kde si umělá robotická žena uvědomí sebe sama, převáží u ní touha po životě a rozvoji a kvůli tomu se obrátí i proti lidem (byť její chování lze pochopit a zachoval by se tak zřejmě i člověk). Singularita (tedy chvíle, kdy se univerzální umělá inteligence vyrovná lidem, začne se sama vylepšovat a rychle nás předčí) by podle Tima Berners-Lee měla přijít už brzy. „Myslím si, že do 50 let tento bod překročíme.“

Tim Berners-Lee mluví o dopadech umělé inteligence na konferenci Dell EMC World 2017 v Las Vegas
Autor: Jan Sedlák

Tim Berners-Lee mluví o dopadech umělé inteligence na konferenci Dell EMC World 2017 v Las Vegas

„Musíme přemýšlet o tom, že se umělá inteligence stane příliš mocnou, příliš manipulativní. Je to strach ze singularity. Namísto toho, abychom my programovali AI, AI bude programovat AI,“ navazuje vynálezce WWW.

Berners-Lee se obává toho, že se ze strojů díky AI a hlubokým neuronovým sítím stanou neprůhledné systémy, které sice stvoří lidé, ale pak už nebudou jasně vědět, jak se tyto výtvory rozhodují. Systém „černých krabic“ dobře popisuje například nedávný článek z MIT Technology Review. Jiní badatelé zase argumentují tím, že už nyní po světě chodí několik miliard „black boxů“ (lidí), jejichž fungování zcela nerozumíme.

Stroje využívají strojové učení, deep learning a neuronové sítě, „takže se již neučí pouze věci, které je učíte vy, ale mají schopnosti zpozorovat věci samy od sebe,“ myslí si Berners-Lee.

Další experti ale argumentují jinak. Algoritmy prostě dělají to, k čemu a jak byly napsány, a jen těžko přesáhnou svůj stín. Žádná skutečná AI v současné době ještě neexistuje, protože to, co dnes vidíme, nemůže být inteligencí jako takovou. Díky strojovému učení je třeba možné naučit stroj poznávat obrázky koček a psů, ale i tak přístroj udělá chyby, které inteligenci moc nenaznačují.

Čím více dat, tím lépe

AI každopádně už teď vyvolává velké debaty nejenom v technických kruzích, ale i mezi ekonomy a tvůrci legislativy. Velké firmy typu Microsoft, IBM, Google či Facebook jsou ve vysvětlování a prosazování svých zájmů velice aktivní. Do chodu nasazují čím dál více vlastních kognitivních a inteligentních aplikací.

Otec internetu Vint Cerf na konferenci Data Summit v Dublinu
Autor: Jan Sedlák

Otec internetu Vint Cerf na konferenci Data Summit v Dublinu

„Naši inženýři vždy chtějí s daty dělat ty nejzajímavější věci. Čím více dat, tím lépe. To je teď vidět speciálně u AI,“ popisuje pro Lupu v Dublinu viceprezident Microsoftu pro evropské vládní otázky John Frank. Hlavní muž Microsoftu v Bruselu tráví se svým týmem hodně času tím, že zkouší najít rovnováhu mezi technologickými možnostmi, jak s daty pracovat, a regulací, která jejich využívání omezuje.

O tom, že data jsou pro chytré stroje kritická, není sporu. Například Apple se svojí Siri místy oproti konkurentům od Amazonu či Googlu zaostává. Je to mimo jiné tím, že Apple nemá takové množství informací jako ostatní, a navíc staví marketing na co největší ochraně dat, která od uživatelů získává.

„Může nás AI zachránit? Možná,“ ukazuje na přednášce na Data Summitu v Dublinu „Principal Researcher“ v Microsoftu Chris White a za sebou promítá obrázek pana Data ze seriálového Star Treku. „Možná nás ale zachránit nemůže,“ dodává a překlikává na obrázek Arnolda Schwarzeneggera v roli terminátora.

Mr. Data ze Star Treku
Autor: Paramount

Mr. Data ze Star Treku

Tento okruh výzkumníků v oblasti AI se kloní spíše ke světlejší budoucnosti. White vysvětlujte, že zakladatel Microsoft Research Rick Rashid je velikým fanouškem Star Treku. Což je ostatně i řada techniků, kteří se seriálem při své práci výrazně inspirovali. „Mysleli jsme si, že konečnou hranicí (final frontier) je vesmír. Teď ale máme kyberprostor,“ říká White.

Kdo ví

Podle lidí jako White budou data a jejich „AI zpracování“ pro lidstvo znamenat obří pokrok, který navíc bude globální. Vstup do kyberprostoru je levný, relativně jednoduchý a má celosvětový dosah.

„V následujících sedmi letech uvidíme více změn než za posledních dvacet let dohromady. Začíná exponenciální růst,“ věří David Bray z americké telekomunikační komise FCC. Bray je zároveň označovaný za jednoho z nejvlivnějších Američanů dneška, ale ani on nedává jasné odpovědi na to, co vlastně AI bude znamenat.

Arnold Schwarzenegger jako terminátor
Autor: TriStar Pictures

Arnold Schwarzenegger jako terminátor

Jedna z velkých debat se točí kolem toho, jaký dopad budou mít chytré stroje na zaměstnanost. Často se předpokládá, že vzniknou zcela nové profese a některé zaniknout – jako tomu bylo v historii více méně vždy. Shoda často panuje na tom, že se lidé budou muset naučit pracovat s informacemi, kontextem, souvislostmi.

Například ve Spojených státech v současné době jen 0,0085 procenta lidí pracuje v oblastech spojených s výzkumem a vědou kolem dat a informací. Asi 0,33 procenta populace USA jsou programátoři. Lidí, kteří „vidí do strojů“, je tak vůči zbytku populace hodně málo.

Soukromé společnosti pracující s AI si obecně myslí, že by se celé oblasti mělo jít naproti. Všemožné studie, kolik AI vygeneruje peněz, pracovních míst a příležitostí v různých oblastech, nemá cenu citovat, jsou to všechno odhady. Google, Microsoft, IBM a další firmy se snaží přesvědčit vlády, aby bylo z hlediska legislativy možné zpracovávat anonymizovaná data, která zároveň budou maximálně zabezpečená. Důležitá má být i součinnost soukromého, akademického a státního sektoru.

První pozitivní vlaštovky

„Nestavíme stroje do vůdčí role. Stroje nám pomáhají a lidé stále interpretují výsledky,“ říká při debatě v Dublinu technologický ředitel IBM pro Watsona a cloud Bryson Koehler. „Ve skutečnosti je to možnost, jak augmentovat (rozšířit schopnosti) lidi.“ Zároveň ale dodává, že neví, jak budou algoritmy budoucnosti vypadat a co se bude v hlubokých sítích dít.

Singularita ve filmu Ex Machina
Autor: Universal Pictures

Singularita ve filmu Ex Machina

O pomáhání lidstvu pomocí AI v Dublinu mluvil také „otec internetu“ Vint Cerf, který dnes pracuje jako vrchní „evangelista“ v Googlu. „V Googlu máme projekty, kdy za pomocí více než 80 specialistů a doktorů trénujeme neuronové sítě tak, aby byly schopné rozpoznávat nemoci. To je pozitivní věc,“ ukazuje na jeden z příkladů, jak mají stroje pomáhat. Zdravotnictví je oblast, ve které se využití AI začíná na západě i v Číně poměrně hodně rozvíjet.

Shari Langemak je původem doktorka, která popisuje tradiční problém své profese – doktoři nemají čas věnovat se přímo pacientům, musí pracovat s hromadou dat, informací, byrokracie. Langemak se proto rozhodla přejít od běžné lékařské praxe k výzkumu a na pomoc si bere stroje a AI.

„AI pomáhá rychle se ve všech těch informacích vyznat. Pomůže se stanovením diagnózy a doktor pak sehraje roli konzultanta, doporučí léčbu, vysvětlí pacientům podrobnosti a bude s nimi trávit mnohem více času,“ popisuje Langemak, která tyto koncepce rozvíjí v Philipsu.

Využitý potenciál

Ve světě lze pozorovat první vlaštovky, kterým se sázky na umělou inteligenci začínají vyplácet. Vzhledem k přeregulovanosti celé země je mezi nimi poněkud překvapivě i Francie. Ta v roce 2016 v získávání rizikového kapitálu pro mladé technologické společnosti téměř dohnala evropskou jedničku – Velkou Británii (necelé tři miliardy eur vůči zhruba 3,1 miliardy eur). Francie je na tom v tomto ohledu lépe než Německo.

Důvodem jsou dřívější strategické investice do technického a matematického vzdělávání, které se nyní v oblastech, jako jsou data, deep learning, AI a tak dále, začínají vyplácet. Francie se společně s několika dalšími evropskými zeměmi díky výuce matematiky vrací do popředí technologického světa. V Paříži se nyní otevírá velký komplex Station F, kde se bude na AI pracovat. Plány na stěhování do tohoto areálu už ohlásil třeba Facebook.

Miliardy dolarů do výzkumu kolem AI zase tlačí Čína, která si na pomoc bere i tamní internetové obry jako Baidu, Tencent či Alibaba. Čína bere AI jako další generaci výpočetní techniky a to, co všechno se v této zemi děje, pěkně popisují New York Times.

Do AI startupů každopádně tečou peníze i ve Spojených státech. Podle CB Insights se takto v loňském roce investovalo pět miliard dolarů. Do toho nejsou započítány investice obrů jako Google či Microsoft, kteří do akvizic a vlastních aktivit vkládají další nemalé částky.

Zdrženlivá Evropská unie

Do vývoje kolem umělé inteligence prozatím nechce nijak aktivně zasahovat Evropská unie, nechce ale ani nijak brzdit rozvoj. Její zástupci sice mluví o razantní proměně ekonomiky a společnosti, ale zároveň upozorňují na to, že nikdo neví, jak tyto změny budou přesně vypadat. Z Evropské komise dokonce zaznívají hlasy, že v zemích, kde mají roboti a technologie silné zastoupení, je nejnižší nezaměstnanost. V Česku je debata spíš na začátku a například bývalý český premiér Vladimír Špidla (ČSSD) varuje před změnami, které digitalizace a robotizace přinesou.

Pořád ale zde jsou i ony pesimistické a varovné hlasy, ke kterým lze zařadit i čerstvě v češtině vydanou a v úvodu zmiňovanou knihu Superinteligence. Objevují se otázky, jak se vyrovnáme s tím, když se AI stane našim šéfem – stejně jako se to už dnes v podstatě děje třeba ve skladech Amazonu.

„Co se stane, když robot nebude robotem, ale společností? Když bude mít stejná práva jako korporace?“ ptá se dále Tim Berners-Lee. „Lidé se bojí AI, protože je mocná. Stejně jako poznání samotné, stejně jako jaderná energie. Lidé se bojí, k čemu AI může být použita,“ vyjmenovává další z obav. A patří mezi ně i ona singularita.

Více o tom, jak z pohledu legislativy a pravidel přistupovat k umělé inteligenci, například v této studii. Téma AI řeší také náš nedávný článek z konference LAW FIT.

Našli jste v článku chybu?