Hlavní navigace

Hava Siegelmann (DARPA): Human level AI? K adaptujícímu se stroji nás čeká dlouhá cesta

Karel Wolf

Polovina ze současných populárních AI aktivit je jen marketing, říká manažerka výzkumu umělé inteligence v americké armádní laboratoři Defense Advanced Research Projects Agency.

Doba čtení: 11 minut

Z umělé inteligence (AI) se stále využívají hlavně klasifikační algoritmy, na obecnou umělou inteligenci či umělou inteligenci na úrovni té lidské si ještě dlouho počkáme, říká Hava Siegelmann, programová manažerka výzkumu umělé inteligence v americké armádní laboratoři Defense Advanced Research Projects Agency (DARPA). V Praze vystoupila na nedávné Human-Level AI Conference.

Jaké jsou dnes vlastně nejčastější praktické aplikace umělé inteligence? 

Nejtypičtějším způsobem využití umělé inteligence je v současnosti stále hlavně klasifikace. Nejnázornější praktickou aplikaci můžete vidět například v medicíně. Umělá inteligence často mnohem přesněji než člověk zvládne správně určit povahu choroby, v radiologii zvládne se statisticky mnohem lepší účinností rozpoznat, zdali má člověk rakovinu, nebo ne. Velkou sférou, kde zažívá AI boom od roku 2014, je dnes také průmyslová robotika.

Znamená to, že většina způsobů využití AI je stále jen statistická?

Ano, statistika převažuje. Téměř veškeré aplikované užití umělé inteligence dnes tvoří data processing. Zní to celkem nudně, je ale třeba druhým dechem dodat, že současné schopnosti predikčních a klasifikačních systémů svými schopnostmi klasickou statistiku již léta překonávají.

Zmínila jste dvě vertikály, jak jsou ale na tom s využitím umělé inteligence ty ostatní? Napadají mě teď třeba finanční trhy. 

Myslím, že na umělou inteligenci dnes narazíme ve skutečnosti prakticky všude. Řekl jste finanční trhy. Osobně jsem psala práci o využití AI na finančních trzích již někdy v 90. letech, jeden z mých akademických kolegů má na tuto oblast dokonce vlastní společnost také někdy z té doby – bohužel vám nepovím, jak moc jsou dobří. Byznys využívá statistiku, datovou analýzu, data crunching a data minig skutečně velmi dlouho. Myslím, že hlavní rozdíl je dnes v tom, že disponujeme rychlejšími, lepšími a mnohem většími databázemi než kdykoli před tím.

To mě přivádí k další otázce. Dnes, alespoň při pohledu z venku, zažívá AI boom, podobný tomu v 80. letech. Když vidím současnou frekvenci článků a reportáží o obecné umělé inteligenci (AGI), strojovém učení, klastrové analýze a cognitive computingu, říkám si, jak je možné, že chytré stroje už dávno neřídí naše vlastní životy. Není zde trochu rozpor mezi tím, co se dočteme, a jak vypadá současná realita? 

Já mám spíše pocit, že je dnes čím dál více lidí, kteří věří, že stroje náš život řídí. Vzpomeňte si například na Facebook nebo na chytré telefony. To se ale pochopitelně týká počítačů, ne umělé inteligence. Pokud jde o umělou inteligenci, myslím, že v základu se od těch 80. let zase tolik nezměnilo. Tam, kde můžeme z odstupu pozorovat největší vývoj, jsou spíše změny na úrovni výpočetní kapacity a velikosti databází. Algoritmy jsou dnes také o něco chytřejší, ale rozhodně se nedá hovořit o nějaké revoluci, spíše jde o přirozený progres.

Hava Siegelmann

Doktorka Hava Siegelmann je profesorkou informatiky a ředitelkou laboratoře biologicky inspirovaných neuronových a dynamických systémů (BINDS) na University of Massachusetts. Je také programovou manažerkou Microsystems Technology Office v americké DARPA, kde zodpovídá za programy, které zastřešují rozvoj neuronových sítí a strojového učení. V komunitě vědců zabývajících se umělou inteligencí patří mezi vůdčí osobnosti v oblasti shlukové analýzy, výzkumu celoživotního strojového učení a neuronových sítí. Vystudovala Izraelský technologický institut.

Na ty skutečně inteligentní stroje si tak budeme muset ještě chvilku počkat. Změna od „pouhého“ klasifikátoru k systému, který je skutečně schopný se plně adaptovat, ještě neproběhla. Lidé se ale mnohem raději upínají k vizím bombastické budoucnosti a přemýšlí nad scénáři ze sféry sci-fi, jako jsou útočící stroje s vlastním vědomím, než k o poznání nudnější realitě.  

Pokud jde o obecnou umělou inteligenci (nebo též silnou AI), myslím, že jsme ještě poměrně na začátku, to, o čem se v odborné komunitě hovoří, je spíše nějaký horizont. Podstatnější je pro mne ale přístup. Velké množství extrémně nadaných lidí o ní dnes aktivně přemýšlí či s ní začíná experimentovat, takže jsme myslím na dobré cestě.  

Dnes se hodně hovoří například o automatických systémech. Na silnicích občas dokonce může šťastlivec (pokud se nejedná zrovna o nehodu) na některých místech světa potkat samoříditelná auta (Google, Uber) v nějakém testovacím režimu. 

Myslím, že zde zatím neexistují spolehlivé automatické systémy, to je zatím jen cíl, ke kterému směřujeme. Současná samoříditelná auta mají ke spolehlivým automatickým systémům ještě hodně daleko. Pro tyto technologie je stále ještě příliš brzy, aby byly vypouštěny do produkce a do nelaboratorního prostředí.

Není v pořádku, když samoříditelná auta, jejichž systémy jsou stále spíše ve fázi experimentu, bourají do živých lidí (teď reprezentuji svůj osobní názor, ne názor DARPA nebo americké vlády). Společnosti by neměly podléhat akcionářskému tlaku ani tlaku svých marketingových oddělení a přiznat, že výzkum a vývoj prostě vyžaduje svůj čas a nedá se na přání urychlit.

Můžete si také všimnout zajímavého jevu. Většina společností, která vyvíjí nějaký inovativní produkt z oboru AI, nejprve s velkou slávou oznámí plánované datum zveřejnění produktu a následně jej kontinuálně odkládá.

To je ale přeci klasický problém behaviorální psychologie, ne? 

Přesně tak, přelomové změny se nedějí na počkání. Základní scénář se opakuje stále dokola. Přijde společnost, která slíbí revoluci do pěti let, ale produkt není nikdy hotov. Platí to ale všeobecně. Můj syn je od narození diabetik, dnes je mu 17 let. Když se narodil, ujišťovali mě lidé, že to není takový problém, protože cukrovka bude do pěti let minulostí. Nestalo se tak dodneška, namísto toho ale máme lepší pumpy a testery. V případě AI si za ně můžete zase dosadit lepší klasifikátory nebo větší přesnost. Základy ale zůstávají stále stejné.

Jaké je vaše nejoblíbenější AI téma?

Jedno téma, o kterém opravdu velmi ráda hovořím, je lifelong machine learning. Pokud se bavíme o obecné inteligenci, tak je myslím opravdu velký rozdíl mezi učením během „trénovacího času“ v laboratoři a schopností stroje se učit z vlastní zkušenosti, když je vržen do terénu. Navzdory systémům, jako jsou současné autonomní vozy, toto stále ještě pořádně neumíme. Až se nám podaří naučit systémy efektivně se učit postupně na základě zkušenosti a toho, jak více a více dat přichází do systému, stanou se AI systémy o řád lepší než dnes.

Mé druhé nejoblíbenější téma je bezpečnost umělé inteligence. Nesmíte si ale pod tím představit žádné útoky robotů a podobné senzace ze sféry sci-fi. Jedná se o to, že současné AI systémy nejsou ve srovnání s biologickými systémy, jako jsme například my, dostatečně robustní a byť i jen malé změny na úrovni vstupů mohou způsobit selhání systému.

Uvedu jednoduchý příklad, pokud se podívám na hrníček s kávou, který právě držím, je jedno, z kterého úhlu se na něj dívám nebo jestli má nějaký neobvyklý tvar. Stále jsem schopná rozpoznat, že je to hrníček s kávou. Pro současnou umělou inteligenci to zatím vždycky neplatí. Spolehlivost a lepší zakotvení ve světě u současných systémů tak představuje momentálně důležitější cíl než třeba obecná umělá inteligence / human level inteligence. Umělou inteligenci totiž dnes nalezneme téměř všude, otázka zní, zda jí můžeme důvěřovat (bavíme se o robustnosti a spolehlivosti). V momentě, kdy se tento problém podaří vyřešit, budeme skokově někde jinde.

Zmínila jste, že dnes na AI narážíme prakticky všude, o jak velkém trhu se ve skutečnosti bavíme? 

Neznám přesná čísla, ale jedná se o skutečně obrovský trh, možná desítky miliard dolarů. A je zde určitě potenciál pro růst. Každý trh má využití pro lepší datovou analýzu. Každý trh, nebo společnost, která má něco do činění s čísly, využije lepší predikci. 

Připomíná dnes výzkum a vývoj v oblasti AI spíše týmovou spolupráci, nebo závod ve zbrojení? 

Některé společnosti jako Google nebo Facebook a řada dalších si možná myslí, že jde o ty závody ve zbrojení. Tají se informace o tom, na čem se uvnitř pracuje. Skupují se nadějné startupy (typickou ukázkou je DeepMind, která se stala Google DeepMind, Intel nedávnou koupil Vertex.AI) a lidé. Realita je ale taková, že všechny společnosti jsou dnes na podobné úrovni vývoje AI a tajemství se velmi špatně udržují pod pokličkou.

Vědci, kteří pracují ve firmách, zároveň publikují výsledky svých výzkumů, sdílejí se zkušenosti, lidé přecházejí z firmy do firmy a své know how si odnášejí s sebou, takže poměrně přesně víme, kde se nacházíme. V poslední době narážím na to, že lidé nechtějí hovořit o tom, na čem teď zrovna pracují, ale stačí si vzít současné poznatky a zasadit je do kontextu a máte hned jasnou představu. Pokud by nějaká společnost předběhla dobu, velice rychle bychom to poznali na produktech, které využívá. V tu ránu by se ale stejným směrem zaměřila také konkurence a rychle by skluz dohnala.

Hava Siegelmann (DARPA) na Human-Level AI Conference v Praze
Autor: Human-Level AI Conference

Hava Siegelmann (DARPA) na Human-Level AI Conference v Praze

Dalo by se říci, že je zde podobnost s open source vývojem? 

V určitém ohledu. Myslím, že snaha držet algoritmy jako obchodní tajemství je dnes hezkou ukázkou sysifovské práce. Firmy mohou mít dočasně lepší hardware a konkurovat si v této oblasti, ale algoritmy se mezi komunitou velice rychle sdílejí. Myslím, že dnes neexistuje mnoho obchodních tajemství, pokud jde o algoritmy.

Jak to dnes vypadá se základním výzkumem? Umělá inteligence zažívá boom, ne nepodobný tomu v 80. letech, ale v posledních desetiletích zažila i kruté „AI zimy“, kdy výzkum přežíval prakticky jen na univerzitách.

Dnes můžeme pozorovat, že velké množství firem stahuje lidi z univerzit a investuje obrovské částky do budování vlastních AI týmů o stovkách lidí. Skupují se také AI startupy. V předchozích desetiletích vypadala situace spíše tak, že společnosti, které se o AI zajímaly nebo ji využívaly, sponzorovaly několik vybraných jedinců na univerzitách a de facto jim tak „kupovaly čas“ a kupovaly si tak od nich know how.

Proč se to podle vás děje?

Některé společnosti si možná myslí, že dnes probíhají na poli AI nějaké závody ve zbrojení a nechtějí skončit pozadu. O umělé inteligenci ale také najednou hovoří množství lidí zvenku a spojování firem s AI najednou žene jejich akcie nahoru. Myslím, že koupě DeepMind Googlem byla částečně hnaná právě touto motivací.

Takže je v tom také marketing?  

Je v tom obrovský kus marketingu. Vezměte si Google. Ta společnost si pod svá křídla stáhla nejlepší lidi z oboru, kteří nyní dělají to, že seznamují veřejnost se svými objevy. Proč potřebuje společnost jako Google, aby její zaměstnanci objížděli konference a oslňovali obecenstvo? Ten důvod je hlavně ten, že logo Google je najednou vidět všude. 

To mě přivádí k otázce, zda nejsou dnes některé postupy z oblasti AI, jako třeba hluboké neuronové sítě nebo strojové učení, ve veřejném prostoru trochu nadužívané.

Pro mě jsou to všechno pouze jednotlivé metody užívané v AI, každá reprezentuje nějaký algoritmus, který má své plusy a mínusy. O těchto technologiích se hodně mluvilo již v roce 1999, kdy jsem pracovala na svém Ph.D., a známé byly desítky let před tím.

Všimla jsem si, že dnes lidé sahají například po hlubokých neuronových sítích častěji, než by měli, protože zřejmě věří, že disponují nějakými mýtickými schopnostmi, ale pro mě je to pouze nástroj, který někdy má své opodstatnění, a jindy naopak, stejně jako třeba pero. Všimla jsem si také, že lidé zvenku najednou tyto termíny používají s mnohem větší frekvencí než dřív a vážně netuším proč. Možná je to také nějaká forma marketingu?

Jaká je přesně vaše role v DARPA?

Mojí úlohou je rozjíždět programy a následně se o ně starat. Hlavním programem je celoživotní strojové učení, což je oblast, které hodně věřím. Dále je to program vývoje AI, která bude lépe zakotvená v realitě a bude tím pádem bezpečnější než současné systémy.

Ale vedu také řadu menších projektů, jako je small business inovation program, zrovna teď pracuji například na menším projektu využití umělé inteligence pro lepší život lidí s umělou slinivkou. AI například dokáže hlídat hladiny hormonů a tím výrazně zlepšit těmto lidem život.

Jak jde vaše angažmá v DARPA dohromady s vaší akademickou kariérou? Co vlastně děláte v rámci svého akademického výzkumu?

Překvapivě dobře, mimochodem, funguje to tak, že DARPA si nás akademiky od univerzity pronajímá, a to za poměrně velké peníze. Mně naopak DARPA rozšiřuje obzory, například dříve jsem se nikdy neodvážila vůbec přemýšlet o tom, že bych si založila nějakou vlastní společnost. Přišlo mi to prostě divné a riskantní, dnes, když kolem sebe v DARPA vidím, jak jednoduché je si založit a financovat nějaký startup, tak už se na věc dívám úplně jinak.

Čím by se vaše společnost zabývala?

Mým velkým tématem je AI ve zdravotnictví, vidím tolik věcí, kde by dnes mohla výrazně pomoci, a mám k tomu i osobní motivaci.

Nebojíte se toho, že zrovna zdravotnictví patří vedle bankovního segmentu k nejkonzervativnějším vertikálám a je zatíženo enormním množstvím regulací?  

Asi to není nejjednodušší cesta, jak vydělat peníze. Já jsem nikdy nebyla člověk, který se na věci dívá z finanční stránky, nejsem ani nejlepší marketér. Vnímám to spíše jako poslání.

Čím se na univerzitě vlastně zabýváte?

Moje nejslavnější práce se zabývá klastrovacími algoritmy, konkrétně metodami support vector clusteringu. Výsledky tohoto výzkumu jsou dnes hojně aplikovány v praxi a je to oblast, díky které jsem se proslavila v oboru.

Momentálně mě ale nejvíce naplňuje můj nejnovější (asi rok starý) projekt, kterým je výzkum lidské paměti a vnímání. V jeho rámci používám neuronové sítě k tomu, abych lépe porozuměla fungování lidského mozku a lidského chování. Přijde mi velmi fascinující přicházet na to, jakým způsobem vlastně lidský mozek vytváří abstrakce, jak syntetizuje takové koncepty, jako je demokracie nebo morálka, jak funguje lidská paměť.

MIF18 tip v článku ROSA

Vím, že dnes jsou populární různé cross-disciplíny, nepatří ale toto přeci jen již spíše do sféry psychologie? 

Přijít na to, jak funguje abstrakce, je pro pokrok v umělé inteligenci naprosto zásadní. Bez abstrakce totiž nebudete moci vytvářet analogie. Bez analogií pak nikdy nemůžete vědět, že kulatý hrníček je funkčně ekvivalentní jeho hranaté variantě (ne vždy, poznámka redakce), a každá zdánlivě drobná změna prostředí tak může ohrozit spolehlivost systému.

Našli jste v článku chybu?