Názory k článku Geekové porážejí „hrochy“ a ovládli svět. S umělou inteligencí jejich role naroste

"Katastrofických vizí, které šíří například Elon Musk, se Michael Dell nebojí. „To, že je AI špatná a podobně… to je nesmysl. Každá technologie může sloužit k dobrým i špatným věcem, stejně jako třeba oheň."

Tady došlo v lepším případě k nepochopení, v horším případě k úmyslnému překroucení významu. AI je, stejně jako jiné vynálezy lidstva, pouze nástroj. Až dosud rozhodnutí a zodpovědnost vždy ležely na uživateli nástroje. Dynamit sám za sebe nic nerozhodl ani pušky, bomby nebo elektřina používaná v elektrickém křesle. Doposud vždy byly lidské nástroje závislé na vůli člověka. Chápání AI je v tomto zásadně jiné. Rovněž by mělo sloužit jako nástroj, který bude tak dobrý, jak mu to určí jeho programátor, ale zcela zřetelně vidím směřování, které dává AI možnost autonomního chování bez zásahu člověka. Tímto AI přestává být nástrojem a formuje se do něčeho, co by se možná dalo nazvat entitou. Elon Musk varuje právě před tím, že se AI přestane používat jako nástroj. Jsou tu příklady, kdy se AI samořiditelné auto má samo rozhodnout, koho v kritické situaci obětovat, právnický software, který pomáhá vynést rozsudek i když ho kvůli tomu, jak fungují neuronové sítě neumí přesně zdůvodnit ... (AlphaGo také neumí přesně sdělit proč přesně zahrál každý ze svých tahů, to je prostě princip hlubokého učení a vývoje generací neuronových sítí.)

AI je dosud velmi omezené a může efektivně fungovat pouze na ohraničené oblasti působnosti. Umí řídit auto, umí hrát go, ale neumí obojí, je silně specializované. To v důsledku znamená, že může skvěle fungovat jako expertní systém, ale ani omylem se nepřiblíží člověku s obecným přehledem a pokud jde o problém kombinující několik oblastí, nemá kapacitu učinit kvalifikované rozhodnutí. Pokud vím, Elon Musk varuje právě před takovými snahami, aby se AI přisuzovala větší autonomie a to především v komplexních oblastech. AI nemá být pánem, AI má být nástrojem.

Problém AI je právě jeho úzká specializace, kdy nemůže a nemělo by být používáno na problémy, které přesahují jeho "možnosti vnímání". Nebezpečí AI je právě ve snaze protlačit jeho používání všude se sebevědomým přístupem "wir schaffen das". AI by nemělo být používáno všude, ale pouze tam, kde to má smysl. Podobně jako je to s internetem věcí, kdy technicky můžete mobilem ovládat i tu poslední žárovku dole ve sklepě, ale nemá to jiný význam než si dokázat, že "na to mám" a že to technicky můžu udělat.

Těším se až v nějaké větší společnosti nasadí do řízení firmy AI a ta začne rohodovat naprosto bez citů bez emocí čistě podle čísel a výkonu a vyhází ženské z pozic kde se lépe uplatní spíše muži, možná ji dají podmínku, že taky musí dodržet gender kvóty a AI to vyřeší jednoduše dá výpověď úklidové firmě a zaměstná uklizečky napřímo, aby poměru muži/ženy vyhověla, klidně nabídne managerkám, že od zítřka nastoupí na pozici úklid nebo výdej jídla v kantýně a vůbec ji to nepřijde divné, když nepřijmou zaměstná jiné ženy a kvóta splněna prosperita zajištěna.... :D

Expertné systémy a AI sa používajú ako roboti na burze. Roboti hrajú s robotmi hru. AI pomáha vybrať perspektívne oplodnené vajíčko z množstva umelo oplodnených pri asistovanej reprodukcii. Sú big data nové náboženstvo, nová spása? Pre mňa nie. Pre mňa je to potencionálny zrod novej počítačovej totality.

Nejsem si jist, že jste pochopil podstatu předchozího příspěvku.
Nikdo se nesnaží napodobit komplexní lidskou inteligenci, Ono klidně stačí obrovské hejno autonomních dronů, které jen tak poletí krajinou a bude útočit na vše, co se pohne nebo kde zdetekuje přes infrazáření tělesnou teplotu. Nemám obavu, že by toto nebyl sen mnoha vysokých vojenských důstojníků na obou stranách. A nemyslím, že k jeho prvotní realizaci jsme nějak obzvláště daleko.

Chápu obavy ze silné AI, jenže prozatím se ani zdaleka neblížíme k vytvoření silné AI, která by nás mohla ohrožovat. A to ani filozoficky, protože neumíme definovat co je to duše / naše já. Nelze tedy stvořit něco, co neumíme definovat. Mimo to, nasimulovat lidský mozek je, a ještě hodně dlouho bude, technicky nemožné. Jednak se jedná o multidisciplinární záležitost a pak také počet synaptických spojení, kterých se odhaduje na biliardu (10 na 15), je pomoci současných technologií absolutně nerealizovatelný. Osobně si myslím, že se klasická elektronika na realizaci tak složitého stroje použít nedá. Sice tu máme tzv. bioniku, ale ta je na úrovni mlácení klackem o strom, než aby z ní vypadly nějaké v brzké době použitelné výsledky. Obavy Muska jsou tedy prozatím liché. Je to jako kdybyste se báli toho, že se jednoho dne naučíme rychle cestovat galaxiemi, díky čemuž narazíme na nějakou jinou formu života, která nás zničí. Obojí je prozatím pouze sci-fi. Technologicky jsme nedávno slezli ze stromů a století páry tu ještě pořád smrdí. Konec konců, jak říká Homer Simpson, "Vystudovali jste cestu na Měsíc a mě pořád smrděj nohy.".

Houby, to bylo možná před 20 lety. Dnes geeky poráží účetní, nebo se z nich stali.

Bohužel náš svět je fraktální, takže na základě informací vydestilovaných z velkých dat budeme dělat zase jen malá tedy lokální rozhodnutí. A to je dobře. Šance malých a velkých jsou stále vyrovnané, protože se pohybujeme v neznámém stavovém prostoru a velká data mohou vést zase už k banálnímu a očekávanému lokálnímu extrému a inovaci lze objevit víceméně náhodou.

Pokud obecná AI uvěří Darwinově hypotéze evoluce, bude to problém.

Na to nepotřebujete AI, na to stačí marxista. A jak jsme experimentálně ověřili v letech 1939-1989 nefunguje, to nevede na optimální rozdělení zdrojů, k tomu potřebujete jiný morální základ civilizace. I civilizaci je třeba stavět na skále, ne na písku.

No a je otázka, zda to procesu hledání řešení nevznese takovou určitost, která bude z hlediska jednotlivce či individuální AI nepozorovatelná, ale dostatečně silná na to, aby přirozené kolektivní algoritmy řízení nabourala. To se pak projeví neoptimálním rozdělováním zdrojů a zánikem civilizace při první krizi, protože ty zdroje budou nakonec chybět.

Třeba úzce specializovaná AI na dobro dětí, která bude rozhodovat o jejich přidělování do rodin, nebo úzce specializovaná AI na rozpoznávání loajality, jako v Číně.

I Hroši pracují s velkými daty, jen o tom neví, fungují na základě kolektivně akumulované informace o úspěšných řešeních (cena produktu, či služby), a to je obdoba feromonu z algoritmu ACO.