Názory k článku Singularita: doba, kdy naši roboti budou vyvíjet naše roboty

Možnosti jsou neomezené, ale zdroje omezené... exponenciála jde do nekonečna ale my do nekonečna nemůžeme, protože jsme omezení fyzikálními zákony a zejména zdroji.

Souhlasim, a sice se dle Moorova zakona rychlost kazdym rokem zdvojnasobuje, ale rychlost neni vsechno. Pocitace jsou stotisickrat rychlejsi nez ty prvni, a stale se nic nedeje, a verim, ze i kdyz budou milionkrat rychlejsi, stale se nic dit nebude. Budou to stale jen rychle kalkulacky.

Musela by se vytvorit ohromna neuronova sit, dokonale provazana a hlavne "zaplnena" vedomostmi, utridenymi znalostmi, dokonale propojena, s hromadnou senzoru a kamer pro rychle uceni, a trideni surovych vstupnich dat a spravne zakatalogizovani. No je to toho moc.

Cemu ja verim, o cem jsem na 100% presvedcen, je to, ze jedina mozna cesta, na kterou muzeme dosahnout, je proste pouzit mozek cloveka a to vsechno, o cem jsem psal v prechozim odstavci, udelat tomu zivemu mozku jako nadstavba.

Ze sveta stroju: dokonala pamet & vypocetni vykon
Ze sveta zivota (boha): mozek s jeho intuici, abstrakci a propojovani neceho na prvni pohled vubec nesouvisejiciho.

LP

A na čem myslíš, že pracuje Google? :)

o Googlu pochybuji, ale reálné projekty tohoto typu jsou. například IBM Blue Brain project. http://domino.watson.ibm.com/comm/pr.nsf/pages/rsc.bluegene_cognitive.html

imho to bude trochu jinak..pokud jako technologická civilizace přežijeme, tak se spíše dříve nebo později objeví technologie, kterou si ted nedokážeme představit a změní vývoj světa zcela jinam...v historii už se to párkrát stalo - zemědělství, parní stroje, IT...
PS ale samozřejmě tou technologií může být i umělá inteligence at

Turingovým testem projde systém, který je při KONVERZACI nerozlišitelný od člověka. Se schopností samostatného vývoje dalších systémů (programů, strojů) to nijak silně nesouvisí. Sebegeniálnější kecálek ještě nemusí být schopen něčeho takového. Na druhou stranu je možné si představit jakousi strojovou evoluci, založenou na podobných principech, jako je genetické programování - a k tomu inteligenci zase tak moc nepotřebujete. První buňky toho moc nenamyslely a podívejte se, jak se jim povedlo rozvinout!
Dávat do souvislosti Turingův test s technologickou singularitou je spíše následek nadměrné četby scifi.

Zabývaje se kdysi z důvodu téměř praktického Turingovým testem musím dodat, že Turingův test s umělou inteligencí souvisí značně a za mezník samo-vývoje "strojů" jej směle můžeme považovat právě pro nároky, které klade.

Nehledě na to že Kurzweil (ani Milan) Turingův test se singularitou přímo nespojují. Projití stroje Turingovým testem je zmíněn jen jako jeden (z prvních) kroků technologického vývoje.

Stroj projde Turingovým testem v okamžiku, kdy člověk nedokáže kvalifikovaně rozlišit, zda mluví s člověkem, nebo strojem. Od takového okamžiku vozík letí. Stroje dokážou vyvíjet samy sebe. Díky exponenciální křivce (Moorův zákon) se vývoj nadále zrychluje. Ty dvě věty jsou sice každá v jiném odstavci, ale přeci jen navazují - "Od takového okamžiku" - tedy od toho, kdy "Stroj projde Turingovým testem." Omlouvám se za hnidopišství, případně za hloupost, ale skutečně mi to připadá, jako by ty dvě věci autor článku spojil. Ale třeba mám potíže s pochopením psaného textu.

Me se to moc nezda. Posledni dobou potkavam cim dal vic lidi, co Turingovym testem neprojdou.

Na Turinguv test by bylo potreba nejak aplikovat i Heisenberguv princip (pozorovatel ovlivnuje pozorovani). Mam totiz pocit, ze uz dnes by dost pocitacu u dost lidi testem v pohode proslo.

Ano, Turingův test s umělou inteligencí souvisí, ovšem nemusí být nutně vázán na schopnost vlastního vývoje. Pokrok v jedné poměrně specializované oblasti ještě neznamená, že je světě systém schopný vlastního rozvoje. A systém schopný vlastního rozvoje nemusí nutně projít Turingovým testem - proč by taky měl? Pořád se nemůžu zbavit dojmu, že tady poletují vzpomínky na HAL9000.
Ještě pro přesnost - stát se může, ale stále nějak nevidím silnou souvislost. (Taky jsem kdysi studoval umělou inteligenci - snad ne dost do hloubky, ale na něco si ještě vzpomínám.)

První buňky toho moc nenamyslely... to je pravda ovšem zda ke svému rozvoji inteligenci zase tak moc nepotřebovali už pravda být rozhodně nemusí!

Hodne kvalitni matros. S takovym bych mozna i veril, ze se lidi brzo podivaji znovu na Mesic nebo i dale na Mars.

Pokud si autor článku pamatuje, tak podle podobných předpovědí měla být na Měsíci naše (ne česká :-) ) už desítky let fungující kolonie a na Marsu jsme měli mít postavené kadibudky :-)
Myslím si že podobné věci se špatně odhadují. Je dost možné že se lidstvo vrhne na sociální zabezpečení a boji proti globálnímu oteplování a na vývoj užitečných věcí moc prostředků nezbyde. On ten předpovězený exponenciální růst je stejně pravděpodobný jako jeho zahnutí do S křivky, kde se naopak rychlost vývoje zpomaluje.
Co se onoho vývoje rychlosti procesorů týče, nějak zvlášť se o to nezajímám, ale nezastavil se už? Co vím, teď místo zvyšování frekvence se staví vícejádra, ale rád se nechám poučit.

Zájem o Měsíc povadl, to je jasné (není tam ropa). Očekáváte, že podobně povadne zájem o technologie? :D

U technologií je to často tak, že si neřeknete "vynaleznu technologii". Funguje to tak, že potřebujete výrobek a cestou k realizaci jeho výroby musíte překročit určité překážky. Pokud vyrábíte například bonbony, asi největší překážkou bude marketing. Pokud vyrábíte měsíční základnu a vymýšlíte dopravní systém, bude potřeba zdolat překážky mnohem významnější a často k jejich optimálnímu překonání budete potřebovat nové technologie.
Bohužel to vypadá tak, že technologie z kosmického výzkumu nebudou díky marketingu (tj. neschopnosti propagace a tím získání příliš malého rozpočtu), takže budeme mít místo kosmického výzkumu bonbony :-). O technologie zájem bude pořád, ale nikomu se nebude moc chtít investovat do jejich získání ...

Co tak sleduji v posledni dobe, tak zajimava byla simulace neralni site s poctem neuronu kociciho mozku (IBM), americke laserove odstrelovani zlateho valecku, LHC uz by mel byt taky celkem fit. Minule stoleti bylo bourlive, tohle bude mozna jeste bourlivejsi.

Snad na nas ty roboti budou hodny...

snad na sebe jako roboti* budeme hodnější než jako lidi...

* nahraná a vylepšená inteligence ve vylepšeném/zkonstruovaném/virtuálním těle

Je to jen otázka měřítka v ose X a Y. Laicky řečeno zahnutí je v celé exponenciální křivce stejné (coby poměr hodnot Y2 a Y1 při konstantní vzdálenosti X1 a X2). To, že existuje něco jako "koleno" je jen iluze našeho oka, které rozlišuje sklon (tj. úhel) dané křivky a ne "tangens" tohoto sklonu a tato iluze se odvíjí nejen od povahy dané křivky (tj. dané exponenciální funkce), ale rovněž od měřítka v ose X a v ose Y.
Nazvětšujte si měřítko některé z os a uvidíte koleno jinde (ev. nikde).

Takže: pokud je vývoj opravdu exponenciální a pokud si autor stále stojí za tím, že jsme v "koleně", pak stejné tvrzení mohli říkat novináři i před 200, nebo třeba 5000 lety, stejně jako to budou moci říkat za dalších 200, nebo 5000 let. A měli by stejnou pravdu. Akorát si vynesli křivku v jiných měřítcích.
Jediné, co z toho lze dovozovat, že za A roků budeme znát B krát více, kde A a B jsou konstanty pro celou exp. křivku. Pokud by křivka začala od určitého okamžiku růst rychleji, než B, pak už není exponenciální.

Prosím autora, aby zmínku o koleně z článku vypustil. Tato zmínka na mě působí trochu diletantsky a není správné na tomto mylném předpokladu stavět další závěry.

Ano, přesně tak, lidstvo se vyvíjí exponenciálně a žádné koleno ani "zlom" v tom neexistovalo a existovat nebude.
A pokud jde o "singularity", v minulosti už k pár došlo (například: příchod křesťanství, oddělení vědy od církve v 16. stol, ..., počítačová revoluce v posl. 25 letech) a IMHO sotva se s tím bude moct srovnávat, že jedny mašinky začnou montovat jiné mašinky (to dělají už teď).
Nevěřím nikomu, kdo tvrdí, že žijeme ve zcela zásadní epoše vývoje, kdy se dějí zázraky na počkání nebo se alespoň "brzy" (rozumějme aby se to stihlo za věštcova života) dít budou. Je to jen způsob, jak si něco užít před smrtí, jak se aspoň chvéli cítit jedinečný.

Přesně tohle jsem chtěl napsat. Jakmile jsem dočetl k tomuhle žvástu o kolenu exponenciály, přestal jsem článek číst, pač ho psal kdosi, kdo... jak to jen napsat eufemicky... :-)

Prostě bláboly nečtu :-)

Nesouhlasím. Tangenta samozřejmě záleží na měřítku v čase X, stejně jako Y. Pokud jedem milimetr na X ose bude rok, "koleno" bude úplně jinde, než když to bude století. Lidi, uvědomte si, že na ose X a Y jsou jiné jednotky, X je čas a Y jsou znalosti. Tak jakápak tangenta, jaképak koleno?

Ještě dodám: "téměř kolmá" je např. úhel 20:1 (tj. 2000 úhlových procent, odpovídá cca 87 úhlových stupňů, což se blíží magické devadesátce). Jenže ta dvacítka má úplně jiné jednotky (znalosti), než jednička (čas). Takže změnou měřítka některé z os z toho uděláš jakýkoliv jiný úhel v intervalu <0,90> stupňů, vyjma hraničních hodnot. Z "téměř kolmé" tak může být pouhou změnou měřítka "téměř vodorovná". A koleno si tak napozicuješ na úplně jiné místo.

Myslím to vážně, lidem by měl být rozšiřován obzor a vtloukáno jim, že to co bylo dlouho považováno za sci-fi a čemu se smáli se stává realitou.

Byl bych rád za více podobných, možná třeba více konkrétních článků - třeba něco o genetických algoritmech, nejvýkonějších superpočítačích dneška a co dovedou...

Osobně jsem v současné době pro maximální investice do vízkumu a to na všech frontách, hlavně ale v nanotechnologiích a genetice - s tím jde ruku v ruce vývoj superpočítačů, které zvládnou dostupné informace analyzovat. Lidstvo dotiž má hodně problému a bude to horší a dokud okolo mě budou spoluobčané na vozíčku, slepci... jsem jednoznačně pro pokrok. Ti lidé totiž trpí a vážně nemocný je a nebo jednou bude minimálně 90% z nás, stát se pak utápí v nákladech na neefektivní lékařskou péči, důchody (když by byl člověk v dobré kondici i okolo 70 nemusel by žádný důchod dostávat a jak to tak vypadá důchody za pár let stejně nebudou, zbyde jen ta špatná tělesná kondice...)


Až bude tohoto dosaženo a věřte mi čeká nás hodně překážek a záměrných zpomalení... no vemte si takové zubaře, ti určitě nebudou chtít přijít o práci jen kvůli tomu, že někdo vymyslí nanozubní pastu co každý den zacelí mikrotrhliny v zubní sklovině. Ti se budou bránit, zpomalovat vývoj co to dá.


Pak bych se zastavil a věci řádně promyslel, než začnem s nějakou nelékařskou úpravou běžných lidí, typu kup si novou část mozku.

Lidé - futurologové- kteří vykládají, že bude v roce 2030 možné nahrát vědomí do PC obyčejné lidí DĚSÍ a vývoj i potřebných technologií jen ODDALUJÍ. Já osobně nechci bejt nahranej do nějakého matrixu, ostatně už bych to nebyl já, ale zároveň nevidím důvod proč bejt v 70 jako důchodce od vedle co nevidí, neslyší, špatně chodí a nemá zuby :-)
Chci prostě až do smrti třeba ve 100 letech bejt fit a ne 30 let posedávat a vzpomínat na staré dobré časy, kdy jsem ještě uržel myš a stolici... .

Ad zubari: nevim, proc by se meli branit. Ti stavajici proste doziji (moje matka je zubarka a kdyby takovou pastu mela, s nejvetsi radosti ji rozda svym pacientum a konecne spokojene odejde do duchodu, kde uz davno mohla byt, kdyby se nasel nejaky mlady zubar, ochotny prevzit za ni ordinaci v regionu (tj. ne v Praze)) a novi zubari uz nebudou :) Samozrejme je to lehka ironie...

Ad nahrani vedomi do PC: nahravat lidske vedomi kamkoliv zrejme nebude mozne, protoze je prilis spjate s telem. Je zavisle na fyzickych vjemech, ktere zna od sveho pocatku, jen si zkuste predstavit, co by z vas vlastne zustalo, kdybyste nebyl schopny fyzicky vnimat NIC ze sveho okoli. Ze stejneho duvodu je de facto vyloucena i posmrtna existence vedomi - aspon v te podobe, jak je zname na tomhle svete.

zbylo by to, co zbyde, kdyz si das tripa

je zvlastni, ze fakt neco zbyva a to i v okamziku, ze se vedomi zcela rozpusti po mega davce

je na case zacit fetovat

Cele tema propojeni lidi s kyberprostorem, mi pripomina jeden uzasny serial Ghost in the Shell.

dodávání vnějších vjemů je problém o několik řádů jednodušší, než samotná simulace

K clanku me spis napada ta filosoficka bariera. Az do dnesni doby byla pohonem evoluce, predevsim technologicke, potreba naplnit zakladni potreby, v soucasne dobe potreby zabavy, ktera prekrocila hranici, kdy se dramaticky snizuje diky degradovanemu zivotnimu stylu porodnost. Takze nevidim pohon nejake podstatne extrapolace soucasneho stavu, spise prirozenou stabilizaci. Lidska potreba neni nekonecna a zadny jiny konzument tu neni. Jestli technologie dospeje k stavu singularity, o cemz pochybuji, urcite ve stejne dobe nebude "dospely" cil toho vyvoje, nekonecne zdokonalovani vyroby potravin a zlevnovani sluzeb je dost slaby motor, zvlaste kdyz si kazdy nejradsi kedlubnu vypestuje sam a na prochazku bude porad chodit do lesa s detma a se psem. Virtualni realita je dobra do prace a pro pubertaky na hrani.

Vypocetni vykon nerovna se inteligence a uvedomeni si sebe sama.
Je to nesmysl :-)

Nicmene musite pripustit, ze je to podminka nutna, lec nikoli postacujici :-)

uvědomění si sama sebe je ohromě přeceňováno. ze své pozice nemůže člověk nikdy poznat zda si druhá entita (jiný člověk, zvíře, stroj) sama sebe uvědomuje. můžeme pozorovat nějaké průvodní jevy a dohadovat se (a třeba dělat Turingovy testy), ale samotný prožitek "uvědomění si" není možné změřit

Já vidím do budoucna hlavní problém i motor technologického pokroku medicínu. A to zejména kvůli znižující se kvalitě DNA bohatší části světa. Evolučně očistný mechanismus, ve kterém přežívají jen ti nejsilnější, už nefunguje. Jakmile začali přežívat děti s vrozenými vadami, které by před 100 lety nepřežili, jakmile mohli asistovaně otěhotnět ženy, které by za normálních okolností nemohli nikdy počít (ať už byla chyba v nich nebo na straně muže), začala se tím roztáčet spirála a nežádoucí kusy DNA bude mít do několika desítek generací každý. Otázka je jestli vydrží stávající nízká porodnost bohatší části světa a DNA nám nebudou "ozdravovat" přistěhovalci. Pokud ale budu předpokládát že vady se budou množit a zdravotních a reprodukčních problémů bude přibývat, bude vzrůstat tlak a finanční dotace výzkumu v této oblasti, což opravdu svým způsobem směřuje ke zmiňovanému člověku 2.0. Nechci tím naznačit, že bych byl pro přirozený výběr. Každý z nás chce žít v pohodě, mít děti a využívat výsledků vědeckých objevů. Jen nevidím jinou cestu než si do budoucna kompenzovat bilogickou nedokonalost technologiemi.

Spatne jste si vylozil definici funkce "fitness" v evolucnich teoriich. Nejde totiz o fyzickou zdatnost, ale obecne o schopnost uplatneni se v danem prostredi. Drive pro to byly uzitecne silne ruce, dnes zase nektere "soft skills" bez ohledu na fyzickou konstituci. Biologickou evoluci v historii lidstva nahradila kulturni, a to ne dnes nebo vcera, ale uz pred hezkou radkou tisicu let.

Ja s tim souhlasim, ale i z jineho pohledu. Medicina dnes opravdu frci slusne a jediny maly problem je, ze na jeji aplikovani proste nejsou finance.

Kdo si dnes muze dovolit treba relativne levne zubni implantaty? Pochybuju, ze to bude velke procento lidi sveta. Medicina mozna prijde s nanotechnologiemi a umelymi organy, ale budou to srandy pro top 1 promile lidi. Zcela urcite nejake farmaceuticke firmy jednou prezenou vyzkum a zkrachujou, protoze holt Bill Gates nebude chtit umele spermie.

Vyzkum se takhle sam zastavi na nedostatku zdroju. Vzdyt uz dnes v laboratorich jsou zkoumany veci, o kterych se rika, ze nebude na to je financovat (zdroj: vyzkumnik DNA, znamy me pritelkyne).

V další fázi se z nás stane něco jako Borgové, budeme létat ke hvězdám a asimilovat jiné rasy. Škoda, že se toho nedožiju! :-(

V 80. letech jsme si taky mysleli, ze dnes budeme letat na Venusi na vylet. Ale ono to nejde zase tak rychle, jak by se mohlo zdat. Jsem uz lehce starsi rocnik a rekl bych, ze vyvoj cehokoliv se nijak dramaticky nezrychluje.

Ono to přijde, ale je potřeba porazit všechny levicové a ultrakonzervativní politiky a úředníky, kteří veškerý podobný vývoj považují za škodlivý, nebezpečný a nemorální. Však se podívejte, jak dopadlo GM.