Názory k článku Marek Rosa (GoodAI): Autonomní zbraně už tu jsou. Rozhodování o životech ale nelze nechat strojům

Bohužel je to naprostý nesmysl. Pandořina skříňka již byla otevřena.

Navíc začíná být zjevné, že nejlepší bojové prostředky budou roje jednoduchých automatů, které musí být už z principu autonomní, protože se budou samy bez centrálního velení organizovat.

Proti hejnu takového "hmyzu" neexistuje obrana.

Schopnost sestřelovat kulky protivníka, by měla asi velký psychologický efekt. Ale co když protivníci budou ženy?
Proto raději používat výraz střela, nebo projektil.

Tohle je jenom populismus a musí to být jasné každému, kdo jenom okrajově rozumí kódování, programování nebo čemukoliv týkajícího se IT.

Protože aktivováni jakékoliv funkcionality v programu je už jenom drobnost a lze ji kdykoliv přidat. Takže kdokoliv to může klidně podepsat, nerušeně si vyvíjet a až se mu to bude hodit, tak prostě (v rozporu s podepsanou výzvou, dohodou nebo zákony) jenom změní například v kódu "doporučení palby" na palbu a je vymalováno! :-D

Nehledě na to, že některé systémy bez autonomního rozhodování o palbě absolutně postrádají smysl. Například bojová letadla, jejichž hlavní výhodou je, že dokáží provádět manévry při kterých by člověk minimálně ztratil vědomí vlivem přetížení a rozhodovat se mnohem rychleji než člověk. Jak pak toto chcete řešit?

Pokud bude člověk na palubě, tak hlavní výhodu autonomně řízeného bojového letadla nelze použít. A pokud bude člověk mimo palubu, tak letadlo bude muset s každou palbou čekat než informace dorazí někam do "velína", kde to člověk vyhodnotí, dá příkaz a ten se odešle zpět? Ta doba bude absolutně neúnosná, protože se bude skládat z reakce UI + čas přenosu + reakce člověka + čas přenosu + reakce UI. Navíc, co když v daném místě nebude funkční spojení nebo vypadne? To jako autonomní letadlo zabalí boj nebo třeba krytí transportního letadla a vrátí se? Nebo tam bude jen tak poletovat jako cvičný cíl bez možnosti palby? :-D

Ale jak říkám, ono je to jedno :-) Protože přidat možnost autonomní palby z jejího doporučení je záležitostí na pár minut a když pak někdo bude mít armádu autonomních válečných zbraní, tak vymahatelnost zákona vůči němu znatelně poklesne :-D

Když máte u sebe nelegálně nůž a státní orgán chce za to udělit represi, jste v háji. Když máte u sebe nelegálně armádu Terminátorů a státní orgán chce za to udělit represi, tak je v háji on. :-D :-D

Přiznám se, že podobné zákazy naprosto nechápu. Kdo je vlastně bude dodržovat? Všichni? Fakt? A pokud ho nebudou dodržovat všichni, k čemu tento typ zákazů je? Aby z těch, co ho dodržují, se staly snadné cíle?

Je to úplně totéž, jak s obecným zákazem zbraní - ti poslušní to dodrží, ti, kvůli kterým je ten zákaz velkohubě zdůvodňovaný, to dodržovat pochopitelně nebudou. Ve výsledku víc škody než užitku.

Ten zákaz fakt nemá smysl, naopak bych vývoj autonomních zbraní a AI podporoval. Je to jen pokračování myšlenky Samuela Colta: "Bůh stvořil muže silné a muže slabé, a já jsem ten rozdíl vyrovnal."

Zajímavé budou ruční palné zbraně s automatickým doměřováním, kdy střelec jen nahrubo zamíří a AI zbraně provede přesné domíření, nebo zbraně s řízenými kulkami, které samy najdou cíl, ale toto už myslím je ve stádiu prototypů.

Usmevne ... predevsim v souvislostech. Kdo ze to (nevim zda jediny ale zdaleka nejvetsi) nepristoupil na zakaz pechotnich min? Pricemz je to pochopitelne naprosty nesmysl - protitankove povolene jsou, ale pokud se nezabezpeci proti pechote, tak je pesaci seberou jako brambory na poli.

Kdo ze to (omylem, jak jinak) bombarduje nemocnice, jejihz poloha je nahlasena OSN? Takto se to svede na chybu stroje ...

Zkratka ten automat "obcas" zastreli nekoho jineho, to se stava. Vsak pokud je mi znamo, odhaduje se, ze az 30% ztrat II. WW jde na ukor palby do vlastnich.

Nejprve je možno zvolit strategii úniku, mezitím vyjednat souhlas a posléze zničit cíl. Z hlediska velení není rozdíl, jestli dáte rozkaz něco zničit lidem, nebo strojům. I člověk je cvičen k tomu, aby rozkaz vyplnil a nepřemýšlel o něm, do jisté míry se musí spolehnout na velitele, že rozkaz není neetický. Morální odpovědnost vzniká vydáním rozkazu, nikoliv jeho provedením. Etika vojáka je jen dodatečná zpětná vazba, která by měla zastavit vojáka, když rozkaz je nadmíru neetický. Člověk i stroj dělají chyby.

No ale právě to popisuje ten příklad - cíl se přece může objevit nově a pokud se bude čekat až to někdo "posvětí" tak už to může být bezpředmětné. Příklad se mi zdá tedy velmi případný.

Klemjdoucí:
Každá civilizace se v určitém bodu svého vývoje sama zničí. Vypadá to, že dobíháme do cíle.

Ivánku, ty jsi asi dodnes nepochopil, že reálný život není počítačová hra. A že živá hmota, pokud k něčemu dojde, nebude mít proti té elektronické vůbec žádnou šanci. I když na tom budou, pokud jde o kvalitu robotů, obě strany úplně stejně, pořád hrozí reálné nebezpečí, že roboti, místo aby se začali navzájem likvidovat, se domluví a zlikvidují společně nás.

časem plané zbraně ztratí význam, protože AI palných zbraní budou schopny sestřelovat kulky protivníka, nebo je díky ultrazvuku vychylovat ze směru a tím ochránit cíl.

Lepší simulační možnosti výbuchů spolu s AI umožní regulovat výbuch protivníka protivýbuchem, který destruktivní sílu náboje neutralizuje.

pokud si pamatuji, uz bylo nasazeno (Afganistan)

No nechtělo se mi to hledat, ale zde to je

http://www.osel.cz/6116-prototyp-quot-chytre-quot-kulky-zasahuje-cil-na-kilometry-daleko.html

http://www.osel.cz/5038-chytry-granatomet-xm25-jde-do-bojoveho-testu-v-afghanistanu.html

Souhlas, avšak kromě té věty. .."proti tomu neexistuje obrana".

Lidé nebudou bojovat s autonomními roboty, boji s nimi se vyhnou, ale s jejich energetickými zdroji a tím je zaženou do defenzivy, protože na hlídání těch zdrojů budou muset vázat většinu své kapacity.

A jejich zdroj z činnosti vyřadí i hacker, k tomu nepotřebujete ani přímý kontakt, jen zadní vrátka v elektronice.

Živá hmota šanci mít bude, protože lépe využívá energii a není na ni tolik závislá. Na týden ji stačí kilo rýže, když je to potřeba. Nemusí proto nic plánovat, může ve větší míře improvizovat, má více stupňů volnosti. Proto vandalové vyhrávají, mohou toho o něco méně ztratit. AI bude tolik závislá na energetických zdrojích, že z logiky věci vyplývá, že bude muset volit vyjednávání a ne přímou akci. Nebude to větší hrozba než Rusko.

Humanoidní roboti (i ve smyslu účelu) jsou omyl. Znalost a studium neuronových sítí je třeba využít k něčemu jinému, k objevování nových postupů myšlení, rozvoji učení lidského mozku. Nemá smysl roboty vytvářet k obrazu svému, ale pomocí nich hledat jinou dosud skrytou realitu.

Něco jako Plimpton 322.

Obava z myslících strojů plyne z nepochopení toho co jsou. Myslící stroj nemusí spát, může být stále v boji - simulovaném a občas být použit v reálném. Sám není schopen poznat, co je simulace a co je realita, během simulační fáze lze studovat jeho chování a eliminovat ho, kdyby vykazoval nepřátelské úmysly.

Teorie her ale ukazuje, že fundamentální vlastnost života je spět k nalezení stavu výhodného pro všechny. Pacifistický a agresivní extrém je časem autoeliminován. Problém nastane, když se objeví pacifisté, tím pokouší ostatní udělat z nich kořist.