Názory k článku Musíme omezit nové algoritmy, výrobu čipů a regulovat výpočetní výkon. V ČR vznikly neziskovky bojující s riziky AI
-
“Nové tréninkové algoritmy (jako byla architektura Transformer) mohou způsobit náhlý skok ve schopnostech AI. Publikaci takových algoritmů by bylo možné omezit podobně, jako jsou omezeny jiné formy nebezpečných informací,” uvádí PauseAI.
- Toto je Security through obscurity. Je možné skrýt znalosti a dovednosti v oblasti AI, ale nelze jejich rozvoji zamezit. Je to do značné míry vojenská technologie a velmoci (i mnohem menší státy, které jsou jimi ohroženy) musí AI rozvíjet, jinak dopadnou jako domorodci proti kulometům. Vývoj atomových zbraní se střídavými úspěchy nakonec regulují jaderné velmoci, ne dohody. Vývoj AI v Číně se snažily USA (první AI velmoc) regulovat sankcemi na čipy, ale Čína si vyvinula skoro všechno vlastní. AI, autonomní zbraně, spolupracující roje dronů atd. jsou navíc snazší, než atomovky, bude jich víc.
Jediné AI, které lze z EU zregulovat k neškodnosti, je francouzký Mistral. -
"připomínala Luddity a nesmyslný boj proti strojům a změnám v automatizaci"
To jako fakt? Mohl by se autor prosím lehce dovzdělat v historii? Luddismus bylo sociální hnutí, narativ bláznů ničících stroje je narativ BigTech, kterému se podobné myšlenky samozřejmě nehodí do krámu.
Pěkně o tom psal třeba i česky Matouš Hrdina:
"Příslovečné rozbíjení strojů se totiž do arzenálu bouřících se tkalců dostalo až ve fázi, kdy už nezbývala jiná řešení. Před tím, než se cca v letech 1811–1815 pustili do útoků na továrny, se přes deset let neúspěšně snažili přesvědčit tehdejší britské politiky k odpovídající právní regulaci nových technologií nebo alespoň dodržování stávajících zákonů."
Též:
"PR ofenziva tehdejších tech gigantů ale měla v rukávu i další zákeřné triky. Důležitým argumentem bylo nařčení, že luddité jsou zkrátka hloupí, protože kdyby se nad celou věcí zamysleli, došlo by jim, že i pro ně jsou přece nové technologie příležitostí k úspěchu. Ze slova luddita se postupně stala výsměšná nadávka pro nechápavého zpátečníka, ale Merchant na základě příběhů tehdejších aktivistů ukazuje, že nic nemohlo být dál od pravdy.
Muži i ženy, kteří se živili tkaním, spřádáním či různými finálními povrchovými úpravami látek, totiž byli špičkoví odborníci, kteří se v technologiích ve svém oboru mimořádně dobře vyznali, a právě proto také rychle odhalili, co jim kvůli automatizaci hrozí."
Další studium zde:
-
Podívejte se, když vidím malé podnikatele jak provozují květinářství, zelinářství nebo trafiku, jsem si docela jistý, že jako ajťák bych to zvládnul líp, ne kvůli tomu, že bych tomu víc rozuměl, ale kvůli tomu, že bych se v tom konstantně vzdělával a inovoval, zatímco u těhle malých podnikatelů často vidím, že se za 10 let nezmění a udělali by líp, kdyby se nechali zaměstnat.
Proč to teda nedělám? Myslím, že v IT si stále vydělám víc a s lepší kvalitou života než v květinářství. Nicméně jsem si už uvěřil, například na domácím kutilstvím, že i věci na které jsem vysloveně levý, že je po letech udělám líp než spousta lidí, protože se prostě vzdělávám a inovuji a tohle DNA je z IT přenositelné kamkoliv.
-
Zajímalo by mě kolik těch lidí kteří dokáže matematicky správně pracovat s maticemi případně se podílí na voji LLM umí v zisku provozovat aspoň malé květinářství, zelinářství, nebo trafiku….
Je jasné, že je malá pravděpodobnost, že od lidí z filozofických oborů nebo co se zabývají historií či etnografií přijdou nějaké zásadní praktické věci pro praktické použití uměle inteligence .
Jenže ono to ani nepřijde od jejich vývojářů, ale odpověď pravděpodobně buď z multioborového prostředí. A nebo bude spadat do oboru jako je ekonomie , právo a bezpečnost. Což může být pro mnoho vývojářů zrovna tak španělská vesnice jako pro tyhle ty absolventy filozofie , historie a učení , kteří ze sebe dělají odborníky mnohdy na jadernou energetiku.
-
dokud to nevyzkoušíš, nevíš :).
S květinami jsem to třeba před 15 lety zkoušel. Dostal jsem se k tomu, že jsem mohl chodit na aukce na prodej čerstvě dovežených kytek letecky, plán byl jednoduchý, udělám to masivně, kytky budu chladit v lednicích, aby vydržely, rozvážet je budu chláďáky a budu nabízet po Praze rychlou rozvážku (do desítek minut) květin.
Hlavní selhání poté nebyl idealizovaný byznys plán, ale realita podnikání, jakmile to vypadá, že se ti daří, seběhnou se na tebe ostatní jako piraně, zvednutí nájmu o pětinásobek z měsíce na měsíc, uplácení řidíčů a květinářek, blokování aut z letiště, zpronevěru hotovosti od vedoucích atd. Až tehdy jsem poznal, že trh s květinami je skoro jak trh s drogamy, prodejci na tom mají tak vysoké marže, že si svůj trh chrání hlava nehlava.
Jakmile pak začneš řešit tyhle provozní problémy, nemáš čas se rozvíjet, budovat, přemýšlet co dál. On vlastně byznys plán, kdy v té květinovce sedíš sám, máš vše pod prsty, děláš si to pomalu a v malém množsví může být velmi funkční, nemáš takový stres, nemáš takové riziko, pracuješ s květinami, které máš rád...
-
Klasika, co od neznalých občanů čekat:)
Piráti i zeleni jsou středovou levicovou stranou stranou podobně jako různí socialisti. A mají mnohdy k ODS nebo KDU bliž než se některým zdá
Posuzovat strany na ose levice pravice patří do minulého století. Chybí vám tam i progresivní konzervativní , což dnešní politice dělá taky dost.
Například progresivní pravicovou stranu v České republice nemáme vůbec….
-
Tohle bych s jistotou netvrdil. S rozvojem AI se čím dál víc investuje do rozvoje robotiky. Dejme tomu malíř -- malíř může dělat práci strojem (ano existují na to stroje) nebo ručně. Ale furt ten stroj musí ovládat. V budoucnu (a ne tak vzdálené) může být víceúčelový robot (tj. rozuměj jeden den dělá malíře, druhý štuky, třetí hází lopatou) který je poháněný AI a bude ovládat ten stroj (nebo štětec a váleček) místo malíře. O toho robota se někdo bude muset starat -- ale řekněme že bude stačit násobně méně lidí v servise kteří budou řešit problémové kusy, pokud takoví roboti budou spotřebka. Jako když si dneska koupíte automatický vysavač -- taky se o něj (extra) nestaráte. Nerozebíráte ho, nemažete mu převody, motory etc. Prostě když se rozbije, pošlete ho do servisu. Když se takový robot rozbije, uděláte to samé. Jako firma si pak koupíte ideálně 2 aby byla náhrada (případně se to dá řešit určitým druhem "pojištění" vykompenzovaným platbou - např. servis nebo náhrada next-business-day)
-
Takže to byli lidé kteří bojovali proti strojům a změnám v automatizaci. Báli se budoucnosti a toho že přijdou o práci. A co nám to dalo? Místo toho abychom dokázali obléct pár lidí dnes dokážeme obléct 8 miliard. atd. atd. Jakákoli regulace nových technologií za účelem aby měli lidé práci je vcelku špatná věc a názory ludditů byly možná fajn pro ně ale ne pro rozvoj (a uživení) lidstva jako takového. Mělo by se to spíš řešit úplně jinak. Popravdě ideální svět je svět kde nudnou práci dělají stroje a lidé dělají jen zábavné činnosti ve kterých jsou fakt dobří (protože je to baví)
-
UI je jen další stupeň k zoufalému zachování civilizace. Fosilní éra pomalu končí, díky ní jsme sice schopni nasytit 8 mld krků, ale také ke konci dala spoustu podnětů k válkám o tento zdroj. Lidstvo se zoufale upíná k osvobození mozků od rutin memorování dosavadních znalostí k tvůrčímu rozvoji s podporou aktivní encyklopedie. Ale už je asi pozdě. Než další generace vědců nalezne adekvátní řešení energetické krize, dojdou vzácné kovy k rozvoji UI, rozpadnou se křehké demokracie a vývoj se navzdory snahy pomalu zastaví. Dojde nakonec k decimaci pouplace, která o zdroje stejně válčit bude. UI pak bude (jako vždy) nakonec využita pouze k přežití privilegovaných. Ale snaha o překonání tohoto prahu tu prostě je, to pouhé stagnování nevyřeší. Však kdo by si chtěl osobně přiznat, že pro společnost moc neznamená a měl by uvolnit místo, že...
-
> Ať je odmítačům moderních nástrojů na zeměplacce hezky
Přijde mi, že jste nepochopil, o co tomu hnutí jde, resp. čeho se bojí (ne že by to článek, který jsem jen hrubě prolétl, moc dobře popisoval). Jde o AI X-risk, ne o dopady "nástrojů" ve smyslu zaslopování kultury, "stroje berou lidem práci" a tak, což jste při psaní komentáře nejspíš předpokládal.
-
> Bláznivější scénáře jako AI koronavirus, vývoj superzbraní, že AI zotročí lidstvo, těžko co k tomu říct. Mi to připadá jako nesmysl.
No to je právě to, co často vidím - lidé prohlásí, že jim to přijde jako nesmysl, ale zatím jsem neviděl rozumné argumenty, proč to tedy nejde. (případně ten jeden, co jsem viděl - že AI je učená lidmi a přece chápe co má člověk na mysli když jí zadává úkol - padl minulý měsíc při HuggingFace incidentu…)
-
Je smutné, když o regulaci AI mluví akorát nedůvěryhodní trumberové.
Nějaká rizika to reálně opravdu má a nechat to jet úplně bez kontroly živelně není moc bezpečné. jenže když o tom budou mluvit akorát takoví nedůvěryhodní bambulové a tak nerealisticky, akorát se myšlenka hrozeb AI zesměšní a neudělá se nic. -
AI vezme práci jen některým profesím. Marketingoví experti, reklamní agentury, část programátorů (kde hrozí nedostatek seniorů), grafici. Lidi kteří pracují rukama to neovlivní, tam jsou stroje už teď a někdo je musí obsluhovat a udržovat.
Závislost na AI chatbotech, ono je to na stejné úrovni jako sociální sítě.
Bláznivější scénáře jako AI koronavirus, vývoj superzbraní, že AI zotročí lidstvo, těžko co k tomu říct. Mi to připadá jako nesmysl.
Ale jsem skeptik, na začátku jsem předpokládal že AI skončí tak po půl roce.
-
Pár řadových členů hnutí znám a jsou to normálně programátoři, takže očekávatelně uvedené věci znají. Pana vedoucího z religionistiky a paní poslankyni ne, tak tam nemohu sloužit.
Otázka je, jestli je to potřeba. Osobně si myslím, že to patří k nutnému všeobecnému přehledu, ale nedokážu odargumentovat, proč to potřeba je. Co na věci mění, jak je to interně implementováno? Spíš bych čekal, že to věc zhoršuje - typicky si lidé myslí, že AI je "naprogramovaná", a když pak zjistí, že to je vlastně RLHF s účelovou funkcí, která je často definovaná špatně a zešílí to (naposledy třeba únik OpenAI-HuggingFace) a lidé na to nemají vliv jiný než že zkusí parametry RLHF pošťouchat podle svých odhadů a pustí to znova, tak je to konsternuje.
-
Díky fosilní éře jsme sice schopni nasytit 8 mld krků ale ta éra končí a těch 8-9 miliard lidí bude muset změnit svůj životní styl tak aby spotřebovávali méně zdrojů (a to výrazně) nebo se bude muset zmenšit lidská populace. Někde se lidé domluví a budou postupovat společně, pak ta změna bude řízená a relativně v klidu. Někde se ale uplatní právo silnějšího a každý se bude starat jen sám o sebe, výsledkem bude totální chaos a anarchie. Sny bohatých o tom že přežijí s pomocí technologií ve svých opevněných zámcích jsou bláhové, rozběsněný dav nezná překážek...
-
Nevezme práci ani těm reklamním agenturám. Zrovna reklama je prostředí, kde stokrát zrecyklované úplně totéž z generické AI není funkční a už vůbec ne v dnešní době, kdy se funkčnost kreativní vizuální reklamy snižuje kvůli celkovému šumu obecně.
A s těmi lidmi, kteří pracují rukama bych si nebyl moc jist. AI v kancelářských profesích nastupuje teď a ani teď nemá ambici všechno a všechny nahradit. Za to temné továrny v Číně existují už řadu let.
ČLÁNKY DO MAILU