Relativně krátce po revoluci demonstrovali někteří představitelé tuzemského internetu proti monopolu tehdejšího Českého Telecomu. Po roce 2010 se konalo několik protestů proti zákonům typu ACTA, často pod taktovkou Pirátů. Digitální technologie ale jinak Čechy příliš do ulic neženou. Ostatně není to ani moc atraktivní a nosné volební téma. Viděno optikou Maslowovy pyramidy potřeb potřebují lidé vyřešit spíš drahé bydlení a další náklady. Poslední prázdninový den se nicméně v Praze sešla skupina lidí, která chce veřejně připomínat téma možných rizik umělé inteligence. A někdy poměrně radikálně.
Akce nazvaná Monday for Future se konala na Náměstí Jana Palacha v centru hlavního města. Organizátoři z řad studentů na sociálních sítích svolávali lidi s tím, že by bylo dobré, kdyby jich přišlo alespoň pět set. To se ani zdaleka nestalo, odhadem jich byly maximálně nižší desítky. Nešlo o první akci tohoto druhu – na tu první před časem přišlo lidí osm. Organizátoři doufají, že příště jich bude zase o něco více.
Demonstrace, která se po asi hodinu trvajících poslovech vydala směrem k Úřadu vlády, má v této fázi a podobě k dosažení svých cílů asi tolik potenciálu, jako já k tomu, že se stanu výkonným ředitelem Nvidie. Zájem veřejnosti je minimální (což se časem může změnit) a chabá rétorická úroveň špatně či vůbec nepřipravených proslovů část lidí donutila otráveně odejít. Zatím to na zvonění klíči nevypadá.
Přidala se i nechtěná komediální vložka. Za studenty z Prahy přijeli kolegové z Brna. Ti se ale na 110 minut zasekli ve vlaku, takže dorazili asi hodinu po začátku. Důvodem zpoždění byla porucha zabezpečovacího systému. Jeden z řečníků se hned snažil najít paralelu v tom, že technologie jsou rizikové a mohou škodit. Dávat dohromady velké jazykové modely a zabezpečení železnic chce z technického hlediska hodně velkou argumentační akrobacii, ale berme to jen jako zpestření.
Mezinárodní dohled ve stylu jádra
Demonstraci pořádal zapsaný spolek PauseAI, respektive jeho česká odnož. PauseAI vznikl v Nizozemsku a jeho buňky postupně vyrůstají po celém světě. Tuzemská entita formálně funguje od prosince roku 2025. Jejím předsedou je Matěj Jaroš, místopředsedou Dalibor Krejčí a v kontrolní komisi sedí Ondřej Lukeš a Ondřej Krása.
Spolek “usiluje o zmírňování rizik umělé inteligence (jako představuje masová nezaměstnanost, adikce uživatelů na chatbotech, včetně rizika vyhynutí lidstva v důsledku ztráty kontroly nad touto technologií).” Tohoto cíle “dosahuje zejména informováním veřejnosti, jednáním s politiky a dalšími stakeholdery a organizováním akcí.”
PauseAI chce prosadit několik návrhů, jak předejít rizikům spojeným s rozvojem AI. Případně jak umělou inteligenci výrazně přiškrtit a zpomalit technologický rozvoj lidstva. Záleží, jak se na toto téma díváte.
Omezení algoritmů a hardwaru
Hlavním tématem organizace je prosazení globální pauzy ve vývoji AI. Podle PauseAI by měla vzniknout mezinárodní agentura pro bezpečnost AI, podobně jako u jaderné energie. Ta by měla schvalovat uvádění nových LLM modelů na trh, povolovat jejich trénink nad určité parametry nebo blokovat modely výkonnější než GPT-5. Omezen by také měl být trénink na zakázaném obsahu nebo by měla být určena odpovědnost za zneužití AI.
Dále by mělo být omezeno zveřejňování průlomových algoritmů. “Nové tréninkové algoritmy (jako byla architektura Transformer) mohou způsobit náhlý skok ve schopnostech AI. Publikaci takových algoritmů by bylo možné omezit podobně, jako jsou omezeny jiné formy nebezpečných informací,” uvádí PauseAI.
Spolek chce rovněž omezit výpočetní výkon hardwaru: “Pokud se stane možné trénovat superinteligenci na běžném hardwaru, situace se vymkne kontrole. Je proto třeba zvážit regulaci výpočetního výkonu – například přes omezení výroby čipů a nových výpočetních paradigmat (fotonické čipy, kvantové počítače).”
Guláš názorů a obav
Na demonstraci zazněly obvyklé obavy z rozvoje AI. Podle mluvčích má jít o nejvíce transformativní objev od kontroly ohně, svět a Česko se nevyhnou následkům vytvořeným v Silicon Valley, nevíme, jak stoprocentně zabránit tomu, aby se AI nevymkla kontrole nebo nesloužila k vývoji bomb. Podle demonstrujících nevíme, jak řešit to, aby změny způsobené AI nerozkládaly společnost a nezničily demokracii. AI prý způsobuje úpadek lidské kreativity, ovlivňuje mysl, snižuje inteligenci lidí, bere kariérní příležitosti juniorům a absolventům a AI boti se vymykají kontrole.
PauseAI si bude muset vyřešit, co vlastně komunikovat a jak působit na venek. Řadu výroků mluvčích na demonstraci lze vyvrátit a číst v nich, že řečníci oboru vlastně vůbec nerozumí (včetně komplexity polovodičové výroby, provozu datacenter a tak dále), případně je chápou jen povrchně. Řada frází pak připomínala Luddity a nesmyslný boj proti strojům a změnám v automatizaci. Některé obavy, které organizace definuje, ale mohou dávat smysl, jenže se v tom zbytku ztrácí.
Otázkou bude také výrazně levicové vyznění. Nikomu samozřejmě neberu jeho pohled na svět, z hlediska prosazování svých zájmů ale extrémy na obě strany nikdy nejsou dobré a tlačení na pilu řadu lidí odradí. Nejenom ty na výrazně opačné straně spektra, ale často i ty ve středu.
Na demonstraci například vystoupila Irena Ferčíková Konečná, v současné době poslankyně za Zelené (pod Piráty). Kromě jiného působí v podvýboru pro ICT, AI, digitální ekonomiku a kryptoaktiva nebo v podvýboru pro digitální ekonomiku, AI a ochranu uživatelů.
Paní poslankyně kromě jiného uvedla, že místo důsledné regulace AI tuto regulaci rozmělňujeme (jde o narážku na tzv. omnibus k AI Actu s cílem odložit účinnost některých bodů). Kritizovala snahy posledních asi dvou let se v Evropské unii po letech zavádění regulací vrátit k přístupu méně zatěžujícímu velký i menší byznys, živnostníky a občany, protože Evropa ztrácí dech v konkurenci USA a Číny. To má dalekosáhlé dopady na suverenitu, bezpečnost, nespokojenost lidí a podobně. “Vše je zaslepené konkurenceschopností a ekonomickým růstem,” uvedla Ferčíková Konečná. “Ekonomický růst dereguluje to, co nás má chránit. Musíme se tomu postavit.”
Datová centra mají podle poslankyně zvyšovat ceny energií. Zaznělo i to, že v Česku má vyrůst velké množství AI datacenter, což ani v nejmenším není pravda. Oznámeny byly nižší jednotky projektů a není jasné, zda nakonec vzniknou (česká společnost pak chystá 800MW projekt rozprostřený v rámci Evropy). Ostatně v celé Evropě je výstavba velmi omezená, mimo jiné kvůli přílišné regulaci a vysoké ceně energií.
Ferčíková Konečná rovněž řekla, že “máme stále více laboratoří technofašismu.” Zmínila dvě: Izrael v Gaze používá AI a techniku pro monitoring lidí a USA něco podobného zkouší na migrantech.
Druhá organizace ve hře
Podobné téma jako PauseAI chce v Česku a ve světě řešit i zapsaný ústav Iniciativa pro bezpečnost AI (IBAI), jehož ředitelem je Ondřej Krása, vedoucí Katedry filosofie a religionistiky Univerzity Pardubice. Organizace byla oficiálně ustanovena letos v červenci.
“Účelem ústavu je ochrana společnosti a lidstva před existenčními riziky plynoucími z pokročilé umělé inteligence, zejména před AI systémy, které by se vymkly účinné lidské kontrole. Ústav usiluje zejména o to, aby Česká republika, Evropská unie, USA, ČLR a další mezinárodní aktéři aktivně prosazovaly účinné veřejné politiky a mezinárodní dohody zabraňující kritickým rizikům pokročilé umělé inteligence. Ústav není zaměřen proti užitečným a bezpečně kontrolovaným aplikacím umělé inteligence. Jeho činnost směřuje k omezení rizik spojených se závodem k pokročilým AI systémům, které by se mohly vymknout lidské kontrole a ohrozit bezpečnost nebo samotné přežití lidstva,” stojí ve shrnutí aktivit IBAI.
IBAI chce připravovat odborné analýzy, návrhy veřejných politik, informovat politické představitele, veřejnou správu, různé instituce a tak dále. IBAI upozorňuje, že technologický vývoj postupuje rychleji než politická debata i mezinárodní spolupráce.
“Nejde o to zastavit vývoj umělé inteligence. Naopak. AI může lidstvu přinést obrovské přínosy. Musíme ale zajistit, aby nevznikly systémy, které už nebudeme schopni řídit. Stejně jako jsme se dokázali mezinárodně domluvit na pravidlech pro jaderné zbraně nebo ochranu ozonové vrstvy, potřebujeme společná pravidla i pro nejpokročilejší AI,” shrnul Krása.
IBAI chce spolu s partnery z evropských zemí spustit občanskou iniciativu, pro níž plánuje získat milion podpisů. To by pak mohlo vést k dalším debatám a případným přípravám opatření.
- Chcete mít Lupu bez bannerů?
- Chcete dostávat speciální týdenní newsletter o zákulisí českého internetu?
- Chcete mít k dispozici strojové přepisy podcastů?
- Chcete získat slevu 1 000 Kč na jednu z našich konferencí?
Staňte se naším podporovatelem
ČLÁNKY DO MAILU