Dobré úmysly obvykle dláždí cestu do pekel. Ukazuje se to i v případě Nařízení o AI (AI Akt), které se rok svém vyhlášení v úředním věstníku EU potýká s nejasnostmi, zpožděními a odklady. V sobotu 2. srpna 2025 vstoupila v účinnost jeho druhá část, která předpokládá zřízení některých regulačních úřadů, přináší nové byrokratické povinnosti provozovatelům tzv. obecných AI modelů nebo zavádí sankce za porušení zákazu používat AI k některým činnostem. Stále přitom chybí některé prováděcí předpisy a jiné se schvalovaly opravdu na poslední chvíli. V Česku taky zatím neexistuje implementační norma, který má novinky AI Aktu vnést do českých zákonů.
Původní záměr Evropské komise zavést určitou regulaci umělé inteligence přitom nebyl zcela mimo mísu. EU chtěla ukázat, že jí tentokrát v regulaci technologií neujel vlak a chlubila se, že pravidla pro AI schválila jako první na světě. Přinejmenším část nařízení také dává smysl.
Jde o zákaz využívání umělé inteligence k některým rizikovým účelům, které vypočítává článek 5: například systémy, které jsou určeny k nekalé manipulaci lidského rozhodování, systémy na hodnocení lidí, na předpovídání, jestli člověk spáchá zločin, na necílené rozpoznávání obličejů a další biometrické rozdělování lidí do kategorií nebo na skenování a rozpoznávání lidí v reálném čase na veřejných místech (byť s kontroverzními výjimkami). Nic moc se nedá namítat ani proti povinnosti, aby potenciálně rizikové AI systémy měly lidský dohled.
Jenže Evropská komise neodolala touze mít všechno pod úřední kontrolou. Velká část normy tak popisuje, jak se jednotlivé AI systémy musí klasifikovat podle své rizikovosti, kde se musí registrovat, kdo a jak jim může vydat certifikát, aby mohly na evropském trhu působit, a jaké formuláře musí pravidelně vyplňovat. A samozřejmě, jak vysoké pokuty firmám hrozí, pokud tyto povinnosti nesplní, a jaké úřady musí vzniknout, aby mohly sankce udělovat. Nebude jich málo, protože jich má v každé členské zemi vzniknout hned několik (často se sice nová agenda přidá nějakému už existujícími regulátorovi, ale náklady ani tak nebudou nízké – viz. níže).
Jde o složitý propletenec, ke kterému musí podle AI Aktu vzniknout ještě další doprovodné a vysvětlující materiály: například harmonizované evropské technické normy pro AI nebo „dobrovolný“ kodex, který je určitým návodem, co vlastně mají AI firmy dodržovat a jaké povinné formuláře a hlášení mají vyplňovat. Většina povinností se naštěstí týká jen velkých společností, které mají dost právníků, aby se s byrokracií nějak vypořádaly. I když – pokud jako malý AI startup zkusíte své služby prodávat nějaké větší firmě, brzy zjistíte, že se právní a byrokratické předpeklí týká i vás.
Uvést tak složité nařízení v život se ukázalo být náročnější, než evropští zákonodárci předpokládali. Například ony harmonizované evropské technické normy měly být hotové nejpozději letos v srpnu, nicméně normotvorná organizace CEN-CENELEC letos na jaře připustila, že nestíhá a že předpisy nebudou hotové dříve než v roce 2026.
Co takhle odklad?
Do 2. srpna stihla Komise vydat alespoň tzv. Kodex správné praxe pro provozovatele obecných AI systémů (General-Purpose AI Code of Practice, GPAI). Bylo to ale těsné: finální text zveřejnila až 10. července, tedy jen tři týdny před datem, kdy měly firmy kodex přijmout.
Většina velkých západních společností Kodex nakonec podepsala, některé si ovšem postěžovaly na to, že je regulace příliš složitá a že může vést ke zpomalení vývoje AI v Evropě. Americká Meta dokument podepsat odmítla s tím, že kodex jde daleko za rámec AI Aktu a obsahuje řadu právních nejistot. I tak ale bude muset náležitostem AI Aktu vyhovět.
Situace kolem zavádění regulace do praxe je natolik bídná, že se nedávno začalo mluvit o tom, jestli by nebylo dobré účinnost dosud neúčinných ustanovení AI Aktu o dva roky posunout, aby bylo na přípravu více času. Oficiální návrh na odklad, který vzešel z České republiky, ale zatím nenašel u Komise velkou podporu. Pravda je, že dělat úpravy v přijatém nařízení není jednoduché.
Dáme to Jurečkovi
Ani Česko implementaci AI Aktu úplně nestíhá. A není to jen tím, že na ni nedostalo od EU moc času (rok na přijetí zákona skutečně není příliš realistická lhůta – byť se nejspíš s přípravou dá začít o něco dříve).
Poté, co na podzim 2024 ve vládě skončili Piráti, kteří v ní drželi místo vicepremiéra pro digitalizaci, přehodil kabinet implementaci AI Aktu loni v prosinci překvapivě na ministerstvo práce a sociálních věcí (MPSV).
Šéf resortu Marián Jurečka totiž byl v té době pověřen koordinací digitalizace a nikdo jiný novou agendu nechtěl. Není se co divit: vláda totiž na přípravu regulace nevyčlenila žádné nové zaměstnance ani peníze. Představa, jak AI Akt implementují ve svém volném čase (a zadarmo) zaměstnanci Úřadů práce nebo ČSSZ, může být chvíli i zábavná, pokud si ale neuvědomíme, jak důležitou oblastí umělá inteligence je a že chybějící pravidla mohou například znamenat odliv firem a výzkumníků z Česka.
Ve své bezradnosti vláda vyprodukovala očekávatelný výsledek: koncem letošního května implementaci AI Aktu Jurečkovi odebrala, protože – překvapení! – „kvůli nedostatečným personálním kapacitám nebylo možno tento úkol plnit.“ Agendu si převzalo ministerstvo průmyslu a obchodu (MPO), které si na ni mezitím našlo peníze z vnitřních zdrojů a najalo osmičlenný tým v čele s novým náměstkem Janem Kavalírkem. Teprve pak se věci daly – s téměř půlročním zpožděním – do pohybu.
Účet za regulaci
Na stejném květnovém zasedání vláda jmenovala Kavalírka vládním zmocněncem pro umělou inteligenci a oznámila tři úřady, které dostaly v souvislosti s regulací AI nové pravomoci. Hlavním regulátorem umělé inteligence (tzv. orgánem dozoru nad trhem) vláda stanovila Český telekomunikační úřad (ČTÚ). Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ) se stal orgánem, který bude dohlížet nad institucemi udělujícími certifikace rizikovým AI systémům, a Česká agentura pro standardizaci (ČAS) má postavit tzv. sandbox, kde si firmy budou moci své AI systémy testovat.
Poprvé také zaznělo, na kolik peněz implementace AI Aktu Českou republiku přijde: v letech 2026 až 2028 se počítá s náklady přes 221 milionů Kč. Jde vesměs o peníze určené na nové úvazky, které budou úřady potřebovat. Necelých 37 milionů má MPO najít ve svém stávajícím rozpočtu, zbývajících 184 milionů by úřady měly dostat nad rámec svých rozpočtů. Nejvíc nových míst má logicky získat ČTÚ, na který padne hlavní břemeno regulace: má dohlížet nad dodržováním AI Aktu, hodnotit, jestli provozovatelé AI správně uvádějí rizikovost svých systémů, nařizovat opatření po případných vážných incidentech a podobně.
Jenže: vzhledem k tomu, že Česko dosud nepřijalo příslušný zákon, který ČTÚ dává konkrétní pravomoci, úřad toho zatím v praxi moc dělat nemůže. Například kontroly nebo udělování sankcí firmám, které navzdory nařízení používají AI k některému ze zakázaných účelů (viz. článek 5), je bez zákona vyloučené, konstatoval úřad na dotazy Lupy: „Ode dne 2. srpna 2025 do dne účinnosti implementačního zákona ČTÚ nemůže zahajovat kontroly dodržování nařízení o umělé inteligenci ani za jeho porušení ukládat sankce, neboť podle čl. 2 Ústavy lze státní moc uplatňovat jen v případech, v mezích a způsoby, které stanoví zákon, přičemž podle čl. 79 odst. 1 Ústavy lze působnost správního úřadu stanovit pouze zákonem,“ říká mluvčí ČTÚ Tereza Meravá.
Jde naštěstí nejspíš zatím spíše o hypotetickou možnost zásahu. AI Akt totiž vstupuje v účinnost v několika krocích a ty hlavní pravomoci by měl ČTÚ získat až za rok: „Ke dni 2. srpna 2025 nenabývá účinnosti žádné ustanovení nařízení o umělé inteligenci, nad nímž by měl ČTÚ vykonávat dozor – většina takových ustanovení nabude podle čl. 113 nařízení o umělé inteligenci účinnosti až dne 2. srpna 2026,“ dodává mluvčí.
Až přijde zákon
„ČTÚ se začal na svoji novou roli ihned intenzivně připravovat, mj. zahájil konzultace s experty na danou problematiku, podílí se na přípravě implementačního zákona a navazuje kontakty v rámci přeshraniční spolupráce s orgány Evropské unie a orgány jejích členských států. Aktuálně tyto činnosti vykonávají stávající zaměstnanci, v blízké době se ovšem počítá zejména s přijetím nových expertů na předmětné technologie,“ popisuje Meravá, co už dnes úřad dělá v oblasti AI, která je pro něj zcela nová.
Návrh nového zákona o AI zatím vzniká na ministerstvu průmyslu a obchodu, které na něm spolupracuje s dalšími úřady. Zda Česko stihne normu do srpna 2026 přijmout je velký otazník. Dosavadní zkušenosti s implementací digitálních regulací tomu moc nenapovídají.
Připomeňme, že obdobný implementační zákon k nařízení o digitálních službách (Digital Services Act, DSA), který měl dát ČTÚ jiné regulační pravomoci, dosud neprošel Poslaneckou sněmovnou a v současném volebním období už nejspíš ani nemá šanci. Evropská komise kvůli tomu letos v květnu zažalovala Česko u Soudního dvora EU, takže českému státu za zpoždění hrozí citelná pokuta. Zákon přitom mělo Česko přijmout nejpozději v únoru 2024.
- Chcete mít Lupu bez bannerů?
- Chcete dostávat speciální týdenní newsletter o zákulisí českého internetu?
- Chcete mít k dispozici strojové přepisy podcastů?
- Chcete získat slevu 1 000 Kč na jednu z našich konferencí?
Staňte se naším podporovatelem
ČLÁNKY DO MAILU