V neděli 2. srpna nabývá platnosti AI Act, část pravidel, která přinášejí povinnost transparentně označovat obsah tvořený umělou inteligencí a komunikaci s ní. Povinnost se vztahuje mimo jiné na zákaznické chatboty, asistenty, obrazový i zvukový obsah a uměle vytvořená videa. Společnostem, které příslušné povinnosti poruší, hrozí pokuty až do výše 15 milionů eur nebo 3 % celosvětového obratu.
Česká asociace umělé inteligence k tématice vydala podrobný text. „Evropské nařízení AI Act neříká, že každý AI obrázek, každý AI text nebo každý výstup z chatbota musí dostat viditelnou nálepku. Článek 50 obsahuje pět různých povinností, které dopadají na různé aktéry, v různých situacích a různým způsobem,“ shrnula asociace.
Dva dokumenty, které budou pomáhat v praxi jsou tyto: pravidla Evropské komise k implemetaci povinností transparentnosti a kodex správné praxe pro transparentnost AI generovaného obsahu.
Pravidla v kostce zní takto:
- Označování chatbotů / voicebotů: Pokud člověk přímo komunikuje s AI systémem, musí být informován, že komunikuje s AI. Tato povinnost dopadá na poskytovatele systému.
- Technické označování AI obsahu poskytovatelem: Pokud AI systém generuje nebo manipuluje text, obraz, zvuk nebo video, musí poskytovatel zajistit, aby výstupy byly technicky označené ve strojově čitelném formátu a detekovatelné jako AI generované nebo manipulované. U AI systémů uvedených na trh nebo do provozu před 2. srpnem 2026 platí odklad této povinnosti do 2. prosince 2026.
- Rozpoznávání emocí / biometrická kategorizace: Pokud někdo používá systém pro rozpoznávání emocí nebo biometrickou kategorizaci, musí osoby vystavené tomuto systému informovat o jeho provozu.
- Označování deepfaku: Pokud AI obsah naplňuje definici deepfaku (podobá se existujícím osobám, místům či událostem a může se nepravdivě jevit jako autentický) musí osoba, která jej zveřejňuje, označit, že obsah byl uměle vytvořen nebo upraven.
- Text ve veřejném zájmu: Pokud AI systém generuje nebo manipuluje text, který je publikován za účelem informování veřejnosti o věcech veřejného zájmu, musí osoba, která jej zveřejňuje, označit, že text byl uměle vytvořen nebo upraven.
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí. Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci: podle čerstvých pokynů Evropské komise musí prozradit nejen, že jsou umělou inteligencí, ale i za koho jednají,“ říká advokát Jaroslav Kuba z poradenské společnosti Rödl.
Jasně označený musí být i jakýkoli AI vytvořený či upravený obsah připomínající reálné osoby a události, ať už jde o obraz, zvuk či video (takzvané deepfakes). Takový obsah musí mít i strojově čitelné označení. Pravidla platí i pro reklamní vizuály a produktové fotografie vytvořené AI, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku. Informace musí být srozumitelná a tam, kde k interakci skutečně dochází.
Cílem kroků je zajistit, aby lidé vždy věděli, že komunikují s AI a získávají AI generovaný obsah. Na poslední chvíli vyhlášený digitální omnibus novelizuje AI Act z roku 2024. Ředitel OpenSSL Corporation Anton Arapov upozorňuje, že zatímco část pravidel nyní vstupuje v platnost, ta pro vysoce rizikové AI systémy se posouvají na konec let 2027 a 2028. I to by ale podle něj firmy měly řešit.
„I nově požadované označování AI obsahu je v jádru problém podepisování a ověřování – štítky fungují jen tehdy, pokud jsou autentické, odolné proti manipulaci a ověřitelné,“ komentuje. Kromě posunu některých termínů pro poskytovatele vysoce rizikových systémů, se posouvá zákaz „nudifikačních“ aplikací nebo centralizace dohledu nad velkými hráči prostřednictvím Evropského úřadu pro AI.
ČLÁNKY DO MAILU