V neděli 2. srpna nabývá platnosti AI Act, část pravidel, která přinášejí povinnost transparentně označovat obsah tvořený umělou inteligencí a komunikaci s ní. Povinnost se vztahuje mimo jiné na zákaznické chatboty, asistenty, obrazový i zvukový obsah a uměle vytvořená videa. Společnostem, které příslušné povinnosti poruší, hrozí pokuty až do výše 15 milionů eur nebo 3 % celosvětového obratu.
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí. Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci: podle čerstvých pokynů Evropské komise musí prozradit nejen, že jsou umělou inteligencí, ale i za koho jednají,“ říká advokát Jaroslav Kuba z poradenské společnosti Rödl.
Jasně označený musí být i jakýkoli AI vytvořený či upravený obsah připomínající reálné osoby a události, ať už jde o obraz, zvuk či video (takzvané deepfakes). Takový obsah musí mít i strojově čitelné označení. Pravidla platí i pro reklamní vizuály a produktové fotografie vytvořené AI, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku. Informace musí být srozumitelná a tam, kde k interakci skutečně dochází.
Cílem kroků je zajistit, aby lidé vždy věděli, že komunikují s AI a získávají AI generovaný obsah. Na poslední chvíli vyhlášený digitální omnibus novelizuje AI Act z roku 2024. Ředitel OpenSSL Corporation Anton Arapov upozorňuje, že zatímco část pravidel nyní vstupuje v platnost, ta pro vysoce rizikové AI systémy se posouvají na konec let 2027 a 2028. I to by ale podle něj firmy měly řešit. „I nově požadované označování AI obsahu je v jádru problém podepisování a ověřování – štítky fungují jen tehdy, pokud jsou autentické, odolné proti manipulaci a ověřitelné,“ komentuje. Kromě posunu některých termínů pro poskytovatele vysoce rizikových systémů, se posouvá zákaz „nudifikačních“ aplikací nebo centralizace dohledu nad velkými hráči prostřednictvím Evropského úřadu pro AI.
ČLÁNKY DO MAILU