Vlákno názorů k článku
Od 2. srpna přichází povinné označování výtvorů umělé inteligence, přizpůsobit se musí řada firem od Filip Jirsák - Náhodné falešné příspěvky na sociálních sítích budou označené...

Náhodné falešné příspěvky na sociálních sítích budou označené za generované/mo­difikované AI díky technickým opatřením – datům, která budou součástí generovaného videa nebo fotky. Ta data tam budou vkládat přímo AI nástroje, takže sociální síť si to akorát přečte. Provozovatelé AI navíc musí poskytovat službu, která u nahraného obsahu řekne, zda byl vytvořen s danou AI – na základě obsahu, ne jen na základě metadat. Takže i když někdo odstraní nějaké vrstvy zabezpečení ze samotného obsahu, pořád to odhalí tyto služby.

Jistě, nebude to neprůstřelné, půjde to obejít – ale to už bude vyžadovat nějako znalosti a úsilí. A to je přesně to, co lidé, kteří teď šíří na sociálních sítích falešná videa, nemají.

tohle nařízení míří na ty, kteří ty zákony chtějí dodržovat. Nastavuje jasnou hranici, kdy třeba noviny mohou použít AI obsah, musí to ale vykřičet. Stejně tak jasně říká, že se AI obsah nesmí vydávat za pravý, " ikdyž by to ve skutečnosti takhle opravdu bylo, jen jsem nechtěl utrácet peníze na natočení", což začínají dělat někteří dokumentaristé.

U filmů to je očividný nesmysl, tam se žádný obsah za pravý nevydává, je to celé fikce už z podstaty. Ta informace může zůstat schovaná tak, že není vidět. Nařízení nemluví o tom, že nesmí jít odstranit či musí být s obsahem pevně svázaná. Ten, kdo daný obsah distribuuje za něj nese odpovědnost, to se převážně týká těch, kdo nejsou anonymní, náhodné falešné příspěvky na sociálních sítích to nejspíš nepostihne.

Vyřeší se tím to, že nebude zdaleka tak snadné generovat deep-fake obsah. Bude tam několik vrstev ochrany, takže „prohnat to přes editor“ nebude stačit, abyste se toho označení zbavil. Ta metadata tam musí vkládat přímo nástroje AI, případné vámi vložené označení je až další vrstva.

V 99% si dovolím tvrdit, že nějaký vodoznak nevadí. A u zbytku se alespoň částečně eliminují situace, kdy se na základě vstupní fotografie dal dotyčný třeba zdiskreditovat. Například vytvořit, jak nějaký politik bere drogy a pak to dát do médií. A nemusí jít zrovna o politika.

A co se tím vyřeší? U zvuku mi to nacpe nějaká binární data do souboru aby to bylo strojově identifikovatelné.. to proženu přes editor a nezůstane tam nic. To stejné u videa či obrazu. Pokud mi tam nacpou vodoznak, nebo tu hvězdičku tak ztrácí AI smysl a přestanu platit. Pokud budu muset já uvést, že to je udělané s AI, tak je to asi na stejné úrovni jako dodržování silničních přepisů. Každý to někdy nějak poruší a někdo si z toho nebude dělat hlavu vůbec.