Existuje život po smrti? Kde jsou mimozemšťané? A vzkřísí Ježíš i zpopelněné? Začátkem září se na videoserveru YouTube objevil kanál, který zveřejnil postupně deset videí. Známý astronom a popularizátor vědy Jiří Grygar v nich přednášel o víře v Boha, mimozemském životě a dalších esoterických tématech. Za přibližně pět týdnů kanál nabral přes tisíc odběratelů a zaznamenal přibližně 147 tisíc zhlédnutí.
Ve videích ale nevystupoval skutečný Grygar, nýbrž jeho deepfake klon vytvořený nejspíš s pomocí AI. Známý vědec se tak zařadil na seznam populárních osobností, jejich tvář někdo zneužil k vlastnímu obohacení.
Případ ukazuje, co můžete při zneužití svého obličeje na YouTube dělat a jaké možnosti uživatel má, když se chce před podobnými pokusy chránit.
Rodina nesouhlasí
Na existenci kanálu „Dr. Jiří Grygar vysvětluje“ s podvrženými přednáškami někdo záhy upozornil vědcova syna, novináře Lukáše Grygara. Odkaz na kanál k němu dorazil přes sociální sítě. „Za prvé jsem se extrémně rozčílil, protože vůči takovému používání AI jsem, přiznám se, hodně vyhraněný. Přišlo mi neuvěřitelné, že by to někdo zkusil jen tak na vlastní triko, bez jakékoliv vazby na tátu,“ popisuje Grygar mladší.
Zatímco Grygarův hlas a projev deepfake videa napodobovala velmi věrně, klon dnes devadesátiletého astronomova obličeje měl při bližším pohledu řadu vad. Jednotlivá videa například nebyla konzistentní – v některých byla vědcova tvář „trefená“ lépe, v jiných tolik k poznání nebyl. „Myslím, že každý, kdo se na ně podíval pozorně, si všiml minimálně něčeho divného. Zároveň ale docela chápu, že spoustu lidí zmátla. Zajímavé mi přišlo, že ho videa zachytila tak o patnáct, dvacet let mladšího,“ říká Grygar mladší.
Nejdřív se snažil zkontaktovat autora videí. „V popisu kanálu byla zmínka, že má osobní svolení Jiřího Grygara. To mi hned na první dobrou přišlo jako nesmysl. Ověřoval jsem si to, abych neútočil na někoho, kdo třeba měl nějaký dobrý úmysl. Ale už náhledy jednotlivých videí mi přišly hodně zkušeně clickbaitové,“ vysvětluje.
Vzhledem k tomu, že u videí ani v záhlaví kanálu nebyl žádný přímý kontakt, napsal do diskusí pod několika nahrávkami, že otec ani rodina s publikováním videí nesouhlasí a že požadují zrušení kanálu. „Byl jsem zvědavý, jestli přijde nějaká reakce. Kdyby mi někdo odepsal, že má svolení, třeba bych zjistil, kdo to je, a mohli bychom se spojit a probrat to. To se ale nestalo,“ popisuje.
Hlavní stránka podvodného kanálu Dr. Jiří Grygar vysvětluje na YouTube
Jak nahlásit deepfake video
V diskusích pod jednotlivými videi mezitím přibývaly i další komentáře. Některé vyznívaly tak, že uživatel pravosti videí uvěřil, jiné ji rozporovaly. Když se nic nedělo, rozhodl se syn nahlásit kanál YouTube. Vyznat se v nahlašovacím formuláři, který dává vybrat z řady důvodů, ale nebylo snadné.
„Překvapilo mě, že YouTube nemá možnost nahlásit zneužití ve formě, že AI napodobuje někoho skutečného. Můžete nahlásit jen nápodobu jiného existujícího kanálu, ne konkrétní osoby jako takové,“ říká. Nakonec využil možnost reportovat obecný právní problém (legal issue), která otevřela formulář, kde se dalo hlášení upřesnit. „Dal jsem tam třeba odkazy na skutečná videa s mým otcem na YouTube, aby je mohli porovnat,“ doplňuje.
Do e-mailové schránky vzápětí dorazilo automatické potvrzení přijetí stížnosti. Grygar mladší následně podal na provozovatele kanálu trestní oznámení a na svém profilu na Facebooku vyzval sledující, aby mu pomohli kanál YouTube reportovat. S žádostí o pomoc kontaktoval také Astronomický ústav AV ČR nebo zástupce Českého rozhlasu, pro který externě pracuje. V jednom z videí totiž falešný Grygar přednášel na pozadí zobrazujícím studio jedné z regionálních rozhlasových stanic.
Který z pokusů zafungoval se ani s odstupem času nedá přesně říct. Asi dva dny po akci ale kanál z YouTube zmizel. „Obsah, jehož cílem je vydávat se za jinou osobu, není na YouTube povolen. To zahrnuje mimo jiné použití jména, podoby či hlasu určité osoby s úmyslem se za ni vydávat. Kanál jsme pečlivě prověřili a přistoupili jsme k jeho zablokování z důvodu porušování zásad YouTube týkajících se předstírání jiné identity,“ řekla Lupě mluvčí českého Googlu Alžběta Houzarová. Zároveň připouští, že ji někdo z Českého rozhlasu kontaktoval.
Krátce poté Grygar mladší dostal od YouTube zprávu o vyřešené stížnosti: „Po dalším zkoumání jsme zjistili, že dotyčný obsah už byl ze stránek odstraněn,“ stálo v ní. „Můžete si být jistí, že obsah už není dostupný.“
Screenshot e-mailu od YouTube
Jak funguje detekce podoby na Youtube
Šťastný konec? Ano i ne. Jeden konkrétní kanál z YouTube zmizel, jistotu, že se podobná deepfake videa na videoserveru časem neobjeví znovu, ale známý astronom a jeho rodina nemají. A záruku, že se jim něco podobného nepřihodí, nemají ani další uživatelé.
YouTube sice uživatelům nabízí nástroj na tzv. detekci podoby, který hlídá, jestli se na serveru neobjevilo video zneužívající jejich podobu, funguje ale zatím v betaverzi a má i další háčky. Ten hlavní spočívá v tom, že pro zapnutí ochrany je potřeba mít vlastní účet a kanál na YouTube. Nemusí být sice aktivní, Google nástroj zpřístupní i ve chvíli, kdy si založíte neveřejný kanál určený čistě pro správu detekčního rozhraní, ale bez účtu to prostě nejde.
Uživatel se navíc musí ověřit nahráním kopie svého průkazu totožnosti (občanka, pas, řidičský průkaz nebo povolení k pobytu). Dá se to pochopit: bez ověření totožnosti si server nemůže být jistý tím, že o ochranu žádá skutečný člověk.
Je pravda, že i tato metoda může mít v době, kdy podvodníci s pomocí AI běžně generují napodobeniny oficiálních průkazů, své limity. Při redakčním testu jsme nahrávání průkazu nepodrobili testu spolehlivosti a nepokoušeli jsme se tuto ochranu obejít, protože jsme nechtěli riskovat sankce při případném odhalení.
Podívejte se, jak nastavení detekce podoby na YouTube probíhá krok za krokem:
Selfie video
Dalším problematickým krokem při zprovozňování ochrany je, že uživatel musí natočit krátké video své tváře (případně i s nahrávkou hlasu), ze kterého pak YouTube vytvoří „šablonu“ (hash), kterou automaticky porovnává s nahraným obsahem a detekuje případný deepfake obsah. To je na jednu stranu logické: bez ukázky pravého obličeje by server nebyl schopný poznat uměle vygenerovanou nápodobu. Potřebuje prostě data, ze kterých může vycházet. Ale zároveň uživatel Googlu odevzdává kromě kopie průkazu také vysoce citlivé biometrické údaje.
YouTube v nápovědě každopádně ujišťuje, že selfie video, „šablonu“ a jméno uživatele ponechává ve své interní databázi a nepoužívá je k ničemu jinému než k detekci falešných videí a že data ukládá maximálně po dobu tří let. Případné použití biometrických dat k vylepšování AI modelů musí uživatel při nastavování služby výslovně povolit (ve výchozím stavu je zaškrtávací políčko nezaškrtnuté). I tak ale může být sdílení podobně citlivých údajů rizikové.
Po nahrání fotky občanského průkazu a uploadu videa YouTube několik dní ověřuje, jestli je vše v pořádku. Poté uživateli pošle zprávu o tom, že je ochrana zapnutá. Ve Studiu YouTube se poté na záložce Podobnost (Beta) zobrazí dvě podzáložky. Na jedné (Ke kontrole) se mají zobrazovat videa, kde YouTube detekoval vaši podobu. Na druhé (Archivováno) se pak ukládají videa, která si uživatel po vyřešení uložil.
Stížnost na porušení ochrany soukromí
Videa, která systém označí jako podezřelá, YouTube nemaže automaticky. Uživatel musí takové video ručně nahlásit a vyplnit tzv. stížnost na porušení ochrany soukromí. Ano, čeká ho řada stránek, vyplňování a klikání.
Než server odeslání žádosti umožní, vyzve nejdřív uživatele, aby se pokusil kontaktovat člověka, který dotyčné video na YouTube nahrál a dohodl se s ním. Pak nabídne nahlášení videa kvůli porušení tzv. pokynů pro komunitu (řeší například šíření spamu, nahotu, násilný obsah a další témata). Když projde i tímto rozhodnutím, YouTube mu ještě zobrazí varování, že kdyby náhodou jeho hlášení nebylo pravdivé, může mu server pozastavit jeho účet.
Pokud ho to od podání stížnosti neodradí, v dalším kroku zvolí, co chce vlastně nahlásit. Na výběr je nepovolené sdílení fotky či jména, dalších osobních údajů nebo zfalšování hlasu či podoby. Teprve po této volbě se uživateli zobrazí formulář po nahlášení problému s ochranou soukromí. V něm opět musí vybrat, že někdo pomocí umělé inteligence změnil jeho podobu nebo hlas a vyplnit povinné pole s dalšími informacemi o tom, co bylo pomocí AI změněno.
Po odklidknutí následuje finální stránka hlášení, kde jsou předvyplněné kontaktní informace (pokud je uživatel přihlášen) a další políčka, kde má upřesnit, co vlastně nahlašuje.
Mazání deepfake videí? Jen málokdy
Kromě výše zmíněných rizik je samozřejmě otázkou, jak spolehlivě ochrana funguje. Na internetu nenajdete příliš věrohodných osobních zkušeností uživatelů. A YouTube (potažmo Google) je na informace o praktických výsledcích svého systému skoupý. Podle serveru TechCrunch letos v dubnu firma připustila, že množství odstraněných deepfake videí bylo velmi malé.
Oslovili jsme několik českých autorů, kteří YouTube profesionálně používají k publikování svých videí a mohli by být deepfake videi ohroženi. Jejich zkušenosti přineseme v dalším článku.
- Chcete mít Lupu bez bannerů?
- Chcete dostávat speciální týdenní newsletter o zákulisí českého internetu?
- Chcete mít k dispozici strojové přepisy podcastů?
- Chcete získat slevu 1 000 Kč na jednu z našich konferencí?
Staňte se naším podporovatelem
ČLÁNKY DO MAILU