Jak složité je dnes naklonovat hlas?
V tuto chvíli už je to velice jednoduché. Jsou nástroje, které se dají provozovat na běžném počítači, nebo se dá využít nějaký cloudový nástroj. Kdyby někdo chtěl přijít na to, jak to udělat, tak na YouTube je spousta přímo návodných videí.
Část rozhovoru jsme přepsali do textu, celý si jej můžete poslechnout ve formě podcastu na službách Spotify, Apple Podcast a dalších nebo přímo zde:
Podvodů, které využívají i klonování hlasu, je poměrně hodně. Asi ten nejviditelnější, se kterým se mohli Češi setkat, jsou deepfake videa s Andrejem Babišem nebo Petrem Pavlem. Kterých podvodů patřících do této skupiny je podle vašich zkušeností nejvíc?
To nedokážu říct, protože každý člověk se bude setkávat s trochu jiným druhem podvodů. Kybernetická kriminalita je velice široká a na každého člověka míří nějaký druh. Jiné podvody budou na staré a opuštěné lidi, další na mladé muže nebo na mladé ženy.
Takže podvody je možné zacílit na určitou skupinu?
Ano. Používají se jiné příběhy, jiné technologie. Časté jsou třeba různé investiční podvody, které cílí převážně na mladé muže, kterým podvodníci nabízí rychlé zbohatnutí nebo nějakou formu rychlého zbohatnutí. Na starší lidi míří spíše podvody typu falešný bankéř, kdy oběti někdo zavolá a tvrdí, že jí někdo napadl účet a je potřeba, aby své peníze někam uklidili, zabezpečili. Rozehraje se pak větší příběh, v němž hraje svou roli víc lidí, a většinou to končí třeba tím, že oběť vybere své peníze z účtu a jde je vložit do bitcoinmatu.
Jádro těch podvodů je ale stejné, tedy dostat se oběti do počítače a následně jí vyluxovat účet.
Abyste někomu ukradl peníze, tak ani nepotřebujete ovládnout jeho počítač. Pokud se jedná o ten podvod falešného bankéře, tak oběť vám své peníze donese sama. Spíš, jak se na to můžeme koukat, je zde spojující prvek, že zločinci to dělají za účelem zisku.
Zmínil jsem falešná videa s Andrejem Babišem, případně jinými politiky. Jak hodně je složité něco podobného dnes udělat? Ptám se, protože ta videa pořád vypadají trošku amatérská. Hlas třeba není zcela synchronizovaný s tím, jak někdo otevírá na videu ústa.
To je velká otázka, proč to ti zločinci neudělají kvalitně. Nástroje k tomu přitom už dávno existují. Deepfake videa by mohla být na výrazně vyšší úrovni, takže by bylo velice těžké je rozpoznat od skutečných záběrů. A proč to zločinci dělají v tak nízké kvalitě? Možná si s tím prostě nechtějí dát tu práci. Někdo říká, že je to schválně, protože i při větší kvalitě by jim stejně na to část lidí neskočila, a oni by s tím přitom měli víc práce.
Podvodníkům nejde o to, aby je někdo poplácal po zádech, jak udělali dokonalý trik. Jim jde o to, aby získali co nejvíc peněz za co nejméně úsilí. A až ve chvíli, kdy současná kvalita nebude stačit, se posunou o krok dále. Ukazují to ostatně některé případy, které se už také objevily. Na začátku roku se třeba objevil případ, kdy jeden zaměstnanec nadnárodní firmy poslal v přepočtu přes půl miliardy korun podvodníkům na základě velice sofistikovaného podvodu. Účastnil se videomeetingu, kde byli všichni účastníci setkání včetně členů představenstva falešní. On byl jediná skutečná osoba, tedy kromě podvodníků. Všechno bylo prostě nahrané. Takže pokud jde o podvod za půl miliardy, tak se evidentně vyplatí dát si s tím tu práci.
Existují nějaké odhady, jakou škodu tyhle podvody už způsobily, ať už v České republice, nebo celosvětově?
Určitě jsou, teď si ale vzpomenu asi jen na report za minulý rok od jednoho oddělení americké FBI. Tam ty podvody byly v řádech miliard dolarů. A to se jedná jen o nahlášené podvody. Takže celosvětově to bude určitě výš.
Jak zločinci využívají AI k podvodům vůči firmám. Podívejte se na video Martina Hallera:
Většina firem se útokem moc nechlubí. Vy jste ale na naší nedávné konferenci zmiňoval případ slovenské společnosti GymBean, jejíž majitel před několika měsíci zveřejnil, že se jeho kolegu snažil někdo podvést s pomocí digitálně vytvořeného avatara. Jak to přesně probíhalo?
To nebyl ojedinělý případ. Podvodníci prostě přišli na to, že můžou využívat deepfake videa nebo digitálně vytvořená videa, která napodobují reálnou osobu. Vytipují si nějakého zaměstnance, který je dostatečně vysoce postavený a může provádět i nějaké platební transakce. Osloví ho přes nějaký mimofiremní kanál, zpravidla se jedná o WhatsApp, a jejich cílem je, aby ho dostali na nějakou videoschůzku třeba na Zoomu nebo Teamsech.
Na schůzce pak využijí falešné video majitele nebo generálního ředitele společnosti, přičemž schůzky se účastní i nějaká třetí osoba. Generální ředitel nebo někdo, koho ten zaměstnanec zná a kdo je pro něj autoritou, následně z předtočeného videa představí tu třetí osobu a řekne, že je to třeba právník, účetní nebo někdo z auditorské firmy, kterému musí ten zaměstnanec poskytnout součinnost.
Pak se ten majitel nebo šéf prostě ztlumí, vypne si kameru s tím, že má třeba nějaký další meeting nebo že bude jen pasivně poslouchat. A dál už jednání vede ta třetí osoba, což je ve skutečnosti živý podvodník. Je to legitimní scénář, který zřejmě funguje, jak ukazuje i případ, při kterém dříve zmíněná nadnárodní firma zaplatila těch víc než půl miliardy korun.
Co dalšího v rozhovoru zaznělo?
- Jak složité je udělat falešné video s konkrétním člověkem
- Jaké podvody, které využívají klonování hlasů, se už objevily
- Jak složitá je změna naklonovaného hlasu v reálném čase
- Jak se bankovní instituce nebo firmy snaží bojovat proti novým podvodům využívajícím umělou inteligenci
- Jak probíhá zneužití mobilního čísla a jak toho podvodníci využívají
Celý rozhovor si můžete poslechnout ve formě podcastu na službách Spotify, Apple Podcast a dalších nebo přímo zde:
V podcastu, který běží od poloviny roku 2018, zpovídáme zástupce české e-commerce, IT scény, mediálních domů i osobnosti z dalších souvisejících oborů. Naposledy jsme mluvili třeba s Pavolem Rusnákem ze SatoshiLabs nebo s Markem Rosou, zakladatelem společnosti GoodAI.
Podcast serveru Lupa.cz najdete na všech hlavních platformách: Apple Podcasts,Spotify nebo PodBean. Sledovat můžete i náš kanál na YouTube.
Chci odebírat newsletter
