Roman Horáček (Vrchní soud): AI ohrožuje důvěru v justici, ale i tak myslím, že její pozitiva převažují

Zeptám se na to ještě jinak a využiji další citaci ze zmíněného rozhovoru pro Hospodářské noviny. Tehdy jste říkal, že vaši kolegové tvrdí, že by důkaz vytvořený AI poznali. Uplynul zhruba rok a půl, změnili už názor, nebo si to pořád myslí?

Důvodem, proč jsem se vůbec začal zabývat vlivem umělé inteligence a digitalizace na justici, byla právě tato otázka a odpověď kolegů, která padla v přátelské debatě při obědě. Nebylo to myšleno nijak sofistikovaně, ale trápilo mě to, tak jsem otázku položil. Když jsem slyšel odpověď, říkal jsem si, že je to špatně a že se s tím musí něco dělat.

To byl zaprvé důvod vzniku centra, o kterém jste hovořil, protože jsem ty obavy sdílel. Zvlášť v trestním řízení to může mít obrovský vliv na lidské osudy, základní práva a lidskou důstojnost obecně. Zadruhé jsem pochopil, že jde o velký problém a že pokud k němu budeme přistupovat tímto způsobem, nedopadne to dobře.

Ptáte-li se, co se změnilo, pak se to změnilo i díky tomu, že jsme v rámci Centra pro digitalizaci a AI v justici zorganizovali školení na profesionálních nástrojích. Těm, kdo měli zájem, jsme vysvětlovali možnosti a dopady těchto technologií. Osvěta byla první krok a podle mého názoru přinesla nejen to, že lidé jsou dnes opatrnější, ale také to, že se o téma více zajímají. Zajímají se nejen o zneužití technologií, ale i o jejich využití. Dnes mám například kolegy, kteří si pomocí vibe codingu vytvářejí aplikace usnadňující práci, a mám z toho velkou radost. Vidím v tom pozitivní výsledek naší snahy.

Má v justici šanci využití nástrojů na detekci falešných videí a fotografií? Je jasné, že i tyto aplikace mají omezení, protože výsledky jsou dnes tak dokonalé.

Nedávno jsem byl na právnické fakultě na konferenci k dokazování, protože právě o tomto problému se bavíme. Řešilo se tam postavení znalců, tedy situace, kdy znalci dostanou od soudu úkol odpovědět, zda je listina, fotografie nebo video pravé, nebo zda bylo nějakým způsobem pozměněno. Odpověď znalců, s nimiž jsem tam mluvil, byla paradoxní: dnes se dostávají do situace, kdy odpověď není ano, nebo ne, ale také nevím.

Podle mého názoru dnes neexistuje jednoduché řešení, které by fungovalo jako jednička nebo nula, ano nebo ne. Takovou technologii nemáme. Musíme se s tím vypořádat buď procesně, tedy úpravou předpisů upravujících řízení před soudy, nebo preventivně. Jako příklad vždy uvádím řešení některých států, které nesměřuje k tomu, jak věc řešit, když už nastala, ale k prevenci.

Například některé soudy v některých státech, typicky v Singapuru, mají ustanovení, které říká: zneužiješ-li tento nástroj při dokazování, všechny úkony, které jsi vůči soudu učinil, budou vykládány ve tvůj neprospěch. Samozřejmě je to teorie. Můžete namítnout, že pokud se na to nepřijde, efekt to nemá. Má to ale preventivní účinek a funguje to jako určitá morální brzda například vůči právním zástupcům účastníků.

V současné době podle mě neexistuje žádný stoprocentně dokonalý technický prostředek, do kterého bychom důkaz vložili a on nám řekl, zda je pravý, nebo ne. Tak svět nefunguje.

Jak to podle vás bude vypadat v budoucnu? Co se bude dát použít jako důkaz, ať už v trestních, nebo civilních věcech? Dovedu si představit, že v civilních věcech budou nově vzniklé dokumenty teoreticky muset být označeny nějakým fingerprintem nebo příznakem. Bude to ale skutečná garance, že doklad je pravý?

Nebude. Samozřejmě, že nebude. Problém je v tom, že my se k listině dostáváme většinou až ve chvíli, kdy už existuje spor. Autorizace se přitom musí řešit v okamžiku vzniku listiny nebo fotografie.

Fingerprint, vodoznak nebo metadata, která dnes lze snadno změnit, ale už nikomu nestačí. Prakticky všechno lze dodatečně pozměnit. Musíme najít nástroj, který dokument zabezpečí už v době jeho vzniku, pokud má být později použit v dokazování. Jenže když uzavíráte například kupní smlouvu, obvykle nepředpokládáte, že se budete později soudit o nemovitost. Řešíme tedy příčinu a následek. Všechny dnešní technické možnosti fungují ve fázi vzniku dokumentu: musím do něj vložit kód, který bude autorizovatelný a později ověřitelný. Tím se ale trochu dostáváme do situace, kdy chytáme kočku za ocas. Když důkaz soudu předkládáme, v době jeho vzniku jsme často vůbec nevěděli, že spor nastane.

Když si dnes někdo jde koupit rohlíky do samoobsluhy, také k tomu nepřipojuje digitalizovaný nástroj, který by autorizoval kupní smlouvu, přestože i nákup rohlíků je kupní smlouva. Autorizujeme třeba platbu, ale ne samotné uzavření závazku. Proto si myslím, že žádné jednoduché řešení neexistuje.

Jediné řešení, ke kterému se znovu vracím, je prevence. Společnost si musí uvědomit, že když to budou dělat všichni, systém přestane fungovat, a soudů se to týká primárně. Představte si, že obě strany začnou předkládat zfalšované důkazy a my je nebudeme umět odhalit. Pak se spor nezmění v debatu o obsahu listin, tedy o tom, co se stalo, ale v souboj znalců o to, zda jsou listiny pravé.

Představte si, že přijdete k soudu a řeknete, že všechno předložené protistranou je podle vás zfalšované. Protistrana bude muset dokazovat, že to pravda není, a zároveň udělá totéž vůči vám. Výsledkem bude, že se u soudu vůbec nedostanete k podstatě věci a budete řešit jen pravost listin. Tudy cesta vést nemůže. Soudní systém by se tím zahltil a vznikaly by tisíce znaleckých posudků, u nichž znalci možná dospějí k závěru, že nevědí.

Jak jsem říkal na začátku, ohrožuje to důvěru v justici. Jsem o tom přesvědčen. Tyto nástroje znevěrohodňují celý systém, a nejen justiční. De facto se to týká všech oblastí života. Dnes můžete změnit audionahrávku, můžete někomu poslat žádost o peníze. Denně slyšíme v televizi a rádiu, kolik lidí přišlo o peníze, protože jim zavolala nebo napsala údajná dcera, vnučka či matka a požádala je o finanční hotovost. Oni na základě hlasového záznamu peníze poslali.

Nebuďme tedy naivní a nemysleme si, že když tomu podléhá běžná veřejnost, nemohou tomu podlehnout soudci. Tak to není. Riziko možná bude menší, protože justiční systém je sofistikovanější a odolnější než běžná populace, ale určitě existuje.

Pojďme k pozitivům, i když se to bude částečně prolínat i s negativy. Nejprve mě zajímá, jak AI používáte vy sám. Zmínil jste, že někteří soudci ji už používají. Jak je to ve vašem případě?

Používám běžné jazykové modely v různých variantách. Nejčastěji asi ChatGPT. Záleží na typu úlohy. Podle ní volím jednotlivé modely. Používám je k přípravě a zpracování podkladů pro rozhodnutí. Samozřejmě je tu zásadní omezení: soudní řízení není v tomto smyslu veřejné a podklady použité pro rozhodnutí nejsou veřejné, takže je nelze přímo vkládat do jazykových modelů.

Pomáhá to ale v tom, že si z podání vyberete určitou myšlenku a konzultujete ji s modelem jako s partnerem. Tam jsou podle mě možnosti velké. V mnoha případech mě to navede na něco, co by mě běžně nenapadlo, tedy na způsob řešení problému, o němž bych jinak neuvažoval. Nepoužívám to tak, že by to pracovalo za mě. To určitě ne. Pomáhá mi to ale při shromažďování informací a rozšiřování rozhledu, který člověk pro rozhodování potřebuje.

Z administrativního hlediska používám běžné nástroje k opravám, shrnutí a přepisům záznamů. Když potřebuji v audionahrávce vyhledat určitou informaci, neposlouchám ji tři hodiny sám, ale dám ji nástroji, aby ji prošel a našel mi například, zda byla vznesena určitá námitka. Člověk to samozřejmě musí kontrolovat. Paradoxně se s digitalizací justice všechno přesouvá z papíru do audionahrávek. Pokud je v odvolacím řízení námitka některé strany, že něco při jednání zaznělo nebo nezaznělo, musíte si záznam poslechnout. Dříve to znamenalo nasadit si sluchátka a tři hodiny bedlivě poslouchat každé slovo. Tady se tato práce může výrazně usnadnit.

Zmínil jste právo na lidského soudce. Dovedete si přesto představit, že by v některých věcech mohla rozhodovat umělá inteligence? Například u pokut na základě automatických systémů?

Když jsem mluvil o právu na lidského soudce, šlo právě o otázku, kde je hranice. V civilizovaném světě podle mě nikdo nepochybuje o tom, že část lidské práce převezmou stroje. Otázka je, kde má být hranice. Nepochybně nemůže být tam, kde jde o otázky viny a trestu. V trestním řízení to vždy musí zůstat na člověku, protože osobní kontakt s obžalovaným je nutný. Soudce nerozhoduje jen podle listin, ale také podle toho, jaké jsou například možnosti nápravy obžalovaného, pokud ho odsoudí. I to bere v úvahu.

Naopak u tabulkových situací, jak jste zmínil, tedy například u pokut v přestupkovém řízení, nevidím důvod, proč by to nemohl dělat stroj. Mám dojem, že se to už dnes v určité podobě děje. Jsme v Praze, tak použiji pražskou realitu: u pokut za špatné parkování nebo nezaplacení parkovacího poplatku jsem si všiml, že na výzvách je napsáno, že je zpracovává „robot 01“. Je tedy vidět, že jde o strojové zpracování. Neříkám, že prostřednictvím umělé inteligence, ale strojově zpracované to nepochybně je.

Vytváříme tím trochu situaci, kdy to reálně dělá robot, ale nakonec je pod tím někdo podepsaný. To je správně, protože kontrola lidského prvku tam být musí. Otázka je, zda ho lze někde úplně vynechat. U jednodušších věcí je ve světě běžné, že například soudní řízení do nízké částky probíhá jinak. Když je spor o pět set korun a rozhoduje ho soud, tedy velký dům plný lidí, kde se topí, jsou tam placení zaměstnanci a soudce, efektivita je nízká.

Stojí za úvahu, zda by se takové věci nemohly dělat formou online korespondence. Člověk by nemusel fyzicky chodit k soudu, ušetřil by on i stát. V některých systémech, například v Kanadě, existují pro bagatelní spory online řízení. Můžete si vybrat: buď půjdete k soudu, což je dražší, nebo věc proběhne online. Vyplníte formulářovou žalobu, dostanete odpověď e-mailem, a pokud nesouhlasíte, můžete se odvolat. Tím už se ale dostáváte do systému, který je dražší, náročnější a robustnější, tedy do klasického systému soudního řízení.

Myslím si, že v souvislosti s novými technologiemi by stálo za to zamyslet se nad současným systémem obecně. Nejen nad negativy a pozitivy AI, ale i nad tím, zda je nutné, aby se s každou jednoduchou věcí chodilo fyzicky k soudu, seděl tam soudce a všichni jezdili přes půl republiky. Možná by v některých věcech stačila videokonference nebo chat prostřednictvím technologií, které v běžném životě normálně používáme.

Trochu jsme se odklonili od umělé inteligence, ale to vůbec nevadí. Zeptám se ještě na jeden aspekt, který se hodně zmiňuje v zahraničí: zda se umělá inteligence může používat při vyhotovování rozsudků, ať už v civilním, nebo trestním řízení. Je to v českém zákoně nějak zakotveno, omezeno nebo upraveno?

Jediná úprava, která tady je, se týká řízení před soudy. Řízení před soudy je sice veřejné, ale tím se myslí veřejné projednání věci. Podklady, které jsou součástí soudního spisu, jsou dostupné jen účastníkům řízení, případně v některých vyjmenovaných případech i třetím osobám. Abych to řekl přesně: nejsou dostupné obecně.

Ani soudce by tedy tyto podklady neměl vkládat do běžných chatů. Důvod je jednoduchý: data se mohou někde objevit. Všichni víme, že když něco vložíme do chatu, vlastník nebo provozovatel daného nástroje může s daty určitým způsobem zacházet. Zaprvé je to v rozporu s GDPR, obecně řečeno s evropskými předpisy, a zadruhé s aktem o AI. To je určité omezení.

Neznamená to ale, že nelze využívat lokální modely. Může jít o on-premise řešení nebo klasický lokální model, který poběží někde na infrastruktuře soudu. Obecně řečeno nepůjdou informace ven do internetu a k tomu se AI využívat může. Využití umělé inteligence tedy určitě má budoucnost, ale s omezeními, o nichž jsem hovořil.

Mělo by být dopředu deklarováno, že rozsudek byl zpracován s pomocí umělé inteligence?

Když se dnes podívám do právních systémů, které používám jako soudce, tedy do komerčních systémů typu ASPI, Codexis, C. H. Beck a dalších, už dnes některé nástroje umělé inteligence obsahují. Když tedy použiji oficiální nástroj, s nímž pracuji, může už obsahovat prvky AI a chat může být součástí systému. Právě se řeší, zda je možné do těchto komerčních systémů vkládat i interní údaje.

V každém případě s tím už dnes pracujeme. Nemyslím si proto, že deklarace v rozhodnutí, že bylo zpracováno prostřednictvím umělé inteligence, problém vyřeší. Jde o osobní odpovědnost člověka, který pracuje s daty, a o osobní odpovědnost soudce. Zjednodušeně řečeno: pokud soudce nebude mít dostatek sebekontroly a použije nějaký nástroj, který najde, a vloží do něj podklady, bude to špatně. Tak by to být nemělo. AI by měla pomáhat, ale konečné rozhodnutí musí být skutečně na člověku, který ho vydává, zvlášť v trestním řízení.

Je tu také problém halucinací, protože model si může věci vymýšlet. Máme příklad, tuším z loňského prosince. Netýkal se soudce, ale advokáta, který si s pomocí umělé inteligence zpracoval odvolání, tuším k Ústavnímu soudu. Model mu vyprodukoval řadu věcí, které v judikatuře nikdy nezazněly. Ústavní soud při té příležitosti řekl, že se případ zbytečně zkomplikoval, protože dohledávání neexistujících judikátů vyžadovalo obrovské množství lidské práce. Hrozí zaplevelení soudního systému, pokud by to advokáti začali používat ve velkém? Tím se jich samozřejmě nechci dotknout.

To, že to advokáti budou používat, je správně. To je potřeba říct hned na začátku. Otázka je, jak jsme na to dnes připraveni. Na straně advokáta může být vysoce sofistikovaný nástroj. Halucinují nejen stroje, ale i lidé. Občas se také spletete a uděláte chybu, takže samotná existence chyby mi nepřipadá zásadní. Lze ji omezovat promptováním a využíváním sofistikovanějších nástrojů. Na složitější práci asi nepoužiji běžný chat, ale specializovaný nástroj.

Tomu, že s těmito nástroji budeme pracovat, se nevyhneme. Pokud jde o Ústavní soud, ten řešil otázku, která se nepochybně bude muset řešit dál: na jedné straně bude advokacie disponovat vysoce kvalifikovanými nástroji pro zpracování podání, na druhé straně bude soudní systém, který na to není připraven. Není připraven na to, aby si jednoduchým způsobem ověřil, zda údaje v podání jsou pravdivé a vycházejí ze skutečných judikátů.

Dnes to děláme tak, že opíšu číslo, vložím ho do právního systému, například ASPI, Codexis nebo C. H. Beck, a zjistím, zda rozhodnutí existuje. Ani tomu se ale nedá vždy zcela věřit, takže musím jít dál. Stojí to obrovské množství práce. U každého judikátu, který někdo věcně cituje a odkazuje se na něj, musím zjistit, zda existuje, a potom také to, zda obsahově patří k věci.

Některé státy to řeší tak, že pokud podatel pracuje s judikaturou veřejně dostupnou v elektronických zdrojích, musí uvádět hypertextový odkaz. Soudce pak s digitálním materiálem pracuje úplně jinak. Nevyhledává spisovou značku v jiném systému, ale klikne na odkaz a hned vidí, zda rozhodnutí existuje a zda obsahově odpovídá. To práci výrazně usnadní.

Znamenalo by to jen doplnit procesní předpisy tak, aby ten, kdo podání píše a pracuje s konkrétním rozhodnutím, odkaz do podání vložil. Tato zdánlivá marginálie nepřidělá zásadní práci tomu, kdo podání zpracovává, ale výrazně ulehčí práci soudu. Soudce by pracoval s digitálním obsahem provázaným se zdroji a nemusel by každý zdroj ověřovat v jiném systému. Taková úprava existuje například v některých státech USA a výrazně zjednodušuje proces. Vrátila by nás do digitalizovaného světa. Když dnes někomu posíláte nabídku, nikdo se nediví, že výrobek nepopisujete podrobně, ale vložíte odkaz na stránky s technickými parametry. Proč by to nemělo fungovat stejně v právu? Tady vidím velkou mezeru, spíše legislativní než věcnou.

Nedávno jste na Vrchním soudě spustili několik nástrojů umělé inteligence, které mají ulehčit práci soudcům, mimo jiné zajistit konzistentní rozhodování a zpřístupnit informace. Co přesně tyto systémy umí?

Všechny systémy, o nichž mluvím, s výjimkou jednoho, jsou ve fázi proof of concept. Jsou to určité úvahy a testy. Chtěli jsme si zaprvé vyzkoušet, zda o ně uživatelé vůbec stojí, protože jedna věc je naše představa a druhá představa reálných uživatelů. Zadruhé jsme chtěli zjistit, zda se podaří překlenout právní překážky, které jsou v takových případech podstatné, tedy například akt o AI, GDPR a podobně.

První projekt, který už je v realizované fázi a nejde o proof of concept, ale o produkční verzi, je databáze rozhodnutí vrchních soudů. Do současné doby nebyla rozhodnutí vrchních soudů veřejně dostupná v anonymizované podobě. Vložili jsme do ní všechna rozhodnutí od roku 2020 včetně historických dat zpětně a jsou k dispozici veřejnosti v anonymizované podobě. Kdokoliv si tedy může najít jakékoliv rozhodnutí, i takové, které se na první pohled může zdát nepodstatné, třeba k zaplacení soudního poplatku. Věcně možná nikoho nezajímá, ale člověka, který soudní poplatek platí, zajímá, jak to má udělat. I obsahově nenáročná rozhodnutí tak mohou být důležitá.

Zároveň jsou rozhodnutí dostupná soudcům v neanonymizované podobě. Je to jedna databáze se dvěma rozhraními: jedno pro soudce a jedno pro veřejnost. Soudce pracuje s plnotextovými neanonymizovanými rozhodnutími. Když mi přijde na stůl nějaký problém, mohu se nejprve podívat, zda ho už přede mnou neřešil někdo jiný. Pak mohu posoudit, zda jeho názor chci použít, nebo nechci. Má to zabránit zbytečnému vynakládání práce na něco, co už někdo přede mnou udělal. Zároveň mi to může rozšířit možnosti a ukázat, že touto cestou postupovat nechci a zvolím jinou. Podle mého názoru to povede ke sjednocování a zkvalitňování rozhodování, možná i ke zrychlení řízení.

Mluvíte o všech vrchních soudech, tedy i o olomouckém obvodu?

Přesně tak. Nechci teď mluvit za Vrchní soud v Olomouci, ale databáze je na to připravená a pracuje s oběma možnostmi. Oba soudy do ní mohou vkládat data a záleží na úvaze konkrétního soudu, v jakém rozsahu to bude dělat. My jsme se rozhodli vkládat všechna rozhodnutí. Pokud vím, Vrchní soud v Olomouci už tam některá rozhodnutí také má, protože jsem obsah databáze kontroloval. Nejsem si ale zcela jistý, jak má strategii zveřejňování nastavenou.

 Pořád se bavíme o vrstvě vrchních soudů. Okresní, obvodní a krajské soudy jsou něco jiného. Paradox byl v tom, že jste měli k dispozici rozhodnutí okresního soudu a prvostupňové rozhodnutí krajského soudu, ale neměli jste konec, tedy rozhodnutí odvolacího soudu. V obchodních nebo korporátních věcech je to často vrchní soud, což je agenda zajímavá pro byznys a podnikatele: závazky, směnky, korporátní věci, fúze, valné hromady, smlouvy o dílo a kupní smlouvy. K tomu jste se dříve často nedostali. V některých případech jste se k věci dostali až v dovolacím řízení u Nejvyššího soudu, ale ten už neřeší skutkové otázky, tedy co se stalo, nýbrž jen otázky právní. Tady byl velký handicap a ten se podařilo napravit pro oba vrchní soudy, tedy pro Čechy i Moravu.

Další dva projekty jsou skutečně ve fázi proof of concept. První je jakási poradna pro občany. Vznikla jednoduše z poznání, že když hledáte informaci na stránkách státu, často ji nenajdete, protože nevíte, kde ji hledat. Vytvořili jsme nadstavbu ve formě chatbotu, říkáme mu Čenda. Nedělá v podstatě nic jiného, než že informace hledá za vás. Projede oficiální stránky gov.cz nebo justice.cz a vyhledá relevantní informaci. Zatím jsme ho omezili na civilní věci, rodinné věci, péči o děti, rozvody a podobnou agendu, protože jsme ji pro běžného občana považovali za nejdůležitější. Ve druhé fázi se řeší, zda připojit i trestní právo, což je složitější, protože úvaha o trestu není černobílá.

Třetí produkt, který je ve fázi vývoje a testování mezi soudci, se týká přípravy rozhodnutí. Pracovně tomu říkám buď iSoud, nebo iSoudce. V podstatě dělá to, že rozhodnutí a podklady, které má soudce k dispozici ve spise v digitální podobě, většinou v PDF souborech nebo v datových zprávách, může do nástroje vložit a on mu připraví podklad pro rozhodnutí. Ne samotné rozhodnutí, ale přípravu. Připraví popisnou část, tedy co se stalo. Paradoxně je to největší část práce, protože jde o administrativu: v rozhodnutí je často několik stran jen o tom, kdo co podal, co chtěl a co k tomu řekl druhý účastník.

Nástroj tato podání sesumarizuje a vytvoří klasický soupis. Popíše, co se stalo a co kdo uvedl, pohlídá správné rody, žalobce, žalovaného či žalovanou, a dá text dohromady tak, aby byl česky správně. Dnes to dělá buď asistent, nebo soudce. Nejvíce kvalifikovaní lidé v justici tak často dělají nejméně zajímavou práci, tedy čistě administrativní přepisování. Tento nástroj to má ulehčit.

Ve druhé fázi by měl nástroj připravovat také argumenty pro soudce. Tam je problém v tom, že rozhodovat nesmí čistě stroj. Vždy musí zůstat zachována úvaha soudce. Proto řešíme, jak zajistit, aby soudce musel stroji vždy dát pokyn a nebylo to tak, že mu stroj sám nabídne variantu konečného řešení.

To, o čem mluvíte, je jen věcí Vrchního soudu v Praze, nebo do toho vstupuje i Centrum pro digitalizaci a AI v justici, které jste založil?

Protože jsem, jak už jsem říkal, byl u vzniku centra, je to primárně na jeho bedrech. Neobejde se to ale bez kooperace s Vrchním soudem v Praze ani s Ministerstvem spravedlnosti. Chtěl bych říct, že ze strany ministerstva máme velkou podporu. Technické zajištění, kyberbezpečnost a justiční systémy jsou velmi sofistikované a složité, aby nedošlo k narušení bezpečnosti celého systému. Podpora tu je a v poslední době se výrazně změnila.

My jsme do určité míry převzali iniciativu. Dáváme dohromady požadavky od uživatelů a poté spolupracujeme jak s Vrchním soudem v Praze, což je můj mateřský soud, a proto je přirozené, že se věci testují právě tam, tak s Ministerstvem spravedlnosti. Konkrétně za podpory ministra, pana náměstka i odboru informatiky dochází k testování a nasazování systémů.

Funguje to tak, že máme myšlenku ve formě proof of concept, ale je jasné, že se neobejdeme bez orgánu státní správy, v tomto případě Ministerstva spravedlnosti, protože na jeho systémech to bude běžet. Nemůže to běžet někde v improvizovaném nebo nezabezpečeném prostředí. Na tom si to můžeme zkoušet, ale v reálném provozu to musí být nasazeno na zabezpečených systémech. Bez kooperace mezi státní správou a soudy se to určitě neobejde.

Na závěr si dovolím odskočit k trestnímu právu, přestože se specializujete na průmyslová práva a civilní věci a na Vrchním soudě v Praze máte na starost civilní úsek. Zajímá mě váš názor na novinky, které platí od ledna letošního roku. Mám na mysli nový trestný čin zneužití identity k výrobě pornografie a jejímu šíření a také rozšíření trestného činu poškození cizích práv. Pomůže to podle vás policii v postihování takového chování?

Určitě to pomůže, protože předchozí úprava absentovala a nahrazovala se jinými ustanoveními. Je správné, aby bylo jasné, že nemohu použít nástroj k tomu, abych digitálně svlékl spolužačku, poslal fotku dál a lidé si uvědomili, že se to nedělá a že je to dnes trestné.

Otázka je, zda je to dostatečné. Represe a trestní právo jsou až na konci řetězce. Trestní právo neslouží k běžné úpravě chování lidí, ale k řešení extrémních situací. Když si děti ve škole stáhnou aplikaci a budou takové věci dělat, pravděpodobně je nechceme z hlediska represe trestat nástroji trestního práva. Proto bychom měli mít i jiné způsoby řešení.

Jedním ze způsobů, který se ve světě využívá, není jen úprava trestního práva, ale úzká spolupráce státu s poskytovateli nástrojů, aby něco takového vůbec nešlo v daném systému udělat. V tom podle mě máme prostor. Nechci říkat, že zaostáváme, protože zaostávají v podstatě všechny evropské státy a řeší se to na úrovni Evropské unie. Myslím si ale, že tady je mnohem větší pole působnosti a výsledek by byl lepší.

Trestní represí postihnete pět, deset, možná i méně procent případů, a ještě jen těch extrémních. My ale potřebujeme řešit i běžné případy. Ideální je, aby člověk, který to chce udělat, to vůbec nemohl v systému provést. V tom podle mě celá Evropa zaostává. Je trochu ve vleku Ameriky, kde je přístup volnější, ale evropské chápání práva je jiné. Měl by být větší tlak státu na provozovatele těchto systémů.

Znovu se tedy vracím k prevenci. Myslím si, že je mnohem účinnější diskutovat s provozovateli, nastavovat jim pravidla dopředu a nečekat, až vznikne problém, který se pak začne řešit trestním právem. To problém nevyřeší. Zavřít někoho za čin, který lze běžně udělat, nestačí. Ten člověk to možná neudělá vědomě, možná si neuvědomí dopady ani to, že je takové jednání trestné.

A tím se vracím úplně na začátek. Tyto nástroje jsou dnes na rozdíl od minulosti lehce dostupné za relativně nízkou cenu. U deepfakeů, kterými jsme náš rozhovor začali, je zásadní rozdíl v tom, že jsou dostupné úplně obyčejnému občanovi. Každý si může za deset dolarů koupit aplikaci, která to bravurně zvládne. To dříve nebylo.

Když přemýšlím, jak rozhovor na závěr shrnout, začali jsme poměrně výrazně negativy. Z toho, jak o tématu mluvíte, ale vyplývá, že vize nemusí být tak negativní, jak by se na první pohled zdálo. Co si o tom myslíte? Čeká nás spíše negativní, nebo pozitivní budoucnost?

Shrnu to jednoduše. Jsem opatrný optimista. Technologie, o které se bavíme, tu je a zůstane s námi, i kdybychom nechtěli. V historii už mnohokrát došlo k technologické změně. Rozdíl je v tom, že tato změna je výrazně rychlejší. Musíme se jí přizpůsobit a zvlášť v justici na ni reagovat.

Nemůžeme čekat, že se něco stane samo, jako tomu do určité míry bylo při přechodu od psacích strojů k počítačům. Musíme tomu jít naproti a šanci využít. Obrovský úspěch by pro mě byl, kdyby se justice posunula z papírové do digitální doby, ale ne jen tak, že budeme mít dokumenty v PDF. Měla by se posunout do doby, která už skutečně využívá umělou inteligenci.