Hlavní navigace

Marcel Kolaja (Piráti): Evropská komise chce zavést plošné šmírování, proti zneužívání dětí online přitom jde bojovat jinak

3. 6. 2022
Doba čtení: 7 minut

Sdílet

 Autor: Piráti
Lze proti zneužívání dětí v online prostoru bojovat i jinými prostředky než skenováním soukromých zpráv? A v jakém stavu jsou další chystané evropské regulace online prostředí?

„Mám velký principiální problém s tím, že abychom chytili malé procento lidí, kteří páchají nelegální činnost, chceme plošně sledovat úplně celou populaci,“ říká o návrhu evropského nařízení pro boj s dětskou pornografií pirátský europoslanec Marcel Kolaja.

Návrh nařízení pro prevenci proti zneužívání dětí a boji proti němu představila komise v polovině května. Počítá v něm se zřízením speciálních úřadů, které by v některých případech mohly přikazovat automatické skenování soukromých zpráv uživatelů. Tato povinnost by přitom mohla v praxi znamenat zásadní oslabení či zrušení koncového (end-to-end) šifrování.

Jaká rizika návrh nařízení obsahuje? Lze proti zneužívání dětí v online prostoru bojovat i jinými prostředky? A jaké šance na schválení návrh má? O tom, ale také o dalších chystaných regulacích internetového prostředí, jako je Akt o digitálních službách (DSA) nebo připravovaná regulace umělé inteligence (AI), jsme mluvili s europoslancem Marcelem Kolajou (Piráti). Část rozhovoru nabízíme v textové podobě, celý si jej můžete poslechnout jako podcast:

Evropská komise představila návrh nařízení pro prevenci proti zneužívání dětí a boji proti němu, čili, zkráceně, proti dětské pornografii a jejímu šíření po internetu, proti tzv. groomingu, čili tomu, když dospělí navazují online kontakty s dětmi s cílem je zneužít nebo vylákat z nich nějaké materiály. Návrh říká, že by se v některých případech měly automatickým způsobem skenovat soukromé konverzace lidí, pokud by příslušný úřad v některé členské zemi došel k závažnému podezření, že třeba nějaký uživatel šíří dětskou pornografii. Co na ten návrh říkáte a jaká byla jeho geneze?

Je to podle mě takové volné pokračování románu 1984 od George Orwella. To povinné šmírování by se týkalo de facto všech soukromých zpráv, e-mailů, chatů, dokonce bez ohledu na koncové (end-to-end) šifrování. Vznikla by povinnost na koncovém zařízení mít nějaké odposlouchávátko, které by skenovalo komunikaci a nahlašovalo případné pokusy o odeslání závadného obsahu. Vztahovalo by se to i na cloudová úložiště, to znamená na všechny soukromé fotky a videa.

Geneze návrhu je taková, že Evropská unie schválila před časem směrnici o elektronickém soukromí, která by znemožnila poskytovatelům, jako je třeba Facebook, nahlížet do soukromých zpráv. A pod záminkou boje proti zneužívání dětí Evropská komise před rokem navrhla výjimku z této směrnice, aby možnost do zpráv nahlížet pokračovala. Nyní se to Komise snaží posunout o úroveň dál a z této možnosti udělat případnou povinnost.

Vnímám to jako extrémní zásah do soukromí, který je nepřiměřený. Bojovat proti zneužívání dětí je velmi důležité, ale tento způsob je nejen nepřiměřený, ale podle mě i naprosto nefunkční. Statistiky říkají, že procento tzv. false positives, to znamená případů, kdy automat detekuje závadný obsah, i když je ten obsah naprosto legální, je vysoké. Například švýcarská federální policie uvádí až 87 procent. Přišlo by mi mnohem účinnější, kdybychom investovali do policie, aby dokázala dělat investigativu, jít po jednotlivých případech a nezastavit se jen u toho, že se odstraní nějaký nelegální obsah, ale jít po jeho původci, kterého pak bude trestně stíhat.

Komise říká, že šíření materiálů s dětskou pornografií a pokusů zneužívat děti online přibývá a počty nahlášených případů narostly během posledních let o desítky procent. Nedá se to podle ní zvládat a tohle má být jediný způsob, jakým by se to zvládat mohlo. Jsou podle vás nějaké technologické nástroje, které by na jednu stranu zachovaly ochranu soukromí, a neprolamovaly tedy třeba koncové šifrování, a na druhou stranu umožnily skenování obsahu? Je možný nějaký kompromis?

V technologické řešení moc nevěřím. Často narážím na to, že někteří lidé mají představu, že technologie dokáží vyřešit všechno a že na všechno existuje technologické řešení. Já si myslím, že řešení je spíš systematické: dobrá práce policie, investice do prevence, to znamená vzdělávání rodičů i dětí, aby se těmi predátory nenechaly jednoduše nachytat, a pochopitelně i investice do pomoci obětem.

Komise v otázkách a odpovědích k návrhu nařízení říká, že pokud nebudou dostatečně dobré technologie, které by se měly použít ke skenování, tak se žádné příkazy ke skenování nebudou vydávat. Není to dostatečná záruka, že nebude docházet k těm falešně pozitivním odhalením?

To je dost optimistický výklad toho, co je v návrhu nařízení napsáno. Kdyby byl odsouhlasen v současné podobě, nikdo už by vydávání příkazů nedokázal zabránit. A také mám skutečně velký principiální problém s tím, že abychom chytili malé procento lidí, kteří páchají nelegální činnost, chceme plošně sledovat úplně celou populaci. To se mi z principu příčí.

Komise také říká, že to nemá být plošné sledování. Má přijít jen v případě, že úřad, který má vzniknout v každé členské zemi, má nějaké konkrétní podezření. Pak má mít možnost nařídit skenování nějakých konkrétních konverzací. Dá se to skutečně označit za plošné sledování?

Nicméně ten úřad by nařídil právě to plošné sledování na celé platformě. Pokud by tedy došel k názoru, že na Facebooku si někdo vyměňuje zprávy obsahující dětskou pornografii, bylo by to skenování zavedeno na celý Facebook. Takže by bylo de facto plošné.

Vraťme se ještě k end-to-end šifrování. Nejde zdaleka o první pokus jej obejít a vytvořit možnost, aby policie a další státní orgány mohly nahlížet do zašifrovaného obsahu. Zase: myslíte, že existuje technologický způsob, jak zařídit, aby se vyšetřovatelé mohli podobně jako u odposlechů na základě soudního příkazu do šifrovaných konverzací dostat, a zároveň se end-to-end šifrování nezlikvidovalo?

Dáváte příklad odposlechu na základě soudního příkazu. A tady je vidět, jak se od toho navrhovaná legislativa z pera evropských socialistů a lidovců zásadně liší. Navrhuje naprosto plošné opatření, zatímco my běžně ve společnosti známe a uznáváme to, že když existuje důvodné podezření na konkrétní osobu, tak to soud prozkoumá a případně řekne ano, toto podezření je opodstatněné a toho člověka je možné sledovat. Pak se to ale dotkne skutečně jen konverzace, kterou vede dotyčný člověk. V tom vidím zásadní rozdíl.

Co se týče šifrované komunikace, kryptografie stojí na matematickém důkazu toho, že když mám zašifrovaný dokument, nelze z něj zjistit původní text. Jakmile se do takového mechanismu vloží možnost nějakých zadních vrátek, třeba dalšího klíče, pomocí kterého jde konverzaci rozšifrovat, otevírá se tím pochopitelně možnost, aby se k té konverzaci dostal kdokoli, kdo získá přístup k tomu klíči. Ve chvíli, kdy taková možnost existuje, vždycky může být zneužita.

A pak: kriminálníci by se komunikačním kanálům, které možnost zadních vrátek mají implementovánu, zcela záměrně vyhýbali. Pokud nechceme nastolit režim podobný režimu v Severní Koreji, kdy by každý, kdo se připojí k internetu a nemá nainstalovaný vládou schválený spyware, šel do vězení, nemůžeme zabránit ani kriminálníkům, aby používali takový software, který zadní vrátka nemá. Ve výsledku by tedy docházelo jen k ohrožení bezpečnosti nevinných lidí, běžných občanů, ale těm, kteří se skutečně chtějí vyhnout plošnému nebo cílenému odposlouchávání, by se v tom nezabránilo.

Jediná možnost v tomto případě je práce policie: investigativa a operativní akce. Například je možné podvrhnout člověku, kterého chce policie sledovat, prostřednictvím sociálního inženýrství komunikaci, kdy si ani neuvědomí, že ji spouští nějakým jiným způsobem, a v té chvíli je odposloucháván. Je možné tvářit se jako jiná strana komunikace, aby kriminálník něco policii prozradil, přičemž by si myslel, že komunikuje s někým jiným. Vyšetřovatelé se také mohou snažit dostat do jeho zařízení prolomením jeho zabezpečení. Ale určitě to nejde technicky dobře udělat tak, aby policie měla univerzální možnost zapnout odposlouchávání na šifrovaném kanálu, to prostě nejde.

S návrhem Komise evidentně nesouhlasíte. Co s ním teď bude dál? A jaké šance podle vás má, aby v současné podobě prošel?

Před námi je standardní legislativní proces, to znamená, že návrh musí schválit Evropský parlament a Rada EU. V tuto chvíli můžu říct, že je evidentní, že někteří zastánci té výjimky ze směrnice o soukromí, kterou bohužel většina schválila – Piráti byli proti – zhruba před rokem, už otáčí, protože si začínají uvědomovat problémy, které s návrhem přichází. Také ne každý, kdo souhlasil s tím, že by měla existovat dobrovolná možnost ze strany poskytovatelů nahlížet do soukromé komunikace, je také zastáncem toho, že by to měla být povinnost, kterou by nějaký úřad mohl nařídit. 

MIF22_Early

Existuje tedy určitá pravděpodobnost, že ten návrh bude smeten ze stolu, což je podle mě to nejlepší, co se může stát. V každém případě myslím, že není dobré spoléhat na to, že se to stane, bylo by dobré, aby se občané, kteří jsou návrhem znepokojeni, obraceli na své poslance v Evropském parlamentu, na vládu, která reprezentuje Českou republiku v Radě EU, a dali jim vědět svůj názor.

Jaké změny má přinést finální verze Aktu o digitálních službách? Zavede EU povinné upload filtry? A jak chce regulovat umělou inteligenci? Poslechněte si celý rozhovor ve formě podcastu:

Autor článku

Šéfredaktor Lupa.cz a externí spolupracovník Českého rozhlasu Plus. Dříve editor IHNED.cz, předtím Aktuálně.cz a Českého rozhlasu. Najdete mě na Twitteru nebo na LinkedIn