Hlavní navigace

Rozpoznávání obličejů: na papíře regulace, praxe je ale kontroverznější

9. 12. 2021
Doba čtení: 8 minut

Sdílet

 Autor: Depositphotos
Kontroverze související s plošným sledováním veřejného prostoru za využití umělé inteligence se čím dál víc týkají i Evropské unie, a tudíž i České republiky. Jak na tom nyní jsme, pokud jde o kamerové systémy s funkcí rozpoznávání obličeje?

Metoda automatického rozpoznávání obličeje na základě biometrických znaků budí celou řadu kontroverzí. Argumenty proti využívání této technologie ukazují často na Čínu, která má dlouhou tradici veřejné kontroly jednotlivců. Ta spolu se všudypřítomnou totalitní mocí a vyspělými technologiemi vytváří ideální prostředí pro Velkého bratra.

Právě všudypřítomné kamery, navíc obohacené o systémy rozpoznávání obličeje, ale i dalších biometrických charakteristik, byť méně přesných, jako je třeba chůze, jsou jakýmisi symboly tohoto celého totalitního sledovacího systému. Demonstranti v Hongkongu se kvůli nasazení biometrických kamer stali průkopníky v hledání způsobů efektivního maskování obličejů.

Jenže Čína už dávno nepoužívá metody rozpoznávání obličeje jen v boji proti politickým odpůrcům nebo zločinu. Kamery identifikují hříšníky přecházející na červenou a promítají jejich tváře i s osobními údaji na velkoplošné obrazovky v čínských městech (viz třeba článek Méně nehod, ale kamera s AI na každém rohu. Jak se žije ve městě „pod dozorem“), kamery rozpoznávají klimbající studenty v čínských školách, nebo dokonce rozpoznávají tváře na veřejných záchodcích, aby bránily příliš velké spotřebě toaletního papíru.

Až bizarní případy využití kamerových systémů na rozpoznávání obličeje ale nenajdeme jen v Číně. Můžeme hledat i v kolébce evropské demokracie, ve Velké Británii. Stačí k tomu často jen pár nadšenců, kteří vždy přijdou s „dobrým“ nápadem, a mlčící společnost, jež takovým nápadům zatleská, nebo častěji prostě jen nebrání.

Příkladem budiž nedávný příklad ze Skotska, kde devět škol začalo využívat rozpoznávání obličeje tisíců žáků ve školní jídelně. Případ popisoval třeba zpravodajský portál BBC.

A důvod? Prý jsou pak kratší fronty a také systém lépe chrání před šířením covidu-19. Podobný systém je ale v Evropě stále celkem výjimečný (ostatně i skotský pokus byl po krátké době pozastaven), na rozdíl od kamerových systémů s rozpoznáváním tváře na letištích nebo fotbalových stadionech.

Evropská regulace

Právě téma plošného sledování veřejného prostoru se objevuje ale stále častěji i na úrovni EU. Zejména v souvislosti s formulací pravidel pro využití umělé inteligence (AI). V těchto debatách se logicky kříží snahy o posílení inovací a uvolnění pravidel, která by je svazovala právě s odkazem na nutnost podpory konkurenceschopnosti na straně jedné a obavy z těžko předvídatelných dopadů využívání umělé inteligence na lidská práva na straně druhé.

Pokud zůstaneme u kamerových systémů s funkcí rozpoznávání obličeje a jejich nasazování ve veřejném prostoru, alespoň prozatím se zdá, že obavy z těchto technologií převáží. Je to i důsledek probíhající celoevropské kampaně Reclaim Your Face, která se snaží prosadit zákaz plošného biometrického sledování. Upozorňuje se na rizika diskriminace, sociálního inženýrství, eliminace práva na soukromí ve veřejném prostoru, ale i autoregulaci při výkonu dalších práv a o řadě dalších rizik, která mohou být s biometrickou identifikací spojena.

V dubnu tohoto roku představila Evropská komise návrh nařízení o umělé inteligenci (Artificial Intelligence Act). Směrnice se věnuje široce právě i systémům umožňujícím biometrickou identifikaci, zejména rozpoznávání tváří. Každý systém umožňující v reálném čase biometrickou identifikaci na dálku je považován za vysoce rizikový.

Typicky jde o kamerové systémy s funkcí rozpoznávání obličeje. Provozování takového systému je považováno za zvláště rušivý zásah do práv a svobod dotčených osob, neboť může slovy návrhu nařízení: „Ovlivnit soukromý život velké části populace, vyvolávat pocit neustálého sledování a nepřímo odrazovat od využívání svobody shromažďování a dalších základních práv.“

GALERIE: Jak se žije v čínském městě „pod dozorem“

Tyto biometrické systémy by podle návrhu nařízení měly být zakázány až na tři výjimky, z nichž všechny spadají do sféry bezpečnostních složek – vyhledávání pachatelů či podezřelých z trestných činů, hledání potenciálních obětí trestných činů a naposledy i případy konkrétních ohrožení života fyzických osob včetně hrozeb teroristických útoků.

Každé použití systému biometrické identifikace na dálku „v reálném čase“ pak má podléhat konkrétnímu povolení justičního orgánu nebo nezávislého správního orgánu členského státu. Systémy by tedy především neměly fungovat nepřetržitě, jako se to dnes běžně děje.

Na návrh nařízení navazuje zpráva přijatá Evropským parlamentem v polovině října. Přestože během jejího přijímání byly ve hře i návrhy na větší benevolenci vůči biometrice ve veřejném prostoru, nakonec zpráva spíše přitvrzuje původní návrh Komise. Poslanci ve zprávě volají například po zákazu využívání různých pololegálních biometrických databází bezpečnostními složkami.

Jmenována je přímo databáze Clearview AI, která obsahuje tři miliardy snímků tváří získaných zejména ze sociálních sítí. Parlament volá rovněž po moratoriu na zavádění nových biometrických systémů, dokud nebudou rozptýleny pochybnosti o technických nedostatcích a přijata dostatečná právní úprava bránící zneužití a chránící lidská práva. Žádá také ukončení financování biometrického výzkumu nebo zavádění programů, jež by mohly vést k nerozlišujícímu hromadnému sledování ve veřejných prostorách.

Rozpoznávání obličejů v České republice

Legislativa je jedna věc a praxe druhá. Jestliže se z výše uvedených legislativních návrhů můžeme domnívat, že metody rozpoznávání obličeje budou v budoucnu naprosto výjimečně použitelnými nástroji pro vyhledávání konkrétních osob, a nikoli plošné sledování společnosti, vývoj v praxi jde opačným směrem. Těžko to lze přitom akceptovat s tím, že se legislativa v EU teprve chystá a vlastně nic nebrání rozvoji těchto technologií. Není tomu tak.

 

Text vyšel ve speciálu Lupa3.0, který jsme vydali jako klasický tištěný magazín. Pokud máte zájem, můžete si ho prohlédnout nebo i stáhnout v PDF na této stránce.

Zůstaňme u popisu situace v České republice. Metody rozpoznávání obličeje ve veřejném prostoru v reálném čase se dnes podle všeho využívají pouze na pražském Letišti Václava Havla (více třeba na stránkách ministerstva vnitra). Používání obdobných systémů schválila vláda i pro další čtyři mezinárodní letiště v České republice.

Máme za sebou i dva zatím neúspěšné pokusy o zavedení nových kamer na rozpoznávání tváří, a to v roce 2019, kdy nápad identifikovat pomocí těchto kamer problémové fotbalové fanoušky odmítl Úřad pro ochranu osobních údajů, v témže roce pak politické vedení Prahy odmítlo žádost Policie ČR o rozšíření pražského kamerového systému o kamery s funkcí rozpoznávání obličeje umístěné v centru Prahy s tím, že policie nedodala zhodnocení dopadů na soukromí, jak popsal třeba web iRozhlas.cz. To policie nedoplnila ani dodatečně a jak uvidíme dále, nejde o situaci ojedinělou.

Speciální kamerový systém pražského letiště je instalován vedle klasického kamerového systému a je spravován Službou cizinecké policie. Má celkem 145 kamer, z nichž 100 je umístěno od roku 2018 v tranzitním prostoru a 45 od roku 2019 v prostoru veřejně přístupném, tedy ještě před odbavením cestujících.

Systém umožňuje jak vyhledávání v reálném čase, na něž se v budoucnu bude vztahovat nařízení o umělé inteligenci, tak ex post dohledávání. K tomu slouží databáze biometrických charakteristik obličejů osob, které kamerový systém zachytil v posledních třiceti dnech. Obrazy zachycené v reálném čase i tyto ukládané záznamy jsou pak porovnávány s databází PATROS, kde jsou vedeny hledané a pohřešované osoby.

206 hledaných osob a 8973 falešných identifikací

Dobrá zpráva je, že systém se využívá jako detekční, veškerá rozhodnutí podle vyjádření zástupců Policie ČR činí člověk. S tím souvisí důležitá otázka. Co znamená pro člověka chybné ztotožnění? Každý biometrický systém totiž pracuje s mírou pravděpodobnosti shody a je třeba vyvážit potřebu, aby identifikoval co nejvíce hledaných osob, s potřebou, aby hlásil co nejméně falešných shod.

V praxi letiště bylo identifikováno v letech 2018–2020 206 hledaných osob. Současně došlo od spuštění provozu do května 2021 k 8973 falešným identifikacím. Podle policie jde ovšem v drtivé většině o případy, kdy falešný poplach byl odhalen lidskou obsluhou bez toho, aniž byl falešně identifikovaný kontaktován a ověřena jeho identita.

Jestliže důraz na lidský faktor lze u využívání technologie policii pochválit, právní základ a plnění zákonných povinností už notně skřípe. Policie celý provoz takto invazivního systému, kdy se ukládají biometrické specifikace obličejů desítek milionů lidí, kteří za běžného provozu projdou letištěm, zakládá na obecných oprávněních monitorovat veřejný prostor a pracovat s různými druhy informací a tyto spojovat.

K tomu pak v souvislosti s přijetím zákona o zpracování osobních údajů přibylo právo stahovat ze státních databází fotografie využitelné pro biometrickou identifikaci a agendové identifikátory, které pak může používat pro biometrickou identifikaci.

Podrobná pravidla pro využívání technologií chybí

Samotný provoz kamerových systémů s funkcí rozpoznávání obličeje tedy nikde výslovně upraven není. Směrnice o ochraně údajů v oblasti prosazování práva i její implementace v zákoně o zpracování osobních údajů navíc v obdobných případech požadují vypracování tzv. posouzení vlivu zpracování na ochranu osobních údajů (DPIA), a to ještě před spuštěním systému, respektive před začátkem zpracování údajů. Případně má být takové zpracování projednáno podle výsledků posouzení i s ÚOOÚ. Nic takového ale policie před spuštěním ani při rozšiřování systému neudělala, čímž dost pravděpodobně porušila zákon.

Právě chybějící podrobnější zákonná pravidla pro využívání nových technologií ze strany bezpečnostních složek jsou dlouhodobým problémem. Řadu let takto v České republice funguje systém automatické kontroly vozidel, kdy jsou všechna auta projíždějící kontrolními body vyfocena a podle automaticky rozpoznané SPZ je snímek uložen do policejní databáze. Rovněž by se neměly bez nějakého jednoznačného oprávnění vůbec takové databáze projíždějících aut a fotek řidičů, kteří se ničeho nedopustili, vytvářet. Systém na rozpoznávání obličeje i vytvářená databáze biometrických charakteristik tváří všech cestujících je další, ještě invazivnější variací téhož. Není třeba čekat na evropskou regulaci.

Cloud 22 temata

Je zajímavé, že když se přijímala před šestnácti lety směrnice o plošném sledování elektronických komunikací, ČR ji implementovala ještě předtím, než vůbec byla schválena, aby se mohl co nejdříve spustit masivní šmírovací systém, který zde máme dodnes. Bylo by pěkné, aby ČR naopak teď předběhla schválení legislativy upravující umělou inteligenci a přijala přísnou regulaci využívání biometriky s cílem chránit základní práva svých občanů. Anebo alespoň aby se dodržovaly právní předpisy, které platí už dnes.

Článek vznikl v rámci projektu Digitální watchdog organizace Iuridicum Remedium. Projekt podpořila Nadace OSF v rámci programu Active Citizens Fund, jehož cílem je podpora občanské společnosti a posílení kapacit občanských organizací. Program je financován z Fondů EHP a Norska.

Autor článku

Autor je advokátem a výkonným ředitelem sdružení Iuridicum Remedium.