Hlavní navigace

Autonomní AI systémy vlastně nemají být autonomní

25. 5. 2021
Doba čtení: 4 minuty

Sdílet

 Autor: Depositphotos
Jak mají být podle návrhu Evropské komise regulovány systémy pro automatické rozpoznávání obličejů?

Přibližně před rokem londýnská policie ohlásila, že bude ve veřejných prostorech využívat technologii rozpoznávání obličejů v reálném čase. Tato informace vyvolala v právních kruzích značný rozruch. 

Až do nedávna totiž oblast rozpoznávání obličejů na úrovni Evropské unie upravovalo pouze obecné nařízení o ochraně osobních údajů (GDPR). Proto jsme napjatě sledovali, jaké závěry vyplynou z probíhajících veřejných konzultací spojených s tzv. Bílou knihou o umělé inteligenci (White Paper on Artificial Intelligence).

Vývoj právní regulace technologie rozpoznávání obličejů nedávno vyvrcholil zveřejněním návrhu Nařízení o evropském přístupu k umělé inteligenci. Je tedy již jasné, že se tato technologie dočká své vlastní regulace. Jaké jsou tedy nejzajímavější body nedávno zveřejněného návrhu „Nařízení o AI“ týkající se rozpoznávání obličejů? Na některé z nich se nyní podíváme blíže.

 

PARTNER SERIÁLU O AI

Digitalizace, umělá inteligence, ochrana osobních dat. Témata, která se objevují v médiích stále častěji, jelikož se týkají každého z nás. Ať už jde o cílenou reklamu narušující demokracii, rozpoznávání tváří na veřejnosti nebo odstraňování obsahu pod rouškou ochrany proti terorismu.

Za svobodný Internet a moderní technologie, které respektují občanská práva, bojuje místopředseda Evropského parlamentu za Pirátskou stranu Marcel Kolaja. Ten je stínovým zpravodajem pro Akt o digitálních trzích a Akt o digitálních službách, v rámci kterých aktivně prosazuje svobodné, otevřené a bezpečné technologie.

Rozpoznávání obličejů jako rizikový systém

Návrh regulace se vydává cestou úpravy vysoce rizikových AI systémů. Mezi tyto vysoce rizikové systémy patří právě i technologie rozpoznávání obličejů, jakožto systémy biometrické identifikace. Ty navrhovaná regulace definuje jako systémy AI, jejichž účelem je zařazení osob do konkrétních kategorií, jako je pohlaví, věk, barva vlasů, očí, tetování, etnický původ nebo pohlaví, a to na základě jejich biometrických dat. Zvláštní kategorii pak tvoří systémy biometrické identifikace fungující na dálku a v reálném čase.

Kromě systémů biometrické identifikace mají být za vysoce rizikové považovány ale i systémy řízení a provozování kritické infrastruktury (tedy podílející se na řízení dopravy, distribuce pitné vody, plynu, tepla a elektřiny), výchovy a vzdělávání (např. posuzování studentů při přijímacích zkouškách), systémy v oblasti zaměstnanosti (např. v oblasti přijímacího řízení nebo hodnocení pracovního výkonu) nebo vynucování práva (hodnocení míry rizika recidivy, předpokládání páchání trestných činů, pomoc při pátrání po osobách aj.).

Okruhů vysoce rizikových AI systémů je v návrhu více. Co se však týče těch méně rizikových, na ty návrh nemíří. Přesto se jejich poskytovatelé mohou řídit etickými kodexy, které jsou vydávány na dobrovolné bázi. Nutno nicméně zmínit, že všechny velké společnosti, které se zabývají vývojem AI, již své etické kodexy mají a využívají.

SOUVISLOSTI: Radim Polčák (MUNI): Evropská komise říká, že každé použití AI je problém. To je chyba

Požadavky na fungování systémů rozpoznávání obličejů

Vysoce rizikové systémy AI, a tedy i systémy rozpoznávání obličejů, mají podle návrhu podléhat přísným požadavkům na vysokou kvalitu datových souborů, které se do systému vkládají. Účelem těchto požadavků je, aby se minimalizovala rizika zneužití systému a diskriminační a jiné výstupy zasahující do základních práv člověka. Data by měla být především nezaujatá a reprezentativní.

Důležitým faktorem je také jejich transparentnost. Systémy by měly zaznamenávat svou činnost a rozhodovací procesy tak, aby bylo možné sledovat jejich výsledky. Zároveň by měly poskytovat jasné a přiměřené informace pro své uživatele. S tím souvisí i to, že člověk má mít, lidově řečeno, poslední slovo v rozhodování systému a nad jeho fungováním má vykonávat dohled.

Pokud si tyto požadavky shrneme, dojdeme k závěru, že systémy umělé inteligence, označované někdy také jako „autonomní“ systémy, vlastně vůbec nemohou být autonomní. Naopak, člověk je musí mít neustále pod kontrolou.

Zakázané způsoby užívání systémů biometrické identifikace na dálku

EU si je vědoma, že všechny systémy rozpoznávání obličejů a jiné systémy biometrické identifikace na dálku jsou velkým rizikem nejen pro základní lidská práva a svobody, ale také pro bezpečnost občanů. Tudíž jsou na ně kladeny přísné nároky. Specifikem systémů biometrické identifikace fungujících v reálném čase tak je, že má být jejich přímé používání ve veřejně přístupných prostorech pro účely prosazování práva zásadně zakázáno.

Omezené výjimky z tohoto zákazu jsou přísně definovány. Povolené tak může být veřejné použití systému rozpoznávání obličejů v případě, pokud je to nezbytně nutné k pátrání po obětech trestných činů nebo pohřešovaných dětech, k zabránění konkrétní a bezprostřední újmě na životě nebo bezpečí osob, teroristickému ohrožení nebo k odhalení nebo nalezení pachatele nebo podezřelého ze závažného trestného činu.

Tip Lupa_temata

I takové použití ale má podléhat povolení soudního nebo jiného nezávislého orgánu a má být omezeno časově, územně ale i databázemi, v nichž lze vyhledávat. Na dodržování uvedených pravidel má dohlížet Evropský sbor pro umělou inteligenci jako hlavní a nově zřízený dozorový orgán na úrovni Evropské unie. Je pak v kompetenci států, aby určily, které národní úřady budou příslušné pro agendu AI systémů. Počítá se také s celoevropskou databází pro povinnou registraci vysoce rizikových AI systémů.

Závěrem

Musíme nicméně podotknout, že vše výše zmíněné je teprve v počáteční fázi. Celý návrh musí projít legislativním procesem, a v jeho průběhu tak může dojít k četným obsahovým změnám. Na další informace si tak ještě budeme muset nějakou dobu počkat.

Autor článku

Autor je specialistou na právo duševního vlastnictví a softwarové/IT právo v advokátní kanceláři Sedlakova Legal.