V ekosystému Applu se chystají velké změny. Firma v USA nasadí technologie, které budou detekovat výskyt fotografií zobrazujících zneužívání dětí ve fotografiích ukládaných na iCloud a posílaných přes iMessage. Apple slibuje ochranu soukromí uživatelů, ale šiřitele dětské pornografie úřadům, pochopitelně, předávat bude.
Oznámení vyvolalo vlnu nevole a obav, z části oprávněně, z části kvůli nepochopení toho, jak vše funguje, a také kvůli neznalosti, že podobný systém používají ostatní cloudové služby (Google, Microsoft, Dropbox, ale třeba i Twitter) už delší dobu. Na rozdíl od Applu to ale dělají přímo v cloudu – kontrolují obsah do cloudu nahrávaný (či již nahraný) na vlastních serverech.
Apple se chystá obsah kontrolovat přímo v telefonech či tabletech – s pomocí nové detekční technologie NeuralHash. Využívá se k tomu rozsáhlé databáze objevených (známých) fotografií zneužívaných dětí (dětské pornografie) – stejné, kterou používají i ostatní cloudové služby. U Applu tak nebude docházet k dešifrování obsahu uživatele v iCloudu, využije se toho, že v telefonu obsah není šifrovaný a je možné ho analyzovat a porovnávat.
Až v okamžiku, kdy systém odhalí závadný obsah, dojde k předání živému operátorovi. Ten bude moci dešifrovat fotografie uložené v iCloudu (včetně těch posílaných přes iMessage) a provést manuální kontrolu. S případným následným předáním k řešení orgánům činným v trestním řízení (ne přímo, nutno dodat).
NeuralHash a kryptografie
NeuralHash je vylepšení již existující technologie umožňující srovnat nějakou fotografii s „otiskem“ (hashem) už nalezené fotografie. Poradí si i s ořezy či upravenými fotkami. V telefonu, tabletu či Mac počítači uživatelů se bude nacházet databáze otisků (průběžně aktualizovaná) a hledání závadných fotek bude probíhat automaticky – uživatelé o něm nebudou vědět. A nebudou vědět ani o tom, že došlo k detekci.
Výsledky kontrol mají končit u Applu a tady to začíná být ještě zajímavější. Apple se dušuje, že nebudou „volně dostupné“ a chránit je má kryptografie. Předání k řešení je navíc podmíněno překročením určité „úrovně“ – co to konkrétně znamená, známo není, ale můžete si to asi představovat tak, že jedna detekce zásah nevyvolá, ale desítky už (možná) ano.
V okamžiku překročení se informacím o detekcích začne věnovat člověk, z iCloudu si dešifruje informace o detekcích, zkontroluje je (včetně konkrétních fotografií, protože ty byly nahrány současné s informací o detekci), a pokud jde skutečně o zneužívání dětí, tak dojde k zablokování účtu uživatele a předání k řešení. Ne přímo policii či orgánům činným v trestním řízení, ale některé z organizací, které tyto věci řeší (v USA NCMEC). Odtamtud vše zamíří k policii.
Apple se dušuje, že možnost falešné detekce je něco jako jedna z bilionu. A také zdůrazňuje, že NeralHash nehledá nové fotografie (snahou o rozpoznávání obsahu, jak to dělají některé jiné služby), ale jenom hledá výskyt těch, které už byly dříve detekovány.
Kontrola živým člověkem by měla zajistit i to, že vám prostě někdo přes iMessage nemůže naposílat desítky fotek dětského porna. Realita ale je, že vám něco podobného nejspíš stejně zajistí zablokování účtu a budete muset doufat ve velké štěstí, že operátor bude schopen pochopit, co se vlastně děje.
Pokud chcete detaily, tak Apple na ExpandedProtectionsforChildren zveřejnil (PDF) podrobnou dokumentaci. Měli byste vědět i to, že výše popsané opatření bude nejprve aktivní v USA a do dalších zemích zamíří nejspíše později, neznámo kdy.
Zadní vrátka?
Samotné hledání fotografií (a možná časem i videí) přímo v zařízeních uživatelů využívá toho, že k obsahu v zařízení je možné přistupovat libovolně – v iCloudu samotném by to už totiž nemělo být možné a dalo by se uvažovat o tom, že jde o zadní vrátka v šifrování. Obsah ukládaný v iCloudu totiž není (nebo by nemělo být) možné u Applu dešifrovat.
Svým způsobem samozřejmě o zadní vrátka jde, ale ne v samotné kryptografií, ale v tom, že Apple může přistupovat k zálohám uživatelů v iCloudu. A také to dělá, pokud se objeví požadavky orgánů činných v trestním řízení. A nutno dodat, že právě zálohy odmítá šifrovat.
Do záloh v tomto případě ale nebude třeba chodit. Detekovaný výskyt fotografie (se stejným otiskem) znamená, že byla nahrána (šifrovaná) současně s informací o detekci od Applu.
Nezapomeňme, že kontrola s pomocí NeuralHash se bude týkat i zpráv posílaných přes iMessage. A je nutné dodat, že z hlediska technologie je vše použitelné pro detekci jakýchkoliv „již známých“ fotografií – dala by se použít i pro detekci fake news, hlídání porušování autorského práva či prostě jen pro hledání fotografií, které nevyhovují z nějakého jiného hlediska. Je to potenciálně skvělá pomůcka pro totalitní a autoritářské režimy.
Je dost pravděpodobné, že řešení od Applu je skutečně citlivější k soukromí než třeba PhotoDNA (na Twitteru používané už brzy deset let) nebo to, co používá Google (tam už od roku 2008). Jen čas (a důkladnější analýzy, pokud je Apple umožní) ukáže, zda je vše tak bezpečné, jak Apple tvrdí.
Bezpečná komunikace v iMessages a v hledání
Ještě zajímavější je ale další oznámená novinka – aplikace Messages bude varovat děti a jejich rodiče, pokud dojde k odeslání či přijetí sexuálně explicitních fotografií. Pokud takováto fotografie dorazí, bude rozmazána, dítě se dočká varování a informací o tom, co dělat. A bude si moci vybrat, zda fotku zobrazit, či nikoliv. Totéž bude fungovat při odesílání.
Pokud se dítě rozhodne fotografii zobrazit či odeslat, dozví se o tom rodiče. Což samozřejmě předpokládá, že jde „dětský účet“ v rámci nastavení rodiny.
Tady se ale nic s již známými fotografiemi srovnávat nemůže, takže zde má fungovat strojové učení přímo na zařízení (k Applu se tedy žádné informace nemají dostávat). Vše má být funkční opět na iOS, iPad OS i macOS (v patnácté verzi a v Monterey) uživatelů v USA.
Novinky se objeví i ve vyhledávání (a u Siri). Pokud bude někdo hledat „jak nahlásit dětské porno“, Apple mu poskytne návod. A pokud někdo bude hledat „dotazy spojené s dětským pornem“, bude varován, že dělá něco nepříliš vhodného, a také mu bude poskytnut návod, jak to řešit.
