Názory k článku Dětská pornografie vs. šifrování zpráv. Co má přinést nové nařízení Evropské komise?

Jako myšlenku chápu, dětská pornografie a obtěžování dětí není nic dobrého, ale podle mě na to jdou ze špatné strany. Šifrování a ochrana soukromí jsou příliš cenné. Chce to zlepšit spolupráci s oběťmi a osobně bych nebyl proti tomu, aby si policie vytvořila falešné profily jako volavky.

Plošné sledování podle mě nejenže omezí soukromí velkou měrou, ale bude zbytečné a chytnou maximálně pár technických analfabetů. Zbytek se sledovanému prostředí vyhne.

Nejhorší by bylo, pokud by se kriminalizovalo neškodné chování (například nepředání klíče k šifrované komunikaci). To by si pak Evropa úplně zbytečně vytvářela nové zločince.

16. 5. 2022, 09:03 editováno autorem komentáře

Prostě je to snaha řešit sociální problém (s omezeným dosahem, protože zneužívání dětí opravdu není globální problém zasahující všechny skupiny a lokality) pomocí technických prostředků. Alias "s kanónem na vrabce", navíc s kanónem spíš ve formě kobercového náletu.

Aneb vynaložme obrovské úsilí (=spoustu času a peněz z kapes společností provozujících sítě a komunikátory) k tomu, abychom lépe zdůvodnili existenci některých úřadů, a abychom si mohli v kolonce "boj proti zneužívání dětí" odškrtnout políčko "zařízeno". Hnus. Přitom proti reálné pomoci ohroženým dětem bych nenamítal vůbec nic, naopak bych za ni byl moc rád.

Roušky, izolace okresů a zavirani hospod se naivum take jevily jako super opatreni. Byly uplne zbytecne.

Tenhle nesmysl společně s povinným odstraňováním "teroristického obsahu" do 1 hodiny a podobně šíleným bojem proti zpřístupňování obsahu chráněného autorskými právy povede k tomu, že zůstane jen pár velkých poskytovatelů služeb, kteří budou mít prostředky i ochotu to implementovat. Menší poskytovatelé skončí buď rovnou, nebo po uložení první sankce za to, že povinnosti neplní (případně budou pokračovat tak, že nasadí nástroje poskytované některým z velkých poskytovatelů). Fakt "úžasné" (když nepočítám ostatní negativní dopady)...

Je to jen způsob jak si zajistit lepší kontrolu obsahu na internetu, když se to zabalí do hezkých vět o ochraně dětí, tak politici vše odkývají.

Hezké věty nejsou ten hlavní problém, horší je ta asociace s něčím vnímaným negativně tak všeobecně, že si každý dvakrát rozmyslí, jestli se odváží vystoupit proti a riskovat, že bude obviněn z napomáhání "těm hnusákům" (nebo rovnou, že bude asi jedním z nich). U takových témat je často jakýkoli pokus o racionální diskusi odsouzen k nepochopení a člověk je umlácen koncentrovanými emocemi založenými na projekcích něčeho, co vůbec neřekl.

Před časem jsem třeba při návštěvě svých rodičů jen poznamenal, že mi nepřijde košer, když v nějakém "investigativním" pořadu o silně medializovaném případu vraždy malé holčičky, který sledovali, ukazují podezřelého (který IIRC nebyl ani obviněn) takovým způsobem, že ho pravděpodně každý, kdo ho znal, musel poznat. Hned jsem si vyslechl, že se zastávám sprostého vraha a jak bych se na to asi díval, kdyby to byla moje dcera atd. Přitom nejsilnější "důkaz" proti tomu člověku bylo to, že ho někdo viděl poblíž místa činu s dalekohledem.

Ježiš nestrašte, nepředání klíče k šifrované komunikaci? Počítám že bych našel hned několik svých zašifrovaných souborů a asi i nějakej flashdisk ke kterým jsem již zapomněl heslo - schovávám je pro případ že bych si někdy vzpomněl :-D Při mé paměti bych se asi stal zločincem natotata ;-)

Problém je hlavně v sugestivní prezentaci problému. Někdy to lze dotáhnout k praktické dokonalosti: Pane obžalovaný, odpovězte pouze "ano" nebo "ne" na otázku: ještě stále bijete svou ženu?
Většina lidí vnímá "dětskou pornografii" jako natolik velké zlo, že jakkoliv drobné omezení či opatření je automaticky považováno za velmi dobrý skutek, často "bez ohledu na náklady a vedlejší škody".
Já na otázku: "Co kdyby se to stalo tvým dětem?" vždy popravdě odpovím: Tak bych chtěl, aby byl pachatel souzen a odsouzen. Důležité je, aby to byl pachatel - a nikdo jiný. Protože pokud by to měl odnést nevinný, znamená to, že to tomu hajzlоvi prošlo. Obvykle se to setká s nepochopením.
A omlouvám se za onen expresivní výraz,

Ti co v tom jedou si jistě nějakou cestu najdou, nejspíše TOR apod. Pro všechny ostatní to bude jen opruz, jak pro firmy co to musí nějak implementovat tak pro uživatele, kteří přijdou o end-to-end sifrování. To je stejné jako s regulací zbrání, která je v pořádku, ale zločinci si vždy někde zbran seženou. V Anglii snad ani nemůže mít človek zavírací nožík, ale stejně se tam na ulici bodá do lidí noži.

Řešit to přes nějaký hash, který z logiky veci může být duplicitní není šťastné řešení. Řekněme že jeden neškodný obrázek z 100 milionů bude mít stejný hash jako již označený závadný obsah, ten kdo ten obrázek poslal bude označen jako šiřitel závadné věci a začne být asi podrobně sledován či přímo u něj bude provedena razie. Ostuda a nálepka, které se už nezbaví.

Imho zde platí známé https://citaty.net/citaty/20529-benjamin-franklin-ten-kdo-se-ve-jmenu-bezpecnosti-vzdava-svobody-n/ dnes možná označené jako "fake news" a lež.

Ten argument “kdyby to byla tvoje dcera” nesnáším, lidé nejsou moc racionální, jednají podle emocí a příbuzní, zejména děti pro ně mají vysokou hodnotu. Ale společnost jako celek takhle nefunguje dobře, takový přístup vede k nekonečné vendetě i když už si nikdo nepamatuje, kdo si začal…

Upřímně doufám že tento návrh pošlou k ledu, protože když koukám na "spolehlivost" algoritmů např. na FB, co jsou schopné nahlašovat a blokovat prakticky cokoliv, tak mám docela velkou hrůzu z toho jak bude podobná detekce fungovat v soukromých zprávách.
Nehledě na to, že fakt netuším, jak dále ten algoritmus bude poznávat, jestli spolu diskutují o nějakých "čuňárnách" 2 podobně staří puberťáci, u kterých ať už se nám to líbí nebo ne je mluvit o takovýchto věcech v jejich věku prostě normální a nebo jestli jedním z nich není ve skutečnosti daleko starší predátor. Jestli hodlají tímto způsobem kontrolovat úplně všechny a všechno jakmile se konverzace stočí k tématice sexu, tak zase o důvod víc to shodit se stolu.

Docela casto litam do Kanady a UK, a musim rict ze je to dost opruz pro kolegy co maji v pasu let z "podezrelych" zemi (Iran, Rusko a tak) a jsou cas od casu podrobeni dost fasisticke lustraci.

Nedas hesla od laptopu/PINy od mobilu - tak proste nikam neletis, a ani na to zadne extra pravni upravy netreba. Je to ciste o tom jak moc to ci ono letiste buzeruje.

"Každý členský stát má podle návrhu zřídit nezávislý úřad..."

Ech a to vláda tak upřímně chtěla snížit počet úředníků. :-)

Nebyly.

Když se kácí les, létají třísky:p
I dnes je s tím problém, byť spíše teoretický, na některých přechodech hranic. Naštěstí většině lidí detailně nekontrolují přenosná média na zašifrované soubory. Ale příslušná legislativa existuje a silná šifra není vždy legální.

Technologie je v tomto ohledu pomerne pokrocila (perceptual hashing), ale jako jakekoliv jine machine vision udelatko, existuji tam velice zavazne boty ohledne umyslne vytvorenych false positiv.

Presun na stranu uzivatele (Apple) false flag utoky znacne zjednodusuje protoze se jedna o verejny model ktery jde samozrejme postavit na hlavu tak aby ti vyhalucinoval match pro *jakykoliv* obrazek.

Takze nekde stahnes (uplne nevinny) obrazek co je ciknuty, tvoje vlastni zarizeni te bonzne, a ty pak musis ouradovi vysvetlovat kdes to vzal.

https://arxiv.org/abs/2106.09820

„V USA zase může mít střelnou zbraň kdekdo, takže lidé by se měli sami ubránit a stejně se tam krade, přepadá a vraždí. Dokonce i ve školách.“

1. V USA nemůže mít zbraň kdekdo.
2. Zbytek odstavečku obsahuje tolik a tak neuvěřitelně hloupých tvrzení a protitvrzení, že jej nejde ani rozebrat.
Proč se pořád musejí v diskusi objevoval příspěvky 4. cenové?

Cilove skupine techto sluzeb (tj 99% populace co je pocitacove negramotnych) je to sumak, naopak sou radi ze se nekdo takhle hezky stara a furt je nevotravujou nejaci roboti.
To je fakt. A přitom kdyby s nimi místo mobilu všude chodil nějaký úředník s blokem a všechno si zapisoval a kreslil, to už by se jim třeba ani tolik nelíbilo :-)

Hmm, chapu argumenty z obou brehu, soukromi mam rad, ale deti taky (ve zdravem smyslu :) ).

Jako jedno z pro me prijatelnych reseni me napada, ze by E2E sifrovana komunikace mohla na koncovych zarizenich rovnou pocitat hashe obsahu (treba jednotlivych obrazku nebo vet) a provozovateli pak predavat ty (je to to, co navrhoval Apple?). Uz by se tim ztratila 100% zaruka duvernosti, ale rekl bych, ze mira soukromi by porad zustala celkem vysoka (ano, vety muzou byt moc kratke a jejich hashe tim padem celkem rychle invertibilni, ale urcite by se nejake reseni naslo).

Zajimave by pak bylo rozjet vyzkum ve smeru uceni klasifikatoru na zahashovanych priznacich. Tezko rict, jestli takova vec vlastne vubec muze teoreticky fungovat (pokud hash ma vymazat co nejvic informace a klasifikator ji zase potrebuje co nejvic), ale zakladni vyzkum cloveka casto prekvapi nejakou out-of-the-box myslenkou.

Jak je vidět, různým lidem připadají normální úplně jiné věci.

Hackeři z Alabamy už nemají šanci :-)
https://echo24.cz/a/ixyYP/zeman-si-na-porno-klikl-omylem-sam-priznal-ovcacek

Listina zakladnich prav a svobod v tomto bode rika, ze listovni tajemstvi neni absolutni (stejne jako dalsi prava - pripousti se vyjimky). Aneb zakon muze stanovit pripady a zpusoby, kdy je mozne listovni tajemstvi porusit. A ten text listiny se rozhodne neomezuje jen na situace, kdy uz je nekdo jakoze z neceho podezrely - nic takoveho v tom clanku 13 uz neni.

"nebo může dát tuto pravomoc už existujícímu úřadu" ... vy jste ten clanek ani necetl cely... tuhle vetu v nem totiz najdete :-)

Mě přišlo že EU komisi tento nápad s kontrolou přímo na koncovém zařízení vnuknul Apple (který to pak sám odložil kvůli silné kritice ze strany organizací na ochranu osobních údajů). Vy tedy myslíte že ten s tímto návrhem neměl vůbec co dočinění a EU komisi to napadlo nejspíše nezávisle na něm?

Stejně mi ale pak nejde do hlavy, proč tedy mnoho politiků a orgánů činným v trestním řízení tolik brojilo proti e2e šifrování, když podle toho co píšete s vhodným algoritmem na vyhledávání slov přímo na zařízení vlastně nemá na případné odhalování a vyšetřování trestné činnosti žádný vliv.

Listovni tajemstvi, jak uz nazev napovida resi obsah listin (dopisu) ve smyslu toho, co je na nich napsano... nikoliv obsah fyzicky balicku.

"Přitom proti reálné pomoci ohroženým dětem bych nenamítal vůbec nic, naopak bych za ni byl moc rád."

A jak by takova "realna" pomoc mela podle vas vypadat?

Listovni tajemstvi nikdy neexistovalo. Zkuste si na trznice nekde ve stredni africe koupit rucni granat (bez problemu k dostani), zabalit ho do balicku a poslat si ho domu....

Normální člověk, který lítá do "podezřelých" zemí, si pořídí dva pasy. Na Írán jsem měl jeden pas a na USA druhý.

Pořád mi váš příspěvek nedává smysl.

Předřečník chtěl pochopitelně říci, že zbraně i šifrování (atd.) jsou jen nástroji a samy o sobě nemůžou být dobré či špatné, proto není možné je pod záminkou vyššího dobra plošně zakázat, ale je třeba hlídat, komu se dostanou do rukou. A jestliže je někdo plošně zakázat zkouší, je to křivák a chce vás nějak poškodit, podrobit či ovládat.

To je stejné jako s regulací zbrání, která je v pořádku, ale zločinci si vždy někde zbran seženou. V Anglii snad ani nemůže mít človek zavírací nožík, ale stejně se tam na ulici bodá do lidí noži.
V USA zase může mít střelnou zbraň kdekdo, takže lidé by se měli sami ubránit a stejně se tam krade, přepadá a vraždí. Dokonce i ve školách.

Řekněme že jeden neškodný obrázek z 100 milionů bude mít stejný hash jako již označený závadný obsah, ten kdo ten obrázek poslal bude označen jako šiřitel závadné věci a začne být asi podrobně sledován či přímo u něj bude provedena razie.
Koukal jsem jak by to bylo s Listovním tajemstvím. Píše se tam, že:
Článek 13 Listiny (základních prav a svobod) uvádí: Nikdo nesmí porušit listovní tajemství ani tajemství jiných písemností a záznamů, ať již uchovávaných v soukromí, nebo zasílaných poštou anebo jiným způsobem, s výjimkou případů a způsobem, které stanoví zákon. Stejně se zaručuje tajemství zpráv podávaných telefonem, telegrafem nebo jiným podobným zařízením.
Takže když se nějak zjistí, že by mohl být porušen zákon, pak listovní tajemství neplatí. A ten hash by mohl být jeden ze způsobů, jak zjistit podezření na porušení zákona. Až do prokázání porušení zákona však musí platit presumpce neviny.

Zrovna FB a Google maji celkem presny odhad na vek a pohlavi uzivatele (i kdyz ten udaj primo nezadas). Je treba zde brat v potaz ze na demografickem skatulkovani maji postaveny cely byznys.

Classifier co analyzuje konverzaci bych si troufnul rict ze je o dost lepsi pristup pro odriznuti ruznych individuii, nez nejake naivni databaze phashu obrazku tak jak to funguje ted.

Jinak sledovani obsahu konverzaci (na BFU platformach jako Messenger ci IG) je bezne vec, resi se takhle spam. Deje se tak i v pripade E2E (kdy prijemce bonzne serveru odesilatele pokud je tam match spamovych keywordu).

Cilove skupine techto sluzeb (tj 99% populace co je pocitacove negramotnych) je to sumak, naopak sou radi ze se nekdo takhle hezky stara a furt je nevotravujou nejaci roboti.

To je ale jen jedním z mnoha důkazů, že občanku opravdu nemůže mít kdekdo.

Proč se pořád musejí v diskusi objevoval příspěvky 4. cenové?
To byla reakce na příklad se zločinností a regulací zbraní.

Plácáte nesmysly. Stejně tak by se dalo říct, že ta opatření byla částečně prospěšná. Tam, kde se lidé nesejdou, je nižší riziko nákazy. Tam kde je rouška je část viru zachycena její tkaninou. Takže nebezpečně lžete.

To je možná jejich cíl. Prostě blbci volí blbce a výsledek je blbost.