Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Reakce na články z médií (tisk, rozhlas, televize, internet, ...) a diskuze o nich.
Uživatelský avatar
Dreamer
Člen skupiny ČEPEK
Bydliště: Všude možně
Líbí se mi: Dívky
ve věku od: 5
ve věku do: 11
Příspěvky: 1003
Dal: 1273 poděkování
Dostal: 526 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Dreamer »


Bylo jenom otázkou času, která z velkých technologických firem hodí ručník do ringu a pod jakou záminkou naruší aureolu ochrany soukromí. Nakonec to byl Apple a záminka je nejklasičtější možná: bezpečnost dětí. (...) Ve skutečnosti je šíření skutečné dětské pornografie jenom o málo víc než chiméra, kapka v moři, naprosto nepodstatná vzhledem k neúměrným nákladům všeho druhu, vynakládaným na řešení tohoto „problému“. (...) Mechanismus posuzování s databází již známých obrázků může mít i další nechtěný efekt – posílí poptávku po výrobě nových materiálů, které zatím na indexu nejsou. (...) Je otázkou, co si Apple slibuje, že výměnou za oslabení soukromí uživatelů od Bidenovy administrativy dostane. Jisté ale je, že se vzdal jako první.

ČLÁNEK PRO PŘEDPLATITELE


Plný text článku je přístupný ve VIP sekci: https://pedofilie-info.cz/forum/viewtopic.php?p=56930#p56930
Uživatelský avatar
pbd
Administrátor
Líbí se mi: Dívky
ve věku od: 0
ve věku do: 10
Kontakt: [email protected]
Příspěvky: 342
Dal: 262 poděkování
Dostal: 354 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od pbd »

Jak funguje nový systém Apple pro dětskou pornografii (a jak nefunguje) (Novinky pro iPhone, Luis Padilla)

Zadní dveře pro přístup k našemu iPhonu?
Absolutně. Společnost Apple v žádném případě neumožňuje přístup k datům na našem iPhone.
Tady se ten strojový překlad tomu agregátoru článků moc nepovedl :)
Uživatelský avatar
Cykle02
Mediální analytik
Líbí se mi: Chlapci i dívky
ve věku od: 2
ve věku do: 12
Výkřik do tmy: Nevěřím těm co nevěří na Ježíška.
Příspěvky: 3248
Dal: 383 poděkování
Dostal: 1378 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Cykle02 »

Cykle02 píše: pondělí 9. 8. 2021, 10:12:37Co je CSAM? „Materiál pro sexuální zneužívání dětí“ nebo materiál pro sexuální zneužívání dětí. Jedná se o katalog fotografií s obsahem dětské pornografie, známých a produkovaných různými subjekty, jejichž obsah je řízen Národním centrem pro pohřešované a zneužívané děti (NCMEC). Každá z těchto fotografií má digitální podpis, neměnný, a to je přesně to, co se používá ke zjištění, zda uživatel tyto fotografie má nebo ne.
Aneb, oběti sexuálního zneužívání se nemusí obávat, že by dokumentace jejich utrpění kdy zmizela, organizace pro jejích vymýcení je archivují %)
...a o jakých tématech se po dnešním Googlení začne na ČEPEKu mluvit?
Uživatelský avatar
MR_Xguard
Čestný člen skupiny ČEPEK
Líbí se mi: Dívky
ve věku od: 3
ve věku do: 12
Příspěvky: 840
Dal: 82 poděkování
Dostal: 189 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od MR_Xguard »

Dreamer píše: pondělí 9. 8. 2021, 0:01:50 Nevím, v právu se moc neorientuju, ale myslím, že pokud Applu nebo Facebooku udělíš jako uživatel souhlas k tomu, aby tohle dělali, tak to prostě s tvým souhlasem dělat budou, zcela v souladu se zákonem.
Hele, to si myslím, že je naprosto absurdní. To bys zřejmě musel souhlasit s tím, že obsah nahraný do mobilu je vlastnictvím applu. Představ si, že bys žil v podnájmu a v nájemní smlouvě by bylo napsané, že vše, co se v bytě nachází, je majetkem nájemce. Tedy i tvoje boty.

JInak pokud to bude kontrolovat podle hashe, tak to jde velmi snadno obejít. Hash funguje nebo měl by fungovat tak, že malá změna v obsahu způsobí velkou změnu v hash klíči. Takže teoreticky by v takovém materiálu stačilo změnit třeba jen jeden pixel a systém nebude fungovat.
Uživatelský avatar
Dreamer
Člen skupiny ČEPEK
Bydliště: Všude možně
Líbí se mi: Dívky
ve věku od: 5
ve věku do: 11
Příspěvky: 1003
Dal: 1273 poděkování
Dostal: 526 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Dreamer »

MR_Xguard píše: pondělí 9. 8. 2021, 16:26:54 JInak pokud to bude kontrolovat podle hashe, tak to jde velmi snadno obejít. Hash funguje nebo měl by fungovat tak, že malá změna v obsahu způsobí velkou změnu v hash klíči. Takže teoreticky by v takovém materiálu stačilo změnit třeba jen jeden pixel a systém nebude fungovat.
Stejně jako Microsoft PhotoDNA i tohle je trošku chytřejší, než jen porovnávání obyčejného hashe. Kouká to na obraz jako na obraz a ne jako na shluk bajtů. Takže modifikace nějakého bajtu v souboru rozhodně systém nepodfoukne. Stejně tak nepomůže zmenšení, oříznutí, změna barev, ani jiné modifikace obrazu. U videí by nemělo pomoct překódování, časový posun, apod. V některých těch článcích to vysvětlovali, a rozhodně jsou detailní informace o těch technologiích k nalezení na webu.

Fakt je potřeba říct, že Apple tu nedělá nic světoborného nebo neobvyklého. Podobné systémy existují řadu let a používají je všichni větší poskytovatelé cloudových úložišť. Jediné, co je tu "revoluční" je to, že výpočet probíhá už na zařízení uživatele. Upřímně, od Applu bych očekával, že půjde ještě dál, a to hashování bude dělat přímo grafický čip při zobrazování z jakéhokoliv zdroje. Tak až příště...

MR_Xguard píše: pondělí 9. 8. 2021, 16:26:54
Dreamer píše: pondělí 9. 8. 2021, 0:01:50 Nevím, v právu se moc neorientuju, ale myslím, že pokud Applu nebo Facebooku udělíš jako uživatel souhlas k tomu, aby tohle dělali, tak to prostě s tvým souhlasem dělat budou, zcela v souladu se zákonem.
Hele, to si myslím, že je naprosto absurdní. To bys zřejmě musel souhlasit s tím, že obsah nahraný do mobilu je vlastnictvím applu.
Schválně si někdy přečti, co odsouhlasuješ. Zrovna postupování vlastnictví dat je (nebo alespoň ještě nedávno bylo) docela běžnou praxí.
Uživatelský avatar
Cykle02
Mediální analytik
Líbí se mi: Chlapci i dívky
ve věku od: 2
ve věku do: 12
Výkřik do tmy: Nevěřím těm co nevěří na Ježíška.
Příspěvky: 3248
Dal: 383 poděkování
Dostal: 1378 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Cykle02 »

MR_Xguard píše: pondělí 9. 8. 2021, 16:26:54JInak pokud to bude kontrolovat podle hashe, tak to jde velmi snadno obejít. Hash funguje nebo měl by fungovat tak, že malá změna v obsahu způsobí velkou změnu v hash klíči. Takže teoreticky by v takovém materiálu stačilo změnit třeba jen jeden pixel a systém nebude fungovat.
Nepoužívají klasický hash (MD5, SHA), ale PhotoDNA.
...a o jakých tématech se po dnešním Googlení začne na ČEPEKu mluvit?
Uživatelský avatar
Cykle02
Mediální analytik
Líbí se mi: Chlapci i dívky
ve věku od: 2
ve věku do: 12
Výkřik do tmy: Nevěřím těm co nevěří na Ježíška.
Příspěvky: 3248
Dal: 383 poděkování
Dostal: 1378 poděkování

Re: Apple končí s ochranou soukromí, z iPhonu je udavač ve vaší kapse (Michal Altair Valášek, HN)

Nový příspěvek od Cykle02 »

Á, Valášek. Speciální IT specialista *rofl*
...a o jakých tématech se po dnešním Googlení začne na ČEPEKu mluvit?
Uživatelský avatar
MR_Xguard
Čestný člen skupiny ČEPEK
Líbí se mi: Dívky
ve věku od: 3
ve věku do: 12
Příspěvky: 840
Dal: 82 poděkování
Dostal: 189 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od MR_Xguard »

Dreamer píše: pondělí 9. 8. 2021, 17:08:21Schválně si někdy přečti, co odsouhlasuješ. Zrovna postupování vlastnictví dat je (nebo alespoň ještě nedávno bylo) docela běžnou praxí.
To si zkusím najít někdy. Ale s tím mě napadá jeden paradox. Když si obsah teda přivlastní, jak je možné, že s ním mohu nakládat jak se mi zlíbí? Když už je teda jejich, nedojde tím že jej třeba smažu k poškození cizího majetku? No, to je asi už dost off-topic.
Uživatelský avatar
Dreamer
Člen skupiny ČEPEK
Bydliště: Všude možně
Líbí se mi: Dívky
ve věku od: 5
ve věku do: 11
Příspěvky: 1003
Dal: 1273 poděkování
Dostal: 526 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Dreamer »

Cykle02 píše: sobota 7. 8. 2021, 6:59:56 Pořád se zapomíná na to, že většinu materiálu považovatelného za DP vytváří děti.
Jen pro zajímavost, tady jsou aktuální data IWF a citace z jejich výroční zprávy:

I nadále vidíme exponenciální nárůst tzv. "self-generated" dětské pornografie, která je vytvářena pomocí webových kamer nebo chytrých telefonů a následně sdílena online přes rozličné platformy. V některých případech jsou děti naváděny, klamány nebo vydírány, aby vytvořily a sdílely svůj sexuální snímek nebo video. Obrázky a videa se týkají převážně dívek ve věku 11 až 13 let, a to v jejich ložnicích nebo jiných místnostech v domácím prostředí.

začátek 2021 Výroční zpráva IWF, detailní data
- 68.000 ze 153.369 hlášení za rok 2020 se týkalo obsahu vyrobeného samotnými dětmi (celkem 44%, 7-10 let 23%, 11-13 let 57%)

31.5.2021 Článek o významném nárůstu "self-generated" obsahu
- 38.000 hlášení z prvního čtvrtletí 2021 se týkalo obsahu vyrobeného samotnými dětmi, což je 117% nárůst oproti roku 2020

28.7.2021 Článek o kampani proti "létu online sexuálního zneužívání"
- 64.234 ze 100.616 hlášení z prvního polololetí 2021 se týkalo obsahu vyrobeného samotnými dětmi (64%)

Jaká je definice "hlášení", a co se tedy za čísly skutečně skrývá, netuším. Nárůst podílu self-generated obsahu je ale zřejmý.
Uživatelský avatar
Cykle02
Mediální analytik
Líbí se mi: Chlapci i dívky
ve věku od: 2
ve věku do: 12
Výkřik do tmy: Nevěřím těm co nevěří na Ježíška.
Příspěvky: 3248
Dal: 383 poděkování
Dostal: 1378 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Cykle02 »

No já tohle mám od Martina Kožíška, a tuším že to říkal i Václav Písecký.
...a o jakých tématech se po dnešním Googlení začne na ČEPEKu mluvit?
Uživatelský avatar
Rudy
Registrovaný uživatel
Varování: 3
Líbí se mi: Dívky
ve věku od: 9
ve věku do: 25
Příspěvky: 191
Dal: 177 poděkování
Dostal: 84 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Rudy »

Za mého dětství, mládí takové možnosti nebyli, tak nemůžu objektivně posoudit. Co se dětí týče, je to v zásadě na rodičích, vysvětlit co se může s co nikoli. U teenagerů spíše zacílit na nebezpečí sdílení a následného vydírání či veřejné ostudy.
Navýšení těchto snímků reflektuje se současnou dobou, kdy je dětem zakázán fyzický kontakt s okolím, s kamarády a jsou zavřený doma. Tím pádem roste zvědavost a potřeba se zviditelnit v online světě. Takže nárůst je díky covidu.

Polemizovat o tom jestli je normální že si 13 létá slečna fotí nahotu, nám nepřísluší. Je to její soukromá věc a nevidím na tom nic špatného (v zásadě) pokud to zůstane v jejím soukromí. Selfie je věcí doby a všichni fotí neustále.

Problém vidím ve sdílení na cloudových úložištích a jiných platformách, nikoli v telefonech uživatelů. Vyřešila by to digitální identita kde by bylo přípustné ukládání a sdílení nahých fotek pouze dospělým. Šmírování v soukromí rozhodně není dobrý nápad.
Uživatelský avatar
Kasz
Administrátor
Líbí se mi: Dívky a ženy
ve věku od: 4
ve věku do: 27
Kontakt: [email protected]
Příspěvky: 6075
Dal: 1232 poděkování
Dostal: 3013 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Kasz »

Rudy píše: úterý 10. 8. 2021, 17:54:13 Polemizovat o tom jestli je normální že si 13 létá slečna fotí nahotu, nám nepřísluší. Je to její soukromá věc a nevidím na tom nic špatného (v zásadě) pokud to zůstane v jejím soukromí. Selfie je věcí doby a všichni fotí neustále.
S tím focením nahoty pro "self" účely zásadně nesouhlasím. Vždycky děckám ve škole říkám, ať nikdy nefotí sebe v intimních situacích nebo nazí, natož aby to někomu posílali. Ani jen sami pro sebe - k čemu takové fotky? Do mobilu se může dostat někdo nepovolaný nebo mobil ztratí a už jsou fotky mimo jejich dispozici… a může to pak kdokoliv kdykoliv použít/zneužít. Prostě nudes nepořizovat ani neposílat, ani svému klukovi, ani v dospělosti. Je to příliš velké riziko a může se to vymstít.
Československá pedofilní komunita – již 12 let s Vámi! ❤️💙
Uživatelský avatar
Rudy
Registrovaný uživatel
Varování: 3
Líbí se mi: Dívky
ve věku od: 9
ve věku do: 25
Příspěvky: 191
Dal: 177 poděkování
Dostal: 84 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Rudy »

Ano v tom máš pravdu. Jde o osvětu, vysvětlení. Ale pokud mají tu potřebu, je to jejich soukromí. Proč si dělají milion selfie, to už moc nechápu... Je jiná doba než jsme měli my, tak je nutné na to výchovně reagovat. Špehovací program ale není cesta.
Samozřejmě se bavím především o těch starších. Tam tyto věci jsou na denním pořádku, přirozenost. Vysvětlit možnou šikanu a dát příklady, je jich spoustu. Plno mladých holek si dokonce vzalo život, když jejich kluk rozeslal jejich nahé fotky po škole.
Uživatelský avatar
Prim
PROBLÉMOVÝ UŽIVATEL
Varování: 22
ve věku od: 99
ve věku do: 99
Kontakt: PROFIL JE NEAKTIVNÍ A BUDE SMAZÁN NA ŽÁDOST
Příspěvky: 440
Dal: 173 poděkování
Dostal: 250 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Prim »

Kasz píše: úterý 10. 8. 2021, 23:09:59 Prostě nudes nepořizovat ani neposílat, ani svému klukovi, ani v dospělosti. Je to příliš velké riziko a může se to vymstít.
Jestli chceš, já ti klidně fotku svého pindíka pošlu. :[ :D

Pokud je to fotka bez obličeje, tak tam zneužitelnost až taková není. Pouze podle fotky přirození bez obličeje a zbytku těla nelze člověka moc dobře identifikovat. V případě neúmyslného rozšíření se pak dá odvolat na to, že je ta fotka někoho jiného.
PROFIL JE NEAKTIVNÍ A BUDE SMAZÁN NA ŽÁDOST

Uživatelský avatar
Cykle02
Mediální analytik
Líbí se mi: Chlapci i dívky
ve věku od: 2
ve věku do: 12
Výkřik do tmy: Nevěřím těm co nevěří na Ježíška.
Příspěvky: 3248
Dal: 383 poděkování
Dostal: 1378 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Cykle02 »

Apple brání svůj systém pro detekci zneužívání dětí. Skenovat bude jen fotky na iCloudu (Jablíčkář.cz)
Koncem minulého týdne jsme vás informovali o poměrně zajímavé novince, kterou je nový systém pro detekci snímků zobrazujících zneužívání dětí. Apple totiž konkrétně bude skenovat všechny fotografie uložené na iCloudu a v případě detekce tyto případy nahlašovat příslušným autoritám. Ačkoliv systém funguje „bezpečně“ v rámci zařízení, tak se i přesto na giganta strhla lavina kritiky za narušení soukromí, což mimo jiné hlásal i populární whistleblower Edward Snowden.

Problém totiž spočívá v tom, že si Apple doposud zakládá na soukromí svých uživatelů, které chce za každých okolností bránit. Tato novinka ale jejich původní postoj přímo narušuje. Jablíčkáři jsou doslova postaveni před hotovou věc a musí si vybrat mezi dvěma možnostmi. Buďto jim bude zvláštní systém skenovat veškeré snímky uložené na iCloudu, anebo přestanou používat fotky na iCloudu. Celé to pak bude fungovat poměrně jednoduše. iPhone si stáhne databázi hashů, přičemž následně je bude porovnávat s fotkami. Zároveň ještě bude zasahovat do zpráv, kde má chránit děti a včas obeznámit rodiče o rizikovém chování. Obavy pak pramení z toho, že by samotnou databázi mohl někdo zneužít, případně ještě hůř, že by systém nemusel skenovat pouze fotografie, ale například také zprávy a veškerou aktivitu.

Apple na kritiku samozřejmě musel co možná nejrychleji zareagovat. Z tohoto důvodu vydal například dokument s často kladenými otázkami a nyní potvrdil, že systém bude skenovat pouze fotografie, ale ne videa. Zároveň jej popisují jakožto přívětivější verzi s ohledem na soukromí, než co využívají ostatní technologičtí giganti. Zároveň jablečná společnost ještě přesněji opsala, jak to celé vlastně bude fungovat. Pokud při porovnávání databáze se snímky na iCloudu dojde ke shodě, vytvoří se kryptograficky zabezpečený voucher o dané skutečnosti.

Jak již bylo zmíněno výše, systém zároveň půjde poměrně jednoduše obejít, což potvrdil přímo Apple. V takovém případě stačí jednoduše deaktivovat fotky na iCloudu, díky čemuž se procesu ověřování lze snadno vyhnout. Nabízí se ale otázka. Vyplatí se to? Světlou zprávou každopádně zůstává, že se systém zavádí pouze ve Spojených státech amerických, tedy alespoň prozatím. Jak na tento systém nahlížíte vy? Byli byste pro jeho zavedení i ve státech Evropské unie, anebo se jedná o přespříliš velký zásah do soukromí?



Ten dokument https://www.apple.com/child-safety/pdf/Expanded_Protections_for_Children_Frequently_Asked_Questions.pdf
...a o jakých tématech se po dnešním Googlení začne na ČEPEKu mluvit?
Uživatelský avatar
Rudy
Registrovaný uživatel
Varování: 3
Líbí se mi: Dívky
ve věku od: 9
ve věku do: 25
Příspěvky: 191
Dal: 177 poděkování
Dostal: 84 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Rudy »

Mě by zajímalo jak by chtěli kontaktovat rodiče... Pokud nebude digitální identita, je to nesmysl. Navíc pokud by byla identita, bylo by to daleko jednodušší. Systém by jednoduše identifikoval pořízenou fotku jestli se jedná o "nahotu" a nedovolil ji uložit. Nemusela být žádná externí kontrola a bonzování, problémy. Není možnost nahotu vytvořit na "dětském" telefonu, není se čím zabývat. Samozřejmě by se to týkalo i samotné galerie. U dětského účtu jakákoli nahota nepřípustná a je irelevantní jestli se jedná o dospělého nebo dítě. Navíc by i bylo možné případně intimní místa skrýt.
Uživatelský avatar
Dreamer
Člen skupiny ČEPEK
Bydliště: Všude možně
Líbí se mi: Dívky
ve věku od: 5
ve věku do: 11
Příspěvky: 1003
Dal: 1273 poděkování
Dostal: 526 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Dreamer »

Rudy píše: středa 11. 8. 2021, 10:40:39 Mě by zajímalo jak by chtěli kontaktovat rodiče...
Stačí číst, Rudy. Pokud uživateli iOS, jehož účet byl nastaven jako dětský účet v rámci "rodiny", přijde přes iMessage nahá fotka, system ji rozmaže, upozorní dítě na to, že fotka nemusí být pro děti vhodná, a že si ji může zobrazit, ale bude o tom informován rodič. Správce dětského účtu (tedy rodič) bude moci tuto funkci vypnout. Zda fotografie obsahuje nahotu bude pravděpodobně detekovat AI běžící lokálně v telefonu, protože iMessage používá end-to-end šifrování tak to ani jinak dělat nejde. Konkrétně tohle mi vůbec nepřijde jako špatné řešení.

Akorát je k ničemu, protože děti pro posílání fotek svých pindíků a pipinek nepoužívají iMessage. Nebylo by špatné, kdyby Apple na tohle zpřístupnil API i pro jiné aplikace. Pak bys jako rodič mohl dítěti povolit v telefonu já nevím třeba WhatsApp a TikTok (nebo co dnes frčí), protože bys věděl, že obě aplikace tenhle systém používají. Sice by bylo lepší, kdybys měl se svým dítětem hezký vztah, mluvili jste spolu i o komplikovaných tématech včetně posílání nahých fotek a chatování s cizími lidmi, ale takhle většina rodičů bohužel nefunguje... a rádi přehodí co největší část výchovy svého dítěte na nějakou 3rd party AI.
Uživatelský avatar
Rudy
Registrovaný uživatel
Varování: 3
Líbí se mi: Dívky
ve věku od: 9
ve věku do: 25
Příspěvky: 191
Dal: 177 poděkování
Dostal: 84 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Rudy »

No a tady je kámen úrazu... Pokud, pokud, pokud... Tohle v našem světě neplatí. Ale jiný kraj jiný mrav,ale pochybuji že tam jsou všechny děti pod "dětským" účtem.
Takže opět otázka, jak to chtějí kontrolovat? Odpověď? Prakticky bez kontroly. Takže pořád platí to co jsem psal, dokud nebude identita, budou šmírovat všechny.
Šlo mi o to že zde bez zásahu "vyšší" moci (rodiče) to nemá cenu. A upřímně, který rodič je natolik technicky zdatný aby toto nastavil? Všichni koho znám prostě kupují dítěti mobil aniž by se vůbec staral.

Ono je spousty případů zneužití fotek, videí i s tragickým koncem. Takže větší osvěta by se fakt hodila. A cloudové služby na id uživatele. Pak by šla nahota u dětí kontrolovat.
Uživatelský avatar
Cykle02
Mediální analytik
Líbí se mi: Chlapci i dívky
ve věku od: 2
ve věku do: 12
Výkřik do tmy: Nevěřím těm co nevěří na Ježíška.
Příspěvky: 3248
Dal: 383 poděkování
Dostal: 1378 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Cykle02 »


  • Apple drtí konkurenci po svém
  • Nejen, že si to myslí, ale sám tomu věří
  • Čísla má skvělá, ale teď má problém, a ne malý

Apple si může mnout ruce. Loňské iPhony 12 se až na nejmenší iPhone 12 Mini prodávají skvěle a daří se mu i na poli služeb. Občas se ale stane, že svět najednou z ničeho nic svět zešedne a i přes fantastické prodejní výsledky máte najednou vrásky na čele. Zní to poeticky? Možná, ale mnohem lépe vyzní zprofanovaná fráze: když to nejmíň čekáte, vždy se něco “podělá”.

Apple chce zatočit s dětskou pornografií

Možná jste v minulém týdnu zaregistrovali, že Apple se rozhodl vyrazit do boje se sexuálně nevhodným dětským obsahem a pornografií v rámci cloudové služby iCloud. Což o to, myšlenka je to ušlechtilá a v digitálním věku svým způsobem žádoucí. Nikdo z dnešních rodičů nechce už z podstaty věci přijít o to nejcennější: bezpečí a ochranu soukromí svých ratolestí.

Takže, v čem je problém a proč to zaměstnancům vadí? Jde o to, že z oficiálního postoje není vůbec zřejmé, jakým způsobem chce data uživatelů lustrovat a vyhodnocovat? Kde je pomyslná hranice mezi rodinnou fotografií např. nahého dítěte v bazénu a skutečným dětským pornem? A hlavně, jak může dojít na zašifrovaném úložišti k jejich zcizení?

Zaměstnanci podniku to ale vidí jinak

Z dostupných informací je ale zřejmé, že Apple použije srovnávací algoritmus (hash kód) nahraných snímků s databází fotek CSAM. To teoreticky znamená, že na výše zmíněné rodinná fota nebude brát zřetel, pakliže nedojde alespoň k 80% shodě s CSAM, kdy následuje “rudý praporek”, zpětná kontrola jablečným týmem a v případě podezření zalarmování sociálky.

Bohužel, je zde stále 20% prostor pro chybovost, omyl nebo selhání tohoto sofistikovaného systému, který může mít v některých případech až katastrofální důsledky, jak s odvoláním na ně avizuje populární server MacRumors.

Takže osm stovek zaměstnanců to “jen” nepochopilo? Ne tak docela. Ve zprávách adresovaných výkonnému managementu poukazují na to, že se obávají, aby se z novinky nestal díky “salámové metodě” do budoucna nástroj, jak data; ať už na požádání třetích stran nebo vládních špiček, cenzurovat.

Co na to Apple? Mýlíte se, vzkazuje

Craig Federighi, víceprezident Applu, se nechal slyšet, že to nejen uživatelé, ale i zaměstnanci i odborná veřejnost vnímá naprosto zkresleně. Podle něj dojde ke skenování a porovnávání fotky v době uploadu před jejím uložením a běžný jedinec to ani nepozná.

To nezůstalo bez odezvy. Obratem se k tomu vyjádřila Eva Galperin, ředitelka sekce pro kyberbezpečnost ze společnosti EFF. Ta mu odpověděla, že to všichni chápou velmi dobře. Čemu však nikdo nerozumí je to, proč Apple ke kontrole fotografií požívá třetí stranu a nedisponuje vlastním in-house řešením (CSAM je v gesci NCMEC, Národní centrum pro pohřešované nebo týrané děti).

A také dodala (a nebyla jediná), že se z tohoto kroku může stát velmi nebezpečný precedens. I když pravda může být někde uprostřed, to nic nemění na faktu, že kalifornský podnik ze svého záměru neustoupí. Prý k tomu není důvod. Systém bude funkční, kontrola rychlá a efektivní, soukromí uživatelů nebude narušeno.

Kdy nová změna dorazí?

Dobrá otázka! Pokud se něco zásadního nezmění, Apple chce novinku nasadit s příchodem operačního systému iOS 15 a další generace iPadOS už letos na podzim.

Názor redakce

Jakýkoliv krok směrem k ochraně soukromí nejen dospělých, ale i dětí samozřejmě kvitujeme. Problém vidíme pouze v tom, jak se k problematice Apple postavil. Ještě před dvěma lety razil heslo: “What happens on your iPhone, stays on your iPhone”, což v překladu znamená: “Co se děje na Vašem iPhonu, zůstává na Vašem iPhonu”.

I když tímto postojem americký podnik dává jasně najevo, že s pedofily a dalšími pochybnými existencemi zatočí, je otázkou, na kolik to bude v praxi něco znamenat. Myslíme si, že takových případů na iCloudu moc nebude. Je totiž vysoce pravděpodobné (a ví se to), že takoví neřádi se zdržují na darknetech a jiných pochybných webech. Jinými slovy, kýžený efekt se vůbec nemusí dostavit.
...a o jakých tématech se po dnešním Googlení začne na ČEPEKu mluvit?
Uživatelský avatar
Cykle02
Mediální analytik
Líbí se mi: Chlapci i dívky
ve věku od: 2
ve věku do: 12
Výkřik do tmy: Nevěřím těm co nevěří na Ježíška.
Příspěvky: 3248
Dal: 383 poděkování
Dostal: 1378 poděkování

Re: Apple představí systém, který bude ve Fotkách detekovat zneužívání dětí (Jablíčkář.cz)

Nový příspěvek od Cykle02 »


Apple zavádí v USA automatickou kontrolu fotografií, zda nejde o dětskou pornografii. Reaguje tak na kritiku, že toho proti zneužívání dětí nedělá dost. Skenování přímo v telefonech, tabletech a počítačích prý zajistí soukromí uživatelů, výsledek ale může být přesně opačný: systém umožní kanadské žertíky i zneužití ze strany bezpečnostních složek a nedemokratických vlád.

Podle zprávy Národního centra pro pohřešované a zneužívané děti nahlásil v loňském roce Facebook přes 20 milionů případů dětské pornografie, Google přes půl milionu, společnost Microsoft necelých 100 tisíc, Twitter 65 tisíc. Apple takových hlášení poslal jen 265.

Cloudová úložiště vyhledávají dětskou pornografii na svých serverech už řadu let. Přístup Applu je nový v tom, že kontrolu provádí přímo u svých uživatelů na jejich mobilech a počítačích, nikoli až na svých serverech.

Obrázky z tajné databáze

Z podrobného popisu technologie na stránce Applu vyplývá, že v jádru sytému je databáze pornografických snímků s dětmi, kterou spravuje americké Národní centrum pro pohřešované a zneužívané děti. V pozdějším vyjádření společnost doplnila, že bude vyhledávat jen ty snímky, které jako dětskou pornografii označí ještě alespoň jedno další národní centrum.

Jelikož je držení dětské pornografie v USA (i v Česku) nelegální, ani Apple nezíská k fotografiím přímý přístup – s pomocí centra ale vytvoří databázi digitálních otisků jednotlivých závadných fotek a tu v rámci podzimní aktualizace nahraje do telefonů, tabletů a počítačů svých zákazníků.

Identifikace dětské pornografie bude tedy probíhat přímo na jednotlivých zařízeních a podle Applu jen v případě, když bude chtít uživatel fotku nahrát do Applem spravovaného úložiště iCloud – což se ovšem může dít i automaticky s každým nově přidaným obrázkem.

Pokud systém fotku vyhodnotí jako problematickou, zapíše tuto informaci na servery Applu, přičemž ji zašifruje pomocí algoritmu, který umožní rozšifrování jen v případě, že takových fotek na jednom uživatelském účtu bude více. Apple původně odmítal říct, kolik je rozhodující počet. V reakci na kritiku později zveřejnil, že začne s minimálním počtem 30 a toto číslo sníží, až se přesnost systému zdokonalí.

Pak nastoupí ruční kontrola: zaměstnanec Applu porovná zmenšenou a rozkostkovanou verzi originální fotky se zmenšenou a rozkostkovanou předlohou z databáze dětské pornografie (originál vidět nemůže, protože držení dětské pornografie je nezákonné), a pokud usoudí, že jde o stejné snímky, uživatele nahlásí bezpečnostním složkám a jeho účet zablokuje.

Alespoň ze začátku bude kontrola probíhat jen u uživatelů v USA a jen v případě fotografií nahrávaných do iCloudu. Tuzemských zákazníků firmy a těch, kteří fotky na iCloud nenahrávají, se tak podzimní start nedotkne.

Důvodem zvoleného postupu má být větší soukromí: při kontrole se fotky nikam neodesílají a k dalšímu zpracování putují jen ty, které model vyhodnotil jako závadné. Otevírá to ale obavy z možného budoucího zneužití technologie. Nástroj pro kontrolu obsahu bude v každém telefonu, a to nejen pro vyhledávání dětské pornografie. Telefony budou umět vyhledávat jakoukoli nahotu, v případě dětských účtů ji budou hlásit jejich rodičům.

Vtipálci i hackeři

Nová technologie vyvolává obavy z možného zneužití. Nejméně závažné mohou být kanadské vtípky, kdy uživatel dostane například prostřednictvím chatovací aplikace balík fotek vybraných tak, aby je filtr zachytil.

Třeba WhatsApp fotografie automaticky stahuje, a naopak iCloud je v základním nastavení na zařízeních od Applu zapnutý. Uživatel tak může bez vlastního přičinění přijít o svůj účet, a navíc se dostat do hledáčku policie. A ač se věc časem vyřeší, bude mít co vysvětlovat.

Dřívější experimenty ukázaly, že je možné vytvořit nevinné obrázky, které podobný počítačový filtr bude vnímat jako ty problematické. A uživatelé, kterým bude skenování fotografií z nějakého důvodu vadit, se budou snažit operační systém na svých telefonech upravit, aby kontrolu vyřadili z provozu. Už teď uživatelé takzvaný jailbreak (útěk z vězení, pozn. red.) používají, aby do svých zařízení přidali funkce, které Apple oficiálně nepodporuje, nebo aby vypnuli jiné.

Nástroj pro diktátory

Podstatně větší nepříjemnosti hrozí, pokud systém zneužijí samotné státy. Systém totiž může hledat i jiné obrázky, například náboženské symboly nebo materiály spojené s opozičním hnutím. Erik Neuenschwander, který má v Applu na starosti soukromí uživatelů, takovou možnost kategoricky popřel, firma ale nedemokratickým režimům už v minulosti ustupovala: chystané funkce na ochranu soukromí nakonec nezprovozní v Bělorusku, Kazachstánu, Saúdské Arábii nebo v Číně.

V případě poslední jmenované země pak firma po nátlaku svolila, že data svých uživatelů uloží ve státem spravovaném datacentru, a to spolu s šifrovacími klíči. Čínské bezpečnostní složky tak dostaly de facto přímý přístup k fotkám a dalšímu obsahu telefonů. V Číně také Apple blokuje instalaci aplikací, které by uživatelům umožnily obcházet státní cenzuru.

A i kdyby společnost své na Západě deklarované zásady proti autoritářům uhájila, s ohledem na mechanismus fungování filtru stejně nezkontroluje, že fotografie, které vyhledává a hlásí, jsou skutečně dětská pornografie. Podle dokumentu amerického ministerstva vnitřní bezpečnosti databáze obsahuje i „snímky, které při individuálním posouzení nesplňují kritéria zneužívání dětí, ale jsou zařazeny, protože jsou součástí série“ jiných problematických fotografií.

V tomto světle tedy ruční kontrola zaměstnanci Applu vypadá spíš jako pojistka pro případ, že by vyhledávací modul obsahoval chybu, která by vedla k nahlášení nesouvisejících snímků. Nad obsahem databáze obrázků, které bude vyhledávat, ale firma kontrolu nemá.

Na problém upozornil bezpečnostní výzkumník Matthew Green. Podle něj by mohlo americké ministerstvo spravedlnosti do databáze ilegálních fotografií prosadit i jiné snímky než dětské porno a prostřednictvím Applu by si pak bezpečnostní složky mohly zjišťovat, kteří uživatelé je mají ve svých zařízeních.



Podle jeho kolegy z oboru Alexe Stamose takový scénář hrozí spíše mimo Spojené státy, například ve Spojeném království nebo v Indii.


Takový krok by minimálně v demokratických státech snahy o boj s dětskou pornografií spíše poškodil. V minulosti například CIA pro získávání informací zneužívala očkovací programy, což snižovalo důvěru lidí ve vakcinaci a ohrožovalo bezpečnost zdravotníků.

Argument pro další sledování

Apple svým krokem znovu otevřel debatu, kde přesně leží hranice soukromí na internetu a jak pevné tyto hranice jsou.

Český trestní zákoník za držení a šíření dětské pornografie umožňuje uložit maximálně tři roky vězení. Řada trestných činů je u nás i ve světě trestána výrazně přísněji, a nabízí se tedy otázka, zda by ochrana soukromí neměla orgánům činným v trestním řízení ustoupit i zde.

Když Evropská komise schvalovala novou výjimku z práva soukromí na internetu, kromě dětské pornografie argumentovala i terorismem, a přísně jsou trestány i další informační zločiny, jako třeba masivní porušování autorských práv.

Apple navíc získal podstatný argument do debaty, zda si počíná jako monopol. Eurokomisařka pro hospodářskou soutěž Margrethe Vestagerová nedávno kritizovala Apple, že umožňuje do jím vyrobených telefonů a tabletů instalovat aplikace pouze z oficiálního firemního obchodu, kde může od autorů programů vybírat citelné poplatky a omezovat konkurenci. Podobné kritice je firma vystavena i v zámoří.

Pokud se ale stane partnerem bezpečnostních složek v boji se zločinem, bude se moci bránit, že právě monopol jí umožňuje efektivní kontrolu, bez které by uživatelé mohli kontrolu obsahu obcházet.

Navíc jak Apple sám píše na svém webu: „Jde o ambiciózní program a naše snahy (o ochranu dětí) se budou časem vyvíjet a rozšiřovat.“
...a o jakých tématech se po dnešním Googlení začne na ČEPEKu mluvit?