Nahé fotky nezletilých dívek ze španělského města vytvořila umělá inteligence. Vyšetřuje to policie (Novinky.cz)

[Cykle02]

Nahé fotky nezletilých dívek ze španělského města vytvořila umělá inteligence. Vyšetřuje to policie (Novinky.cz, ČTK)

Ve městě Almendralejo na jihozápadě Španělska začal kdosi po internetu šířit fotomontáže desítek místních nezletilých dívek vytvořených za pomoci umělé inteligence. Fotografie navozují dojem, že na nich dívky pózují bez oblečení; na policii se obrátilo nejméně 20 rodin.

Asi třicetitisícové město Almendralejo leží na jihozápadě Španělska v regionu Extremadura, nedaleko od hranic s Portugalskem. Na to, že po internetu kolují domnělé nahé fotky nezletilých místních děvčat, upozornila gynekoložka Miriam al Adibová, která má na síti Instagram profil s více než stovkou tisíc odběratelů. Jedna z dívek na fotografiích je totiž i její čtrnáctiletá dcera.

„Jsou to velmi realistické obrázky. Kdybych neznala tělo své dcery, tak bych si myslela, že je to skutečná fotografie,“ řekla žena novinářům.Podle stanice Cadena Ser se na policii obrátilo v souvislosti s obrázky přes 20 rodin. I ony si stěžují, že fotomontáže vypadají jako nahé fotografie jejich nezletilých dcer. Policie v pondělí uvedla, že zahájila vyšetřování a zatím vyslechla sedm dívek, jejichž podoba byla využita pro produkci snímků. Vyšetřovatelé také tvrdí, že z činu už podezírají několik konkrétních lidí.

Al Adibová uvedla, že tvůrci obrázků se snažili jednu dvanáctiletou dívku vydírat. Pohrozili jí, že fotky zveřejní, pokud jim nezaplatí určitou částku. Lékařka vyzvala všechny dívky, jejichž podoba byla použita pro výrobu nahých obrázků, aby se nestyděly, svěřily se rodičům a podaly oznámení na policii.

Podle místních úřadů roste počet případů, kdy k páchání sexuálních útoků napomáhá umělá inteligence. Vývoj označil za alarmující vrchní prokurátor v regionu Extremadura, kde se Almendralejo nachází, Francisco Javier Montero. Podle něj se stává čím dál častěji, že obrázky vzniklé za použití AI ohrožují dobrou pověst a soukromí lidí, kteří jsou na nich údajně zobrazeni.

[Cykle02]

Nahé fotomontáže nezletilých dívek ve Španělsku? Jde jen o špičku ledovce (Novinky.cz, Lenka Zoulová)

Svět obletěla tento týden zpráva o fotomontážích ze Španělska, které zobrazují nahé nezletilé dívky. Jsou vytvořeny umělou inteligencí (AI). Problémy již se španělskou policií řeší desítky lidí. Jde však jen o špičku ledovce, bezpečnostní experti upozorňují, že AI se stává mocným nástrojem pedofilů. Poprask vypukl ve městě Almendralejo v jihozápadním Španělsku, které má 30 000 obyvatel. Většina lidí se tu tedy alespoň od pohledu zná, což se ukázalo jako největší problém.

K fotomontážím neznámý jedinec využívá fotografie skutečných nezletilých dívek, které získá například na sociálních sítích. Ty pomocí AI vysvleče a výsledné fotomontáže pak šíří po síti, jak uvedl server El País.

Policie již mají několik možných pachatelů a vše naznačuje tomu, že případ ve Španělsku utichne stejně rychle, jako se rozvířil. Bezpečnostní experti ale již několik posledních měsíců upozorňují na to, že pornografie vytvářená umělou inteligencí představuje stále rostoucí problém.

Deník The Washington Post (WP) varoval již letos v červnu, že se množí případy, kdy generátory obrázků zneužívají pedofilové – na dark webu proběhla doslova „exploze znepokojivě realistických snímků ukazujících sexuální vykořisťování dětí“.

Pro generování obrázků se často využívají programy jako Stable Diffusion, DALL-E nebo Mindjourney. Tyto aplikace, které jsou volně dostupné, umožňují vytvářet přesvědčivě působící obrázky různých témat během několika sekund. Využívají miliardy obrázků získaných z internetu včetně fotografií skutečných dětí, upozorňuje WP.

Provozovatelé systémů umělé inteligence se snaží proti podobnému zneužívání bojovat, ale predátoři jsou evidentně o krok před nimi. Platformy DALL-E a Mindjourney sice mají tvorbu sexuálního obsahu zakázanou, další programy se ale dají stáhnout přímo do počítače.

Co je to dark web?

Dark web je nepřístupná část internetu, ke které je možné připojit se pouze se specializovaným softwarem – prostřednictvím platformy TOR.

Internetový černý trh dlouhá léta slouží k objednávání hackerských útoků, získávání škodlivých kódů, ale například také k obchodování se zbraněmi, drogami či právě odcizenými daty.

Někteří uživatelé dark webu dokonce sdílejí podrobné instrukce, jak si takové snímky mohou sami generovat pedofilové.

Odborníci, kteří se věnují ochraně dětí před zneužíváním, proto vyjadřují obavy, že tento nový fenomén zkomplikuje pátrání po obětech. Systémy totiž budou přeplněny novým obsahem vytvořeným umělou inteligencí.

„Když se policie snaží najít dítě v ohrožení, už nyní představuje identifikace obětí hledání jehly v kupce sena. Kvůli systémům umělé inteligence to ale nyní bude ještě větší výzva,“ varovala Rebecca Portnoffová, datová analytička neziskové organizace Thorn.

Je to trestné

I když se může zdát dětská pornografie vygenerovaná umělou inteligencí jako neškodná, protože tak nebylo ublíženo žádnému dítěti, stále je nelegální, jak upozorňuje WP. Uživatelé, kteří takový obsah vytvářejí nebo sdílejí, tedy musejí počítat s tím, že budou mít oplétačky se zákonem.

Neplatí to přitom pouze o USA, kde článek WP vyvolal velkou veřejnou diskusi. Přísné zákony jsou i v Česku. Letos v létě například potrestal klatovský soud muže půlročním vězením s podmíněným odkladem na 20 měsíců kvůli tomu, že měl v mobilu kreslené obrázky s dětskou pornografií.

[Cykle02]

Mejl do redakce:

Termonologie v článku „Nahé fotomontáže nezletilých dívek ve Španělsku? Jde jen o špičku ledovce“

Dobrý den, dnes 19. 9. 2023 jste uveřejnili článek  „Nahé fotomontáže nezletilých dívek ve Španělsku? Jde jen o špičku ledovce“, kde označujete ony osoby generující obrázky, co by osoby s pedofilní preferencí. Pedofil je člověk, který má citovou a erotickou náklonnost k přepubertálním dětem. Není to synonymum pro pachatele zneužití, a v samotném článku na EL PAÍS, se navíc píše, že dotyčná kauza se týká středních škol. Tedy spíše bych dal ruku za to, že ony „fotografie“ budou dílem někoho z tamějších studentů (bez pedofilní preference).

Odborníci, kteří se zabývají osobami s pedofilní preferencí, ovšem mluví i o pozitivních důsledcích dostupnosti takovéhoto materiálu "dostupnost pornografie a pokles sexuálně motivovaného násilí do jisté míry souvisí". Jsou na toto téma také studie.

I když je jasné, že tvorbu tohoto typu materiálu, budou mít na svědomí i lidé s pedofilní preferencí, přiživování stereotypů člověka s pedofilní preferencí, co by nebezpečného sexuálního delikventa, je kontraproduktivní. Cituji ze stránek Projektu Parafilik (NUDZ): „Prosíme, používejte odborné termíny jen v případech, že je jejich použití oprávněné. Například zdaleka ne každý, kdo zneužije dítě, je pedofil (většina lidí, kteří zneužijí dítě, nejsou lidé s pedofilní preferencí a naopak velká část pedofilů se nikdy v životě zneužití dítěte nedopustí). Stejně tak ne každý, kdo se odhaluje na veřejnosti, je exhibicionista. Problematické sexuální chování není totéž co vrozená preference.“ ... „Společnou prací můžeme dosáhnout snížení stigmatizace lidí s parafiliemi ve společnosti a docílit toho, že se tito lidé nebudou obávat včas vyhledat odbornou pomoc.“.
Případně si můžete přečíst i Příručku pro novináře – jak psát o pedofilii a správně využívat odbornou terminologii vypracovanou ČEPEKem.

uživatel Cykle02, člen ČEPEK

[Cykle02]

Jedna z matek z Almendralejo ujišťuje, že „dokonale“ ví, kdo stojí za montážemi aktů s nezletilými: „Obrazy jsou velmi realistické“ (Cadena SER, Radio Extremadura, Google Translate)

Několik rodin z Almendralejo (Badajoz) hlásí, že kolují falešné fotografie jejich nahých nezletilých dcer, které byly pořízeny pomocí umělé inteligence.

Madrid - Více než dvacet matek z Almendralejo (Badajoz) odsoudilo „nahotu“ jejich dcer prováděnou pomocí umělé inteligence teenagery, kteří snímky šířili na sociálních sítích. Mladí lidé používají aplikaci k výrobě těchto montáží, které vypadají velmi reálně. Na základě stížností rodin přistoupila Národní policie k zahájení vyšetřování.

Mezi rodiči je i extremaduraská gynekoložka a vědecká komunikátorka Miriam Al Adib, která o tom, co se stalo, záhy informovala na sociálních sítích: "Vrátila jsem se z výletu a moje dcera mi o tom vypráví a já z toho hodně šílím. Obrázky jsou velmi realistické. Myslíte si, že je to opravdu ona.nahá,“ vysvětluje v Hoře 14 .

Se 124 000 sledujícími na Instagramu o tom nepřemýšlí a zatímco se rodiny organizují, aby se hlásily a policie to začala vyšetřovat, on vše řekne na sociální síti. Ví, že čas je proti němu: "Tyto obrázky by mohly skončit na porno stránce." Nezletilým je mezi 12 a 17 lety a jedním z jejich hlavních cílů je, aby se „necítili zahanbeně nebo provinile“.

Vydírali 12letou dívku

Al Adib řekl SER případ 12leté dívky, která byla vydírána: "Řekli jí, dej mi peníze, jinak zveřejníme tvoji nahou fotku." Lituje také toho, že někteří nezletilí se nyní bojí následků za to, že to řekli.

Gynekolog připomíná, že Almendralejo je město, které nedosahuje 40 000 obyvatel a že je snadné poznat, kdo za ním stojí: "Dobře víme, kdo to je." Hovoří jasně o „jednom, kdo je vůdcem a zbytek jsou palmeros“ a ví, že nyní je klíčové, aby „všichni tito palmeros věděli, že jde o velmi závažný zločin a že to musí být nahlášeno“. Za tento trestný čin jim hrozí trest odnětí svobody od jednoho do devíti let, pokud jsou mladší 16 let.

Policie po stížnostech identifikuje několik nezletilých

Národní policie identifikovala několik nezletilých za jejich údajnou účast na údajném použití obrázků dívek, které jsou rovněž nezletilé bez oblečení, po stížnostech rodin obětí v Almendralejo (Badajoz) poukazujících na používání technologie s umělou inteligencí.

Konkrétně bylo vzato sedm výpovědí od sedmi možných obětí a v důsledku otevřeného policejního vyšetřování byli identifikováni někteří nezletilí, kteří se mohli na tom, co se stalo, podílet.

100% nárůst sexuálních útoků na nezletilé

Nejvyšší žalobce v Extremaduře Francisco Javier Montero označil používání umělé inteligence v oblasti sexuálních zločinů za „alarmující“, protože dochází k předstírání identity a prostřednictvím fotografické manipulace je ohroženo soukromí a čest. Nejvyšší státní zástupce ve své výroční zprávě uvedl, že počet nezletilých obětí se zvýšil o 22 % u korupčních trestných činů, o 133 % u zneužívání nezletilých k pornografii, o 57,14 % u trestných činů zneužívání dětí a o 100 % u sexuálních útoků. nezletilí.

Pokud jde o sexuální trestné činy spáchané nezletilými, bylo zahájeno 63 řízení, o 50 % více než v roce 2021. „Tato čísla jsou více než alarmující“ a hlavními příčinami jsou podle odborníků „bagatelizace sexuálních vztahů.“ , „nedostatek adekvátních emoční sexuální výchova“, „nedostatek hodnot rovnosti a respektu k lidem“ a „přístup k neomezenému pornografickému obsahu, který normalizuje chování nebo stereotypy nevhodné pro jejich věk“.

Další příčinou jsou technologie a jejich přístup v raném věku, které umožňují sdílení nebo šíření sexuálního obsahu nezletilých a přístup k těmto lidem pod falešnými profily. „V současnosti je alarmujícím způsobem prezentována takzvaná umělá inteligence, která se fotografickou manipulací vydává a ohrožuje soukromí a čest,“ vysvětlil.

[Cykle02]

Nahé fotky dívek šířili po sítích. Teenageři k tomu zneužili umělou inteligenci (iDnes.cz, ČTK)

Španělská policie identifikovala 11 osob, které jsou podezřelé, že za pomoci umělé inteligence vytvořily falešné fotky nahých dívek z městečka Almendralejo na jihozápadě Španělska. Všichni podezřelí z vytvoření a šíření těchto fotografií na sociálních sítích jsou nezletilí, několika z nich je 12 a 13 let.

Podle vyšetřovatelů tři z 11 podezřelých zřejmě zmanipulované fotky vytvořili a další byli ve skupině, kde se fotografie šířily. Ti, kteří jsou mladší 14 let, nemohou být trestně stíháni, uvedl deník El País. Podle španělského deníku zatím nelze přesně říci, z jakých činů budou tito podezřelí obviněni. Může jít o šíření či držení pornografického materiálu nebo narušení morální integrity nezletilých.

Vyšetřování ještě nebylo uzavřeno, zatím se policii přihlásili rodiče 21 dívek, které se staly obětí manipulace s fotkami. Podle španělských médií šlo o dívky ve věku 11 až 17 let. Podle místního zpravodajského serveru El Espaňol některé z dívek vypověděly, že na své falešné fotky narazily už v červnu, ale bály se o tom mluvit.

„Pravděpodobně šlo o hru několika kluků, ale neuvědomují si, jakou újmu způsobují. Jako otce mě to bolí a jsem také pobouřen. Doufám, že to pomůže ke změně legislativy, aby tyto internetové činy mohly být stíhány,“ řekl José Ramón Paredes.

Podle španělského zpravodajského serveru El Confidencial chlapci asi použili aplikaci, za niž se platí kryptoměnou token.

Skandál kolem falešných fotek ve městě Almendralejo, které má asi 33 tisíc obyvatel, vypukl zhruba před týdnem. Několik nezletilých dívek se ve škole od svých spolužáků dozvědělo, že na sociální síti Instagram či v aplikaci WhatsApp jsou „jejich fotky“, na nichž jsou nahé. Některé se svěřily rodičům, kteří si to pak řekli mezi sebou a posléze kontaktovali policii.

Jedna z matek vypověděla, že její dceru nafotil někdo na volejbalovém tréninku a fotografie pak upravil pomocí umělé inteligence. Vytvořil tak fiktivní fotky, na nichž byla dívka nahá. V jednom případě se dokonce někdo snažil teprve 12letou dívku vydírat prostřednictvím zmanipulovaných fotek na falešném instagramovém profilu.

[Cykle02]

Fotky nahých nezletilých dívek ve Španělsku vytvořily pomocí umělé inteligence děti (Novinky.cz, Lenka Zoulová)

Svět obletěla tento týden zpráva o fotomontážích ze Španělska, které zobrazují nahé nezletilé dívky. Policie nyní oznámila, že identifikovala 11 lidí, kteří jsou podezřelí, že za pomoci umělé inteligence vytvořili falešné fotky nahých dívek z městečka Almendralejo na jihozápadě Španělska. Všichni jsou přitom nezletilí, některým je pouze 12 a 13 let, informoval deník El País.

Vše nasvědčuje tomu, že z jedenácti podezřelých vytvořili upravené fotografie zřejmě jen tři jedinci. Ostatní je pak už jen sdíleli.

Deník El País zdůraznil, že osoby mladší 14 let nemohou čelit trestnímu stíhání. Španělský deník zatím neupřesnil, za jaké konkrétní činy budou tito podezřelí obviněni, ale může se jednat o šíření nebo držení pornografického materiálu nebo porušení morální integrity nezletilých.

Poprask vypukl ve městě Almendralejo v jihozápadním Španělsku, které má 30 000 obyvatel. Většina lidí se tu tedy alespoň od pohledu zná, což se ukázalo jako největší problém.

K fotomontážím mladíci využívali fotografie skutečných nezletilých dívek, které získali například na sociálních sítích. Ty pomocí AI vysvlékli a výsledné fotomontáže pak šířili po síti.

Na fotomontáže upozornila gynekoložka Miriam al Adibová, jednou z obětí je totiž i její 14letá dcera. „Jsou to velmi realistické obrázky. Kdybych neznala tělo své dcery, tak bych si myslela, že je to skutečná fotografie,“ řekla gynekoložka novinářům.

Vyšetřování není u konce

„Pravděpodobně šlo o hru několika kluků, ale neuvědomují si, jakou újmu způsobují. Jako otce mě to bolí a jsem také pobouřen. Doufám, že to pomůže ke změně legislativy, aby tyto internetové činy mohly být stíhány,“ řekl José Ramón Paredes.

Podle španělského zpravodajského serveru El Confidencial chlapci asi použili aplikaci, za niž se platí kryptoměnou.

Na policii se obrátili rodiče již 21 dívek, jejichž fotografie byly tímto způsobem zneužity. Snímky se šířily na sítích údajně již od června, ale dívky se o tom bály až do tohoto měsíce mluvit.

Jde o dívky ve věku od 11 do 17 let. Není vyloučeno, že se postupně přihlásí na policii ještě více dívek, kterých se případ týká. Vyšetřování zatím není u konce.

Deník The Washington Post (WP) varoval již letos v červnu, že se množí případy, kdy generátory obrázků zneužívají pedofilové – na dark webu proběhla doslova „exploze znepokojivě realistických snímků ukazujících sexuální vykořisťování dětí“.

[Cykle02]

Chlapci vygenerovali nahé snímky spolužaček. Dívky ve španělském městě nevychází ven (Aktuálně.cz, Dominika Perlínová)

Městečko na jihozápadě Španělska láká turisty na místní víno a chlubí se nízkými krásně malovanými domy. Poklidné místo ale nyní vře poté, co více než dvacet místních dívek od jedenácti do sedmnácti let našlo své nahé fotografie na internetu. I když se nahé nikdy nefotily. Šlo o obrázky vygenerované umělou inteligencí na základě jejich obyčejných fotek. Dívky nyní odmítají vycházet ven.

"Jednoho dne přišla moje dcera ze školy a řekla: 'Mami, kolují fotky, na kterých jsem nahoře bez'," popsala pro stanici BBC María Blancová Rayová, matka čtrnáctileté dívky. "Zeptala jsem se jí, jestli se vyfotila nahá, a ona řekla: 'Ne, mami, to jsou falešné fotky holek, které teď hodně vznikají. V mé třídě jsou další, kterým se to také stalo.'"

Případ nyní vyšetřuje policie, týká se dívek ze čtyř z celkem pěti místních škol. Na policii se zatím přihlásilo přes dvacet dívek. Rodiče celkem 28 z nich jsou ve spojení a ve městě s asi třiceti tisíci obyvateli vytvořili společnou skupinu. Ne všichni viděli snímky svých dcer, ale dozvěděli se, že existují.

Vyšetřovatelé identifikovali nejméně jedenáct chlapců, kteří snímky buď sami pomáhali vytvářet, nebo je později šířili dál na sociálních sítích. Dokonce se objevil případ vydírání nezletilých dívek snímkem prostřednictvím falešného profilu na Instagramu. Podezřelým je mezi 12 a 14 lety.

Skupina dětí z obce získala profilové fotografie z Instagramu a WhatsAppu a dokonce podle matky jedné z postižených vyfotografovali další během volejbalového tréninku v obecním pavilonu. Pak všechny tyto snímky nahráli do aplikace umělé inteligence.

Pak je během několika vteřin svlékli, jako by šlo o skutečné akty. Ze sedmi nahých fotografií dívek navíc někdo vytvořil video, píše španělský deník El País.

Bojí se chodit ven

Dopad šíření snímků na postižené dívky je různý. Blancová Rayová říká, že její dcera to snáší dobře, ale některé dívky "ani nevychází z domu". To popisuje i další matka jedné ze zasažených dívek, gynekoložka Miriam Al Adibová, která na případ upozornila.

"Když se stanete obětí trestného činu, například když vás okradou, podáte stížnost a neschováváte se, protože vám druhá osoba způsobila škodu. Ale u trestných činů sexuální povahy se oběť často stydí, skrývá se a cítí se odpovědná. Chtěla jsem tedy předat toto poselství: není to vaše vina," vzkázala dívkám.

Podobné případy se už řešily i jinde v zahraničí, kde v posledních měsících všudypřítomnost umělé inteligence vytvořila zcela nové možnosti pro zneužití něčí identity. Kanadský soudce za vytváření dětské pornografie pomocí umělé inteligence a její distribuci odsoudil v dubnu 61letého muže na osm let za mřížemi, upozornil server Complex.

Každý se bojí

Španělské právo se výslovně nevztahuje na vytváření snímků sexuální povahy, pokud se jedná o dospělé osoby, ačkoli vytváření takového materiálu za použití nezletilých osob by mohlo být považováno za dětskou pornografii.

Další možné obvinění by se týkalo porušení zákonů o ochraně soukromí. Ve Španělsku ale mohou být nezletilí obviněni až od 14 let věku.

Případ vyvolal obavy i u místních obyvatel, kteří do něj nejsou zapojeni. "Ti z nás, kteří mají děti, jsou velmi znepokojeni," potvrdila Gema Lorenzová, která má 16letého syna a 12letou dceru.

"Pokud máte syna, bojíte se, že by mohl něco takového udělat, a pokud máte dceru, děláte si ještě větší starosti, protože jde o násilný čin," popsala své obavy.