Žrtve tehnologije
19

Fotografije golih tinejdžerki iz Španije koje je stvorila umjetna inteligencija šokirale djecu i roditelje

D. Be.
Ilustracija: Shutterstock
Ilustracija: Shutterstock
Mirni grad u južnoj Španiji u šoku je nakon što se ispostavilo da su fotografije golih mladih lokalnih djevojaka, koje je generirala umjetna inteligencija, kružile društvenim mrežama bez njihovog znanja.

Fotografije su kreirane korištenjem fotografija ciljanih djevojaka potpuno odjevenih, a mnoge od njih preuzete su sa njihovih profila na društvenim mrežama.

Zatim ih je obradila aplikacija koja generira zamišljenu sliku osobe bez odjeće.

Do sada se više od 20 djevojčica, u dobi između 11 i 17 godina, javilo kao žrtve korištenja aplikacije u ili blizu Almendraleja, u jugozapadnoj pokrajini Badajoz.

"Jednog dana moja kći je izašla iz škole i rekla 'Mama, kruže moje fotografije u toplesu'", ispričala je María Blanco Rayo, majka 14-godišnjakinje, piše BBC.

"Pitala sam je je li se fotografirala gola, a ona je rekla: 'Ne, mama, ovo su lažne fotografije djevojaka koje se trenutno stvaraju i postoje druge djevojke u mom razredu kojima se to dogodilo također.'"

Ona kaže da su roditelji 28 pogođenih djevojčica formirali grupu za podršku u ovom gradu.

Policija sada provodi istragu i prema izvještajima, najmanje 11 lokalnih dječaka je identificirano da su uključeni ili u stvaranje lažnih fotografija ili njihovo distribuiranje putem aplikacija WhatsApp i Telegram.

Istražitelji također istražuju tvrdnju da je pokušana iznuda jedne od djevojaka korištenjem njene lažne fotografije.

Utjecaj koji je kruženje fotografija imalo na pogođene djevojke je različit. Blanco Rayo kaže da se njena kćerka dobro drži, ali da neke djevojčice ne žele izaći iz kuće.

Almendralejo je slikoviti gradić s nešto više od 30.000 stanovnika koji je poznat po proizvodnji maslina i crnog vina, ali njegovi stanovnici nisu navikli na iznenadnu pozornost koju je ovaj slučaj donio, dospjevši u gradske glavne vijesti.

To je velikim dijelom zahvaljujući naporima majki jedne od djevojčica, Miriam Al Adib. Ona je ginekologinja koja je iskoristila svoj već istaknuti profil na društvenim mrežama kako bi ovu temu postavila u središte španske javne rasprave.

Iako se vjeruje da su mnoge fotografije putem umjetne inteligencije nastale tokom ljeta, slučaj je izašao na vidjelo tek posljednjih dana nakon što je dr. Adib objavila video umirujući djevojčice i njihove roditelje.

"Nismo znali koliko djece ima te fotografije, jesu li postavljene na pornografske stranice - imali smo sve te strahove", kaže ona.

"Kad ste žrtva zločina, ako ste, primjerice, opljačkani, podnesete prijavu i ne skrivate se jer vam je druga osoba nanijela štetu. Ali kod zločina seksualne prirode žrtva često osjeća sram i skriva i osjeća se odgovornim. Željela sam uputiti poruku: nisi ti kriva."

Osumnjičenici u ovom slučaju imaju između 12 i 14 godina. Španski zakon "ne pokriva" posebno stvaranje fotografija seksualne prirode kada su u pitanju odrasle osobe, iako bi se stvaranje takvog materijala korištenjem maloljetnika moglo smatrati dječjom pornografijom.

Druga moguća optužba bila bi za kršenje zakona o privatnosti. U Španiji se maloljetnici mogu suočiti s krivičnim prijavama samo od 14. godine života.

Slučaj je zabrinuo čak i lokalno stanovništvo koje nije uključeno u ovaj slučaj.

"Mi koji imamo djecu i jako smo zabrinuti", kaže Gema Lorenzo, mještanka koja ima sina od 16 godina i kćer od 12 godina.

"Brinete se oko dvije stvari: ako imate sina, brinete se da je on mogao učiniti nešto ovako, a ako imate kćer, još ste više zabrinuti, jer je to čin nasilja."

Francisco Javier Guerra, lokalni slikar i dekorater, kaže da su roditelji umiješanih dječaka krivi.

"Trebali su učiniti nešto prije, naprimjer uzeti svoje telefone ili instalirati aplikaciju koja im govori što njihova djeca rade sa svojim telefonom."

Ovo nije prvi put da je takav slučaj postao vijest u Španiji. Ranije ove godine, fotografije pjevačice Rosalíje u toplesu koje je generirala umjetna inteligencija objavljene su na društvenim mrežama.

Žene iz različitih dijelova svijeta su mi pisale objašnjavajući da im se ovo dogodilo i da ne znaju što učiniti, kaže Miriam Al Adib.

"Upravo se ovo događa diljem svijeta. Jedina je razlika što smo u Almendraleju digli buku oko toga."

Zabrinjava to što aplikacije poput onih korištenih u Almendraleju postaju sve uobičajenije.

Javier Izquierdo, voditelj zaštite djece u jedinici nacionalne policije za kibernetički kriminal, rekao je španskim medijima da ove vrste zločina više nisu ograničene.

"To očito još uvijek traje, ali sada su novi izazovi s kojima se suočavamo. To je pristup koji maloljetnici imaju u tako ranoj dobi i takvoj tehnologiji kao u ovom slučaju."