Kada su se posle letnjeg raspusta vratile u školu, više od dvadeset devojčica iz Almendraleha, grada na jugu Španije, dobilo je svoje nage fotografije na mobilnim telefonima. Nijedna od njih se nije slikala, ali su izgledale potpuno realno. Fotografije su ukradene sa njihovih Instagram naloga, izmenjene pomoću aplikacije veštačke inteligencije, a zatim podeljene u Vocap grupama.
Tinejdžerke su na pravim fotografijama bile potpuno obučeni ali aplikacija je učinila da izmene izgledaju potpuno stvarno. Sada se roditelji i tužioci pitaju da li je počinjen zločin, čak i ako su slike zaista stvarne – da li se slike mogu smatrati dečjom pornografijom?
“Montaže su urađene krajnje realno i veoma sam uznemirena i besna”, napisala je jedna od majki tih devojaka Miriam Al Adib na svom Instagram nalogu.
“Ćerka mi je sa velikim gađenjem rekla: ‘Mama, vidi šta su mi uradili’,” dodala je Al Adib, koja je veoma uplašena da bi te fotografije mogle dospeti na internet portale kao što su Onlifans ili pornografske veb stranice.
Sve vreme devojčice su bile izložene komentarima drugarica iz razreda koje su im čak rekle da se ne sekiraju previše jer mnoge devojke namerno ostavljaju slične slike na svojim profilima. Najmlađa od devojčica ima samo 11 godina i još nije u srednjoj školi.
Druga majka Fatima Gomez rekla je za televiziju Ekstremadura da je njena ćerka mogla da postane žrtva ucene.
Naime, jedan dečak koji je s njom razgovarao na društvenim mrežama, tražio je od nje novac da ne objavi sliku, a kad je ona odbila, poslao joj je golu sliku.
Slučaj je prosleđen Tužilaštvu za maloletnike, a sam gradonačelnik je upozorio: “Možda je počelo kao šala, ali su implikacije mnogo veće i mogu imati ozbiljne posledice po one koji napravio ove fotografije”.
10 evra za 25 fotografija
Hiperrealistične kreacije veštačke inteligencije, poznatije kao deepfakes, napravljene su pomoću aplikacije ClothOff.
Uz slogan “Svucite bilo koga, skinite devojke besplatno”, aplikacija omogućava korisnicima da skinu odeću sa svakog ko se pojavi u galeriji slika na njihovom telefonu.
Za kreiranje 25 golih slika cena je 10 evra. Iako golotinja nije prava, majke kažu da su devojčice veoma uznemirene gledanjem tih slika jer izgledaju kao prave.
“Niste svesni štete koju ste naneli ovim devojkama i takođe niste svesni zločina koji ste počinili,” napisala je na Instagramu Al Adib u poruci upućenoj ljudima koji su podelili slike. “Jedan od njih je rekao mojoj ćerki da je uradio “neke stvari” sa njenom fotografijom,” rekla je još jedna od majki španskom listu El Pais.
Ali mogu li se kreacije veštačke inteligencije zakonski kazniti?
“Jedno pitanje je da li to treba da bude kažnjeno, a drugo je da li se može kazniti načinom na koji zakon tako nešto predviđa u Španiji i drugim zemljama EU,” rekao je Manuel Kancio, profesor krivičnog prava na Autonomnom univerzitetu u Madridu, za Euronews.
Profesor ističe da postoji zakonska rupa jer korišćenje maloletničkih lica na fotografijama utiče na njihovu privatnost, ali kada su u pitanju zločini u kojima se distribuiraju intimne slike, slika u celini narušava privatnost.
“Pošto ga generiše deepfake, stvarna privatnost dotične osobe nije ugrožena. Efekat koji ima (na žrtvu) može biti veoma sličan pravoj goloj slici, ali zakon je jedan korak iza”, dodaje profesor Kansio i kaže da bi pravni okvir koji bi mogao da funkcioniše u ovom slučaju bio zločin protiv moralnog integriteta, ali da je to “neka vrsta kutije za zločine koju niko ne zna gde da stavi”.
Može li se to smatrati dečjom pornografijom?
Stručnjaci su podeljeni oko toga da li bi se krivično delo moglo smatrati distribucijom dečje pornografije, za koju bi bila veća kazna, i radije su na oprezu. Za Leandra Nunjeza, advokata specijalizovanog za nove tehnologije u advokatskoj kancelariji Audens, ključ nije u tome da li je fotografija 100% stvarna, već da li izgleda da jeste.
“Najvažnije je da li se lice može identifikovati. Mogli bismo da govorimo o dečijoj pornografiji, zločinima protiv moralnog integriteta ili distribuciji slika seksualnog sadržaja bez pristanka,” rekao je advokat za Euronews.
“U slučaju krivičnog dela protiv moralnog integriteta, to bi se smatralo lakšim zločinom, pa bi za njega bila predviđena manja kazna od šest meseci do dve godine zatvora,” on dodaje.
Drugi stručnjaci, kao što je Eloi Font, advokat u Font Advocats, advokatskoj firmi specijalizovanoj za digitalno pravo, smatra da bi se to moglo klasifikovati kao krivično delo slično reprodukciji seksualnih slika maloletnika. U ovom slučaju, kazna bi mogla biti između pet i devet godina zatvora.
