Učenici dve osnovne škole iz Beograda, 13-godišnjaci, uzimali su fotografije i snimke školskih drugarica i nastavnica, a zatim – koristeći veštačku inteligenciju – pravili njihove lažne obnažene slike i delile ih po Vajber grupama i društvenim mrežama, objavio je RTS u februaru.
Roditelji i nastavnici su bili ogorčeni, ali, kako pokazuje BIRN-ovo istraživanje, ovaj slučaj je samo jedan od mnogobrojnih u regionu.
Koristeći Gugl, jednostavnom pretragom je moguće pronaći desetine aplikacija koje korisnicima omogućavaju da „besplatno obnaže svaku devojku“ ili da „brzo i jednostavno uklone odeću“.
Jedan od portala za analizu alatki koje koriste veštačku inteligenciju (AI), identifikovao je više od 30 aplikacija za uklanjanje odeće sa osoba na fotografijama ili snimcima.
Mnoge aplikacije su besplatne, a neke od njih mogu da se koriste i u okviru društvene mreže Telegram, koja se često koristi za neovlašćeno deljenje intimnog sadržaja na tajnim kanalima.
Ove aplikacije nude različite opcije, pa korisnici mogu da biraju uzrast i građu osobe stvorene veštačkom inteligencijom, kao i da je personalizuju. Ovo im omogućava da stvore eksplicitni sadržaj pomoću algoritama koji digitalno uklanjaju odeću.
Kako BIRN otkriva, samo mali broj žrtava prijavi slučaj, a oni koji završe na sudu, budu procesuirani po privatnoj tužbi za krivična dela poput zloupotrebe podataka ili krađe identiteta.
Stručnjaci i nadležni organi očekuju da će veštačka inteligencija dovesti do povećanog kreiranja lažnog pornografskog sadržaja. Zato stručnjaci smatraju da zakoni moraju ići u korak sa vremenom, i to što pre.
„Bilo bi od velike koristi ako bi država istražila ovu pojavu i u skladu sa tim razvila novu politiku ili prilagodila postojeću i, ako je potrebno, izmenila zakone kako bi se jasno identifikovalo ovo krivično delo u okviru sistema za zaštitu dece od nasilja i seksualnog zlostavljanja“, kaže Radovan Cicvarić, direktor Užičkog centra za prava deteta.
Stvaranje lažnog eksplicitnog sadržaja dece u Srbiji i Crnoj Gori nije zakonski sankcionisano
Od jula prošle godine, istražitelji srpske policije za visokotehnološki kriminal su, kako navode, identifikovali nekoliko slučajeva u kojima je veštačka inteligencija korišćena za stvaranje eksplicitnog sadržaja.
U novembru je jedna osoba uhapšena zbog sumnje da je kreirala sadržaj zasnovan na slikama šest ženskih osoba, uključujući i jedno maloletno lice. Ta osoba je optužena za seksualno uznemiravanje, uhođenje i ugrožavanje sigurnosti.
U Crnoj Gori, nevladina organizacija Roditelji, koja promoviše prava roditelja i dece, saopštila je da je tokom prošle godine primila nekoliko prijava o manipulisanom i lažnom, seksualno eksplicitnom sadržaju koji uključuje maloletnike.
„Poslednji slučaj se odnosi na školske vršnjake koji su kreirali obnažene fotografije jedne devojčice i delili taj materijal između sebe“, kažu za BIRN u ovoj nevladinoj organizaciji, dodajući da su roditelji slučaj prijavili nadležnim organima.
Javni tužioci u opštini u kojoj se ovo dogodilo, rekli su za BIRN da je početkom ove godine pokrenut slučaj protiv četvorice maloletnika koji su osumnjičeni za neovlašćenu distribuciju privatnog sadržaja koji pripada drugom maloletniku.
Iz Odeljenja za visokotehnološki kriminal crnogorske policije su rekli da su nedavno otkrili lažni sadržaja kreiran veštačkom inteligencijom, ali nisu precizirali da li je neki od njih uključivao elemente dečje pornografije.
Iva Eraković, izvršna direktorka organizacije Prijatelji dece Srbije, objašnjava da seksualno zlostavljanje izvršeno korišćenjem slika, uopšteno govoreći, i dalje nije prepoznato kao krivično delo.
„Ovakva situacija zahteva da žrtva pokrene privatnu tužbu, što će verovatno dovesti do ponovnog zlostavljanja, uključujući i korišćenje veštačke inteligencije“, kaže Eraković.
U Rumuniji doneta presuda zbog objavljivanja lažnog eksplicitnog snimka
Iako je korišćenje alatki sa veštačkom inteligencijom za modifikovanje slika samo po sebi legalno, kada se radi o deci, svaku nameru da se stvori dečja pornografija treba smatrati za krivično delo, kažu stručnjaci za BIRN.
Međutim, većina prijavljenih slučajeva u regionu procesuira se samo kao ugrožavanje privatnosti, krađa identiteta ili zloupotreba podataka.
Bez zakona koji posebno regulišu takve slučajeve, oni se uglavnom završavaju privatnim tužbama.
U septembru 2023, sudije u Đurđuu, rumunskom gradu južno od Bukurešta, presudile su u prvom i jedinom javno poznatom slučaju u kojem je učenica koristila veštačku inteligenciju da proizvede lažni eksplicitni video svog školskog druga.
Tužbu su podneli roditelji 12-godišnjeg dečaka protiv roditelja učenice sredinom 2021.
Advokat dečakove porodice kaže da je devojčica postavila lice 12-godišnjaka na pornografski video, pokazala ga njihovim prijateljima u školi i objavila na Jutjubu.
Roditeljima devojčice je naloženo da plate 1.000 evra u vidu obeštećenja; roditeljima dečaka je naloženo da plate isti iznos nakon što su uvredili devojčicu zbog objavljivanja videa na Jutjubu.
Rumunska policija nije registrovala nijedan određen slučaj dečje pornografije koji se odlikovao korišćenjem „deepfake“ tehnologije, navela je policija u odgovoru na pitanja BIRN-a.
Zakon o zabrani korišćenja „deepfake“ sadržaja pojavili su se pred rumunskim poslanicima u aprilu 2023, ali su povučeni iz razmatranja u februaru ove godine i vraćeni na nivo odbora pošto je civilno društvo kritikovalo određene nedoslednosti u nacrtu zakona.
Prema istraživanju koje je u februaru objavio World Vision Romania, deset odsto tinejdžera u Rumuniji je bilo žrtva „dubokog lažiranja“. Nije precizirano da li je deepfake sadržaj bio seksualno eksplicitne prirode.
Oko 40 odsto ispitanika, od kojih su većina srednjoškolci iz ruralnih oblasti, izjavilo je da su bili žrtve onlajn zlostavljanja, u mnogim slučajevima od strane odraslih osoba koje su im slale privatne poruke sa seksualnim sadržajem.
U Severnoj Makedoniji podignuta optužnica protiv šestoro maloletnika
U Severnoj Makedoniji, u gradu Kavadarci, tužilaštvo je pokrenulo slučaj protiv šestoro maloletnika osumnjičenih da su preuzimali privatne fotografije školskih drugarica, modifikovali ih i razmenjivali sa prijateljima. Tužilaštvo vodi slučaj kao moguću zloupotrebu ličnih podataka.
Jedan roditelj je rekao državnoj novinskoj agenciji MIA da su oni „pravili fotomontaže u kojima su glave sa fotografija devojaka preuzetih sa Fejsbuka modifikovane uz pomoć aplikacije i postavljane na eksplicitne fotografije golih tela“.
Policijski sektor za kompjuterski kriminal je saopštio da do sada nije bilo nikakvih slučajeva zloupotrebe identiteta korišćenjem veštačke inteligencije.
U Albaniji, iz iSigurt.al, koji se bavi slučajevima zlostavljanja dece i mladih na internetu, kažu da su počeli da dobijaju prijave o sadržaju stvorenom korišćenjem veštačke inteligencije koji sadrži prikaze seksualnog zlostavljanja dece.
„S obzirom na to da našu primarnu misiju predstavlja zaštita dece i mladih od svakog oblika zlostavljanja na internetu, ne samo da prijavljujemo ove slučajeve odgovarajućim državnim i međunarodnim telima, već i organizujemo međunarodnu obuku kako bismo u većoj meri bili upoznati sa ovim novim i značajnim fenomenom koji izaziva zabrinutost u onlajn sferi“, izjavila je psiholog Borjana Dine za BIRN.
Na Kosovu, Petrit Tahiri, programski menadžer u Kosovskom obrazovnom centru, kaže da je od najvećeg značaja da dođe do razvoja novih pravnih okvira i propisa kako bi se odgovorilo na jedinstvene izazove koji proističu iz korišćenja veštačke inteligencije.
„Pravni sistemi moraju da se razvijaju kako bi išli u korak sa tehnološkim razvojem i kako bi se omogućila zaštita prava, privatnosti i bezbednosti svih ljudi“, izjavio je Tahiri za BIRN.
U Bosni, policija u pretežno bošnjačkom i hrvatskom entitetu Federacije BiH i u Distriktu Brčko saopštila je da do sada nije registrovala nijedan ovakav slučaj.
Iz Centra za sigurniji internet, neprofitne organizacije koja predvodi grupu udruženja za zaštitu dece i zadužena je za prijavljivanje i praćenje neprikladnog sadržaja na internetu, kažu da takođe nisu registrovali ovakve slučajeve, ali da očekuju da će do takvih slučajeva doći.
Policija iz Republike Srpske nije odgovorila na pitanja BIRN-a.
Ostaje nejasno kako bi se takvi slučajevi mogli procesuirati u Bosni, s obzirom na njen zastareli pravni okvir i nesaglasnosti između različitih nivoa vlasti.
„Bosna i Hercegovina nema zakon koji reguliše ove stvari na nivou države“, rekla je Amela Fazlić, menadžerka Centra za sigurniji internet.
Prema rečima Fazlićeve, Republika Srpska ima jedan član u Krivičnom zakoniku koji se odnosi na eksploataciju dece korišćenjem IT tehnologija, dok Federacija i Brčko imaju zakone koji nisu usaglašeni između bosanskih entiteta niti između deset kantona u okviru entiteta Federacije BiH.
U ovakvim slučajevima, osumnjičeni bi bili procesuirani na osnovu Krivičnog zakonika entiteta ili Distrikta Brčko, u zavisnosti od toga gde se zločin odigrao, ali on trenutno reguliše samo dečju pornografiju.
„Nijedan od zakona ne reguliše eksploataciju deteta bez eksplicitnog kontakta niti direktno stvaranje pornografskog materijala, zavođenje ili neprikladnu komunikaciju“, rekla je Fazlićeva.
Borba protiv zloupotrebe veštačke inteligencija zahteva prevenciju i edukaciju
Stručnjaci koji su razgovarali sa novinarima BIRN-a smatraju da prevencija zahteva učešće roditelja, nastavnika i drugih profesionalaca koji rade sa decom.
Digitalna pismenost i odgovornost dece mora postati prioritet u školi i kod kuće, kažu oni.
„Smatra se da je informisanje roditelja i stanovništva od najvećeg značaja za bezbednost na internetu. Roditelji nemaju dovoljno informacija o bezbednosti na internetu i zato ne mogu da informišu svoju decu. Zbog toga je potrebno pripremiti informativne sesije za roditelje na nivou škole. Postoje filmovi i video materijali sa veoma dobrim sadržajem koji roditelji i zajednica mogu koristiti za podizanje svesti o takvim pitanjima“, navodi Tahiri u pisanom odgovoru za BIRN.
Eraković je takođe izrazila zabrinutost zbog nedovoljne edukacije o privatnosti podataka, zaštiti na društvenim mrežama, potencijalnim zloupotrebama i nenadgledanom korišćenju interneta od strane dece, uz često zanemarivanje zahteva koji se odnose na uzrast.
„Potrebno je pomoći roditeljima i nastavnicima da se na najbolji način snađu u ovakvim situacijama. Roditelji, zauzvrat, treba da održavaju otvoren odnos poverenja sa svojom decom, jer je za dete od najveće važnosti da ima nekoga kome može smesta prijaviti takav incident i da ne podlegne pritiscima i pretnjama. Ne treba zanemariti činjenicu da su širom sveta poznati slučajevi koji su se fatalno završili, neki od njih i samoubistvom“, kaže ona.
Pisanju ovog izveštaja su doprineli BIRN ovi posmatrači za digitalna prava: Đurđa Radulović (Crna Gora), Aida Trepanić i Azem Kurtić (Bosna i Hercegovina), Bojan Stojkovski i Goce Trpkovski (Severna Makedonija), Adina Florea (Rumunija), Ákos Keller-Alánt (Mađarska), Tijana Uzelac (Srbija), Nensi Bogdani (Albanija), Flaka Fazlija (Kosovo).