MUP planira nabavku tehnologije za prepoznavanje lica, Poverenik kaže da nemaju pravo

U planu javnih nabavki MUP-a od 12. jula 2021. godine, za treći kvartal te godine planirana je nabavka licenci forenzičkog softvera za analizu digitalnog materijala kompanije Griffeye, koji sadrži opciju prepoznavanja lica. Nabavka još nije sprovedena, a iz MUP-a nisu odgovorili na pitanja BIRN-a koja je svrha nabavke i na koji način će se softver koristiti ako do nabavke dođe.

“Ideja je bila da se do kraja 2021. nabavi ta tehnologija.” kaže za BIRN Milan Marinović, poverenik za zaštitu informacija od javnog značaja i podataka o ličnosti. On navodi da se početkom 2020. godine sastao sa direktorom policije Vladimirom Rebićem i njegovim timom. Iz tog sastanka poverenik je zaključio da se policija neće lako odreći uvođenja tehnologije za prepoznavanje lica: “Ubeđen sam da MUP od toga nije odustao. Nijedna policija sveta od takvih stvari neće odustati zato što im odgovara”. 

“Ovo je ogoljavanje vašeg života, dolazak do podataka koji se tiču vas. Tu govorimo o globalnom ugrožavanju koje se meni ne sviđa. Softver može i fizički da vas prati. U Srbiji mi nemamo pravo na tako sofisticirani vid obrade podataka građana”, kaže Marinović. 

Pretražujući specifikacije programa kompanije Griffeye, BIRN je naišao na vrlo intruzivnu tehnologiju koju kompanija nudi policijama širom sveta, pa između ostalog i MUP-u Srbije. “Detekcija i prepoznavanje lica na slikama i video materijalima kroz tehnologiju primenljivu na ogroman obim podataka i slika ‘iz realnog sveta’”, samo je jedna od karakteristika Griffeye Analyze DI Pro softvera. 

Softver u nekim situacijama može da prepozna lice samo na osnovu očiju, a u određenim uslovima softver prepoznaje lice i kada oči nisu vidljive, recimo kada osoba nosi zatamnjene naočare. Pored lica, program prepoznaje objekte, vozila, znakove, organizacije, pa i tetovaže. 

Poseduje i mogućnost da velike količine ličnih podataka skida sa Interneta, a onda ih pretražuje, sortira, ukršta i obrađuje na osnovu metapodataka kao što su GPS koordinate, vreme kada je snimak napravljen, serijski broj telefona… 

Bojan Perkov, predstavnik SHARE fondacije, kaže za BIRN da nema povratka jednom kada se tehnologija za prepoznavanje lica uvede: “Jednom kada se taj sistem uspostavi, to znači da će se jako teško ukloniti i to predstavlja nepovratnu situaciju.” 

“Huawei” kamere detektuju lice, ali ne mogu da ga prepoznaju

Prošlogodišnji Nacrt izmena zakona o unutrašnjim poslovima trebalo je da legalizuje tehnologiju za prepoznavanje lica. To je naišlo na burnu reakciju javnosti, pa je Nacrt povučen, navodno na predlog predsednika Aleksandra Vučića. “Borbom protiv svega novog u sektoru bezbednosti, ubice i lopovi će biti malo sigurniji, a policija i građani će biti mnogo nesigurniji”, rekao je tada Aleksandar Vulin, srpski ministar policije. Ključni argumenti policije za izmenu zakona bili su povećanje bezbednosti građana i efikasnost u radu policije.

“Upotreba intruzivne tehnologije ne može biti opravdana efikasnošću, ta argumentacija jednostavno ne pije vodu. Najlakše bi bilo policiji ako bismo svi imali čip ugrađen u mozak i taj čip slao sve informacije policiji. Ako krenemo tim putem možemo da odemo do neslućenih razmera”, kaže Bojan Perkov iz SHARE fondacije koja je među prvima, 2019. godine, ukazala na moguću opasnost od uvođenja masovnog biometrijskog nadzora nakon što je MUP postavio oko 1000 Huawei kamera na blizu 500 lokacija u Beogradu i okolini. Iz ove organizacije dodaju i da je trenutni video nadzor u Beogradu dovoljan da se preko njega rekonstruiše ruta kretanja svakog lica u gradu, što je MUP i učinio u slučaju nestalog mladića iz Splita, Matije Periša. 

Postavljene “Huawei” kamere mogu da detektuju, ali ne i da prepoznaju lica, za šta je potrebno instaliranje softvera poput pomenutog Griffeye Analyze, kažu stručnjaci sa kojima je BIRN razgovarao. 

Početkom 2022. godine, nakon što su policajci u civilu viđeni kako snimaju učesnike ekoloških protesta, kancelarija poverenika izvršila je nadzor MUP-a povodom sumnji da su upotrebljavali tehnologije za prepoznavanje lica. Međutim, policija je potvrdila da ne poseduje takvu tehnologiju. “Nemamo dokaz da koriste, ali za mnoge druge stvari isto tako nismo imali dokaz, a kasnije se ispostavilo drugačije. To je svakako samo jedan softver koji oni vrlo lako mogu da instaliraju u sistem koji već sada može da prepoznaje registarske tablice”, kaže Filip Milošević iz SHARE fondacije. 

Koalicija za prikupljanje ličnih podataka

Udružena sa još nekoliko firmi, švedska kompanija Griffeye, čiji se softver pojavljuje u planu nabavki MUP-a, organizovala je 2018. godine lobi grupu u Briselu pod nazivom “Koalicija za sajber podatke” uoči stupanja na snagu evropske regulative za zaštitu privatnosti, prenosi francuski portal za geopolitiku IntelligenceOnline. Cilj lobi grupe je bio da firmi sačuva pravo na prikupljanje i obradu ličnih podataka, upravo ono što je evropska regulativa trebalo da im ograniči. BIRN saznaje da je švedska firma ubrzo po osnivanju napustila “Koaliciju za sajber podatke”. 

U odgovoru na pitanja evroparlamentaraca, Evropol navodi da od 2019. godine koristi Griffeye Analyze DI Pro softver koji u sebi sadrži opciju prepoznavanja lica.

Kako softver za prepoznavanje lica zapravo radi 

Da bi prepoznao lice, softver mora da upari zadato lice sa, istim ili sličnim licem iz baze fotografija koja se prethodno unese u sistem, kao što je objašnjeno u petominutnom video kursu koji je dostupan na sajtu Griffeye. 

“Kamera kada  snimi lice, ona ga pretvori u nekakav kod, prema biometrijskim karakteristikama lica, i onda može ukrštanjem podataka da uporedi fotografiju iz interne baze ličnih karti, na primer, sa fotografijom ili snimkom iz realnog sveta”, kaže Filip Milošević iz SHARE fondacije. 

Ovo znači da je za prepoznavanje lica potrebna interna baza fotografija građana u policiji sa kojom bi se onda uparivali snimci sa kamera, fotografije i ostali digitalni materijali. “Svi smo mi u nekoj bazi MUPa, pogotovu kad smo postali punoletni i stekli ličnu kartu”, kaže poverenik, Milan Marinović.

Kada se odredi koje lice treba prepoznati, softver ovo lice automatski traži u bazama fotografija i video snimaka sa sigurnosnih kamera, policijskih kamera, privatnog nadzora, mobilnih telefona i drugih digitalnih materijala kojima policija ima pristup. Kada se zada referentno lice ili objekat, softver ima opciju da filtrira i istakne samo delove video materijala u kojima se pojavljuje traženo lice ili objekat.

Lakoća upravljanja sistemom za prepoznavanje lica odaje utisak da bilo ko, za veoma kratko vreme, može biti obučen da upravlja ovom tehnologijom. 

“Da ne bi morali da sede i manuelno upoređuju, softver automatizuje ceo proces”, kažu iz SHARE fondacije, ali dodaju da efikasnost u radu ne može biti izgovor za uvođenje tehnologije koja je invazivna po ljudsku privatnost. 

Softver prepoznaje gotovo sve delove lica, među njma i oči, uši, tetovaže

U video kursu, predstavnik kompanije Griffeye pokazuje da softver može da prepoznaje lica samo na osnovu očiju. Drugi video kurs pokazuje da je moguće da softver prepozna osobu i kada oči nisu vidljive, onda kada nosi zatamnjene naočare i kačket. 

Miroslav Minović, ekspert za biometriju, profesor na Fakultetu organizacionih nauka i član Evropske biometrijske asocijacije, kaže za BIRN da je prepoznavanje lica samo na osnovu nekih delova lica “dosta nepouzdano”. “Većina algoritama oslanja se na karakteristike očiju, a kada oči nisu vidljive program koristi neuronske mreže koje su dobro utrenirane na licima kod kojih su vidljive, na primer, uši, oblik glave, kosa…”, kaže Minović. 

Softver i njegovi dodaci imaju mogućnost da prepoznaju i tetovaže, logotipe, ispise, znakove, delove pejzaža… Dovoljno je da korisnik označi polje na fotografiji ili snimku, a softver automatski traži sve digitalne materijale koji sadrže iste te elemente, biometrijske podatke, oblike.

Primeri fotografija i video snimaka na kojima su istražitelji demonstrirali Griffeye softver neretko su bili lošeg kvaliteta, što ostavlja pitanje pouzdanosti tehnologije za prepoznavanje lica. 

“Niti jedan biometrijski softver nije 100 posto precizan. Policija često radi na materijalima lošeg kvaliteta ali softver pomogne jer im suzi okvir pretrage”, kaže Miroslav Minović i upozorava na veliku opasnost u slučaju da se policija previše osloni na softver za prepoznavanje lica. “Finalnu odluku ne sme da donosi sistem. Bio je slučaj u Londonu gde je došlo do ubistva migranta, koga je softver greškom prepoznao kao teroristu koga je policija gonila”. 

“Rudarenje” ličnih podataka u službi tehnologije za prepoznavanje lica

Međutim, Griffeye Analyze softver prevazilazi puku tehnologiju prepoznavanja lica. Sagovornici BIRN-a kažu da softver može i da “rudari” podatke sa Interneta, Dark Web-a, otvorenih izvora i tako pravi sopstvene baze fotografija lica, te da prethodno postojanje interne baze biometrijskih podataka građana u MUP-u nije preduslov za funkcionisanje tehnologije za prepoznavanje lica. 

“Softveru ni ne treba interna baza fotografija. Oni ih verovatno kupuju od dilera, ‘data brokera’, preuzimaju sa Dark Web-a. To su procurele baze ličnih podataka i one javno dostupne sa Interneta…”, kaže Filip Milošević iz SHARE fondacije. Iako se u specifikacijama Griffeye softvera ne navodi da može da “rudari” podatke sa zaključanih profila, Milošević smatra da se u Griffeye sistem mogu uneti podaci koje je policija ili služba bezbednosti prethodno prikupila kroz prisluškivane razgovore ili tehnikom “pecanja” putem Cognyte softvera, o čemu je BIRN već pisao. “Rudarenjem” podataka sa Interneta organi reda dobijaju pristup ogromnom fondu ličnih i biometrijskih podataka. 

ClearView AI: “Najveća baza lica na svetu” 

Program ClearView AI automatski preuzima fotografije lica sa društvenih mreža: Facebook, Instagram, Youtube… i skladišti u svoju bazu, koja sada broji preko 10 milijardi fotografija lica ljudi širom sveta. Kompanija baze fotografija nudi organima reda, univerzitetima i organizacijama. 

Srpska policija takođe je bila zainteresovana za ClearView AI, pokazali su “procureli” podaci u koje je sajt Buzzfeed imao uvid. Borci za ljudska prava i pravnici pozivaju na prestanak korišćenja ClearView tehnologije, koja je pretnja privatnosti i služi za prikupljanje fotografija u službi prepoznavanja lica. 

Filip Milošević iz SHARE fondacije smatra da Griffeye Analyze program u sebi ima osobine kontraverznog ClearView AI programa koji je u mnogim zemljama zabranjen zbog kršenja privatnosti. 

Metapodaci: Zadiranje u privatni život 

Griffeye softver takođe može da pretražuje, filtrira i analizira fotografije i video snimke na bazi njihovih metapodataka kao što su jedinstveni serijski broj telefona ili kamere, geolokacija gde je snimak nastao, vreme i datum kada je snimak napravljen, rezolucija, kvalitet snimka i drugo.  

U jednom od Griffeye video kurseva, policijski istražitelj Erik Oldenburg govori kako je nekoliko slučajeva pedofilije rešeno, a počinioci uhvaćeni, zahvaljujući tome što su serijski brojevi kamera kojom su počinioci snimali zlostavljanje odgovarali serijskom broju kamera kojom su počinioci kačili privatne fotografije na društvene mreže. Drugim rečima, prestupnici su istim telefonom snimali zlostavljanje i kačili privatne fotografije na društvene mreže. 

Međutim, softver je primenljv na sve ljude, pa postoji opasnost od zloupotrebe. Iz kompanije Griffeye nisu odgovorili na pitanja BIRN-a o tome na koji način softver garantuje privatnost nedužnih građana.  

“Pristupom širem spektru baza podataka praktično bi bilo moguće, kao što se već dešava u Kini, da policijski službenik kamerom snimi lice, i odmah dobije ‘profil’ snimljene osobe sa najvažnijim informacijama – prebivalište, članovi porodice, zaposlenje, visinu plate, šta ta osoba voli da kupuje, kakva su joj interesovanja, čak i koju političku partiju podržava, na osnovu aktivnosti na društvenim mrežama, a onda bi algoritam mogao i da predviđa različite vrste ponašanja”, smatra Filip Milošević, predstavnik SHARE fondacije. 

Istraživanje BIRN-a pokazalo je da softver radi i u obrnutom smeru. Korisnik može da odabere geografsku oblast, vremenski okvir ili neki od dodatnih metapodataka, a softver izlista sve dostupne fotografije i video materijale koji odgovaraju zadatim parametrima. Na ovaj način policija ima mogućnost da u nekoliko klikova sazna mnogo toga o životu pojedinca i ljudima sa kojima je povezan, njegovom kretanju, letovanju, radnom mestu…

Softver nudi i opciju zvanu “Social media identifier”, pomoću koje korisnik softvera može da spoji originalnu fotografiju sa objavom na društvenoj mreži gde je ta fotografija postavljena i identifikuje profil osobe na društvenoj mreži koja je fotografiju objavila.

Filip Milošević iz SHARE fondacije smatra da je vrlo lako da se krene u istraživanje nečijeg privatnog života jedno kada se identifikuje lice. “Softver kada nađe jednu vrstu identiteta, može da ga poveže sa drugim identitetima iz drugih izvora. Ako se u sistem pohrani nečije lice, on će ga pretvoriti u podatke, upariti sa slikama sa Facebook-a, onda će ući na Tviter, Instagram profil i tako dalje.” 

Još jedna karakteristika softvera je “otkrivanje skrivenih elemenata na fotografijama” tako što se manipuliše slojevima digitalne fotografije. Na sajtu kompanije stoji primer –  slika prozora na kojoj se od odsjaja stakla ne vidi jasno osoba, ali je softver uspeo da sliku “prečisti” i prikaže osobu koja gleda kroz prozor.

Griffeye Brain, programski dodatak na bazi veštačke inteligencije, automatski detektuje i imenuje objekte i detalje na slikama i video materijalima. Ovako se skraćuje vreme pretraživanja baza digitalnih podataka, pa korisnik softvera u nekoliko sekundi može da izlista sve fotografije na kojima se pojavljuju, na primer, automobil, dečak ili naočare. Detalji i predmeti koje softver obeležava mogu biti komadi nameštaja i odeće, ljudi, tipovi građevina, delovi vozila, životinje, biljke…  

Predstavnik SHARE fondacije, Filip Milošević kaže da softveri koje prodaje kompanija Griffeye jesu pretnja po privatnost građana. “Brz, jednostavan i potpuni uvid u život svakog pojedinca. Ovakvi alati kreiraju vrlo detaljne profile pojedinaca ukrštajući apsolutno sve njihove postojeće digitalne informacije. To mogu biti informacije koje poseduje država, a policija može da dobije pristup – saobraćaj, kamere, finansijski sistem, zdravstveni, socijalni – upotpunjene podacima koje građani kao digitalni trag ostavljaju korišćenjem uređaja i Interneta, poput Internet pretrage, posete sajtovima, korišćenje aplikacija, profili na društvenim mrežama, istorija kupovine, kretanja, interakcija sa drugim ljudima…”

Softver ne pravi razliku između kriminalaca i nedužnih 

“Da pomognemo onima koji štite”, glavni je moto švedske kompanije Griffeye čiji se softver pojavio u planu javnih nabavki MUP-a prošle godine. Na zvaničnom sajtu kompanije stoji da je softver namenjen istražiteljima, koji rade na slučajevima seksualnog zlostavljanja dece. 

Sagovornici BIRN-a kažu da opasnost od narušavanja privatnosti postoji i kada se tehnologija za prepoznavanje lica koristi za hvatanje pedofila i kriminalaca. “Policija ne razume da softver ne može da prepozna samo lica osumnjičenih, ne može tek tako da odvoji ta lica od lica običnih građana. Šta ako sam se ja našao na snimku gde se desio neki incident, taj softver će automatski da upari mene i pokazaće da sam bio tu tad i tad, iako nisam osumnjičen”, kaže Filip Milošević iz SHARE fondacije. 

Poverenik kaže da osoba koja bi rukovala tehnologijom za prepoznavanje lica mora proći kroz obuku o zaštiti podataka, kako bi građani bili zaštićeni od mogućih zloupotreba. On kaže da je potrebno da “postoje sertifikovani ljudi, koji su prošli obuku, kontrola pristupa, mere zaštite”. Da se podaci čuvaju bezbedno i što kraće vreme, da se brišu, kako bi prava običnih ljudi, koji nisu kriminalci, bila zaštićena. “Ako dođe do povrede privatnosti da se zna ko za to odgovara”, kaže poverenik. 

Stručnjaci iz SHARE fondacije objašnjavaju da se zloupotrebe uvek dešavaju kad god je prisutan ljudski faktor. Bojan Perkov smatra da tehnologija za prepoznavanje lica “generiše veštački proizvedeno ponašanje ljudi na ulicama i veštačku društvenu koheziju, gde će se svi truditi da budu poslušni zbog nadzora i sa znanjem da se snimci mogu koristiti protiv njih.”

“Takve tehnologije mogu da ugroze prava građana i definitivno treba da se borimo protiv njih”, kaže Filip Milošević iz iste organizacije.