Policija Srbije nabavila softver sa opcijom za prepoznavanje lica

“Softver za sortiranje i analizu velikih količina slika i video zapisa, sa fokusom na slučajeve koji sadrže materijal seksualne eksploatacije dece” – ovako je MUP Srbije opisao program koji je nabavljen početkom godine, a koji je izazvao popriličnu zabrinutost zbog toga što u Srbiji ne postoji pravni okvir, koji policiju dozvoljava upotrebu bilo kakve tehnologije za prepoznavanje lica. 

Da je MUP planirao nabavku tehnologije za prepoznavanje lica saznalo se prvi put u planu javnih nabavki MUP-a od 12. jula 2021. godine, u vreme objavljivanja spornog Nacrta zakona o unutrašnjim poslovima koji je trebalo da legalizuje “obradu biometrijskih podataka detektovanog lika”, ali je usled pritiska javnosti bio povučen. 

Uprkos svemu, nabavka Griffeye softvera je otvorena na portalu javnih nabavki poslednjeg dana 2021. godine, a dodeljena je 22. februara ove godine jedinom ponuđaču, firmi “IN2 informatički inženjering”. 

“Ideja je bila da se do kraja 2021. nabavi ta tehnologija” rekao je ranije ove godine u intervjuu za BIRN Milan Marinović, poverenik za zaštitu informacija od javnog značaja i podataka o ličnosti, dodajući da u Srbiji ne postoji pravni osnov za upotrebu tehnologije za prepoznavanje lica. Aktuelni stav Poverenika na ovu temu ostao je isti “budući da u međuvremenu nije došlo do izmene Zakona o zaštiti podataka o ličnosti”, ali služba poverenika ističe da još uvek nema pravnog osnova za preduzimanje bilo kakvih mera. 

Srpska firma “IN2”, koja je dobila ovaj posao na tenderu i koja pripada regionalnoj grupaciji sa sedištem u Hrvatskoj, došla je u žižu javnosti 2016. godine kada je u konzorcijumu sa hrvatskim firmama “Igea” i istoimenom “IN2” iz Zagreba dobila da radi nabavku softvera “E-žalba” za potrebe srpskog katastra, a ubrzo i nadogradnju istog softvera. Tadašnja konkursna dokumentaciji je bila napisana na hrvatskom jeziku, protivno zakonu koji nalaže da mora biti na srpskom, o čemu je pisala Pištaljka. 

Beogradski ogranak “IN2” već duže vreme MUP-u dostavlja licence softvera za digitalnu forenziku telefona i računara, neretko kao jedini ponuđač. 

Program Griffeye može da analizira bilo koje snimke

Istraživanje BIRN-a pokazalo je da predmet obrade putem Griffeye softvera mogu biti bilo koji video snimci ili slike, koji ne moraju da imaju veze sa seksualnom eksploatacijom dece. Kako je BIRN već pisao, Griffeye softver može da prepoznaje tekstualne ispise, mesta, i objekte, izvlači GPS koordinate sa slika i video materijala, jedinstvene serijske brojeve kamera koji su proizveli te digitalne materijale, pa i da prepoznaje ljudska lica kada su vidljivi samo određeni delovi – na primer oči. 

U najavama za nove video-treninge, koje je kompanija oglasila na zvaničnom sajtu, kao nova funkcionalnost programa navodi se strukturisanje Google, Fejsbuk, Dropbox i drugih izveštaja koje policije mogu da potražuju od ovih elektronskih servisa. „Policija traži od Gugla da dostavi šta ima na nečijem nalogu, to je takozvani nalog za pretres, kao da imaju nalog da pretresu stan, samo u elektronskoj formi.“, kaže Bojan Perkov iz SHARE fondacije koja je među prvima ukazala na moguću opasnost od uvođenja masovnog biometrijskog nadzora.

„Ove platforme onda šalju velike količine različitih vrsta podataka koji nisu jednostavni za pregled, pa se zato koriste softveri poput Griffeye-a koji analiziraju i sortiraju sve podatke, a onda ih isporučuju u traženom obliku.“ dodaje Filip Milošević iz iste organizacije. 

Mada u konkursnoj dokumentaciji nisu navedene sve funkcionalnosti programa, niti o kojoj verziji programa je reč, u odgovoru na tenderska pitanja, koje su postavile zainteresovane firme, srpska policija je i zvanično potvrdila da je predmet nabavke Analyze DI Pro softver koji, pored prepoznavanja lica, ima mogućnost napredne pretrage Interneta, “mračnog” Interneta, metapodataka na velikoj količini fotografija i snimaka. 

Filip Milošević iz SHARE fondacije objašnjava da ovaj program nije ograničen samo na materijale seksualne eksploatacije dece. “Ovakvi softveri mogu da sortiraju i analiziraju bilo kakve vrste podataka i u njima traže bilo šta što se definiše u upitu. Onoga ko poseduje softver ništa tehnički ne sprečava da traži druge vrste sadržaja – što bi mogli biti i određeni likovi, objekti, tekst itd.”

Dodatno, MUP navodi da softver nije personalizovan ali je namenjen za individualnu upotrebu, na jednom računaru: “…dakle jedan slučaj, jedan inspektor, individualni rad”, stoji u odgovoru na tendersko pitanje. “To što nije personalizovan bi definitivno trebalo da znači da bilo ko sa pristupnim kredencijalima može da ga koristi. U MUP-u bi definitivno trebalo omogućiti pristup samo određenim službenicima, a svakako voditi operativni registar pristupa i upita”, kaže Milošević iz fondacije SHARE. 

U planu još jači softver?

“Da li možemo saznati koji deo MUP-a je krajnji korisnik, kako bismo im u budućnosti prezentovali daleko moćniji softver, koji ima veštačku inteligenciju i treniran je da prepoznaje fotografije i video materijale koji sadrže CSA (Child Sexual Abuse, odnosno dečje seksualno nasilje), a napravljen je u saradnji sa austrijskom i nemačkom policijom?”, glasilo je pitanje koje je firma IntellSec, javnosti poznata po nabavci enkriptovanih telefona za EPS, postavila na portalu javnih nabavki u delu “pitanja i odgovori”. 

Inače, radi se o uobičajenoj praksi u kojoj firme, koje su potencijalni ponuđači, mogu da nabavljaču postave pitanje vezano za detalje tendera, a nabavljač je u obavezi da odgovori. Ipak, ono što je problematično je transparentnost onoga ko postavlja pitanje.

Iz firme IntellSec nisu odgovorili na pitanje BIRN-a o razlozima zbog kojih ova firma nije učestvovala na tenderu, iako je pokazala interesovanje, kao i o tome koji softver planiraju da ponude MUP-u.