Centralizacija podataka u kragujevačkom Data centru, nabavka superkompjutera i učešće kineskih, evropskih i američkih partnera u razvoju veštačke inteligencije u Srbiji doveli su do sve veće zabrinutosti stručnjaka iz oblasti zaštite ličnih podataka zbog potencijalne zloupotrebe tih informacija u većem obimu nego do sada, pokazuje analiza BIRN-a.
Vlada Srbije objavila je u junu 2021. da pokreće platformu “Pametna Srbija” koja bi trebalo da “integriše višestruke tokove informacija iz različitih organa javne uprave na lokalnom i državnom nivou”, da služi “za sigurno prikupljanje i obradu podataka iz različitih javnih izvora”, a sve kako bi se “unapredile elektronske usluge za građane”. Istovremeno, podaci koji se prikupljaju u Data centru “predstavljaju `pamet` države na osnovu koje mogu da se donose odluke i osmišljavaju strategije”.
Do danas nije poznato koje institucije su prebacile svoje podatke u Data centar u Kragujevcu, kao ni koji setovi podataka se tamo nalaze.
Stručnjaci Share fondacije, koja se duži niz godina bavi digitalnim pravima, upozorili su javnost na postojanje mogućnosti da se ukrštanjem različitih podataka koji su smešteni u ovim data centrima mogu formirati “digitalni identiteti” građana ili algoritmi koji bi mogli da donose odluke o životu građana.
Sagovornici BIRN-a kažu da su centralizacija i kreiranje javnih usluga na bazi veštačke inteligencije procesi koji mogu dugo da traju, da je Srbija na samom početku ali i da su etičke smernice koje bi pratile svaki nivo razvoja veštačke inteligencije od ključnog značaja.
Deo civilnog sektora zabrinut je zbog potencijalno novih vidova obrade podataka u okviru novog data centra. Sredinom decembra objavljen je Nacrt etičkih smernica za primenu veštačke inteligencije. Ana Toskić Cvetinović, direktorka nevladine organizacije “Partneri Srbija”, kaže da je “dobro što se uopšte pristupilo izradi jednog ovakvog dokumenta”.
“Međutim, na veštačku inteligenciju se već mogu primenjivati odredbe Zakona o zaštiti podataka o ličnosti, što se ne čini, a nema garancije da će se i bilo koji drugi propis, a posebno smernice koje nisu obavezujuće, primenjivati”, kaže Ana Toskić Cvetinović.
Paralelno sa ovim, na sceni je pravi mali tehnološki rat između istoka i zapada, u kome se Srbija nalazi između dve vatre. Kancelarija za IT i eUpravu je još 2019. godine, pre donošenja Strategije za razvoj veštačke inteligencije i pre nego je otvoren Državni data centar, sa kineskom kompanijom Huawei potpisala memorandum o uspostavljanju platforme za veštačku inteligenciju, da bi onda napravila zaokret ka zapadnim partnerima.
“Mi tu dođemo kao neki ‘pokusni kunići’, nismo igrači, mi smo korisnici, gde će te tehnologije da se probaju, na velikom uzorku”, kaže Vladan Joler, profesor na univerzitetu u Novom Sadu i vodeći istraživač za pitanja veštačke inteligencije u Share laboratoriji.
I Srbija ima superkompjuter
Nameru da centralizuje sve podatke iz javne uprave u kragujevački data centar Vlada Srbije je započela još juna 2021. godine kroz platformu “Pametna Srbija”. Krajem te godine u data centar stigao je prvi superkompjuter, koji bi trebalo da koristi podatke prikupljene iz javnih uprava radi kreiranja usluga na bazi veštačke inteligencije. U to vreme počela je i obuka službenika u oblasti veštačke inteligencije i novih tehnologija.
Prvi korisnik Nacionalne platforme za veštačku inteligenciju postao je Institut za veštačku inteligenciju. Prilikom potpisivanja sporazuma o korišćenju platforme, tada direktor Kancelarije za IT i eUpravu, a sadašnji ministar informisanja i telekomunikacija Mihajlo Jovanović, je izjavio da očekuje da će Institut znatno pomoći Kancelariji u primeni i korišćenju veštačke inteligencije u daljem razvoju usluga eUprave.
Dubravko Ćulibrk iz Instituta za veštačku inteligenciju kaže da je još rano za razvoj javnih usluga na bazi veštačke inteligencije.
“Nije trenutno plan da se uvode javne usluge bazirane na veštačkoj inteligenciji, eUprava ima u svom planu gomilu stvari koje treba da razviju. Recimo ono što radimo i želimo da poboljšamo je pretraga na portalu ‘Službeni glasnik’, da primenimo savremenije tehnike obrade govora i da ponudimo eUpravi da isto uradimo i za njih.”
Kako se superkompjuter u Državnom data centru “hrani” podacima
Javnost još nije obaveštena koji podaci i koje institucije su prebacile svoje podatke u Državni data centar u Kragujevcu. Dubravko Ćulibrk, direktor Instituta za veštačku inteligenciju kaže za BIRN da je Institut za molekularnu genetiku i genetičko inženjerstvo preneo svoju genetsku banku u Državni data centar ali da nije upoznat koje javne institucije su učinile slično.
Na sajtu Kancelarije za IT i eUpravu navodi se da platforma, između ostalog, služi za kreiranje elektronskih usluga na bazi veštačke inteligencije jednom kada javni podaci budu centralizovani. “Cilj je integrisati sve višestruke tokove informacija iz različitih organa javne uprave na lokalnom i državnom nivou. Kada su javni podaci tu, platforma `Pametna Srbija` biće u mogućnosti da pruža usluge zasnovane na veštačkoj inteligenciji.” Stručnjaci sa kojima je BIRN razgovarao kažu da je prebacivanje podataka u novi data centar proces za koji su nekada potrebne godine.
Slobodan Marković, savetnik za digitalne tehnologije u Programu za razvoj Ujedinjenih nacija (UNDP) smatra da nikada neće doći do potpune centralizacije podataka. “Čak i kada bi tako nešto bilo državna strategija, njena realizacija zahtevala bi puno vremena i novca. Zato mi realnije deluje scenario po kome se u Državni data centar prvo smeštaju novorazvijeni informacioni sistemi, kao i sistemi institucija koje nemaju sopstvene kapacitete ili su im postojeći kapaciteti postali nedovoljni.”
Marković dodaje da se neke institucije poput MUP-a, Poreske uprave, PIO fonda neće lako odlučiti za prebacivanje podataka u data centar.
Planirano je da korisnici platforme za veštačku inteligenciju budu naučno-tehnološki parkovi, pojedini tehnički fakulteti, instituti i start-ap kompanije. Broj lokacija sa kojih se pristupa Nacionalnoj platformi za veštačku inteligenciju, prema akcionom planu, trebalo bi da bude 50 do kraja 2022. godine.
Sagovornici BIRN-a kažu da je za pouzdano funkcionisanje programa veštačke inteligencije potrebno prethodno “nahraniti” sistem velikim brojem podataka, pa ako je cilj proizvodnja javnih usluga na bazi veštačke inteligencije, ulazni podaci, na kojima se sistem “trenira”, moraju da budu podaci koje poseduju organi javne uprave.
Primeri iz prakse
Na zvaničnim sajtovima Vlade Srbije navode se pozitivni primeri primene veštačke inteligencije u javnom sektoru Srbije – “Oko sokolovo”, program za sprečavanje utaje poreza i program za predikciju potrošnje struje koji je Majkrosoftov razvojni centar u Beogradu razvio za EPS.
Kako se navodi na sajtu, Majkrosoftova platforma za vizualizaciju i predikciju potražnje električne energije je uštedela EPS-u 600 hiljada evra.
Automatizovana obrada podataka veći problem od centralizacije
U julu ove godine Vlada Srbije je pustila u rad poseban objekat u okviru kragujevačkog data centra u koji bi podatke trebalo da smesti MUP i bezbednosne strukture, a premijerka Srbije, Ana Brnabić ga je nazvala “srcem bezbednosti”.
U vreme kada je ovaj objekat bio u izgradnji, decembra 2021. godine, predsednik Srbije Aleksandar Vučić je izjavio: “Gradimo ovde poseban objekat koji će biti baza za apsolutno sve podatke MUP-a i BIA, odakle ćemo najbolje i najtačnije vaditi podatke za svaku situaciju koja se pojavi”.
Prikupljanje ovako velikog broja podataka izazvalo je zabrinutost kod stručnog dela javnosti jer masovno prikupljanje informacija na jednom mestu može dovesti do njihove zloupotrebe u većem obimu. Vladan Joler iz Share laboratorije smatra da je zloupotreba moguća i kada su podaci decentralizovani, a “kada su na jednom mestu lakše je podatke umrežiti, čuvati i kontrolisati”.
Share fondacija je na sajtu objavila potencijalne opasnosti centralizacije podataka, i to na mogućnost formiranja “digitalnih identiteta” ili algoritama koji donose odluke o životu građana ukrštanjem različitih podataka. “Centralizacija, automatizacija, uvođenje digitalnih identiteta mnogo povećavaju mogućnost masovnog i targetiranog nadzora ali i tzv. ‘algoritamske represije’. Kada su podaci centralizovani, Vlada i njene agencije mogu im lakše pristupati i analizirati, pa i pratiti aktivnosti i ponašanje građana”, kaže Filip Milošević, istraživač u Share fondacije.
Vladan Joler dodaje da je veći problem od centralizacije podataka zapravo njihova automatizovana obrada.
”Nekada je nadzor bio selektivan. Na primer, pratimo stotinu sumnjiih lica, a sa veštačkom inteligencijom je obrnuto – skupljaju se svi podaci, to je drugi nivo igrice, masovni nadzor. Skupljaš sve podatke, često bez kapaciteta da sve to analiziraš i onda sistem detektuje anomalije, sistem određuje šta su sumnjiva ponašanja”, kaže Joler.
Diskriminacija u veštačkoj inteligenciji?
Stručnjaci sa kojima je BIRN razgovarao su saglasni u tome da je diskriminacija koju proizvode sistemi veštačke inteligencije nemoguće izbeći, te da je diskriminacija prisutna i u procesu odabira podataka kojima se sistem “hrani”. Ana Toskić Cvetinović, direktorka nevladine organizacije “Partneri Srbija” kaže da je “transparentnost i učešće čoveka neophodno u bilo kakvom procesu odlučivanja koje podrazumeva primenu veštačke inteligencije, pre svega u javnom sektoru.”
Nedavno je Zakon o socijalnoj karti dospeo u žižu javnosti zbog algoritma čiji je princip funkcionisanja javnosti nepoznat, a koji je iz sistema socijalne zaštite “istisnuo” preko 20 hiljada socijalno ugroženih. “Algoritam mora da bude transparentan, pogotovu kada pričamo o javnim institucijama, jer one su naš servis i imamo sva prava da razumemo pravila unutar tog servisa”, kaže Vladan Joler iz Share laboratorije.
Iako algoritam koji se koristi u sklopu informacionog sistema Socijalna karta nije baziran na veštačkoj inteligenciji, javnost je ostala uskraćena za mnoga etička pitanja koja se odnose na praktičnu primenu veštačke inteligencije.
Softver za prepoznavanje lica sa funkcionalnostima na bazi veštačke inteligencije, o kome su novinari BIRN-a prošlog meseca pisali, srpska policija je nabavila. Nove izmene zakona o policiji trebalo bi da legalizuju ovakav tip softvera, pa i skorašnji nacrt etičkih smernica u oblasti veštačke inteligencije nije propustio da navede obaveznu procenu uticaja na zaštitu podataka u slučaju “sistemskog nadzora nad javno dostupnim površinama u velikoj meri”.
Upotreba veštačke inteligencije u zdravstvenom sistemu
Naznake da Vlada Srbije namerava da upotrebi veštačku inteligenciju u zdravstvu mogle su se videti još početkom imunizacije protiv Kovida 19. Mark Minevič, novinar Forbsa je februara 2021. godine intervjuisao srpske zvaničnike i dao opis „Sistema za menadžment imunizacije Republike Srbije“.
Platforma je predstavljena tako da omogućava praćenje celokupnog procesa vakcinacije u realnom vremenu – analizira broj vakcinisanih građana “po godinama, zanimanju, lokaciji”, “pomaže kod odluka da li i kada treba da se pojačaju kampanje informisanja javnosti” i to, kako se navodi u tekstu, sve na bazi veštačke inteligencije. Međutim, izvori BIRN-a kažu da sistem koji se navodi u tekstu nije nikada funkcionisao na način koji se navodi u tekstu Forbsa.
Dubravko Ćulibrk kaže da je Institut za veštačku inteligenciju već “trenirao” model veštačke inteligencije na podacima koje su kovid pacijenti iz Batajnice dobrovoljno dali, a da Institut za veštačku inteligenciju ima saradnju sa Institutom za molekularnu genetiku i genetičko inženjerstvo na polju otkrivanja retkih bolesti u dijagnozama ili analize genetičkog materijala.
„Sve snimke sa mamografa, sve snimke rendgenske, sve da primimo ovde i da ih obradimo milion u jednom danu“, rekao je predsednik Srbije Aleksandar Vučić u Kragujevcu, na otvaranju Nacionalne platforme za veštačku inteligenciju.
Osvrnuvši se na ovu izjavu, Dubravko Ćulibrk, direktor Instituta za veštačku inteligenciju, ne spori da je tako nešto izvodljivo ali ističe bezbednosne rizike jedne takve procedure.
“Tehnički je moguće, ali mora prvo da se vidi sa Poverenikom za zaštitu informacija. Možeš nekome da spasiš život ali pitanje je u kom momentu zadireš u privatnost. To je dijalog na društvenom nivou”, kaže on.
Primer ukrštanja veštačke inteligencije i osetljivih zdravstvenih podataka naišao je na zabrinutost britanske javnosti kada je 2016. godine glavna zdravstvena institucija u toj zemlji (NHS) sklopila ugovor sa Googlom o deljenju podataka o preko milion i po pacijenata, uključujući radiološke snimke, patološke izveštaje, podatke o nezgodama itd.
Saradnja sa kineskim institutom BGI na razvoju projekta BIO4
Sa ciljem da objedini biotehnologiju i veštačku inteligenciju Vlada Srbije je pokrenula projekat pod nazivom BIO4 kampus, koji predstavlja plan izgradnje multidisciplinarnog naučno-istraživačkog kompleksa nadomak Agencije za lekove i medicinska sredstva, Instituta “Torlak”, Farmaceutskog fakulteta i Instituta za molekularnu genetiku i genetičko inženjerstvo, koji je od maja meseca novi korisnik Nacionalne platforme za veštačku inteligenciju.
Institut za molekularnu genetiku otvorio je decembra 2021. godine Centar za sekvenciranje genoma i bioinformatiku u saradnji sa pekinškim BGI Institutom, koji se našao na udaru američkih vlasti zbog špekulacija da prikuplja genetske podatke iz zemalja i analizira ih uz pomoć veštačke inteligencije, o čemu je pisala Radio Slobodna Evropa. Prema rečima doktorke Ivane Morić iz Instituta za molekularnu genetiku, kineski Institut “biće prisutan” na BIO4 kampusu koji je u planu izgradnje.
Gde sve završavaju naši podaci?
U razvoju platforme za veštačku inteligenciju Srbija se okrenula zapadnim, američkim kompanija poput Majkrosofta, Nividije, Orakla, IBM-a sa jedne strane, a kineskoj Huawei i arapskoj kompaniji G42, sa druge.
Novinari BIRN-a nisu dobili ugovore koje je Vlada potpisala sa ovim kompanijama, a koji bi otkrili na koji način one učestvuju u razvoju platforme za veštačku inteligenciju. Između ostalog, informacionim sistemom Kovid19 se upravljalo preko “Pametne Srbije”, koja je bazirana na Majkrosoftovoj tehnologiji.
Dubravko Ćulibrk iz Instituta se nada da će naša zemlja ulaganjem u veštačku inteligencije moći da bude nezavisnija. On podseća da u Srbiji “kada se rade neinvazivni testovi iz krvi, da bi se videlo da li je žena trudna, svi ti podaci su se slali u Švajcarsku, a mi sve to plaćamo.”
Dodaje da se ostankom podataka u zemlji koja ih je proizvela obezbeđuje bolja kontrola i zaštita osetljivih ličnih podataka: “Voleo bih da su ti podaci ostali na serveru u Srbiji, da se istrenira model veštačke inteligencije, pa da neka naša firma napravi posao i prihod od toga, pa ako nešto pođe po zlu da znaš ko je odgovoran. Ipak, ne možemo u svemu da se merimo (sa velikim korporacijama), pa ako je benefit dovoljno veliki, moramo sa strane da uzmemo, to je skroz u redu.”
Vladan Joler, profesor novih medija na fakultetu u Novom Sadu i vođa Share laboratorije, veruje da se novi softveri veštačke inteligencije uvek testiraju nad onima koji se nalaze u pravnom vakumu.
“U onoj šumi na granici Poljske i Belorusije, gde je gomila migranata, koje su to ludnice od tehnologije koje se testiraju. Uvek testiraš takve sisteme na prostorima koji su pravno neregulisani, i ja verujem da mi jesmo jedan takav prostor,” zaključio je Joler.
