Točkove pravde u Srbiji itekako treba ubrzati. Ali kada je predsednik Aleksandar Vučić prošlog meseca novinarima rekao da bi bilo „veoma važno“ uvesti veštačku inteligenciju u sudove, nisu svi bili uvereni .

Vučićeva opaska o “prediktivnoj pravdi” i pojavi „novih, stvarnih i važnih promena“ došla je u kontekstu konferencije za novinare na kraju godine koja je pokrivala pun opseg Vladine politike, pa se nije zadržavao na detaljima.

Neki aktivisti za digitalna prava i pravni stručnjaci pozivaju na uzbunu zbog potrebe da se to pitanje stavi na punu javnu raspravu, nakon što je Beogradu 2019. godine na iznenađenje neobaveštenih stanovnika postavljena široka mreža nadzornih kamera izgrađenih u Kini. 

Od identifikovanja verovatnih prestupnika do hvatanja prevaranata, prediktivna pravda je brzo rastući fenomen, alarmira organizacije za zaštitu prava koje upozoravaju da takav softver može podstaći rasno profilisanje i diskriminaciju i ugroziti privatnost i slobodu izražavanja.

Advokat Đorđe Krivokapić, suosnivač beogradske SHARE Fondacije za digitalna prava, rekao je da se veštačka inteligencija koristi u sudovima u pogledu vođenja predmeta, automatizacije i asistencije u donošenju odluka. Dodao je da njegovom uvođenju treba pravilno raspravljati.

„Ovo predstavlja ozbiljnu promenu u našem društvu i treba pokrenuti neke javne debate i javne rasprave o ovom pitanju bez obzira na nivo na kome se o tome raspravlja – osim možda na prvom nivou kada se koriste neke vrste prediktivnih algoritama u upravljanju slučajevima kako bi se ubrzao pravosudni sistem i učinio ga efikasnijim “, rekao je Krivokapić za BIRN.

Upozorio je na mogućnost diskriminacije. „Veštačka inteligencija i algoritmi mašinskog učenja imaju puno specifičnosti koje mogu dovesti do povećane diskriminacije – ili novih oblika diskriminacije – i tome se mora posvetiti posebna pažnja.“

Ministarstvo pravde nije odgovorilo na zahtev za komentar.

Prazna sudnica Višeg suda u Beogradu. Foto: bg.vi.sud.rs

Srbija već postavlja teren za upotrebu veštačke inteligencije u svom javnom sektoru. U decembru 2019. Vlada je usvojila Strategiju razvoja veštačke inteligencije za period 2020-2025, a Akcioni plan za sprovođenje Strategije donesen je u junu 2020.

Prema tom planu, Vlada će u prvom kvartalu ove godine uspostaviti Savet za veštačku inteligenciju. Međutim, ni u jednom dokumentu se detaljno ne govori o upotrebi veštačke inteligencije u srpskom sudskom sistemu, koji je notorno spor i sklon političkom mešanju.

Pored zakonodavnog okvira, Srbija je takođe počela da automatizuje čuvanje predmeta i institucionalnu komunikaciju u pravosuđu.

Advokat Milena Vasić iz Komiteta pravnika za ljudska prava-YUCOM rekla je da veštačka inteligencija postaje „vrsta neizbežnosti u gotovo svim oblastima života“, a krivična pravda ne može biti izuzetak.

„Naročito bismo trebali imati na umu jednostavnije slučajeve, kao što su, na primer, sada hiljade tužbi protiv banaka zbog troškova obrade kredita koji su praktično zatrpali pravosuđe ili masovnih parnica koje se najčešće javljaju zbog greške država “, rekla je Vasić za BIRN.

„Svakako bi upotreba veštačke inteligencije mogla olakšati upravljanje takvim slučajevima, ali s obzirom na to da je reč o softveru, trebalo bi da razgovaramo i o potencijalnim zloupotrebama ili veštačkom povećanju broja rešenih slučajeva.“

Ana Toskić Cvetinović, izvršna direktorka organizacije Partneri za demokratske promene Srbija, takođe je upozorila na potencijalna pitanja oko diskriminacije marginalizovanih grupa.

„U vezi sa upotrebom veštačke inteligencije u pravosuđu, to pokreće niz drugih pitanja kao što su uticaj na pristup pravdi i pravo na pravično suđenje, ili besplatno izricanje presuda, čak i kada se veštačka inteligencija koristi za donošenje odluka, i posebno ako je veštačka inteligencija ta koja bi eventualno mogla zameniti sudije“, rekla je Toskić Cvetinović za BIRN.

Neki oblici prediktivne pravde još uvek ne mogu da se primene u Srbiji, rekla je Vasić iz YUCOM-a.

„U našem pravu sudska praksa još uvek nije formalni izvor prava i imamo puno problema sa usklađivanjem sudske prakse“, rekla je. „Ono što je ključno, međutim, jeste usaglašavanje stava o sudskoj praksi na „ljudskom“ nivou pre rešavanja slučajeva novim metodama koje uključuju veštačku inteligenciju.“

„Takvi sistemi se lako mogu zamisliti u zemljama običajnog prava“, primetila je Vasić, ali „čak i tamo trpe ozbiljne kritike zbog kršenja prava građana na pravično suđenje i još uvek su u takozvanoj test fazi“.

Nedostatak transparentnosti

Deo mape pametnih kamera u Beogradu, pogled na centar grada. Snimak ekrana: hiljade.kamera.rs

Srbija već teži većoj automatizaciji, na primer u pogledu parkiranja u Beogradu.

U avgustu prošle godine vlasti su pokrenule sistem pod nazivom „Oko sokolovo“ koji uključuje 20 specijalizovanih automobila opremljenih kamerama koje mogu identifikovati nepropisno parkirane automobile i fotografisati, što rezultira novčanom kaznom za registrovane vlasnike koje se šalju poštom. Zatim je tu kineska mreža nadzornih kamera „Sigurni grad“ sa potencijalom za prepoznavanje registarskih tablica i prepoznavanje lica.

O upotrebi takve tehnologije postoji malo ili nimalo javne debate, čije se uvođenje kritikuje kao nedostatak transparentnosti.

Toskić Cvetinović je upozorila da će „nedostaci“ veštačke inteligencije biti uvećani u Srbiji s obzirom na lošu evidenciju zaštite ljudskih prava u zemlji.

„Pored toga, zaštita privatnosti građana do sada nije bila u fokusu prilikom planiranja ili sprovođenja projekata koji uključuju masovnu obradu ličnih podataka“, rekla je Toskić Cvetinović za BIRN.

„Najviše me zabrinjava činjenica da su najflagrantnija kršenja ovog prava potekla od institucija koje imaju javne funkcije, pa je poverenje u nove slične projekte poljuljano, i to s dobrim razlogom.“

„Ne postoji transparentnost u donošenju odluka, niti bilo kakva šira društvena rasprava o tome da li su nam potrebni takvi projekti i koje su njihove prednosti i koje su moguće posledice. Posebno pitanje je – ko upravlja ovim sistemima? Kako su oni zaštićeni? Mogu li se zloupotrebiti, itd? “

Krivokapić iz SHARE Fondacije rekao je da Srbija nema odgovarajuća sredstva za nadgledanje kako se takva tehnologija koristi.

„Nemamo državne organe … koji bi vršili bilo kakvo nadgledanje uspeha u primeni informacionog sistema u javnom sektoru, i uopšte svih onih alata koji se nabavljaju, koji se plaćaju i tako dalje. Ne postoji nadgledanje uopšte”, rekao je.