Partneri Srbija, nevladina organizacija sa sedištem u Beogradu, na Tviteru je bila duže od devet godina kada joj je, u novembru 2020. godine, taj gigant suspendovao nalog.
Tviter nije obavestio ili dao objašnjenje o suspenziji, ali Ana Toskić Cvetinović, izvršna direktorka organizacije, sumnja da je to rezultat „koordinisanog napada“, verovatno drugih korisnika Tvitera.
„Danima smo pokušavali da dođemo do informacija od Tvitera o razlozima i mogućim načinima da rešimo problem(…), ali nismo dobili nikakav odgovor“, rekla je Toskić Cvetinović za BIRN. “Nakon skoro mesec dana tišine, kao jedinu opciju videli smo otvaranje novog naloga.“
Tviter je ukinuo suspenziju u januaru, ponovo bez objašnjenja. Međutim, Partneri Srbija nisu jedini kojima su suspendovani nalozi na društvenim mrežama bez odgovarajućeg, a ponekad i bilo kakvog objašnjenja, pokazuje BIRN-ov monitoring digitalnih prava i sloboda u regionu.
Stručnjaci kažu da je nedostatak transparentnosti značajan problem za one koji koriste društvene medije kao vitalni kanal komunikacije, između ostalog jer su ostavljeni u mraku oko toga šta se može učiniti da se u budućnosti spreče takve obustave.
Ali dok se organizacije poput Partneri Srbija mogu suočiti sa proizvoljnom suspenzijom, polovina postova na Fejsbuku i Tviteru koji se prijavljuju kao govor mržnje, pretnja nasiljem ili uznemiravanje na jezima našeg regiona i dalje ostaju na mreži, prema rezultatima istraživanja BIRN-a, uprkos potvrdi kompanija da su objave kršile pravila.
Istraživanje pokazuje da alati koje kompanije koriste da bi zaštitili svoje smernice zajednice podbacuju: postovi i nalozi koji krše pravila često ostaju dostupni čak i kada se utvrde povrede, dok drugi koji ostanu u okviru tih pravila mogu biti suspendovani bez jasnog razloga.
BIRN je između ostalog došao do sledećih zaključaka:
* Gotovo polovina prijava iz našeg regiona na Fejsbuku i Tviteru odnose se na govor mržnje
* Svaka druga objava prijavljena kao govor mržnje, pretnja nasiljem ili uznemiravanje ostaje onlajn. Što se tiče prijava o pretnjama nasiljem, sadržaj je uklonjen u 60 posto slučajeva, a 50 posto u slučajevima ciljanog uznemiravanja.
* Fejsbuk i Tviter koriste hibridni model, kombinaciju veštačke inteligencije i ljudske procene prilikom pregleda takvih prijava, ali odbijaju da otkriju koliko osoba koje pregledaju sadržaj su i odličan poznavalac jezika koji se govore u našem regionu.
* Obe društvene mreže usvajaju „proaktivni pristup“, što znači da uklanjaju sadržaj ili suspenduju naloge čak i bez prijave sumnjivog ponašanja, ali korišćeni kriterijumi su nejasni, a samom procesu nedostaje transparentnost.
*Istraživanje je pokazalo da su ljudi spremniji da prijave sadržaj čija su meta oni sami ili manjinske grupe.
Stručnjaci kažu da bi najveći problem mogao biti nedostatak transparentnosti u načinu na koji kompanije za društvene medije procenjuju žalbe.
Sama procena se u prvi mah vrši algoritmom i, ako je potrebno, čovek se kasnije uključi. BIRN-ovo istraživanje pokazuje da stvari postaju komplikovane kada su u pitanju jezici Balkana, upravo zbog specifičnosti jezika i konteksta.
Razlikovanje oštre kritike od klevete ili radikalnih političkih mišljenja od izraza mržnje i rasizma ili podsticanja na nasilje zahteva kontekstualnu i nijansiranu analizu.
Fejsbuk i Tviter su među najpopularnijim društvenim mrežama na Balkanu. Opseg njihove popularnosti pokazuje izveštaj za 2020. godinu sačinjen od strane DataReportal, platforme koja analizira kako svet koristi Internet.
U januaru je u Srbiji bilo oko 3,7 miliona korisnika društvenih medija, u Severnoj Makedoniji 1,1 milion, u Crnoj Gori 390.000 i u Bosni i Hercegovini 1,7 miliona.
Polovina postova koji sadrže govor mržnje ostaju na mreži
U svakoj od tih zemalja Fejsbuk je najpopularniji, sa procenjenih tri miliona korisnika u Srbiji, 970.000 u Severnoj Makedoniji, 300.000 u Crnoj Gori i 1,4 miliona u Bosni i Hercegovini.
Takvi brojevi čine balkanske zemlje atraktivnim za reklamiranje, ali i za širenje političkih poruka, te shodno tome vrlo prijemčive za kršenja.
Rasprava o koristima i opasnostima društvenih medija za društvo 21. veka je dobro poznata.
Što se tiče nasilnog sadržaja, osim upotrebe veštačke inteligencije (AI), giganti društvenih mreža pokušavaju da korisnicima omoguće i sredstva da reaguju, uglavnom prijavljujući kršenja administratorima mreža.
Postoje tri vrste filtera – manuelno filtriranje od strane ljudi; automatizovano filtriranje pomoću algoritamskih alata i hibridno filtriranje, koje se izvodu kroz kombinaciju ljudi i automatizovanih alata.
U slučajevima kada postoji nedoumica, postove ili naloge pregledaju ljudi pre donošenja odluka ili nakon što se korisnik žali na automatsko uklanjanje.
„Danas se prvenstveno oslanjamo na veštačku inteligenciju za otkrivanje kršenja sadržaja na Fejsbuku i Instagramu, a u nekim slučajevima automatski preduzmemo mere prema sadržaju“, rekao je portparol Fejsbuka za BIRN. „Recenzente sadržaja koristimo za pregled i obeležavanje određenog sadržaja, posebno kada je tehnologija manje efikasna da rastumači smisao konteksta, namere ili motivacije.“
Tviter je rekao za BIRN da povećava upotrebu mašinskog učenja i automatizacije za sprovođenje pravila.
„Danas se, upotrebom tehnologije, više od 50 posto nasilnog sadržaja koje se pojavljuje na našem servisu proaktivno ocenjuje kako bi pregled istog izvršio čovek, umesto da se oslanja na prijave ljudi koji koriste Tviter“, rekao je portparol kompanije.
„Imamo jake i posvećene timove stručnjaka koji pružaju neprekidnu 24/7 globalnu pokrivenost na više različitih jezika i gradimo više kapaciteta za rešavanje sve složenijih problema.“
Kako bi proverio koliko su efikasni ti mehanizmi kada je reč o sadržaju na balkanskim jezicima, BIRN je sproveo istraživanje fokusirajući se na prijave na Fejsbuku i Tviteru i podelio ih u tri kategorije: pretnje nasiljem (direktne ili indirektne), uznemiravanje i govor mržnje.
Anketa je tražila jezik spornog sadržaja, ko je bio meta i ko je autor i da li je prijava uspela ili ne.
Više od 48 procenata ispitanika prijavilo je govor mržnje, oko 20 procenata prijavilo je ciljano uznemiravanje, a oko 17 procenata prijavilo je pretnju nasiljem.
Istraživanje je pokazalo da su ljudi bili spremniji da prijave sadržaj koji cilja njih same ili manjinske grupe.
Prema istraživanju, 43 procenta sadržaja prijavljenog kao govor mržnje ostalo je na mreži, dok je 57 procenata uklonjeno. Kada je reč o prijavama o pretnji nasiljem, sadržaj je uklonjen u 60 posto slučajeva.
Otprilike polovina prijava o ciljanom uznemiravanju rezultirala je uklanjanjem.
Chloe Berthelemy, savetnica za politiku u Evropskoj mreži za digitalna prava, EDRi, koja radi na promociji digitalnih prava, kaže da stvarne posledice zanemarivanja mogu biti katastrofalne.
„Na primer, u slučajevima seksualnog zlostavljanja zasnovanog na slici [često pogrešno nazvanom „osvetnička pornografija“], većina žrtava su žene i one pate od socijalne isključenosti kao rezultat ovih napada“, rekla je Berthelemy u pisanom odgovoru za BIRN. „Na primer, mogu biti diskriminisani na tržištu rada jer stručnjaci za zapošljavanje proveravaju njihovu reputaciju na mreži.“
Uklanjanje sadržaja – cenzura ili korektiv?
Prema odgovorima na upitnik BIRN-a, oko 57 procenata onih koji su prijavili govor mržnje reklo je da su obavešteni da prijavljeni post/nalog krši pravila.
S druge strane, oko 28 procenata reklo je da je dobilo obaveštenje da sadržaj koji su prijavili ne krši pravila, dok je 14 procenata dobilo samo potvrdu da je njihova prijava podneta.
Što se tiče prijava o ciljanom uznemiravanju, polovina ljudi je rekla da je dobila potvrdu da sadržaj krši pravila; 16 odsto je rečeno da sadržaj ne krši pravila. Trećina onih koji su prijavili ciljano uznemiravanje dobila je samo potvrdu da je njihov izveštaj primljen.
Što se tiče pretnje nasiljem, 40 procenata ljudi dobilo je potvrdu da prijavljen post/nalog krši pravila, dok je 60 procenata dobilo samo potvrdu da je njihova žalba primljena.
Jedna od BIRN-ovih ispitanica kaže da je prijavila najmanje sedam naloga za širenje mržnje i nasilnog sadržaja.
„Ne angažujem se aktivno za takve naloge, niti ih stalno tražim i pretražujem. Međutim, kada naiđem na jednog od ovih punih mržnje, negatora genocida i pristalica genocida, čini se ispravnim da se to uradi, da se zaustavi takav sadržaj da ide dalje“, rekao je ispitanik govoreći uz uslov anonimnosti. „Možda se neko od prijavljenih pojedinaca zaustavi i zapita se šta je do toga dovelo i jednostavno otvori diskusiju sa sobom ili svojim krugovima.“
Iako je za tih sedam naloga Tviter potvrdio da krše neka pravila, njih šest je i dalje dostupno na mreži.
Još jedno pitanje koje se pojavilo su nejasni kriterijumi prilikom prijavljivanja kršenja. Potrebno je i osnovno znanje engleskog jezika.
Sanjana Hattotuwa, osnivač Groundviews-a, prve veb platforme za građansko novinarstvo Šri Lanke, i istraživač nove medijske pismenosti, veb aktivizma, digitalne bezbednosti i javnog zagovaranja saglasan je da je postupak prijavljivanja u okviru aplikacije ili na mreži zbunjujući.
„Štaviše, često je na engleskom, iako je možda ostatak korisničkog interfejsa/korisničkog iskustva na lokalnom jeziku. Naporan odabir kategorija za žrtvu nije lak – posebno pod prinudom. “
Fejsbuk je rekao za BIRN da se većina prijava pregleda u roku od 24 sata i da kompanija koristi prijavljivanje u zajednici, ljudsku procenu i automatizaciju.
Iz Fejsbuka su, međutim, odbili da navedu bilo kakve detalje o onima koje zapošljava za pregled sadržaja ili izveštaja na balkanskim jezicima, rekavši da „nije precizno navoditi samo broj moderatora sadržaja“.
„To samo po sebi ne odražava broj ljudi koji rade na pregledu sadržaja za određenu zemlju u bilo kom trenutku“, rekao je portparol.
Društvene mreže često same uklanjaju sadržaj, na način koji nazivaju „proaktivnim pristupom“.
Prema podacima koje je dostavio Fejsbuk, u poslednjem kvartalu 2017. njihova stopa proaktivnog otkrivanja iznosila je 23,6 procenata.
„To znači da je od govora mržnje koji smo uklonili pronađeno 23,6 odsto tog govora pre nego što nam je korisnik isti prijavio“, rekao je portparol. „Preostala većina je uklonjena nakon što je korisnik to prijavio. Danas proaktivno otkrivamo oko 95 posto sadržaja govora mržnje koji uklanjamo. “
„Bez obzira na to da li sadržaj proaktivno otkrivaju ili prijavljuju korisnici, mi često koristimo AI za preduzimanje mera u jasnim slučajevima i davanje prioriteta nijansiranijim slučajevima, gde je potrebno uzeti u obzir kontekst, za naše recenzente.“
Nema dostupnih podataka kada je reč o sadržaju na određenom jeziku ili zemlji.
Fejsbuk objavljuje Izveštaj o primeni standarda zajednice na kvartalnom nivou ali, prema rečima portparola, kompanija ne „otkriva podatke u vezi sa moderiranjem sadržaja u određenim zemljama“
Bez obzira na alate, rezultati su ponekad vrlo upitni.
Metodologija BIRN-a
BIRN je sproveo svoj upitnik putem onlajn alata za angažovanje građana za prijavljivanje, razvijenog u saradnji sa Britanskim savetom.
Anonimni upitnik imao je za cilj prikupljanje informacija o vrsti kršenja koja su ljudi prijavljivali, ko je bio meta i koliko je prijava bila uspešna. Pitanja su bila dostupna na engleskom, makedonskom, albanskom i bosanskom/srpskom/crnogorskom jeziku. BIRN se fokusirao na Fejsbuk i Tviter s obzirom na njihovu popularnost na Balkanu i osetljivost deljenog sadržaja, koji je uglavnom tekstualni i teži za procenu u poređenju sa video zapisima i fotografijama.
Nedostatak jezičkog senzibiliteta
„Kada je reč o relativno malim jezičkim grupama, u apsolutnom broju korisnika, poput jezika u bivšoj Jugoslaviji ili čak na Balkanu, jednostavno ne postoji podsticaj ni dovoljan pritisak javnosti i političkih lidera da ulažu u ljudsko moderiranje“, navodi SHARE Fondacija, nevladina organizacija sa sedištem u Beogradu koja se bavi digitalnim pravima.
Berthelemy iz EDRi-a kaže da Balkan nije jedinstven primer i da su prakse i politike moderiranja sadržaja Fejsbuka i Tvitera „osuđene na neuspeh“.
„Mnoge od ovih korporacija posluju masovno, neke od njih opslužuju do četvrtine svetske populacije jednom uslugom“, rekla je Berthelemy za BIRN. „Nemoguće je da se takva monolitna arhitektura i proces i politika regulacije govora prilagode i zadovolje specifične kulturne i društvene potrebe pojedinaca i grupa.“
Dragan Vujanović iz sarajevske nevladine organizacije Vaša prava kritikovao je, kako je rekao, „određeni nivo tolerancije u pogledu kršenja koja podržavaju određene društvene narative“.
„Ovo je posebno očigledno u nedoslednom ponašanju moderatora društvenih medija gde su nalozi sa prilično bezazlenim komentarima zabranjeni ili suspendovani, dok se drugi nalozi, sa otvorenom zloupotrebom i očiglednim negativnim socijalnim uticajem, tolerišu.“
Za Chloe Berthelemy, pokušaj primene jedinstvenog skupa pravila na veoma raznovrstan raspon normi, vrednosti i mišljenja o svim dostupnim temama koje postoje u svetu „osuđen je na neuspeh“.
„Na primer, tamo gde se golotinja smatra osetljivom u Sjedinjenim Državama, druge kulture imaju liberalniji pristup“, rekla je ona.
Primer Mjanmara, kada je Fejsbuk efikasno blokirao čitav jezik odbijajući sve poruke napisane na jingpou, jeziku kojim govori mjanmarski etnički Kačin i napisanom rimskom abecedom, pokazuje razmere problema.
„Platforma vrlo loše funkcioniše u otkrivanju govora mržnje na neengleskim jezicima“, rekla je Berthelemy za BIRN.
Korisnici i Tvitera i Fejsbuka mogu se žaliti u slučaju da im nalozi budu suspendovaniu ili blokirani.
„Nažalost, procesu nedostaje transparentnost, jer se broj podnetih žalbi ne pominje u izveštaju o transparentnosti, kao ni broj obrađenih ili vraćenih naloga ili tvitova“, napominje se u jednoj studiji.
Između januara i oktobra 2020. godine, Fejsbuk je ponovo vratio oko 50.000 različitih sadržaja bez žalbe i 613.000 nakon žalbe.
Prema izveštaju o transparentnosti Tvitera, u prvih šest meseci 2020. godine kompaniji je prijavljeno 12,4 miliona naloga, od čega je nešto više od šest miliona prijavljeno zbog mržnje i oko 5,1 miliona zbog „zlostavljanja / uznemiravanja“.
U istom periodu, Tviter je suspendovao 925.744 naloga, od kojih je 127.954 označeno zbog govora mržnje, a 72.139 zbog zlostavljanja/uznemiravanja. Kompanija je uklonila takav sadržaj u nešto više od 1,9 miliona slučajeva: 955.212 u kategoriji govora mržnje i 609.253 u kategoriji zlostavljanja/uznemiravanja.
Toskić Cvetinović kaže da pravila moraju biti jasnija i bolje saopštena korisnicima od strane „živih ljudi“.
„Dešava se da uklanjanje sadržaja nema korektivnu funkciju, već cenzorsku“, rekla je ona.
