Stanojević: Negativan utjecaj digitalnih tehnologija na slobodu pojedinca

“Zapadni Balkan, zahvaljujući svom specifičnom geopolitičkom položaju na raskrižju triju značajnih političkih i kulturnih utjecaja, predstavlja fascinantan slučaj iz perspektive političke psihologije. Posljednjih pet godina obilježile su globalne krize i visoka razina neizvjesnosti, a takve političke i ekonomske destabilizacije tradicionalno snažno odjekuju u regiji, posebice u poslijeratnim desetljećima obilježenim izazovima u ekonomskom razvoju i emigracijom mahom mladih obrazovanih ljudi iz regije”, kaže dr. Antonia Stanojević, istraživačka saradnica na Tilburškom institutu za pravo, tehnologiju i društvo (TILT) Pravnog fakulteta Univerziteta u Tilburgu (Nizozemska).

• Koliko je društvo u regionu opterećeno brojnim predrasudama, posebno prema drugom i drugačijem? 

– Predrasude su, nažalost, univerzalan ljudski fenomen, no neki društveni faktori predstavljaju za njih plodno tlo. U regionu je prisutno nekoliko takvih faktora, od kojih je najizraženiji povijest sukoba, koja posebice pogoduje etnocentrizmu i etničkim predrasudama. Osim toga, istraživanja pokazuju da su predrasude izraženije u zemljama u kojima su ekonomske prilike lošije. Mehanizmi koji stoje iza ove korelacije mogu biti različiti, ali jedan od glavnih je pojačano natjecanje za ograničene resurse. Takva situacija osnažuje unutargrupnu povezanost, ali često potiče i animozitet prema pripadnicima drugih skupina, a samim time i predrasude. Konačno, političke institucije imaju značajnu ulogu te mogu poticati ili smanjivati društvenu opterećenost predrasudama. Međutim, budući da su zemlje regije mlade demokracije, suboptimalno funkcioniranje njihovih institucija doprinosi očuvanju i reprodukciji predrasuda.

• U kojoj mjeri etnonacionalistički narativi i politike produbljuju podjele u regionu?

– Promatranje politike kroz ekonomsku metaforu ponude i potražnje pruža dodatna objašnjenja ove dinamike. U kontekstu neizvjesnosti i kriza, na političkom tržištu javlja se potražnja za osjećajem sigurnosti i zajedništva, poznata kao efekt “okupljanja oko zastave”. Politička ponuda često odgovara na ovu potrebu plasiranjem etnonacionalističkih narativa, što se posljednjih godina jasno dalo vidjeti u regionu iz primjera Srbije i Bosne i Hercegovine. Kada takvi narativi dolaze od političkog vodstva, oni legitimiraju etnonacionalističke stavove građana, pridonose polarizaciji i dodatno produbljuju društvene podjele. Kada osobe s političkim autoritetom iznose etnonacionalističke stavove ili etničke predrasude, takve poruke postižu širok medijski doseg i imaju potencijal ohrabriti istomišljenike i radikalizirati simpatizere. Odgovornost političara u tom smislu ne smije se potcijeniti, jer je opisani obrazac u kojem narativi političara potiču ne samo etničku, već i rasnu i rodnu netrpeljivost, evidentan globalno. Posljedice takvih narativa promoviranih tijekom nedavnih izbora, primjerice u Nizozemskoj i Sjedinjenim Američkim Državama već su vidljive u javnom diskursu, osobito kroz povećano izražavanje netrpeljivosti na društvenim mrežama.

• Kako biste opisali algoritamsko upravljanje i koje izazove ono predstavlja za društvo?

– Algoritmi se kreću na izrazito širokom spektru kompleksnosti – od jednostavnih “ako… onda…” pravila, preko stabala odlučivanja, do složenih algoritama umjetne inteligencije (AI). Jednostavni algoritmi, koji rade točno ono za što su programirani i čiji su procesi razumljivi kako korisnicima tako i onima na koje utječu njihove odluke, znatno su manje problematični od AI algoritama. AI algoritmi se mijenjaju na temelju podataka koje analiziraju, što često dovodi do toga da njihovi procesi postanu nejasni čak i programerima koji su ih osmislili (takozvani algoritmi crne kutije).

Dakle, iako se algoritamsko upravljanje javlja u mnogim oblicima kako u javnom tako i u privatnom sektoru, najčešće se problematizira korištenje AI u javnoj upravi. Nedavna ekspanzija ove prakse potaknula je brojne kritike pravnika i društvenih znanstvenika. Algoritamsko upravljanje često se prezentira kao potencijalno rješenje za gotovo sve društvene probleme, od klimatskih promjena do terorizma, ili u najmanju ruku kao najbolji dostupan način poboljšanja učinkovitosti javne uprave. Međutim, moguće je izdvojiti barem tri građanske vrijednosti koje se ugrožavaju upotrebom algoritamskog javnog upravljanja: privatnost, pravednost i odgovornost. Privatnost je ugrožena zbog same količine podataka koju algoritmi zahtijevaju za trening i analizu. Negativan utjecaj na pravednost najčešće nastaje zbog pristranosti tih podataka, što može dovesti do pogrešnih odluka, a kada se takve pogreške dogode, nije jasno tko snosi odgovornost.

• Kako digitalne tehnologije oblikuju naše povjerenje u institucije i međusobne odnose?

– Nedavni primjeri uporabe AI u otkrivanju prevara u prijavama za socijalne beneficije, poput slučajeva u Srbiji (Socijalna karta) i Nizozemskoj (skandal oko dječjeg dohotka koji je doveo do odstupanja vlade), pokazali su njihov eksperimentalni karakter i podložnost pogreškama. Kada institucije prihvaćaju rizik pogrešnih odluka karakterističan za uporabu AI u procesima prevencije i otkrivanja zločina, povećava se mogućnost pogrešaka tipa I (proglašavanje nevinih krivima). Povrh toga, ovakvi punitivni administrativni procesi često su usmjereni na ranjive skupine, koje onda snose posljedice mogućih AI pogrešaka, služeći istovremeno kao instrumenti u razvoju AI algoritama. To se očituje u dramatičnim životnim pričama građana pogođenih administrativnim pogreškama temeljenima na AI odlukama, što smanjuje povjerenje (ovih, a i ostalih građana) u institucije. Također, donošenje odluka od egzistencijalne važnosti za građane na temelju algoritama doprinosi dehumanizaciji, što dodatno smanjuje povjerenje u institucije.

S druge strane, moguće je zamisliti scenarij u kojem vlade koriste digitalne tehnologije za transparentnost, što bi teoretski moglo povećati povjerenje u institucije. No, povjerenje je puno lakše uništiti nego izgraditi, zbog čega su pogreške nastale eksperimentiranjem s novim tehnologijama skupe. Što se tiče utjecaja tehnologije na povjerenje u međuljudskim odnosima, efekti su složeni i ovise o vrsti tehnologije. Neke tehnologije imaju za cilj eliminirati potrebu za povjerenjem, poput blockchaina (što se u praksi pokazalo nemogućim). Druge djeluju kao svojevrsni posrednici povjerenja, primjerice platforme koje nude opciju međusobnog ocjenjivanja (poput Airbnba ili Ubera), dok treće stvaraju nove izvore nesigurnosti u digitalnom svijetu i općenito doprinose klimi nepovjerenja, kao što su deepfake sadržaji ili tehnologije algoritamskog nadzora na radnom mjestu. Dakle, efekti na interpersonalno povjerenje ovise o kontekstu, ali zajedničko im je to da tehnologija, kao novi čimbenik u odnosima povjerenja, uvodi dodatnu razinu složenosti.

• Na koji način tehnologija utiče na naš osjećaj slobode i autonomije u svakodnevnom životu?

– Dok je osjećaj slobode omogućen pristupom prostranstvima World Wide Weba tipična asocijacija uz prve valove digitalizacije, posljednjih godina trend je upravo suprotan. Podaci o ovisničkom ponašanju vezanom uz uporabu pametnih telefona i prosječnih šest do devet sati dnevnog korištenja ekrana u industrijski razvijenim zemljama govore u prilog negativnom utjecaju digitalnih tehnologija na slobodu pojedinca. Također, autonomija našeg ponašanja i mišljenja postaje upitna u kontekstu svakodnevnog oslanjanja na tehnologije koje nam pomažu u donošenju odluka (primjerice Google Maps, prijedlozi na Netflixu), ali i u suptilnijim situacijama gdje dizajn tehnologije može podsvjesno utjecati na naše odluke (takozvane arhitektura izbora). Navedeni primjeri odnose se na svakodnevna iskustva pojedinaca kao potrošača, koja donekle možemo izbjeći uz određenu razinu svjesne potrošnje kako bismo prakticirali slobodu i autonomiju. Međutim, kada se tehnologije koriste u javnoj upravi, posebice u opisane svrhe nadzora, kontrole i kažnjavanja, one postaju neophodno integrirane u svakodnevna iskustva građana i njihov utjecaj na slobodu i autonomiju nemoguće je izbjeći.

• Kako tehnologija utiče na društvene pokrete i političko angažovanje? Olakšava li učešće ili samo simulira demokratiju?

– S jedne strane, dostupnost informacija olakšava političko angažiranje, a brzina i doseg digitalne komunikacije olakšava organizaciju društvenih pokreta. S druge strane, u moru informacija mnoge su netočne ili reflektiraju propagandu, nadzor i cenzura otežavaju aktivistima digitalnu komunikaciju i organiziranje, a takozvani kliktivizam crpi energiju i daje lažan osjećaj društvene produktivnosti. Ključna je svjesnost o ovim procesima kako bismo iskoristili moć digitalnih tehnologija u društvenim pokretima i političkom angažmanu, a istovremeno izbjegli njihove zamke. Općenito, digitalni alati mogu biti dobra polazišna točka (uz svjesnost o njihovim negativnim stranama), no offline aktivizam je neusporedivo učinkovitiji i trebao bi biti krajnji cilj.

• Koji su to primjeri dobre evropske prakse za zemlje zapadnog Balkana i šta biste savjetovali vlastima u zemljama regiona?  

– Posljednjih godina etnonacionalistički politički narativi sve su zastupljeniji u zemljama zapadne Europe, što otežava pronalaženje primjera dobre prakse u tom pogledu. Stoga, isti savjet bih dala političarima Zapadne Europe i Zapadnog Balkana: iako isticanje grupnih razlika i pozivanje na nacionalističke sentimente može donijeti kratkoročne političke dobitke, takve podjele u društvu ostavljaju dugoročne, često politički i ekonomski detrimentalne posljedice. Što se tiče upotrebe tehnologije u javnoj upravi, Zapadna Europa kao pionir u eksperimentiranju s tehnološki potpomognutom administracijom nudi obilje skandala, ali i nekoliko primjera dobre prakse. Primjerice, e-građanstvo je u Zapadnoj Europi uhodan sustav koji štedi državne resurse i omogućuje građanima lakša i brža administrativna rješenja. Zemlje zapadnog Balkana mogle bi iz ovog iskustva naučiti u kojim je segmentima digitalizacija korisna (primjerice, digitalni identitet i usluge digitalne administracije), a u kojim problematična (primjerice, osjetljive administrativne odluke temeljene na AI).