Milivojević: Odluke o nama donose algoritmi koje ne vidimo i ne razumijemo

Moramo se boriti da zadržimo mjesto u novim tehnološkim sistemima, kao i kontrolu nad njima, kaže dr. Sanja Milivojević, vanredna profesorica na Institutu za digitalne budućnosti na Univerzitetu u Bristolu.

Vještačka inteligencija, kao i sve tehnologije u historiji čovječanstva, donosi dobrobit i rizike (Getty)

„Digitalne tehnologije nose nekoliko izazova. To su često eksponencijalni rast i do sada neviđena brzina sa kojom se tehnologije razvijaju, porast automatizma koji znači potiskivanje ili čak isključivanje čoveka iz procesa odlučivanja, netransparentnost to jest nemogućnost da se razume na koji način algoritmi donose odluke i zašto, povezanost raznih tehnologija kao što su, na primer, veštačka inteligencija, Internet inteligentnih uređaja (The Internet of Things – IoT), kriptovalute, sintetički bioinženjering, i slično“, kaže Sanja Milivojević, vanredna profesorica digitalnih budućnosti na Institutu za digitalne budućnosti na Univerzitetu u Bristolu.

Treba raditi na digitalnoj pismenosti pojedinaca i institucija sistema, kao i zakonodavnoj regulativi, kaže dr. Sanja Milivojević (Ustupljeno Al Jazeeri)

Kako su njene istraživačke oblasti kriminalitet i nove tehnologije, kontrola granica, migracije, trgovina ljudima, kao i ljudska prava uopće, dodaje da je „jedan od najvećih problema to što se tehnologije uglavnom razvijaju koristeći takozvani tehnološki a ne sociotehnološki pristup, bez razumevanja da se tehnologije razvijaju u društvenim uslovima i da kao takve ostavljaju posledice (bilo željene ili neželjene) na društvo i sve nas.“

„Najzad, stručnjaci upozoravaju da se naša sposobnost da posmatramo, kontrolišemo i sprečimo negativne posledice tehnološkog razvoja kao i zabranu opasnih tehnologija sve više smanjuje. Sa druge strane, tehnološki razvoj donosi unapređenje u mnogim aspektima kao što su, na primer, medicina i dijagnostika, saobraćaj, ’pametni’ sistemi, gradovi i domaćinstva, i slično“, kaže sagovornica.

Prema njenim riječima, internet u klasičnom smislu više nije jedino mjesto gdje se suočavamo sa rizicima.

„Naši mobilni telefoni i pametni uređaji u našim domovima su mesta gde vidimo potencijalne rizike od sajber-napada i ostalih zloupotreba. U dobu ekspanzije takozvanih velikih i kompleksnih setova i baza podataka, kao i konstantnog praćenja i posmatranja koje se dešava na internetu i van njega, gde je svaki naš potez i pokret negde zabeležen, koncept privatnosti se bitno menja. Od još većeg značaja je da odluke o nama (da li ćemo dobiti kredit, posao ili da li ćemo biti označeni kao potencijalni učinioci krivičnih dela) donose algoritmi koje ne vidimo i ne razumemo“, kaže Milivojević.

Vještačka inteligencija produbljuje nejednakosti

Prema njenim riječima, vještačka inteligencija, kao i sve tehnologije u historiji čovječanstva, donosi dobrobit i rizike.

„Sve može da se zloupotrebi. Teško ko je mogao da pretpostavi da će se električna energija koristiti za mučenje ljudi ili njihovu egzekuciju. Veštačka inteligencija, međutim, ima nekoliko karakteristika koje mogu biti zabrinjavajuće“, kaže sagovornica.

Stava je da je vještačka inteligencija najprije netransparentna.

„Ako ste, na primer, označeni kao potencijalni učinilac krivičnog dela, vi ne možete da odete u policijsku stanicu i tražite da vam algoritam objasni kako je došao do tog zaključka. Vi, najverovatnije, nećete ni znati da ste tako označeni i da ste na listi sumnjivih. Veštačka inteligencija produbljuje već postojeće nejednakosti u društvu, pa tako ako ste određene boje kože ili određenog društvenog staleža, vaše šanse da se nađete na toj listi rastu. Ovde se čak ne radi o zloupotrebi, nego o redovnom korišćenju tehnologije.“

Nadalje kaže da su sve tehnologije o kojima govorimo razvili ljudi, koristeći podatke dobivene od ljudi i naše okoline.

„Kao takve, tehnologije nose sa sobom ‘urođene’ nedostatke i predrasude. Sa druge strane, zloupotrebe su moguće od učinilaca krivičnih dela, i tu govorimo o takozvanim deep fakes ili veštački generisanim video ili audio zapisima, hakovanju uređaja ili sistema, ucenama i iznudama, i tome slično“, kaže Milivojević.

Ne postoji jedna sigurna budućnost

U posljednjoj knjizi Crime and Punishment in the Future Internet: Digital Frontier Technologies and Criminology in the 21st Century fokusirala se na vezu između digitalnih graničnih tehnologija i kriminaliteta. Kako digitalne granične tehnologije utiču sve više na naš život, u svakoj oblasti, pa tako i u oblasti kriminaliteta i krivičnopravnog sistema, u knjizi se nalazi pregled takvih upliva i uticaja, kao i brojni primjeri kako tehnologije mijenjaju način na koji se izvršavaju krivična djela, kako se postaje žrtvom kriminaliteta, i kako rade policija i pravosudni organi u razvijenim zemljama svijeta.

„Algoritmi sve više donose odluke koje su tradicionalno bile namenjene policajcima, detektivima, i sudijama, ali ne toliko u rešavanju učinjenih krivičnih dela, nego u predviđanju budućih dela koja još nisu, a možda nikad ni neće biti počinjena. Moj zaključak je da treba da prestanemo da predviđamo budućnost, jer je budućnost neizvesna. Ne postoji jedna sigurna budućnost. Mi je kreiramo, svakog dana“, kaže sagovornica.

Mišljenja je da umjesto predviđanja budućnosti, treba da se fokusiramo na mogućnost upotrebe novih tehnologija u prevenciji kriminaliteta, a ne da tražimo kristalnu kuglu.

„Između ostalog, u knjizi se postavlja i pitanje kako će se u budućnosti određivati krivična odgovornost, na primer, u situacijama kada automobil bez vozača ili sa punom autonomijom usmrti pešaka. Jedan od zaključaka je da se moramo boriti da zadržimo mesto u novim tehnološkim sistemima, kao i kontrolu nad njima. Način da to učinimo je da se uključimo u proces razvijanja tehnologija, a ne da čekamo da one budu ‘gotove’ i u upotrebi, pa da ih onda kritikujemo. Naučnici iz društvenih nauka, etike, pravnih nauka i ostali morali bi biti u tom procesu od samog početka da bi umanjili ili eventualno sprečili negativne posledice na društvo, grupe i pojedince.“

Privatnost na internetu sve ugroženija

Ne krije da su Sky i Anom aplikacije interesantni primjeri koji nam govore koliko je ovo komplikovana oblast.

„Sa jedne strane, gaseći servise koji nude enkripciju kao što je Sky i EncroChat, FBI, Australijska federalna policija i ostale policije u Evropi i svetu uspešno su prebacile kriminalne grupe na Anom, servis koji su oni kontrolisali, i tako zaplenili ogromnu količinu droge, oružja i novca“, kaže Milivojević.

Potom govori da neke firme koje su nudile enkripciju traže odštetu zbog nezakonitog uklanjanja sa tržišta.

„FBI tvrdi da je Sky bila kompanija za enkripciju koja je bila razvijena sa namerom da se spreči nadzor od strane policije i omogući komunikacija među kriminalnim grupama, tako da je njeno zatvaranje legitimno. Sa druge strane, kompanija Sky tvrdi da je pokušala da se bori protiv organizovanih kriminalnih grupa koje su koristile njihove usluge, kao i da to je činjenica da su kriminalne grupe koristile njihovu platformu ne znači da je ona kreirana sa tim ciljem“, kaže sagovornica.

Kazuje da su procesi koji dovode u pitanje legitimnost ovakvih akcija u toku.

„U međuvremenu, niko ne obraća pažnju na to da je enkripcija i privatnost na internetu sve ugroženija. Princip je – ako nemate ništa da krijete, ne morate ni da brinete o privatnosti, a to nas vodi u veoma opasne vode.“

Zapadni Balkan ima potencijal

Prema njenim ocjenama, Zapadni Balkan se suočava sa istim problemima kao i ostatak Evrope i svijeta.

„Iako su veštačka inteligencija i Internet inteligentnih uređaja relativno u povoju, moramo se pripremiti za njihov dolazak. To najpre znači raditi na digitalnoj pismenosti pojedinaca i institucija sistema, kao i zakonodavnoj regulativi. Naš je dodatni problem korupcija i nemogućnost pravosuđa da se izbori sa organizovanim kriminalnim grupama koje su dobro finansirane i umrežene“, kaže Milivojević.

Zalaže se da se, uz razvoj IT industrije koja je u regionu u zamahu, finansira i osnivanje instituta i drugih istraživačkih centara koji bi se bavili ovom problematikom, i sarađivali sa sličnim organizacijama u svijetu.

„Zapadni Balkan ima potencijal da postane lider u ovoj oblasti, imajući u vidu koliko IT stručnjaka, inženjera, developera i ostalih ključnih zanimanja je, kroz strane ili domaće firme, zaposleno u regionu. Njihovo umrežavanje sa naučnicima iz ostalih oblasti i drugih zemalja bi vodilo ka boljoj pripremi za negativne posledice digitalnih graničnih tehnologija, ali i njihovo orijentisanje ka kreiranju boljih i ravnopravnijih budućnosti za sve nas“, zaključuje sagovornica.

Izvor: Al Jazeera