Nišević: Lični podaci su ‘nova nafta’, ali i moguća zloupotreba u digitalnoj ekonomiji
Pravo korisnika na objašnjenje algoritamskih odluka predstavlja ključno etičko pitanje, jer korisnici trebaju znati kako je AI došao do određenih zaključaka, kaže dr. Maja Nišević, stručnjakinja za pravo i tehnologiju.

„Lični podaci su zaista ključni resurs digitalne ekonomije. Danas je prosto nemoguće zamisliti pokretanje bilo koje vrste poslovnog angažmana bez analiziranja podataka. Međutim, ono što prati ovakvu ‘novu naftu’ jesu potencijalne zloupotrebe, koje mogu rezultirati gubitkom povjerenja, narušavanjem privatnosti i kršenjem ljudskih prava“, kaže dr. Maja Nišević, viša asistentica na Fakultetu za pravo i kriminologiju, Centar za pravo informacionih tehnologija i intelektualne svojine (CiTiP) na Katoličkom univerzitetu u Leuvenu (Kraljevina Belgija).

Njeno istraživanje, između ostalog, obuhvata regulaciju zaštite ličnih podataka i privatnosti, vještačke inteligencije (AI) i cyber sigurnosti. Također, vodi i supervizoriše mnoštvo EU Horizon projekata, doprinoseći razvoju inovativnih pravnih okvira i politika na nivou Evropske unije. Prema njenim riječima, da bi se spriječile zloupotrebe, ključno je osigurati transparentnost u pogledu načina na koji poslovni subjekti koriste podatke korisnika.
„Regulativa mora biti proaktivna, a kazne za zloupotrebu stroge. Upravo iz ovih razloga, Bosna i Hercegovina treba unaprijediti postojeći zakonodavni okvir kako bi bio u skladu s međunarodnim standardima i pružio adekvatnu zaštitu. S obzirom na kandidaturu za članstvo Evropske unije, Bosna i Hercegovina mora početi odmah sa unapređivanjem i izmjenama trenutnih zakonskih okvira u skladu sa standardima Evropske unije.“
Nastavite čitati
list of 4 itemsZeničani traže transparentnost u trošenju budžetskog novca
Dodikovo lobiranje kod Trumpa: ‘Nikad nije bilo opasnije’
Milijarde dolara USAID-a za projekte na Balkanu | Mapa
- Kako osigurati da nove tehnologije budu u skladu s temeljnim ljudskim pravima i etičkim principima?
– Osiguranje usklađenosti tehnologija s ljudskim pravima i etičkim principima zahtijeva primjenu sveobuhvatnog pravnog okvira koji integriše međunarodne standarde ljudskih prava, strogu regulativu kroz zakone, kao što je primjer sa Opštom uredbom o zaštiti ličnih podataka Evropske unije (GDPR), te osnivanje etičkih odbora koji mogu vršiti evaluaciju novih tehnologija prije njihove implementacije. Takođe, važno je promovisati svijest i edukaciju među razvojnim timovima i korisnicima takvih tehnologija.
- Koliko je važan balans između tehnološke inovacije i privatnosti korisnika u digitalnom dobu?
– Zapravo za takav balans, ključ leži u primjeni pristupa „privacy by design“, gdje se privatnost integriše u same temelje tehnologije. Inovacije moraju biti usmjerene na korisničko iskustvo bez kompromitovanja prava na privatnost. Jasna i transparentna pravila o prikupljanju i obradi podataka su od suštinske važnosti, kada je riječ o balansu.
- Kako sada izgleda zaštita ličnih podataka u kontekstu umjetne inteligencije i kako je podići na viši nivo?
– U kontekstu Evropske unije, pomenuti zakonski okvir poput GDPR-a nameće obaveze u vezi s obradom podataka, čime se osigurava zaštita privatnosti i ličnih podataka građana Evropske unije. Sa druge strane, Evropska unija je usvojila Zakon o umjetnoj inteligenciji (takozvani AI Act), koji reguliše dizajn i implementaciju AI sistema na tržištu Evropske unije, a prema nivou njihovog rizika. Ovaj zakonski okvir, ima za cilj dodatno regulisati aspekte poput pristrasnosti i sigurnosti algoritama. Međutim, njegova primjena još uvijek izaziva rasprave ne samo na nivou Evropske unije, već i na globalnom nivou. Na globalnom nivou, primjer je i Južna Koreja koja prati Briselski efekat, pa je poput Evropske unije donijela Zakon o umjetnoj inteligenciji, a u skladu sa standardima Evropske unije. Međutim, potrebno je vrijeme da bi se vidjelo na koji način će i Južna Koreja sprovesti pomenuti zakon.
Ono što se može sa sigurnošću reći jeste da uzimajući u obzir zakonski okvir kao prekretnicu za zaštitu ličnih podataka u kontekstu umjetne inteligencije, potrebno je raditi na uspostavljanju zakonskog okvira koji se odnosi striktno na zaštitu privatnosti i ličnih podataka, a koji bi bio praćen sa specifičnim zakonom koji se odnosi striktno na dizajniranje i implementaciju AI sistema u okviru određenog tržišta. Uprkos i postojanju zakonskog okvira posmatrajući tehnički kontekst, jedan od ključnih izazova u AI sistemima je transparentnost. Većina AI sistema, posebno oni zasnovani na takozvanom dubokom učenju, funkcioniše kao “crne kutije”, otežavajući razumijevanje njihovih odluka. Primjena objašnjive umjetne inteligencije (takozvane XAI) može povećati povjerenje i zaštitu prava korisnika. Ipak, na naučno istraživačkom nivou neophodno je još vremena kako bi XAI sistemi ugledali svjetlost dana u praksi. Drugi izazov je algoritamska pristranost. Podaci korišteni za AI sisteme često odražavaju postojeće društvene nejednakosti. Rigorozne evaluacije podataka i AI sistema mogu pomoći u smanjenju pristranosti i diskriminacije. Ukratko, unapređenje zakonskog i institucionalnog okvira ključno je za sigurno i odgovorno korištenje tehnologija na bazi AI, a u kontekstu zaštite podataka.
- Koje su najčešće pravne i etičke dileme koje se javljaju u primjeni umjetne inteligencije?
– Primjena umjetne inteligencije donosi brojne pravne i etičke dileme. Prvo, transparentnost i odgovornost algoritama predstavlja kompleksno etičko pitanje. Sistemi bazirani na umjetnoj inteligenciji moraju biti transparentni kako bi korisnici razumjeli njihove odluke, što zahtijeva razvoj objašnjivih modela i standardizaciju dokumentacije. Drugo, diskriminacija i pristrasnost su značajan problem, jer AI može perpetuirati ili pogoršati postojeće nejednakosti. Konačno, pravo korisnika na objašnjenje algoritamskih odluka predstavlja ključno etičko pitanje, jer korisnici trebaju znati kako je AI došao do određenih zaključaka. Bosna i Hercegovina treba dodatno jačati zakonodavni okvir uz edukaciju donosilaca odluka i šire javnosti.
- Koje pravne i etičke izazove donosi usvajanje XR (proširena stvarnost) tehnologija u radnim okruženjima?
– Pandemija korona virusa je u okviru Evropske unije ubrzala kreiranje mnoštva istraživačkih projekata sa ciljem implementacije XR tehnologija u radnim okruženjima. Iako, ovakve tehnologije donose dosta pogodnosti, kao i svaka tehnologija nosi i drugu stranu, mnoštva izazova. Prvo, privatnost radnika može biti ugrožena jer XR uređaji prikupljaju ogromne količine podataka. Drugo, regulisanje svrhe upotrebe ličnih podataka postaje ključno, kako bi se osiguralo da se podaci koriste isključivo u predviđene svrhe. Konačno, XR tehnologije mogu uticati na mentalno zdravlje zaposlenih, jer dugotrajna upotreba može dovesti do umora, stresa i drugih problema.
- Kako ocjenjujete segment zaštite ličnih podataka u zemljama Zapadnog Balkana i šta bi trebalo unaprijediti u postojećim zakonskim okvirima?
– Iako zemlje Zapadnog Balkana, poput Hrvatske koja je članica Evropske unije ili Srbije koja je dosta u prednosti posmatrajući Bosnu i Hercegovinu, napreduju u usklađivanju zakonodavstva s evropskim standardima, implementacija često ostaje nedovoljna. Ključni problemi uključuju ograničene resurse, slab nadzor i nedostatak edukacije. U prijevodu: sve češći primjeri iz Srbije pokazuju da je zakonski okvir relevantan za zaštitu podataka, često mrtvo slovo na papiru. Prema tome, unapređenja bi trebala uključivati jačanje kapaciteta regulatornih tijela, edukaciju javnosti o pravima na privatnost i razvoj tehnoloških alata za zaštitu podataka.
- Koji su to budući izazovi i šta biste savjetovali vlastima u zemljama regiona kada je riječ o regulaciji novih tehnologija?
– Budući izazovi uključuju sigurnosne prijetnje koje donose kvantne tehnologije i rasprostranjena upotreba AI sistema u vojnom sektoru. Vlastima se preporučuje promovisanje etičkog razvoja novih tehnologija, jer je nemoguće uvijek imati spreman zakonski okvir za plodove novih tehnologija. Etika i interdisciplinarna saradnja mogu osigurati usklađenost s društvenim i pravnim standardima, a i dati uvod u strukturu i tekst zakonskog okvira, odnosno koje su potrebe kada je regulacija u pitanju. Takođe, ulaganje u obrazovanje i istraživanje ključna je stepenica za dugoročni uspjeh. Na kraju, regionalna saradnja može pomoći u usvajanju najboljih praksi i harmonizaciji regulative radi sveobuhvatnije zaštite građana.