Dobrodošli u doba potpune prismotre

Kada sam bila dijete, sanjala sam da odrastam i živim u čarobnom svijetu gdje moj svaki pokret prate kamere koje bilježe moj identitet, ponašanje i emocije.

Samo se šalim. Ali, upravo idemo ka takvoj stvarnosti.

Dobrodošli u doba potpune prismotre i izumiranja koncepta privatnosti – posljednjih napora globalne političko-korporativne elite na naprave postojanje što je teže moguće prije nego se cijeli planet zapali uslijed klimatske katastrofe.

Jedan od stubova industrije prismotre je tehnologija prepoznavanja lica koja u zadnje vrijeme pravi talase sa naslovima kao što je „FBI ima pristup do više od 640 miliona fotografija nas kroz svoju bazu podataka prepoznavanja lica“, te „Pametne naočale za prepoznavanje lica mogu napraviti javnu prismotru diskretnom i sveprisutnom“.

Naravno, postoji mnogo posvećenih navijača ovom fenomenu. Ovog mjeseca je New York Times objavio autorski tekst sa naslovom „Kako ste sigurniji uz tehnologiju za prepoznavanje lica“ u kojem se komesar njujorške policije James O'Neill kune u korist tehnologije „kao vrijednog alata u borbi protiv kriminala“.

No, kako iko može biti sigurniji uz nešto što je često zastrašujuće neprecizno?

Saradnja u posmatranju

Na primjer, prošle godine je Unija za američke građanske slobode (ACLU) provela test Rekognitiona, Amazonovog programa za prepoznavanje lica koji poredi snimke svih članova američkog Kongresa sa bazama fotografija uhapšenih.

Rezultat Rekognitiona: 28 američkih kongresmena je identificirano kao kriminalci. I zamislite: pogrešna podudaranja su daleko više bila prisutna kod osoba obojene kože.

Sada zamislite komplikacije do kojih može doći kada imate takvu tehnologiju u rukama američkih čuvara zakona koji su se već dokazali kao osobe predodređene da upucaju tamnopute ljude bez ikakvog razloga.

Kao dodatak reklamiranju svog proizvoda zvaničnicima američkog Ureda za imigraciju i carine (ICE) i drugim zloglasnim zlostavljačima, Amazon se borio da se Rekognition koristi na kamerama koje policajci nose na tijelu – što bi, pretpostavlja se, samo povećalo šanse pogrešnog identificiranja od strane snaga reda i zakona koje su lake na okidaču.

Uprkos kritikama uposlenika Amazona i drugih koji su alarmirani implikacijama saradnji sa državom u prismotri, kompanija je ostala posvećena svom projektu. U posljednjem tekstu u Voxu citira se izvršni direktor Amazon Web Services Andy Jassy koji tvrdi kako „samo zato što se tehnologija može pogrešno koristiti ne treba je u potpunosti zabraniti i osuditi“ jer i druge stvari poput maila i noža mogu biti zloupotrijebljene: „Možete i nož iskoristiti na skriven način“.

Pošteno, ali noževi se barem mogu koristiti na razne korisne načine za običnog čovjeka, što se ne može reći za jednostavno održavanje distopijskog krajolika kako bi se tiranska elitna manjina obogatila.

Kriminaliziranje poslovanja

U Velikoj Britaniji, policija Južnog Velsa i londonska Metropolitan policija navodno su potrošile milione funti na suđenjima zbog tehnologije prepoznavanja lica. Zanemarite određenu dosadnu istragu koja je otkrila kako je više od 90 posto prepoznavanja ovom tehnologijom bilo netačno.

A u Kini se tehnologija prepoznavanja lica pokazala kao višestruka korist za kršenje ljudskih prava i gušenje neslaganja.

No, vratimo se u SAD gdje uglavnom neregulirano širenje tehnologije prepoznavanja lica na aerodromima širom države predstavlja pokušaj normalizacije novog pakleno-zastrašujućeg načina života, naravno sve u ime sigurnosti, efikasnosti i napretka. No, dok je „sigurnost“ uvijek korištena izlika za kršenje ljudskih prava, nema pokazatelja da je ova tehnologija, kao ni bilo gdje drugo, učinila putnike sigurnijim.

Sada, mogli bi reći, u čemu je problem sa ovom tehnologijom ako nismo uradili ništa pogrešno i nemamo ništa da sakrivamo? Mimo očitog problema tehnološke netačnosti i pristranosti – zahvaljujući kojoj su tamnoputi ljudi i žene češće pogrešno identificirane – sama prismotra je po sebi kriminalizirajući posao.

U konačnici, osobe pod prismotrom, koje se nađu u poziciji gdje moraju stalno dokazivati nevinost, često će sama sebe cenzurirati i odustati od svojih sloboda – poput, na primjer, slobode da se pobuni protiv policijskih država koje žele sve stanovnike pretvoriti u automate.

U međuvremenu, borba za „sigurnost na osnovu identiteta“ na bazi navedene tehnologije – a koju žestoko kritizira analitičar ACLU-a Jay Stanley – stvara pitanje: Šta više ljudski identitet može značiti u eri gdje se pojedinci pretvaraju u setove podataka i mete državno-poslovnog izrabljivanja?

Manjinske mete

Sigurno će, za demografske kategorije koje već imaju žestoko iskustvo sa prismotrom (muslimani u SAD, na primjer) budućnost biti sve manje zabavna.

Darakshan Raja, kodirektor organizacije Pravda za muslimansku zajednicu iz Washingtona, smatra kako je „jačanje kapitalizma prismotre“ napravilo „industriju vrijednu više od 200 milijardi“ dolara, sa štetnim posljedicama za manjinske zajednice. Zaista, veliki talent kapitalizma je oslobađanje ubitačne tehnologije u svijetu koja aktivno uništava pojedinačnu, zajedničku i globalnu dobrobit, a istovremeno puni džepove određenom broju važnih osoba.

Odmah se pomisli na industriju naoružanja koja je pomogla u uništavanju bezbrojnih života od Iraka do Jemena i dalje. I, kako Raja ističe, važno je se prisjetiti u američkom kontekstu činjenice da „je bitno ono što se dešava vani i suprotno“. Tačni slučaj: „Tehnologija se često testira na tijelima crnih i smeđih osoba, potom se usavršava i lokalno koristi“.

Kako se na kraju ispostavlja: SAD je također i jedna od država koje se protive zabrani (predloženoj u UN-u) razvoja takozvanih „robota ubica“: smrtonosnih autonomnih sistema naoružanja koji koriste vještačku inteligenciju – zamislite roj dronova opremljenih tehnologijom prepoznavanja lica. Ta tehnologija je već dostupna, što znači da je samo pitanje vremena kada će biti probana, usavršena i korištena.

Iako postoji otpor javnosti – Grad San Francisco je na primjer zabranio da policija i druge agencije koriste tehnologiju prepoznavanja lica – mora se mnogo još toga uraditi kako bi se zaustavio horor i film naučne fantastike koji se odvija pred našim očima.

Stavovi izraženi u ovom tekstu autorovi su i ne odražavaju nužno uredničku politiku Al Jazeere.

Izvor: Al Jazeera