Whittaker: Čovječanstvu ne prijeti tehnologija, nego korporacije koje je kontroliraju

Bivši uposlenik FBI-a, Microsofta i Googla, James Whittaker, otkriva kako tehnološke kompanije pretvaraju naše online podatke u profit te kako će umjetna inteligencija, vođena ljudskom pohlepom, oduzeti ljudima poslove.

Bio je prvi diplomac kompjuterskih nauka kojeg je zaposlila američka obavještajna agencija FBI. Nakon toga radio je za Microsoft i Google. I njih je napustio kada je uvidio u kom pravcu idu tehnološke kompanije. Danas slobodno govori o sigurnosti ličnih podataka na internetu i kompanijama koje ih ilegalno prikupljaju.

U okviru festivala Dani komunikacija ovaj tehnološki evanđelist, futurist i naučnik za Al Jazeeru otkriva kako izgleda proces pretvaranja privatnih online podataka u profit kompanija i oglašivača te kako umjetna inteligencija, vođena ljudskom pohlepom, prijeti da oduzme ljudima poslove.

• Vjerovatno su Vas mnogo puta ovo pitali, ipak, bili ste prvi diplomirani informatičar kojeg je angažovao FBI. Kako se to dogodilo?

– Da, jesam. Bio je to novi studijski program 1980-ih i nije bilo mnogo takvih u SAD-u. Nakon što sam diplomirao, prijavio sam se za mnoštvo poslova, a to nisu bila baš povoljna vremena za takvo nešto, jer nije bilo mnogo potražnje za tom strukom.

Dobio sam dvije ponude, od FBI-a i IBM-a. Dvije troslovne skraćenice, a FBI mi je zvučao zanimljivo.

U to vrijeme, napredak u ovoj oblasti bio je toliko brz da je vaše znanje moglo veoma brzo zastarjeti. Sjećam se kako sam jednom prilikom bio na odjelu s časopisima, nekad davno, kada smo još posjećivali knjižare, čitao sam PC časopis i uočio da mnoštvo toga uopće ne prepoznajem. Shvatio sam da je to neprihvatljivo i da želim ići ukorak s trendovima pa sam na Univerzitetu u Tennesseeju upisao postdiplomski studij.

• I onda ste radili za tehnološke divove poput Microsofta i Googlea.

– Da. Doktorirao sam na informatičkim naukama, moja je disertacija bila o umjetnoj inteligenciji, jedno sam vrijeme bio profesor, pokrenuo svoj startup, a zatim preselio na zapad i radio za Microsoft i Google. Obje kompanije istinski imaju dobro radno okruženje, vode računa o zaposlenicima, radni zadaci su nevjerovatno zanimljivi, ali i teški i uvijek se osjećate kao da radite nešto novo.

Kad mi je postalo dosadno u Microsoftu, dao sam otkaz i prešao u Google, radio na mnoštvu novih projekata poput Chroma, mapa i još nekih sjajnih stvari, a onda mi je i to dosadilo pa sam se vratio u Microsoft.

• Na kraju ste, ipak, napustili obje kompanije. Zašto?

– Da, napustio sam oba radna mjesta i na kraju otišao u penziju. Dok sam radio u Microsoftu, jednog sam dana shvatio da volim raditi samo jednu stvar, a to je držanje govora na konferencijama. Gubio sam interes za svoj svakodnevni posao. Kad sam se osvrnuo oko sebe, shvatio sam da sam se, zbog različitih projekata na kojima sam radio, prestao oduševljavati novim tehnologijama.

Da budem potpuno iskren, osjećao sam svojevrsnu krivicu. Bilo je to u vrijeme uspona Donalda Trumpa i ogromne eksploatacije društvenih mreža.  A Google Chrome, koji je bio moje čedo dok sam tamo radio, postao je obični spyware. Duh mi se slamao dok sam posmatrao kako nešto u šta sam vjerovao i čemu sam se posvetio, nešto što je jednom bilo sila dobra, iznenada postaje sredstvo za objavljivanje lažnih vijesti i praćenje korisnika. To me jednostavno pomalo deprimiralo.

• Platforme društvenih mreža, spomenuli ste, zloupotrebljavaju svoj potencijal. One vladaju ekonomijom pažnje. U suštini, svaki put kad gledamo reklamu ili predloženi videozapis, našu pažnju pretvaraju u novac. Kao neko ko je u to direktno upućen, možete li nas uputiti u ovaj proces? Kako se skretanje pažnje, društvene aktivnosti na internetu i podaci pretvaraju u prihode i dobit kompanija?

– Kad to već dugo gledate… Recimo, kad sam radio za Google, YouTube je bio u njegovom vlasništvu, kao što je i danas, to smo zvali korisničkim angažmanom. Ne želite da korisnici koji posjećuju YouTube pogledaju samo jedan videozapis, jer će tako vidjeti i samo jednu reklamu, dakle, nama odgovara da gledaju niz videozapisa. To smo zvali korisničkim angažmanom i zvučalo je dobronamjerno. Trebalo im je zadržati pažnju i što duže prisustvo na stranici. Ali, to nije dobronamjerno. Povlačite ljude u ništavilo, tjerate ih da gube vrijeme na sadržaje koje nemaju potrebu gledati. A odrednica tog algoritma korisničkog angažmana jeste da na osnovu onoga što korisnik gleda predviđa koji će sadržaj najvjerovatnije poslije gledati.

Nakon toga je uveden nadzor, morali smo znati ko je još gledao taj videozapis, koji je sadržaj gledao i je li ga gledao od početka do kraja. Dakle, odjednom smo dobili sve te silne podatke na osnovu korisničkog angažmana, znali smo koji ćemo sadržaj ponuditi pojedincu i gdje će se najviše zadržati. Bila je to mašina za ostvarivanje zarade. A kad to jednom postanete, kapitalistička ekonomija vam nalaže da to nastavite biti, ali i više od toga, ako želite ostvarivati veću zaradu i bolje rezultate u svakom sljedećem kvartalu.  Naravno, kapitalizam i pohlepa su učinili svoje i ove se kompanije više nisu mogle zaustaviti. Doslovno nisu mogle prestati s tim.

• Postoji odličan dokumentarni film upravo o ovoj temi ‘Društvena dilema’.

– Da. Vjerodostojno opisuje sve to.

•  Imali smo priliku razgovarati i s Edwardom Snowdenom prvog dana DK Festivala. Govorio je upravo o prisilnom pristanku. Ako želimo koristiti proizvod, moramo dati nešto zauzvrat, a to su naša privatnost i podaci. Svaki put kad kliknemo OK na novom mobilnom telefonu ili ako želimo preuzeti aplikaciju, pristajemo na to.

– Nemamo drugog izbora.

• Upravo tako, postalo nam je to prirodno.

– Ako ne kliknete OK, telefon neće raditi.

• Tako je još od 2007, zar ne? Nekako smo navikli na to.

– Ne, s ovim smo počeli i mnogo ranije. Postojao je korisnički pristanak čak i za Microsoft Windows 1990-ih, nudili su vam obrazac saglasnosti. Ali, tada ga nisu koristili za krađu podataka. Bio je to tek način da poruče kako su svjesni da software nije savršen, pun je grešaka i prebrzo plasiran na tržište te se nadaju da ih nećete tužiti. Korisnički pristanak je bio samo to, a onda se to nekako počelo postepeno mijenjati i korisnici su jednostavno navikli da kliknu OK. Samo to. A vremenom je tekst saglasnosti postajao sve duži i nerazumljiviji, ali već je bilo kasno, korisnici su navikli da ga prihvate.

• Kako se možemo boriti protiv potencijalne zloupotrebe naših podataka a, kako je Snowden rekao, izbjeći nasilnu revoluciju?

– Nije potencijalna. Kradu naše podatke i ubacuju ih u algoritme mašinskog učenja kako bi mogli predvidjeti naše ponašanje. Amazon zna koje ćemo proizvode kupiti. Ponekad se to čini poput čarolije i pitate se kako su znali.  Željeli ste kupiti novi kauč i odjednom vam se na ekranu pojavljuju kauči te pomislite koliko je to nevjerovatno! Dijelom nam je ovo dovoljno koristan alat da se i nećemo otvoreno pobuniti protiv njega.

Međutim, UI je drugačiji. Unošenje ovih podataka u UI algoritme na kraju će dovesti do toga da ljudi ostaju bez poslova. Danas naše podatke koriste protiv nas. Prije su nas privlačili nudeći bolje oglašivače, trudili su se na taj način nas privući. Danas sve to koriste za ostvarivanje još veće zarade, naše podatke prodaju još većem broju oglašivača. A ovi su podaci naši i imaju ogromne monetarne implikacije za kompanije koje ih uzimaju, a mi zauzvrat ne dobijamo ništa.

• Možda je pitanje malo naivno, ali – zašto onda ne postoje propisi protiv ovoga?

– Sve se odvijalo prebrzo, Kongres to nije mogao pratiti pa su se dogodile dvije stvari. Tehnološki napredak se kreće brzinom svjetlosti. Kongresni zastupnici i zastupnice kupuju dionice tehnoloških kompanija, jer im je u interesu da budu uspješne, od njih primaju donacije za svoje političke kampanje.  Žele im uspjeh, jer će im one pomoći da budu ponovno izabrani.

Dakle, dijelom je razlog to što su ove korporacije zaista sposobne udvarati se političarima i znaju kako će od njih dobiti ono što žele, a s druge strane, političari nisu dovoljno tehnološki obrazovani. Naši političari pozovu  direktora neke kompanije pred Kongres i ispituju ga o ovim stvarima. Očito je koliko su naši političari glupi i neobrazovani kada je riječ o tehnologiji. Ne razumiju je. Kako će onda donositi propise za oblast koju ne razumiju?

• Ipak, osobe koje razumiju tehnologiju nedavno su potpisale otvoreno pismo kojim pozivaju sve UI laboratorije da hitno, na najmanje šest mjeseci, zaustave razvoj UI sistema na modelima naprednijim od GPT-4. Je li ova inicijativa razumna?

– Prije svega, važno je o tome razgovarati kako bi se podigla svijest o tome koliko ove stvari mogu biti opasne i loše za društvo i možda bismo trebali o njima razmisliti. Ali, niko razuman ne misli da će zaustaviti istraživanja. U ovom trenutku kompanije pokušavaju izboriti prednost, Microsoft, Google, OpenAI, Apple, Amazon, Facebook, svi rade na tome. Osim Twittera, mada mi više nije ni jasno šta Twitter radi u posljednje vrijeme. Ali, svi rade na tome.  Nema šanse da prestanu, bez obzira na to što su kazali da hoće. To je obična laž i jednostavno se neće dogoditi.

• Jedan je od utjecajnih ljudi, potpisnika ovog pisma.. pored Tristan Harrisa, Yuval Noah Hararija… i Elon Musk.  Ali samo nekoliko sedmica nakon potpisivanja pisma najavio je osnivanje nove kompanije X.AI Corp koja će biti konkurent OpenAI-u?

– Da, TruthGPT ili kako je to već nazvao. Smatram da je Elon Musk skrenuo s puta još prije nekoliko godina i među najnepouzdanijim je osobama u ovoj branši. Prebrzo mijenja mišljenja i samo radi gluposti.

• Hoće li ljudi biti pregaženi u ovoj utrci kompanija?

– Da, naravno, upotrijebit će naše podatke kako bi nas pregazili.

• Ko će ih zaustaviti?

– To je pitanje od milion dolara. Malo je vjerovatno da će to biti trenutni politički sistem. On bi trebao biti adresa na koju se obraćamo kad tražimo poštenje i pravdu. Kad ukazujemo na sve loše što se događa, očekujemo da vlada upravo tome služi, da sve to spriječi. Da spriječi pojavu monopola ili praksi koje ugrožavaju zdravu konkurenciju. Ali, naša vlada ne nalazi način za oporezivanje ovih velikih kompanija i one ne plaćaju porez. To joj je osnovni zadatak, vlada ubiranjem poreza puni državni budžet. Ni to nije mogla uraditi kako treba.

Dakle, zaboravite na to da će nam vlada priteći u pomoć, jer se to neće dogoditi. Trebamo nekog političkog autsajdera znatiželjnog uma, koji će doći s određenim idejama, biti izabran na odgovarajuću poziciju i početi rješavati probleme. Bit će to neka dosad nepoznata osoba, kojoj je na neki način Trump pripremio teren, jer jedino dobro što je učinio je to što je dokazao da autsajder može dobiti izbore.  Harizmatični autsajder s porukama koje imaju odjeka može biti izabran.  Poruke koje šalje UI mogu imati odjeka, ali vjerovatno ih neće slati ni republikanci ni demokrati, nego neko iz ljevičarskog tabora od koga se to i ne očekuje.

•  Neki tehnološki mesija.

– Ta će osoba doći u posljednjem trenutku, posjedovat će tehnološka znanja i biti dovoljno mlada, u svojim četrdesetim, pedesetim ili šezdesetim, s dovoljno harizme za uspjeh. Planeta je u egzistencijalnoj krizi.

• Kad smo već kod egzistencije, spomenuli smo UI. Naravno, dobar je i veoma koristan za automatizaciju naših poslova, ali trebamo li ih sve automatizovati, čak i one koji nas ispunjavaju?

– Naravno da ne trebamo, ali hoćemo. Smatram da su prioriteti bili pomalo nesređeni. Zašto stavljamo umjetnički dojam u prvi plan, a ne bavimo se, prije svega, računovodstvom ili pravom? Pravna struka su podaci i njihovim unosom možemo graditi mnogo pravedniji pravosudni sistem. Pravnici su bili dovoljno moćni da nikome ne dozvole korištenje tih podataka, jer ih sami unovčavaju i ne treba im niko drugi. Umjetnici nisu dovoljno moćni da zaštite svoj rad i kažu kako su nešto naslikali, napisali, stvorili, nacrtali ili napravili. Njihova djela uzimaju bez dopuštenja, jer su nemoćni u poređenju s pravnicima ili računovođama.

Smatram da je najlakše krenuti od prava ili računovodstva, zašto to nismo učinili? Kad dođemo do profesija poput ovih, zovemo to uskom umjetnom inteligencijom, gdje UI ima samo određeni skup usko povezanih podataka, koji ne izlaze iz određenog područja. Npr. zna sve samo o pravu, sve detalje iz pravnih knjiga ili presedane. Dakle, poznaje samo pravnu struku, a ne zna ništa o umjetnosti, politici ili nečemu drugom. Trebali bismo fokus usmjeriti na usku umjetnu inteligenciju. Toliko je lako rješivih problema. Umjetna inteligencija bi bila odličan advokat ili sudija, bila bi izuzetno nepristrana i uz nju bismo mogli vjerovati pravosudnom sistemu.

• Ali, s obzirom na to da uči od ljudi ne može biti baš toliko nepristrana…

– Uči iz podataka. Istina, moramo biti oprezni kad je riječ o pravnim podacima, jer u pravnim presedanima ima mnogo rasizma.

Crnce mnogo više hapse za iste zločine nego bijelce, barem u mojoj zemlji, ne znam kako ovdje stoje stvari. Dečko moje kćerke je crnac i svaki put kad se vozim s njim, shvatim da ne prekoračuje brzinu. Ako ja prekoračim brzinu za 15 km/h i zaustave me zbog toga, ne brinem previše. A on je odlučan u tome da ne prelazi dozvoljenu brzinu. Ne želi da ga zaustave, jer razumije kakve mogu biti posljedice takvog čina.

Dakle, to je veliki problem, moramo smisliti način da uklonimo rasističke, seksističke i mizoginističke parametre iz skupa podataka prije obuke naših modela, jer kad model postane rasistički, takav će i ostati.  On uči sam od sebe. Kad počne izražavati rasnu mržnju ona postaje dio skupa podataka. Stoga moramo zaista obratiti pažnju na kvalitet podataka koji u njega ulaze.

Treba li ga hraniti svim podacima ili samo nekim određenim?

– Ne svim. Dakle, zagovornik sam uske umjetne inteligencije i smatram da ne trebamo raditi ono što rade Bing i Google Search. Indeks Google pretraživanja je prevelik. Tu nije riječ o umjetnoj uskoj inteligenciji, nego o općoj. Pomisao na unošenje kompletnog Google Search indeksa, nakon čega bi umjetna inteligencija iznosila mišljenje o stanju čovječanstva, jednostavno je zastrašujuća! To je previše podataka. Nema načina da se svi ti podaci pročiste, a i koja bi bila svrha? Google Search već sveobuhvatno rješava problem pretraživanja.

Ne rješavamo prave probleme. Međutim, unosom svih slučajeva pravnih presedana naučili bismo mnogo. Unošenjem svih medicinskih podataka koje čovječanstvo posjeduje naučili bismo mnogo i činili dobro. Medicinska UI neće iznositi mišljenje o tome šta biste trebali obući, je li transrodna osoba čovjek ili nije i slično. Jednostavno treba šutjeti! Zašto bi UI iznosio mišljenje o nečemu što ni ljudi još u potpunosti ne razumiju? Jednostavno treba stati! Treba se držati uskog UI-ja, onog poznatog, graditi stručnost na veoma malom, uskom dijelu humanističkih nauka i držati se toga.

• Ako algoritmima i umjetnoj inteligenciji prepustimo sve više-manje značajne odluke u životu, hoćemo li  stvoriti takozvane neizabrane tehnološke vođe i dovesti do toga da nam tehnologija upravlja životima?

– Već je tako, hoću reći, tehnologija već upravlja našim životima. Mark Zuckenberg i Sundar Pichai daleko su moćniji od mnogih političara. Dakle, nije riječ o skorijem problemu, ne možemo za to kriviti UI, jer smo već u situaciji da nam mašine upravljaju životima. Recimo, kad smo supruga i ja sletjeli na zagrebački aerodrom, zamolio sam je da se osvrne oko sebe i kaže mi šta vidi. Svih 30-40 osoba koje su se tu nalazile gledale su u svoje mobilne telefone. Dakle, već smo odlučili odustati od uspostavljanja veza s ljudima oko sebe. Niko se više na aerodromu ne obraća drugima, jer smo svi zauzeti gledanjem u mobitele. Dakle, takvo je stanje već uspostavljeno.

Vjerovatno ćemo s vremenom propadati sve dublje, ali u jednom trenutku ljudska vrsta morat će složno odrediti granicu, odlučiti koje podatke treba držati dalje od mašina i odrediti šta nas to čini jedinstvenima. Ako ćemo praviti pauzu od šest mjeseci, možda trebamo raspravljati upravo o tome gdje trebamo postaviti ovu granicu. Umjesto da samo zaustavimo istraživanje i ne činimo ništa više od toga, trebali bismo stati i raspraviti o toj granici preko koje mašine neće moći preći. O čemu one ne bi trebale formirati mišljenje? Koje podatke ne trebaju znati, tako da nešto od toga zadržimo za sebe?

• Tehnologija trenutno funkcioniše po modelu lovac-sakupljač, a kazali ste da nam treba svijet drugačiji od toga. Kakav?

– Trebamo svijet u kojem ćemo bogatstvo stjecati na drugačiji način. Trenutno to dobro funkcioniše samo za korporacije.  Zarađuju ogromne količine novca. Ovakav sistem nije tako povoljan za državne vlade. Dug moje države iznosi nekoliko biliona dolara.  Zašto korporacije imaju izvrsnu strategiju stjecanja bogatstva? Preživljavaju čak i recesije i ekonomske krize te se veoma brzo opravljaju, dok su vlade, s novcem koji treba služiti narodu, izrazito siromašne.  Volio bih da se to promijeni.  Umjesto da vlade oporezuju ove kompanije, jer su zaista loše u tome, toliko je rupa u zakonu zahvaljujući kojima izbjegavaju porez. Vlade bi trebalo pozvati u taj investicijski krug. Ako želite pustiti u promet UI, vlada bi trebala imati udio 2,5 ili 5%, zavisno od vrijednosti dionica u toj oblasti, tako da i vlade mogu zaraditi poput korporacija.

• Gdje su građani u svemu ovome?

– Oni su dio toga, dio vlade. Fondovi za socijalnu pomoć bili bi veći, socijalne službe bi imale više sredstava. Govorimo o velikoj količini novca. Korporacije su zaista veoma sposobne sakupiti milijarde dolara. Koliko kompanija trenutno imamo u SAD-u? Riječ je o tržišnoj vrijednosti od više biliona dolara. Tu su Microsoft, Google, Apple i ostali. Bez šale, kad bi vlade ostvarivale toliku zaradu koliku ostvaruju korporacije, radna mjesta koje će UI zamijeniti ne bi nam  ni trebala, jer bismo već imali sve bogatstvo čovječanstva.

Blago čovječanstva je na sigurnom, u rukama nekolicine korporacijskih oligarha. A mi sad imamo priliku, koju smo propustili kod prvih javnih ponuda dionica Microsofta, Googlea i ostalih. Ali, želimo to napraviti s umjetnom inteligencijom. Ako su u UI uneseni svi podaci čovječanstva, ono mora dobiti svoj dio.

• Ipak, trebaju nam građani koji se razumiju u tehnologiju, zato ovo i spominjem.

– Imamo ih. Ako se povuče dobna paralela, ali bez dobne diskriminacije, jer govorim ovo kao starija osoba, vidjet ćemo da se mladi razumiju u tehnologiju, dobri su u tome, odgovara im i razumiju je na gotovo intuitivnom nivou.

• Ali su i osjetljivi. Hoću reći, mlađe generacije se rađaju i rastu u hibridnom svijetu, a UI ima utjecaj na ljudsku psihu. Naprimjer, dio Snapchata odnedavno je uveo konverzacijsku UI platformu. Koriste je milioni tinejdžera, koji nisu baš u stanju odvojiti stvarni svijet od virtualnog.

– Da, tačno. Moramo bolje obrazovati građane. Imat ćemo priliku za to, jer će UI preuzeti veliki broj poslova, a mi ćemo dobiti mnoštvo vitalnih ljudi za rad na produktivnim projektima. U govoru na ovom festivalu DK2023 predložio sam pokretanje UI korpusa, poput armijskog, ali sastavljenog od inženjera iz SAD-a. Oni bi regrutovali i obučavali nove inženjere, koji bi gradili mostove, infrastrukturu i slično, samo u području umjetne inteligencije.

Naučite ih o čišćenju podataka, svemu iz nauke o podacima, izgradnji modela i učitavanju podataka. Ponudite im intenzivni program koji će proizvesti cijelu generaciju UI ratnika. Neka jedni rade na podacima za rješavanje problema globalnog zagrijavanja i klimatskih promjena, drugi na podacima iz medicine i liječenja karcinoma, treći na podacima za nalaženje egzoplaneta na kojima bi čovjek mogao opstati. Postavite im velike i odvažne ciljeve, koji će zapravo služiti čovječanstvu. Ovo je prilika za sve one milione nezaposlenih, koji bi mogli raditi rame uz rame s mašinama na nalaženju rješenja za najveće izazove čovječanstva.

• Dakle, da zaključimo, ipak vjerujete u humanu tehnološku budućnost?

– Vjerujem da je ona moguća i da to moramo odmah uvidjeti. Treba nam još ljudi. Na ovakvim konferencijama gostujem iako imam doktorat iz informatičkih nauka i trebao bih govoriti na tehnološkim konferencijama, iz jednostavnog razloga. Tehnološke konferencije su zatvorenog tipa i ne komuniciraju baš sjajno s onima izvan te zajednice.

Kao doktor informatičkih nauka odlučio sam gostovati na marketinškom događaju, iako nemam ništa zajedničko s ovim ljudima. Ali, veoma je važno i za stručnjake iz marketinga, oglašavanja, medicine ili prava da razumiju umjetnu inteligenciju. Ona nije rezervisana samo za tehnološke stručnjake. Ako dopustimo da Mark Zuckerberg, Satya Nadellas, Sundar Pichais i slični njima sami rješavaju ovaj problem, ne piše nam se dobro. Neophodno je proširiti ovu zajednicu. Zato prisustvujem ovakvim konferencijama.