Virtualni asistenti odražavaju toksičnost interneta

Digitalni, ili kako su još poznati, virtualni asistenti svakim danom postaju sastavni dio modrenog života. Širom svijeta, sve manje ljudi ima potrebu da “gugla” u potrazi za informacijama poput gdje ići na večeru, koji film igra u kinu, ili kada naš omiljeni tim igra protiv glavnog rivala, već takve informacije tražimo usmeno od virtualnih asistenata koji su dostupni u raznim oblicima. U nekim slučajevima se radi o popularnoj Siri koja je sastavni dio Appleovih telefona i uređaja, ili se radi o Microsoftovoj Cortani, Google ima svoj Assistant… Tu su i asistenti koji su uglavnom vezani za kuću (što ne znači da iz nje ‘ne izlaze’), poput Amazonove Alexe i Samsungovog Bixbya.

A upravo je Alexa došla u žižu javnosti kada je nedavno djevojčici, koja je od ovog Amazonovog asistenta zatražila da joj da neki izazov, rekla da punjač dopola gurne u električnu utičnicu a onda da kovanicu prisloni na djelomično utaknute zupce punjača, čime je 10-godišnjakinju mogla životno ugroziti.

Dr. Dinko Osmanković, vanredni profesor na Elektrotehničkom fakultetu u Sarajevu, pojašnjava da digitalni, virtualni asistenti kombiniraju različite metode umjetne inteligencije kao što su prepoznavanje govora, procesiranje jezika, te internet pretrage.

“Radi se o problemima koji sami po sebi nisu jednostavni, pogotovo kada uzmete u obzir različit govor ljudi (boja glasa, intonacija), ali i nijanse u samom izgovoru jezika (naglasci). Pored toga, digitalni asistenti imaju mogućnost upravljanja uređajima kao sto pametni telefoni, elementi pametnog doma kao što su pametne sijalice, pametno grijanje i slično”, navodi stručnjak sarajevskog ETF-a.

Opasni zadatak koji je Alexa zadala djevojčici nije posljedica zlobe vještačke inteligencije ili “ustanka” pametnih mašina, koji se najavljuje u brojnim djelima naučne fantastike, filmovima ili stripovima, kažu sagovornici Al Jazeere.

“To je problem toksičnosti interneta”, kaže Osmanković.

Znanje s interneta

Digitalni asistenti za svoje operacije često moraju pretraživati internet i na osnovu tih pretraga nuditi rješenja korisnicima. A kako je internet prepun zlobnih komentara i savjeta, nije ni čudo što je Alexa dala opasan izazov, kaže Dejan Savić, freelance novinar specijaliziran za oblast nauke i tehnologije.

Profesor Osmanković navodi da je u ovom slučaju opasni Alexin zadatak ustvari izazov sa društvenih mreža koji djeca daju jedni drugima, te da se Amazonov virtualni asistent kroz svoju pretragu referirao na taj sadržaj.

“Nažalost, u veoma povezanom svijetu, takve stvari će se dešavati i u budućnosti, osim ako se nešto ne učini u smislu reguliranja sadržaja na društvenim mrežama. Digitalni asistenti, kao i personalizirano pretraživanje interneta i personalizirani sadržaj na društvenim mrežama su samo slika i prilika današnjeg digitalnog svijeta”, kaže stručnjak Elektrotehničkog fakulteta u Sarajevu.

Savić dodaje da je već bilo spornih “izjava” chat botova i drugih vidova vještačke inteligencije, a koji su informacije dobijali s interneta.

“Primera radi, čuveni humanoidni robot Sophia je kazala da želi da uništi čovečanstvo. I onda nije jedni zlosutni primer gde veštačka inteligencija iskazuje spremnost da neki način povredi čoveka. A u gotovo svakom slučaju, svaki sporni odgovor ovakvih veštačkih inteligencija je posledica njihovog pretraživanja interneta i učenja iz stvari koje tamo nađe. A svi znamo kakva baruština Internet zna biti”.

Ovi digitalni, virtualni asistenti već danas mogu, s dovoljno “upoznavanja svog vlasnika” uveliko komunicirati s ljudima, čime se postavlja pitanje da li će njihova konverzacija dostići nivo da imamo osjećaj da razgovaramo s pravim osobama.

Profesor Osmanković navodi da već postoje chat botovi koji su u mogućnosti razgovarati s ljudima baš kao da su osobe od krvi i mesa.

“Svake godine se organizira natjecanje AI chat botova (tzv. Leobnerova nagrada) u kojoj pobjedu odnosi onaj koji je najsličniji čovjeku. Nekoliko takvih chat botova su već dostupni online (poput Kukija, višestrukog pobjednika ovog natjecanja) i može se isprobati nivo “čovjekolikosti” same konverzacije”.

On navodi da vjeruje da bi naredni korak trebalo biti integriranje sintetiziranog govora (a ta rješenja već postoje) i sintetiziranja emocija (na tome se uveliko radi, ali su ta istraživanja još u relativno ranoj fazi).

Druge prijetnje

Međutim, nije samo toksičnost interneta izvor prijetnji koji dolaze od ovakvih asistenata, upozorava Savić.

“Koliko god jeste opasno da Alexa ili Siri ili neki treći asistent da opasni izazov, trebamo biti svesni da su oni dio umreženog sveta, sastavni dio pametnih domova, priključenih na Internet, iako se kod nas i ne koriste toliko, zbog jezičkih barijera, problema izgovora i tako dalje, svega što će se rešavati ubuduće”.

Freelance novinar specijaliziran za dešavanja u oblasti nauke i tehnologije podsjeća da digitalni asistenti mogu snimiti naše razgovore, naše snimke, odnosno napraviti fotografije, te mnoge druge osjetljive lične podatke, uključujući lokaciju putem naših pametnih telefona. Oni te naše podatke koriste za mašinsko učenje kako bi se s vremenom poboljšali, gdje njihov softver razvijaju i održavaju kompanije koje neprestano razmišljaju o novim načinima prikupljanja i korištenja naših podataka, te zaradi na istim.

Slično drugim programima, temeljni problem s ovim digitalnim asistentima je da su ranjivi na tehničke i procesorske greške, smatra on, te podsjeća da se digitalni asistenti također mogu hakirati na daljinu, što rezultira kršenjem privatnosti korisnika.

Savić navodi da je bilo slučajeva gdje je Alexa snimala privatne razgovore i slala osobama s liste kontakata, ili bi korisnici dobili pristup hiljadama audio datoteka drugih korisnika, sa podacima poput imena, navika, poslova, finansijskih stanja i drugih osjetljivih podataka.

“I to je sve kada je došlo do greške u sistemu. A zamislite šta se može desiti kada neki haker odluči da pristupi vašem digitalnom asistentu i dobije pristup svim informacijama koje ovi uređaji imaju. Više se ne radi tu samo o simpatičnim komandama poput puštanja novih muzičkih hitova. Već ima pristup vašem celom životu i tu leži veliki problem. S vašim podacima, snimljenim govorom i navikama, zlokobna osoba svašta može da učini”.

I to je kada se radi o osobama koje su na vlastitu odgovornost odlučile da koriste takve asistente.

“Neko od nas možda ne želi da koristi takve tehnologije, ali isto tako možete otići kod prijatelja koji ima, recimo Alexu, koja može da snimi vaš govor i druge podatke, a da vi niste ni svesni. Puno je kako tehničkih, tako i etičkih problema koji ovakvi sastavni delovi umreženog modernog života predstavljaju i pitanje je kako će se takvi problemi rešavati”.