Hoće li vještačka inteligencija ratovati protiv ljudi?

Od prvih dana razvoja vještačke inteligencije (AI) bilo je očito da će vojske širom svijeta, pogotovo one koje žele da budu “velesila”, posebnu pažnju posvetiti ovoj tehnologiji. Stoga ne čudi što je zemlje poput Sjedinjenih Američkih Država već decenijama koriste u većem ili manjem obimu za potrebe oružanih snaga.

Počeci su bili relativno jednostavni i benigni, poput organiziranja transporta i rješavanja drugih logističkih izazova, ali su razvojem tehnologije rasli i apetiti vojnih zapovjednika.

Kako je vještačka inteligencija toliko uznapredovala da je pobjeđivala ljude u šahu, koji je u neku ruku “ratište u malom”, ili je poražavala profesionalne igrače u strateškoj videoigri StarCraft, bilo je jasno da će svoju primjenu naći u strateškim promišljanjima zapovjednih centara ili za obuku vojnika i budućih oficira.

Daljnji razvoj je doveo do primjena u upravljanju bespilotnim letjelicama, u cyber sigurnosti i cyber napadima, identificiranju meta i svega onog što je jačalo odbrane moćnih zemalja.

Primjera radi, objavljeno je da američka vojska koristi AI za analiziranje ratišta u Ukrajini, te donosi procjene o taktici ruskih snaga i njihovom kretanju. Isto tako, navedeno je da izraelske snage koriste vještačku inteligenciju za identificiranje meta u ratu u Gazi, što je izazvalo brojne kritike. Više od 35.000 ljudi, većinom djece i žena, ubijeno je u izraelskim napadima na Pojas od 7. oktobra prošle godine.

Borbena upotreba

Ipak, u javnosti je postojala bojazan da bi vještačka inteligencija mogla biti korištena i za direktne borbene svrhe, što je opet izazivalo strah od budućnosti nalik onoj iz filmskog serijala Terminator, gdje će se borbene mašine odmetnuti i gotovo uništiti čovječanstvo.

I dok stručnjaci za vještačku inteligenciju godinama navode da smo daleko do vještačke inteligencije koja će moći razmišljati poput čovjeka, pa samim tim i doći u “iskušenje” da istrijebi čovječanstvo, borbene mašine upravljane vještačkom inteligencijom već su tu.

Posljednji primjer napretka vještačke inteligencije i njene aplikacije u borbene svrhe je došao iz SAD-a, gdje je američki borbeni avion F-16 obavio probni let bez čovjeka kao pilota, pod kontrolom AI-ja. Na prednjem sjedištu je ipak sjedio Frank Kendall, sekretar Američke ratne avijacije (USAF), kako bi pokazao da u tome nema rizika.

Avion F-16, pod nazivom X-62A VISTA letio je, pod kontrolom AI-ja, brzinom od gotovo 880 kilometara na sat, izvodeći manevre u trci sa drugim avionom kojim je upravljao čovjek. To sugerira da smo bliže nego dalje od trenutka kada će vještačka inteligencija biti iskorištena za direktne, borbene namjene.

Denis Avdagić, sigurnosni analitičar INMS-a, konsultantske kompanije iz Zagreba, navodi da ovaj testni let pod kontrolom vještačke inteligencije predstavlja značajan korak naprijed, ali je mišljenja da smo vjerovatno još nekoliko godina od potpune upotrebe autonomnih borbenih sistema u vojnoj svrsi.

Kako kaže, proces integracije u vojsku zahtijeva dodatna istraživanja, razvoj regulacija i međunarodne sporazume kako bi se osigurala etična i odgovorna upotreba ove tehnologije, naravno govoreći o idealnim uvjetima, ali i o stvarima koje su stalno predmet međunarodnih razgovora.

Autonomija vještačke inteligencije

No tu se postavlja pitanje koliku će autonomiju imati vještačka inteligencija korištena za borbene svrhe, s obzirom da kod mnogih vlada bojazan da će AI samostalno donositi odluke i odlučivati koje mete da napadne i kako, a te odluke provoditi u djelo. Vještačka inteligencija već danas je poprilično uključena u takve procese, ali je čovjek ipak taj koji ima “posljednju riječ”, što donekle ograničava potencijalne greške koje bi “mašina” donijela. Ne da su ljudi bezgrešni…

Avdagić kaže da bi vještačka inteligencija teoretski, u bilo kojem području pa i za vojne svrhe, može imati visok nivo autonomije u određenim zadacima, ali za sad, koliko je poznato, ipak prevladava trend prema ograničavanju pune autonomije kada je riječ o donošenju smrtonosnih odluka.

“Ljudi će, stoga, u doglednoj budućnosti, zadržati ključnu ulogu u donošenju konačnih odluka o upotrebi sile kako bi se osigurala odgovornost i minimizirali rizici od katastrofalnih grešaka. To je tako u svakom slučaju kod zapadnih zemalja”, napominje sigurnosni stručnjak.

Razvoj vještačke inteligencije i sve veća upotreba bespilotnih sistema optimističnijim daje nadu da će ove tehnologije dovesti do smanjena ljudskih žrtava, odnosno manjeg učešća vojnika od krvi i mesa u sukobima, dok će “cijenu platiti” samo mašine. Ipak, stvarnost nije tako ružičasta.

Istina je da upotreba vještačke inteligencije u vojne svrhe može značajno smanjiti direktno učešće ljudi u određenim borbenim zadacima, ali nije vjerovatno da će eliminirati ljudsku ulogu u sukobima. Posebno je to tako u formi ljudi kao meta, odnosno ciljeva, napominje Avdagić.

Ljudske žrtve

Prema njegovim riječima, ljudska kontrola i nadzor će za sad ostati ključni zbog tehnoloških ograničenja, etičkih principa i potrebe za donošenjem kompleksnih odluka koje vještačka inteligencija još uvijek ne može potpuno replicirati.

“Nažalost, ratovi, kao što i ovih dana vidimo usmjereni su na smrtonosne udarce, nerijetko i na civile, bez obzira na to što to predstavlja zločin. Nekakav idealni moment u kojem se ‘naša’ umjetna bori protiv ‘neprijateljske’ umjetne inteligencije, a ljudi sve promatraju kao kakav sportski događaj, daleko su od bilo kakve realizacije. Za to bi nam trebao civilizacijski iskorak, za koji, posve realno, nema spremnosti ni stvarne želje u našem čovječanstvu. Tako je za sad.”

Vještačka inteligencija možda nije još na tom nivou da se može samostalno doslovno boriti protiv ljudi ili drugih mašina, ali svakako postoje brojna druga polja njene primjene u vojne svrhe.

Zanimljivo je da je jedna od najvećih prednosti vještačke inteligencije u vojsci u području u kojem bi vojni zapovjednici mogli oklijevati da dopuste AI-ju da im pomogne, a to je u donošenju strateških odluka.

Algoritmi vještačke inteligencije mogu prikupljati i obrađivati podatke iz brojnih i različitih izvora kako bi pomogli u donošenju odluka, posebno u situacijama visokog stresa, s obzirom da ove tehnologije mogu efektivno i brzo analizirati situaciju i donijeti najbolje odluke u kritičnoj situaciji.

Avdagić ističe da će vještačka inteligencija igrati sve veću ulogu u vojnim operacijama, a posebno će to biti tako u područjima obavještajne djelatnosti, autonomnih vozila, logistike, kibernetičke sigurnosti i obuke.

“Mislim da je lako zamisliti uporabu ponajprije u primarno obrambenim segmentima, u otkrivanju meta i navođenju. Međutim, kao što sam kazao, glede uporabe smrtonosne sile, za sad su ipak prisutne okvirne kočnice. Tu i dalje sve ostaje u ljudskim rukama.”