Prijete li nam ‘roboti ubice’

HRW je saopćio da naglo raste podrška novom međunarodnom zakonu koji bi u potpunosti zabranio 'robote ubice' (Al Jazeera)

Ljudska rasa od najranijih korijena traži način kako da porazi i ubije “svog bližnjeg”. Od zaoštrenog kamena i palica, preko bronzanih mačeva i buzdovana, pa do nuklearnog oružja, historija je jasno pokazala da mašte i sredstva ne nedostaje kad se treba doći do oruđa smrtonosnijeg od onog koju “drugi” imaju.

Naučnici žele povući granicu u tim naporima te je stoga više od 100 svjetskih stručnjaka za robotiku pozvalo Ujedinjene narode da poduzmu akcije kako bi spriječili razvoj takozvanih robota ubica, navodeći moralne razloge, a autonomnu smrtonosnu tehnologiju porede s Pandorinom kutijom.

“Roboti su programirane mašine sposobne izvršavati kompleksne zadaće autonomno, koje bi se u ovom slučaju za vojne svrhe koristili za usmrćivanje ljudi”, navodi Denis Avdagić, sigurnosni analitičar INMS-a, konsultantske kompanije iz Zagreba.

Robotika na visokom nivou

Današnja robotika je na veoma visokom nivou, a čak postoje natjecanja u raznim aplikacijama, kaže Osmanković.

Dva najpoznatija su RoboCup i RoboRescue, obje u okviru RoboCup organizacije. Prvo natjecanje okuplja timove koji se natječu u nogometu u različitim poljima – humanoidna robotika, vještačka inteligencija i odlučivanje, robotska vizija itd. Drugo natjecanje okuplja robotske timove sa specifičnim zadatkom spašavanja u slučajevima katastrofa – zemljotresa, poplava, nuklearnih katastrofa itd.

Cilj ove organizacije je promoviranje robotike u mirnodopskim scenarijima, ali i razvoj algoritama i robotskih platformi sposobnih za samostalno djelovanje u slučajevima rješavanja navedenih zadataka. Prije nekoliko godina je jedan tim učestvovao u misiji oporavka od velikih poplava u BiH, dodaje on.

“Inspekcije rudnika, cjevovoda, nuklearnih reaktora i drugih ljudima teško dostupnih lokacija su zadaci u kojima se roboti već odavno koriste, ali uglavnom su upravljani od strane teleoperatera. U novije vrijeme se sve više razvijaju metode koje zadatke inspekcije poprilično automatiziraju, ili barem daju dobru asistenciju teleoperateru”, kaže Osmanković.

“To je, svakako, ona granica o kojoj se raspravlja već dulje vrijeme i gdje postoji snažan otpor diljem svijeta u pogledu samostalnog (autonomnog) smrtonosnog djelovanja robota prema ljudima”, dodaje.

Atomatizirana odbrambena oružja

Podsjeća da se odavno koristi automatizirano oružje, koje je preteča onom robotskom.

“Mine koristimo stoljećima unazad i znamo kako njihovo neselektivno djelovanje i dugotrajna prijetnja nanose probleme čovječanstvu.”

Već duže vrijeme prisutna su i automatizirana odbrambena oružja, posebno u velikim mornaricama, gdje radarski navođeno oružje automatski otvara vatru na, primjerice, prijeteće projektile (sistem Phalanx CIWS), a sve više se takvi sistemi postavljaju i na vozila poput tenkova (naptimjer Ruska Arena). To govori da automatizirana tehnologija itekako postoji i da je ima i više nego što se misli, kaže sigurnosni stručnjak iz Zagreba.

“Kada je posrijedi djelovanje prema ljudima, takva oružja, iako već postoje i dalje se, koliko znamo, ne koriste potpuno automatizirano, nego za njihovo djelovanje treba ipak odobrenje čovjeka, takozvanog operatora (naprimjer Korejski Samsung SGR-A1, ili britanska bespilotna letjelica Taranis)”, dodaje Avdagić.

“Mi nismo u vremenu kada se može spriječiti stvaranje tehnologije, jer ona već odavno postoji. Ograničenje koje ona ima je što nema vlastitu umjetnu inteligenciju”, kaže on.

I dok mnogi “robote ubice” zamišljaju nalik na mašine iz filmskog serijala Terminator, profesor Dinko Osmanković sa Elektrotehničkog fakulteta Univerziteta u Sarajevu pojašnjava da su oni specifične robotske platforme namijenjene za rješavanje zadataka vojne prirode.

Kao mašine iz ‘Terminatora’

“Nisu to sad neke velike preinake postojećih robotskih platformi – obično mobilna platforma, na koju je montirana robotska ruka s alatom posebne namjene. U vojnim primjenama alat se jednostavno zamijeni oružjem i dobivate ‘robota ubicu’.”

Takvi roboti već postoje i moguće ih je napraviti čak i s komponentama koje se mogu kupiti u radnjama, dodaje. Naravno, uz ugradnju sistema koji im omogućavaju samostalno djelovanje, što je već izvan mogućnosti prosječnog kupca.

Što se tiče poređenja s mašinama iz Terminatora, Osmanković navodi da je primjena humanoidnih robota u vojne i druge svrhe za sada daleka, s obzirom da zahtjeva puno više energije za obavljanje specifičnog zadatka. Sama oblast humanoidne robotike se veoma brzo razvija i već postoje humanoidni roboti koji su sposobni za hod, koji jako podsjeća na ljudski hod što je veliko dostignuće, pojašnjava on.

Međutim, vojne primjene zahtijevaju pouzdane, kompaktne i izdržljive robote, a najčešće su to platforme s diferencijalnim pogonom s gusjenicama, doslovce tenk, na koje je montirano neko specifično oružje, što isključuje mašine nalik na ljude.

Razlozi zašto vojska želi autonomne robote umjesto ljudi su niz prednosti koje ove mašine donose, navode stručnjaci. S njima se smanjuje broj potrebnih ljudi, a roboti, za razliku od ljudi, nemaju pad koncentracije, nemaju potrebu za snom, prehranom, logistika za njihovo djelovanje može biti bitno manja nego u slučaju ljudi, a tu je i efekt cijene ljudskog života…

‘Ratovanje na daljinu’

Također treba uzeti u obzir cijenu edukacije ljudi za djelovanje, dok se kod robotiziranih oružja radi o softveru koji se samo primjenjuje i gdje se plaća razvoj, a ne i školovanje svakog pojedinca, pojašnjava Avdagić. Nadalje, njihova, robotska autonomija se ne odnosi samo na djelovanje bez čovjeka upravitelja, nego i na dužinu vremena u kojem mogu samostalno djelovati bez podrške čovjeka, dodaje.

Osmanković napominje da već sada postoje komercijalni roboti sposobni za jako veliku autonomiju napajanja, gdje čak i “jeftinija” rješenja omogućavaju autonomiju i do osam sati. O mogućnostima robota koje vojska koristi nema informacija.

“Roboti praktično već sad nemaju granice mogućnosti područja djelovanja. Stvar je programiranja zadaća”, kaže Avdagić.

Danas je postalo uobičajeno “ratovanje na daljinu”, gdje se bespilotnim letjelicama ubijaju protivnici udaljeni stotinama, pa i hiljadama kilometara, što dovodi do pitanja svrhu visokih ulaganja u “robote ubice”, jer se pilot nalazi na sigurnosti. Međutim, takozvani dronovi imaju svoje operatore, koji se školuju, plaćaju, imaju umor, smjene, pa i posljedice od rada, a poznati su i slučajevi PTSP-a, navodi Avdagić.

“Automatizirana bespilotna letjelica bi djelovala bez tih problema. Stoga iz perspektive vojske ona je itekako potrebna.”

Ali, ovako oružje dovodi u pitanje moralnost njihove buduće primjene. Avdagić ističe da robotizirane letjelice ili ofanzivni roboti općenito koji bi se danas koristili za vojne svrhe sutra mogu biti korišteni i za represiju nad civilima i općom populacijom.

Internet kao primjer

“I tu, po meni, leži apsolutno ključni problem robota spremnih na ubijanje. Danas se krhka demokracija diljem svijeta održava tako što mase uvijek mogu pobunama svrgavati režime i diktature, težeći boljemu. Jer, naoružane snage, ljudi na kraju teško djeluju prema civilima. Tu je grižnja savjesti, osjećaj pripadnosti… Kada bi roboti branili režime, oni bi svaku pobunu gušili automatizmom, u krvi, bez ikakvih problema, bez umora i preispitivanja odluka i djelovanja”, kaže sigurnosni stručnjak.

Sličnog razmišljanja je i naučna zajednica, koja postavlja pitanje da li se naučnik treba baviti istraživanjem koje će za posljedicu imati ubijanje ljudi, kaže Osmanković.

“Prije sedam-osam godina sam učestvovao u konferenciji mladih naučnika Balkana i tadašnji pomoćnik grčkog ministra odbrane je rekao da ne vidi nikakav etički problem u tome. Reakcija ogromne većine učesnika je bila veoma negativna, što dovoljno govori kako naučnici gledaju na tu problematiku”, kaže stručnjak Elektrotehničkog fakulteta.

On podsjeća da je mnogo korisnih izuma nastalo kroz vojna istraživanja, ali da mnoga od njih kao direktnu posljedicu nisu imala ubijanje ljudi. Kao primjer navodi da je internet nastao kao produkt američke agencije DARPA, gdje je osnovni izlaz tog istraživanja nije bio nešto što direktno ubija ljude, što u slučaju “robota ubica” jeste.

Izvor: Al Jazeera