NYT: Jesmo li spremni za oružje koje samo bira mete?
Članak u New York Timesu upozorava na brzinu kojom američka vojska razvija umjetnu inteligenciju, što izaziva zabrinutost od utrke u oružju koje samostalno donosi odluke bez potrebe za ljudskom kontrolom.
Autorica teksta Carol Giacomo skrenula je pažnju na opasnost upotrebe ovog oružja da je, primjerice, bilo dostupno na samom početku rata u Afganistanu.
Na taj problem je ukazao i tadašnji oficir, koji je rekao kako su američki vojni rendžeri, odnosno specijalne kopnene jedinice, tokom potjere za borcima talibanskog pokreta uz granicu s Pakistanom uočili pastira s bežičnim radio uređajem, vjerovatno obavještavajući talibane o njihovom položaju.
Prema pravilima rata, vojnici mogu upucati bilo koju osobu koja informira neprijateljske snage o njihovim položajima, ali su vojnici na kraju vidjeli da je pastir, zapravo, mala djevojčica.
Djevojčica pastir u Azerbejdžanu
Da se ta djevojčica tada našla u vidokrugu autonomnog robota ili drona, kakvi se danas razvijaju, umjesto treniranih snajperista, vjerovatno ne bi mogli razlikovati pravu metu i djevojčicu koja bi bila ubijena, kazao je oficir Paul Scharre, komandant rendžera u to vrijeme.
Autorica je spomenula i izjave dvojice visokih dužnosnika za obavještajne poslove u Pentagonu, koji kažu da Sjedinjene Američke Države još uvijek nisu “ni blizu” upotrebi potpuno neovisnog oružja na terenu.
Međutim, dodaje da su azerbejdžanske snage prije tri godine koristile nešto što je izgledalo kao izraelski samoubilački dron modela “Harop” kako bi raznijele autobus koji je prevozio armenske vojnike.
Prema tvrdnjama proizvođača, dron je mogao automatski letjeti do položaja, otkriti cilj, napasti ga i raznijeti.
Do sada su ove bespilotne letjelice bile dizajnirane tako da ih kontroliraju ljudi kako bi ih se moglo zaustaviti.
Nedugo nakon ovog incidenta, u Kaliforniji je Pentagonova Služba za strateške kapacitete – SCO testirala 103 nenaoružane bespilotne letjelice modela “Predix” s vlastitim pogonom sposobne da kruže oko cilja.
‘Predix’ poput jata ptica u prirodi
Bespilotne letjelice “Perdix” čine cjelinu čiji dijelovi imaju zajedničku pamet za donošenje odluka i prilagođavanje jedni drugima, poput jata u prirodi, izjavio je tadašnji direktor SCO-a William Roper.
Kako se povećava sposobnost ovih sistema da nezavisno djeluju, oni koji proučavaju opasnosti tog oružja, uključujući tim stručnjaka Ujedinjenih naroda, strahuju da vojni planeri mogu pasti u iskušenje da potpuno eliminiraju ljudsku kontrolu; stoga je predložen sporazum kojim bi se zabranila ova smrtonosna autonomna oružja, ali nije dobio dovoljnu podršku, podsjeća autorica.
Brzina napredovanja ove tehnologije izaziva strahove od utrke u autonomnom oružju s Kinom i Rusijom, što naglašava potrebu da države što pije počnu raditi zajedničkim snagama na uspostavi kontrole kako bi se osiguralo da ljudi nikada ne dopuste strojevima da potpuno samostalno donose odluke o životu u smrti u borbama.
Iako se umjetna inteligencija pokazala kao moćno sredstvo na brojnim poljima, ona ima i ozbiljne ranjivosti, poput računalnog piratstva, prodora u informacijske sisteme i mogućnosti da ljudi izgube kontrolu nad algoritmima, zaključila je Carol Giacomo na kraju teksta.
Izvor: Agencije