Kako spriječiti „ratove budućnosti“?

Trka za oružjem koje koristi umjetnu inteligenciju već je u punom jeku. „Mi smo usred toga. To je realnost s kojom moramo izići na kraj", upozorio je njemački šef diplomacije Heiko Maas u razgovoru za novi dokumentarac DW-a „Budući ratovi – i kako ih spriječiti“.

Svjetske velesile uvjerene su da pobjeda u ovoj utrci donosi veliku moć. „Trka se vodi kroz vojna i civilna polja“, kaže nam Anamdeep Singh Gill koji je nekada vodio grupu stručnjaka Ujedinjenih naroda za autonomna oružja. „Ovo je pitanje teško mnogo bilijuna dolara", kaže on.

Posljednji izvještaj američkog Povjerenstva za nacionalnu sigurnost o umjetnoj inteligenciji govori o „novoj paradigmi ratovanja" u kojoj se „algoritmi bore protiv algoritama". Zahtijevaju se obilne investicije u ovo polje kako bi se „kontinuirano u inovacijama pobjeđivali potencijalni protivnici“.

Kina stavlja umjetnu inteligenciju u centar svojih istraživanja, dok tamošnja Narodna vojska govori o budućem „inteligentnom ratovanju“. Ruski predsjednik Vladimir Putin je još 2017. rekao da će onaj tko postane vodeći u ovoj oblasti ujedno postati „gospodar svijeta".

Pouke s Kavkaza

Krajem prošle godine je Kavkaz bio velik laboratorij ovog ratovanja budućnosti. Sve je izgledalo kao i raniji teški sukobi Armenije i Azerbajdžana oko Gorskog Karabaha, ali stručnjaci su uočili novosti. „Vrlo važan aspekt tog sukoba je bila upotreba vrebajućeg oružja", kaže Ulrike Franke, stručnjakinja za bespilotne letjelice u Europskom vijeću za međunarodne odnose.

Izraz vrebajuće oružje (slobodni prijevod od Loitering Weapon ili Loitering Munition) koristi se za projektile koji uzlijeću bez posebnog cilja i kruže iznad potencijalnih meta. Cilj se odabire tek kasnije. „Na Gorskom Karabahu su korišteni takvi dronovi-kamikaze – to su prilično autonomni sistemi“, kaže Franke.

Prema Centru za strateške i međunarodne studije, Azerbejdžan je imao oko dvije stotine ovakvih dronova, i to četiri različita modela, svi najmodernije izraelske proizvodnje. Armenija je imala samo jedan domaći model.

Drugim vojskama širom svijeta nije promaklo da ovakva prednost može odlučiti rat. „Od tog sukoba primjećujemo određeni rast zanimanja za vrebajućim oružjem“, dodaje Franke. „Vidimo sve više vojski širom svijeta koje nabavljaju ili planiraju nabaviti vrebajuće streljivo."

To je tek početak. Umjetna inteligencija će uskoro omogućavati jata dronova – mnogo njih koji lete zajedno, i strateški pogađaju više ciljeva.

„Mogli bi recimo naciljati sustav protuzračne obrane", kaže nam Martijn Rasser iz Centra za novu američku sigurnost iz Washingtona. „Napadneš ga tolikom masom da je sustav preopterećen. To naravno donosi ogromnu taktičku prednost na bojištu.“

Brojnost dronova i brzina kojom se sve događa naprosto izmiču ljudskoj kontroli. Sve biva prepušteno softveru i umjetnoj inteligenciji. Kako kaže Ulrike Franke, to će tjerati vojske da prilagode protuzračnu obranu jer „ljudska bića ne bi bila u stanju tom brzinom nositi se s autonomnim napadima".

U apokaliptičnoj verziji, koja nije toliko daleko, imali bismo autonomna oružja koja reagiraju jedno na drugo i ulaze u spiralu eskalacije. „U literaturi to nazivamo flash ratovima. To su slučajni vojni sukobi koje ljudi nisu namjeravali pokrenuti", kaže Franke.

Sporazum se ne nazire

Bonny Docherty želi spriječiti takvu budućnost. Ona predaje na pravnoj školi Harvarda i predvodi kampanju „Stop robotima ubojicama", udrugu nevladinih organizacija koje traže zabranu autonomnih smrtonosnih oružja.

„Obveza koja bi proizišla iz takvog dogovora je da se održi smislena ljudska kontrola nad upotrebom sile", kaže Docherty za DW. „Sporazum bi se ticao svih oružja koja djeluju autonomno, to jest biraju mete i otvaraju vatru na temelju podataka koje prikupe senzori, umjesto ljudske komande."

Kampanja se fokusira na razgovore u Ženevi pokrivene Konvencijom UN-a. Ali, to je spor proces iz kojeg je za sada proizišao niz „principa", recimo da autonomna oružja podliježu kaznenom pravu i da su na kraju ljudi odgovorni za njihovu upotrebu. Razgovori se nastavljaju ove godine.

Docherty misli da to neće u velikoj mjeri doprinijeti promjenama jer velike sile nemaju interes potpisati zabranu ovakvog oružja. „Rusija se posebno snažno opire. Ali sporazum ne podržavaju ni druge zemlje koje razvijaju autonomno naoružanje poput Izraela, SAD-a i Velike Britanije."

Njemačka podržava ideju da se ovakva oružja zabrane, ali ne podržava kampanju „Stop robotima ubojicama". „Ne odbijamo tu kampanju u njenoj suštini – samo tražimo da i drugi budu uključeni“, kaže njemački ministar vanjskih poslova Maas. „Vojne sile koje su tehnološki u mogućnosti ne samo razviti, nego i upotrijebiti autonomno oružje."

Maas je suglasan s time da sporazum treba biti krajnji cilj. „Baš kao što smo uspjeli s nuklearnim oružjem nakon mnogo desetljeća, i sada moramo skovati međunarodne sporazume o novim tehnologijama oružja", navodi on. „Tu mora jasno pisati da smo suglasni s time kako nije prihvatljivo sve što je tehnički moguće.“

Ali za sada nema konsenzusa. Ulrike Franke nije optimistična. Kaže, najviše čemu se može nadati su neka pravila kako se nove smrtonosne tehnologije koriste. „Recimo, dogovor da se neki kapaciteti koriste samo u obrambene svrhe ili samo protiv strojeva, a ne ljudi", dodaje ona.

U međuvremenu, uz relativno malo pozornosti javnosti, razorna oružja budućnosti napreduju. „Svijet se mora zanimati za činjenicu da idemo ka situaciji u kojoj će svako moći raditi što ga je volja s kibernetičkim ili autonomnim oružjem", upozorava Maas. „To ne želimo."