128 država usuglasilo zajednički tekst o autonomnom oružju

Konsenzus nakon više od desetljeća

Razgovori o autonomnom oružju u sustavu Ujedinjenih naroda traju više od desetljeća. Vode se pod okriljem Konvencije o određenom konvencionalnom oružju, foruma koji okuplja 128 država stranaka i u kojem se ključne odluke donose konsenzusom. Upravo je zato zajednički tekst važan: zemlje s vrlo različitim vojnim sposobnostima i sigurnosnim interesima prvi su put prihvatile isti dokument kao moguću osnovu za sljedeću fazu rada. Reuters navodi da je dogovor postignut tijekom noćnih pregovora, nakon što je ishod još dan ranije izgledao neizvjesno.

Kompromis ipak ne treba zamijeniti s međunarodnim ugovorom. Ne uvodi novu zabranu, ne propisuje kazne i ne mijenja postojeće obveze država. Njegov je učinak prije svega proceduralan i politički: pokazuje da članice mogu usuglasiti barem zajednički jezik o rizicima i zaštitnim mjerama. Time se uklanja jedna prepreka formalnim pregovorima, ali ne i duboke razlike oko sadržaja budućih pravila. Sljedeći korak ovisit će o odluci revizijske konferencije Konvencije u studenome.

Puna formulacija rujanskog dokumenta nije bila javno dostupna u trenutku izvještavanja. Zbog toga se zasad ne može pouzdano usporediti konačni kompromis s ranijim radnim tekstovima, niti precizno reći koliko su široko definirani autonomni sustavi, koje bi uporabe bile zabranjene i kakva bi razina ljudskog nadzora bila obvezna. Organizacije civilnog društva citirane u Reutersovu izvještaju tvrde da su definicije i zaštitne mjere ublažene radi konsenzusa. To je njihova ocjena, a ne potvrđena pravna analiza konačnog teksta.

Što se pokušava regulirati

Autonomno oružje nije isto što i svako digitalno navođeno oružje. U radnom opisu iz prve sjednice stručne skupine 2026. riječ je o oružju i funkcionalno povezanim komponentama koje, nakon aktivacije, mogu identificirati, odabrati i napasti cilj bez daljnje intervencije operatera. Čovjek može zadati ciljnu kategoriju, područje ili vremensko ograničenje, ali sustav potom senzorima i softverom uspoređuje okolinu s tim parametrima i sam donosi odluku o konkretnom cilju. Upravo taj prijenos odluke s čovjeka na stroj nalazi se u središtu regulativne rasprave.

Stupanj autonomije može jako varirati. Jedan sustav može djelovati samo u usko omeđenom prostoru protiv unaprijed definirane vrste vojnog objekta, dok drugi može dulje pretraživati otvoreno okruženje u kojem su prisutni civili. Zbog toga jednostavna oznaka „autonomno” ne govori dovoljno o riziku. Bitni su vrsta cilja, trajanje i prostor djelovanja, mogućnost prekida, predvidivost senzora i algoritma te sposobnost zapovjednika da razumije očekivano ponašanje sustava. Raniji radni tekstovi pokušavali su te elemente pretvoriti u zajedničke pragove.

Strojno učenje dodatno komplicira sliku. Međunarodni odbor Crvenog križa upozorava da modeli mogu biti neprozirni i nepredvidivi, osobito kada se ponašanje ne može izravno izvesti iz unaprijed napisanih pravila. Pogreške senzora, pristrani podaci ili okruženje drukčije od onoga u kojem je sustav testiran mogu promijeniti odabir cilja. Zato rasprava nije samo o tome postoji li čovjek u zapovjednom lancu, nego i ima li taj čovjek dovoljno informacija, vremena i stvarne mogućnosti zaustaviti napad prije posljedica.

Najveći spor: koliko ljudske kontrole je dovoljno

Sve strane prihvaćaju da postojeće međunarodno humanitarno pravo vrijedi i za autonomne sustave. To uključuje obvezu razlikovanja vojnih ciljeva od civila, razmjernost napada i poduzimanje mjera opreza. Međutim, ta opća pravila ne odgovaraju sama po sebi na tehnička pitanja: koliko unaprijed operater mora znati o mogućim ciljevima, koliko dugo sustav smije djelovati bez nove potvrde i koje odluke nikada ne bi smjele biti prepuštene stroju. Posebna globalna pravno obvezujuća pravila za takve sustave još ne postoje.

Tu se pregovarački blokovi razilaze. Brazil, Irska i niz afričkih država zagovarali su pravno obvezujući instrument te jasniji zahtjev za smislenom ljudskom kontrolom. Sjedinjene Države i Rusija preferirale su nacionalne smjernice i formulacije koje ostavljaju veću fleksibilnost vojnim planirateljima, dok su i druge vojno aktivne države bile oprezne prema unaprijed zadanim ograničenjima. Konsenzus je stoga nužno kompromis između zemalja koje žele preventivne zabrane i onih koje ne žele ograničiti razvoj ili uporabu sustava koje smatraju legitimnima.

Pitanje ljudske kontrole nije samo moralna formula. Ono određuje tko može predvidjeti posljedice napada, tko ga može prekinuti i tko je odgovoran kada sustav pogriješi. Ako operater samo pokrene sustav, ali ne zna koju će osobu ili objekt odabrati, formalna prisutnost čovjeka ne mora značiti stvarnu kontrolu. S druge strane, zagovornici fleksibilnijih pravila tvrde da se procjena zakonitosti mora vezati uz konkretan način uporabe, a ne uz široku kategoriju tehnologije. Konačni tekst pokazat će je li pronađena operativna sredina između tih pristupa.

Što slijedi u studenome

Revizijska konferencija Konvencije u studenome trebala bi odlučiti hoće li proces prijeći iz stručnog usuglašavanja u formalne pregovore. Čak i pozitivan mandat ne bi automatski značio brzu zabranu autonomnog oružja. Države bi tek morale dogovoriti pravni oblik instrumenta, definicije, opseg mogućih zabrana i ograničenja, mehanizme provjere te odnos prema postojećem humanitarnom pravu. Budući da se i te odluke donose političkim pregovorima, sadašnji konsenzus je početna točka, a ne završetak procesa.

Najvažnije će biti može li zajednički dokument preživjeti prijelaz iz načelnih formulacija u provjerljiva pravila. Općenita obveza „odgovarajuće” ljudske kontrole može okupiti sve države, ali malo znači bez kriterija za trajanje misije, vrstu cilja, okoliš, pouzdanost sustava i mogućnost prekida. Jednako je važno hoće li buduća pravila obuhvatiti sustave koji koriste strojno učenje ili će se primjenjivati na sve funkcionalno autonomne sustave bez obzira na tehničku arhitekturu. Odgovori ovise o još neobjavljenom tekstu i budućem mandatu.

Dogovor iz Ženeve zato vrijedi promatrati trezveno. Ne zaustavlja razvoj autonomnog oružja i ne rješava pitanje odgovornosti, ali pokazuje da je i među suprotstavljenim državama moguć minimalni zajednički jezik. Ako u studenome dovede do formalnih pregovora, bit će to najveći pomak u ovom procesu nakon godina ponavljanja nacionalnih stajališta. Ako mandat izostane ili tekst ostane previše općenit, konsenzus će imati uglavnom simboličnu vrijednost. Za konačnu procjenu treba pričekati objavu dokumenta i odluke revizijske konferencije.

Za proizvođače, vojske i tijela koja nadziru nabavu trenutačno se ništa pravno ne mijenja. Ipak, zajednički okvir može utjecati na tehničke zahtjeve mnogo prije eventualnog ugovora. Ako pregovori krenu prema ograničenjima trajanja i područja djelovanja, predvidivosti, odabira ciljeva i mogućnosti prekida, takvi će se kriteriji morati dokazivati testiranjem i dokumentacijom. Najveća otvorena točka ostaje može li se politička formula o ljudskoj kontroli pretvoriti u mjerljive zahtjeve koji vrijede za različite vrste sustava, od jednostavne automatizacije do modela strojnog učenja.