Autonomizirani rat: Kant, vještačka inteligencija i kraj javne odgovornosti

Rat je uvijek bio više od sukoba oružja. On je i test političkog poretka koji ga pokreće, opravdava, ograničava ili prepušta samovolji. Zato pitanje vještačke inteligencije u ratu nije samo pitanje nove tehnologije, preciznijeg navođenja, brže obrade podataka ili autonomnog oružja. Dublje pitanje glasi: šta se događa s demokratijom kada rat više ne mora biti javno vidljiv, politički skup i građanski osporiv?

Kant ne bi morao razumjeti kako AI radi da bi prepoznao opasnost. U Vječitom miru ne kritizira samo rat kao nasilje – njegova meta je politički poredak u kojem rat postaje zgodan instrument vlasti. On ne polazi od sentimentalnog pacifizma, nego od prava. Mir za njega nije puki prestanak pucnjave, već poredak u kojem pravo obuzdava silu, a javnost drži vlast pod nadzorom. Mir nastaje onda kada pravo obuzda silu, a javnost drži vlast pod nadzorom. Kad se to raspadne, država i dalje može održavati izbore, ali iznutra postaje despotizam. Kant je to znao, a nije bio ni jedini.

Jedna od Kantovih ključnih briga bio je rat koji se može voditi bez stvarnog pristanka onih koji snose njegove posljedice. Zato u republikanskom uređenju vidi preduslov mira: ako građani moraju odlučiti “da li rata treba biti ili ne”, mnogo će se teže odlučiti za rat jer sami plaćaju njegovu cijenu — borbu, poreze, razaranja i dugove koji ostaju i poslije primirja. U ne-republikanskom poretku, naprotiv, vladar ratuje kao vlasnik države. Rat je njegov trošak samo posredno. Njegova je odluka, tuđa je krv.

Realisti poput Johna Mearsheimera ovdje bi prigovorili da republikanski i nerepublikanski sistemi nisu presudno različiti po spremnosti da ratuju: u međunarodnoj anarhiji države se ravnaju prema moći, sigurnosti i strahu, a ne prema moralnom viđenju vlastitog poretka. To ne znači da Kant nije u pravu – samo da je njegov kriterij strožiji. Ako demokratije nisu same po sebi manje sklone ratu, onda ih od drugih treba razlikovati po jednom: rat u njima i dalje mora biti na vidiku, mora se moći osporiti pred sudom i neko za njega mora odgovarati pred narodom.

Vještačka inteligencija u ratovanju postaje opasna tamo gdje narušava Kantov kočioni mehanizam. Ako se rat vodi dronovima, algoritamskim izborom meta, cyber-operacijama i automatiziranim obavještajnim sistemima, politička cijena rata može biti manja: nema masovne mobilizacije, nema vidljivog fronta, nema svakodnevnih slika vlastitih vojnika u kovčezima. Rat se pretvara u operaciju pred ekranom, u tehničku proceduru koja sve lakše izmiče javnom pogledu.

Nije svaka vojna primjena AI-ja moralno sporna, ali ono što jest sporno: tehnologija koja vlasti daje da ratuje brže nego što javnost uopće stigne shvatiti o čemu se radi. Tu više nije riječ samo o autonomnom oružju – riječ je o autonomiziranom ratu.

U vojnom kontekstu postoje dva glavna područja upotrebe vještačke inteligencije. Prvo se odnosi na autonomne oružane sisteme, kao što su dronovi i druge platforme koje mogu samostalno birati ili napadati mete bez neposrednog ljudskog odlučivanja. Ovdje je problem jasan: ljudski faktor se uklanja iz lanca odlučivanja o životu i smrti.

Drugo područje je manje vidljivo, ali jednako opasno, a čine ga informacijski i analitički sistemi. Oni prepoznaju obrasce, stvaraju lažne sadržaje, automatiziraju propagandu i sprovode psihološke operacije. Ne ubijaju, ali zamagljuju stvarnost, izazivaju paniku i narušavaju povjerenje. A bez povjerenja nema ni prestanka rata.

Kantovu kritiku ovdje možemo tumačiti dvostruko. Njegov prigovor stalnim vojskama odnosi se na oružane sisteme koji ljude svode na puka sredstva države, dok upozorenje na “nečasna lukavstva” pogađa informacijske operacije koje uništavaju mogućnost trajnog mira. U autonomiziranom ratu, te dvije prijetnje više nisu jasno odvojene.

Kant je već u 18. stoljeću upozoravao na stalne vojske. One, kaže, neprestano prijete drugim državama samom činjenicom da su uvijek spremne za rat, podstiču trku u naoružanju i same mogu postati uzrok novih napada. Još važnije, Kant smatra da biti plaćen “da se ubija ili bude ubijen” znači koristiti ljude kao “puke mašine i oruđa” u rukama države.

AI ne uklanja taj problem, već ga pogoršava. U algoritamskom ratu i vojnik i civil postaju mete: čovjek se prvo pretvara u profil, zatim u metu, a tek kasnije, ako dođe do greške, u predmet istrage.

Profesorica digitalne etike i odbrambenih tehnologija na Institutu za internet univerziteta Oxford, Mariarosaria Taddeo, u knjizi The Ethics of Artificial Intelligence in Defence insistira da AI u odbrani nije puko sredstvo za optimizaciju sile. Te tehnologije ne dodaju samo nove alate – one mijenjaju sam okvir: šta se u ratu smije, ko odgovara i gdje je granica između prava i sile. Dronovi su već narušili staru sliku rata kao simetričnog sukoba u kojem obje strane preuzimaju sličan rizik; AI ide dalje jer može ukloniti čovjeka iz procesa odlučivanja ili ga navesti da nekritički prihvati preporuku sistema.

Za Kanta to bi bio alarm. Kad se odluka ko će umrijeti sve više pretvara u "tehnički rezultat" – algoritam kaže, podaci pokazuju – moralna odgovornost ne nestaje, samo se disperzira. Komandant će se pokriti sistemom: "meta je preporučena". Političar procjenom: "postupio sam prema obavještajnoj informaciji". Inženjer kodom: "nisam ja odlučivao". Lanac je upotpunjen, a na njegovom kraju – žrtva ne gleda nikome u oči.

Kant ne traži samo da rat bude pravno ograničen. On traži da i usred rata ostane mogućnost budućeg mira. Zato odbacuje postupke koji uništavaju uzajamno povjerenje: ubistva iz zasjede, trovanje, kršenje kapitulacije i podsticanje izdaje u neprijateljskoj državi. To su, za Kanta, “nečasna lukavstva” — sredstva koja možda mogu donijeti kratkoročnu prednost, ali razaraju minimum povjerenja bez kojeg se rat više ne može završiti mirom.

U digitalnom dobu ta zabrana dobija novu težinu. Deepfake snimci kapitulacije, lažne naredbe, vještački generirani glasovi i snimci lidera, automatizirana propaganda i algoritamsko širenje panike nisu samo “informacijski alati”. Oni napadaju samu stvarnost u kojoj bi se jednog dana moralo pregovarati. Ako više niko ne zna šta je naređenje, šta je obmana, ko govori, ko odlučuje i šta se zaista dogodilo, mir u prisustvu trajne sumnje postaje gotovo nemoguć.

Kanta nije brinula efikasnost nego opravdanost. Njegovo pitanje bi glasilo: može li se javnosti objasniti zašto je nešto urađeno? Njegova "transcendentalna formula javnog prava" može se svesti na strogo pravilo: ono što zadire u tuđa prava nepravedno je ako se ne može javno opravdati. Po istom kriteriju treba mjeriti i algoritamsko ratovanje.

Države neće javno objavljivati sve operativne detalje. To je jasno. Ali ono što rade mora se moći javno opravdati. Postavi se pitanje: po kojim pravilima sistem bira metu? Ko je odgovoran za grešku? Kako se uopće razlikuju vojnici od civila? Može li se odluka naknadno preispitati? Ako država nema odgovor na to, nije riječ samo o vojnoj tajni – riječ je o tome da je rat napustio područje prava.

Ali sama javnost nije dovoljna. Kantov princip ne smije završiti kao puka anketa ili komentar na društvenim mrežama. U demokratiji mora postojati i sud: neko ko će naknadno provjeriti odluke, dokaze, lanac zapovijedanja, algoritamske sisteme. Ako se ratna odluka ne može ni javno braniti ni pred sudom preispitati – onda nije republikanska. To je onda siva zona izvršne vlasti.

Nakon 11. septembra, američki Kongres je s jednom kratkom rečenicom dao ovlasti za rat bez kraja. Na temelju toga došli su Guantánamo, dronovski udari, tajna izručenja. Kasnije je tu ubačena i sintagma "pridružene snage" – izraz koji u izvornom zakonu nije postojao. Javnost više ne zna protiv koga se ratuje, gdje prestaje, ko dodaje nove neprijatelje. Kantov zahtjev za javnošću vlasti već je bio sahranjen. AI je u to vrijeme tek učio hodati – ali grob je već bio iskopan.

Taddeo je ovdje u pravu: nije svaki tehnički napredni AI automatski etičan. Etično može biti samo ono što se može opravdati, poništiti, provjeriti, i gdje jasno stoji da je neko od ljudi odgovoran, da neko ima stvarnu kontrolu, i zna se da sistem funkcionira. Bez toga, nema izgovora da je u piranju "samo alat". Ako alat učestvuje u odluci, onda i odluka kao cjelina mora biti pod moralnom i pravnom kontrolom. Smislena ljudska kontrola zato ne znači samo da čovjek negdje formalno pritisne dugme, nego da postoji osoba, institucija i pravni postupak kroz koji se odluka može pripisati, ispitati i sankcionisati.

Posebno je važan problem predvidljivosti. AI sistemi uče, prilagođavaju se okruženju i mogu proizvesti ishode koji nisu bili predviđeni u trenutku dizajna ili raspoređivanja. Taddeo upozorava da se kod autonomnih sistema ne može uvijek sa sigurnošću odgovoriti na pitanje: šta će sistem uraditi? U vojnom kontekstu to nije akademska dilema. To je pitanje civilnih života, eskalacije, odgovornosti i međunarodne stabilnosti.

Kant nikada ne bi prihvatio nepredvidljivost kao olakšavajuću okolnost. Naprotiv, ona je razlog da se takvo sredstvo uopće ne upotrebljava. Država koja ga ipak uvede – odgovara za svaki ishod, bio on predvidiv ili ne. Kad neko kaže "nismo mogli znati", to samo premješta odgovornost na drugu stranu i omogućava vječiti rat.

Yuk Hui, filozof tehnologije i profesor na Univerzitetu Erasmus u Rotterdamu, u novoobjavljenoj knjizi Kant Machine čita Kantov Vječni mir kao pokušaj mišljenja “mirovne mašine”, ali ne kao kalkulatora mira. Hui je poznat po povezivanju kontinentalne filozofije, kibernetike i savremenih rasprava o vještačkoj inteligenciji. U središtu te mašine stoji imperativ: “Ne smije biti rata” — Es soll kein Krieg sein. Hui naglašava da za Kanta sukobi mogu biti nužni, ali rat nije neizbježan; vječiti mir nije dokaziva budućnost, nego regulativni cilj bez kojeg se politika vraća pukoj sili.

Današnja sigurnosna logika obećava mir tako što će sve nadzirati, predviđati, odvraćati i automatski reagirati. Kant ne vjeruje u to. Za njega mir ne znači upravljati neprijateljem – znači izaći iz situacije u kojoj se rat uopće smatra normalnim političkim alatom. Zato je Kantov “mirovni savez” različit od običnog mirovnog ugovora: ugovor završava jedan rat, dok savez mira nastoji okončati rat kao trajnu mogućnost među državama.

Ako AI služi samo tome da se neprijatelj brže pronađe, preciznije prati, tiše ukloni i lakše pravda, onda ona nije mirovna mašina. Ona je mašina za stabilizovani rat. Ne donosi mir, već upravljivi konflikt. Ne ukida nasilje, već ga čini probavljivijim za one koji ga naređuju.

Dakle, AI, rat i autoritarne tendencije u demokratijama ne sjede slučajno zajedno. Autoritarizam ne počinje uvijek državnim udarom ili zabranom medija. Ponekad dođe neprimjetno – kad se odlučivanje o sili izvuče iz javnosti i ugura u tajne procedure, algoritamske procjene i pravne formulacije koje imaju vlastite živote. Niko nije ukinuo odgovornost – samo je sve teže pronaći ko je kriv.

Tako građanin tiho prestaje biti sudionik, a postaje gledatelj. Glasati može – ali ne zna na koga se puca. Plaća rat iz svog džepa – ali mu niko ne pokaže koliko ga zapravo košta. Živi u demokratiji – ali o tome ko će poginuti odlučuje se negdje do čega nema pristupa.

Kant bi u tome prepoznao prijetnju Republici. Republika nije samo naziv za vladu. Ona znači da se upotreba sile mora opravdati razumu, zakonu i javnosti. Ako vještačka inteligencija omogući da rat izgleda kao čista tehnika, onda ona ne štiti demokratiju, već suprotno.

Zato osnovna teza ne treba glasiti da će AI sama proizvesti autoritarizam. To bi bilo prejednostavno. Opasnost je suptilnija: AI može onim autoritarnim crtama koje već postoje u demokratijama dodati alate, ubrzanje i onaj lažni osjećaj da je sve "objektivno". A još gore – svakoj odluci može dati racionalni štit. Algoritam je izračunao, model je prepoznao, podaci su pokazali. Ali odluka o ratu i miru ne može se svesti na takvu tehničku kalkulaciju. To nije stvar efikasnosti, procjene i upravljanja rizikom. To je stvar političke odgovornosti, pristanka javnosti i prava.