Autokratija u doba umjetne inteligencije

Pišu: Seva Gunitsky i Bruce Scheiner (Foreign Affairs)

U martu 2022., dvije sedmice nakon početka sveobuhvatne ruske invazije na Ukrajinu, Marina Ovsjanikova, urednica ruskog Prvog kanala, upala je u studio večernjih vijesti. Stala je iza voditelja i podigla rukom ispisan transparent: „Zaustavite rat. Ne vjerujte propagandi. Lažu vam!“ Uzvikivala je „Ne ratu!“ sve dok je nisu odvukli.

Od tada na rukoj televiziji niko više nije protestirao protiv rata, dijelom zbog pooštrenih sigurnosnih mjera i opće atmosfere straha. Ali Margarita Simonjan, jedna od glavnih ruskih propagandistica, ponudila je u oktobru 2024. i drugo objašnjenje. Sve veći broj voditelja televizijske mreže RT, objasnila je u intervjuu, nisu stvarni ljudi. „To lice ne postoji. Generirali smo glas i sve ostalo.“ Nastali su, dakle, pomoću umjetne inteligencije (AI). U naknadnom intervjuu za list Vedomostijasno je izložila logiku takvog izbora: „Ovim voditeljima ne trebaju plaća ni osiguranje“, rekla je. „Neće biti uhapšeni, a policija im neće pretresati domove. Sve je to istovremeno divno i zastrašujuće.“

To je obećanje umjetne inteligencije svakom autokratskom vladaru: mogućnost da zadrži kontrolu bez povjeravanja zadataka nepouzdanim ljudima. Takva je mogućnost izuzetno privlačna. Koliko god bili moćni, diktatorima su uvijek trebali podređeni — cenzori, propagandisti, pripadnici osiguranja, policajci, obavještajni analitičari i lokalni činovnici — koji će izvršavati njihove naredbe. Ali podređeni uvijek predstavljaju i potencijalnu prijetnju. Mogu zabušavati, krasti, lagati, odavati povjerljive informacije ili kovati zavjere protiv svog nadređenog. Zato je jedna od najstarijih dilema autokratske vlasti kako saradnicima dati ovlasti za izvršavanje naredbi, a da im se time ne omogući i da se okrenu protiv vladara. Autokrati su tu dilemu obično rješavali popunjavanjem ključnih položaja mediokritetima čija je nesposobnost, kako je to formulirala politička teoretičarka Hannah Arendt, „najbolja garancija njihove lojalnosti“. Time se, međutim, diktaturama neizbježno otežavaju upravljanje i opstanak u krizama.

Čini se da umjetna inteligencija autokratima nudi dva izlaza iz te dugotrajne dileme. Prvo, sada mogu lako nadzirati i disciplinirati svoje ljude u realnom vremenu. Promjene u potrošačkim navikama lokalnog funkcionera ili njegovom rasporedu sastanaka sistem umjetne inteligencije može automatski označiti, bez potrebe za doušnicima vođenim vlastitim interesima. Drugo, umjetna inteligencija može potpuno ukloniti potrebu za podređenima. Automatizacijom poslova koji su ranije zahtijevali ljudsku procjenu vladari mogu zamijeniti nepouzdane posrednike poslušnim algoritmima koje nije moguće podmititi niti izmanipulirati. I zvaničnici autokratskih režima govore upravo to. Umjetna inteligencija „sasvim sigurno može zamijeniti polovinu službenika“, izjavio je ruski ministar digitalnog razvoja Maksut Šadajev na forumu o podacima u Moskvi u aprilu 2025., dodajući: „Možda i nešto više.“

Ipak, obećanja o državi koja funkcionira sama zasnivaju se na iluziji, jer umjetna inteligencija nikada nije zaista autonomna. Sisteme moraju izgraditi i održavati inženjeri i stručnjaci za podatke, a politički lideri ne mogu procijeniti njihovu stručnost. Vladar koji se okreće umjetnoj inteligenciji kako bi smanjio zavisnost od nepouzdanih ljudi mogao bi se na kraju oslanjati na malobrojne stručnjake za AI od kojih zavisi rad sistema, uz još manje uvida u njihov rad nego ranije. Ta nova digitalna pretorijanska garda može imati iste slabosti kao i stara, pa tako i sama postati prijetnja vladaru.

Kina prednjači u razvoju sistema umjetne inteligencije koji mogu nadzirati ili zamijeniti podređene. Programi pametnih gradova u Pekingu, Šangaju i drugim urbanim centrima koriste AI za praćenje učinka lokalnih funkcionera i centralizaciju nadzora nad njihovim radom. Funkcioneri koji su ranije komotno radili daleko od očiju nadređenih sada podliježu algoritamskoj procjeni učinka. Kina je razvila i sistem umjetne inteligencije Zero Trust, koji je tokom protekle decenije uvela u približno 30 okruga i gradova. Sistem je ukrštao podatke iz više od 150 državnih baza kako bi otkrivao pronevjere i nepotizam među lokalnim funkcionerima. Pokazao se pomalo previše uspješnim: označio je 8.700 funkcionera kao sumnjive prije nego što su lokalne vlasti, pod pritiskom birokrata koje je nadzirao, počele ograničavati njegovu primjenu. Ali Peking nije odustao od svojih novih portala elektronske uprave, koji automatiziraju izdavanje dokumenata i dozvola, smanjujući neposredne kontakte koji su pogodovali sitnoj korupciji i protekciji. Kineska komunistička partija u međuvremenu je nastavila istraživati ono što naziva „upravljanjem mišljenjem“: kako koristiti umjetnu inteligenciju za stvaranje propagande precizno prilagođene pojedincima i malim grupama. Kinesku armiju plaćenih internetskih komentatora već zamjenjuju botovi.

Rusija s jednakim žarom teži istim ciljevima. Moskovski sistem za prepoznavanje lica, povezan s 200.000 kamera širom grada, korišten je za identificiranje i hapšenje demonstranata tokom antivladinih protesta 2021. godine. Centralna vlast počela je automatski prikupljati i objedinjavati podatke kako bi zaobišla regionalne zvaničnike, koji bi ih mogli iskrivljavati ili koristiti za vlastite interese. Rusko tijelo nadležno za regulaciju interneta pokrenulo je 2023. Oculus, sistem umjetne inteligencije koji dnevno pretražuje stotine hiljada slika u potrazi za zabranjenim sadržajem, uključujući političke sadržaje — neuporedivo više nego što bi mogli obraditi ljudski cenzori. Alat ruske sigurnosne službe Meliorator korišten je za stvaranje više od hiljadu profila izmišljenih Amerikanaca, uglavnom na X-u, nekadašnjem Twitteru, radi širenja narativa Kremlja za djelić novca koji bi bio potreban za farme trolova u kojima rade ljudi.

Druge autokratije idu stopama Pekinga i Moskve. U aprilu 2025. Ujedinjeni Arapski Emirati osnovali su Ured za regulatornu inteligenciju, koji koristi AI za izradu i izmjene saveznih zakona, poslove koje je ranije obavljalo osoblje zakonodavnih tijela. Godinu kasnije premijer UAE-a, šeik Muhamed bin Rašid al-Maktum, najavio je da će autonomni AI agenti u roku od dvije godine preuzeti polovinu poslova savezne vlade te da će se „učinak ministara, generalnih direktora i institucija ocjenjivati prema njihovoj sposobnosti da prihvate ovu transformaciju“.

Ove inovacije mogu smanjiti broj činovnika potrebnih autokratima. Ali ne mogu stvoriti ono što diktatori najviše žele: državu koja funkcionira sama. Čak su i televizijskim voditeljima stvorenim pomoću AI-ja potrebni ljudi koji će ih izraditi i održavati, dok cenzorske sisteme treba iznova obučavati kako se mijenja jezik političkog neslaganja. Iza svakog AI modela stoji mala grupa inženjera i stručnjaka za podatke koji obavljaju neophodno održavanje, a njihov je posao toliko tehnički složen da ga vladari ne mogu razumjeti.

Ta zavisnost postaje novi oblik moći. Inženjeri koji održavaju autokratov aparat nadzora, naprimjer, mogu oblikovati ono što vladar vidi. Oni odlučuju koje su informacije dovoljno važne da mu ih proslijede i u kojem će mu ih obliku predstaviti. Određuju na koje će prijetnje sistem upozoravati, a mogu i prilagođavati algoritme koji odlučuju o tome koji će se sadržaji potiskivati i ko će biti uhapšen. Sve to mogu činiti a da niko na dvoru ne primijeti. Autokrati koji se okreću umjetnoj inteligenciji da bi se oslobodili zavisnosti od nepouzdanih podređenih samo su izvor svoje ranjivosti prenijeli na novu grupu službenika.

Zapravo, ova nova pretorijanska garda mogla bi biti opasnija od prethodnih elita. Dijelom zbog neprozirnosti tehnologije umjetne inteligencije, ali i zato što je ta grupa mnogo manja. Rimski carevi obično su imali desetine hiljada ljudi u pretorijanskoj gardi; savremeni autokrati oslanjaju se na stajaće vojske. Uz umjetnu inteligenciju, međutim, autokratima će za izgradnju i održavanje velikih AI sistema biti potrebna samo mala grupa inženjera. Vladarima to može odgovarati jer će imati manje ljudi koje moraju držati na oku. Ali s manjim brojem ljudi raste i zavisnost od svakog od njih: svega nekolicina inženjera može izazvati razoran poremećaj, a članovima male grupe lakše je i skovati zavjeru protiv vođe. Pripadnici nove garde mogli bi biti i nezamjenjivi. Diktator može smijeniti generale a da ne uništi vojsku. Ali upravljanje složenim sistemima mašinskog učenja zahtijeva toliko specifična znanja da inženjere može biti teško zamijeniti bez poremećaja u radu, što im daje veliku moć.

Koliko su tehnološki stručnjaci važni autokratijama već se pokazalo. Kada su, naprimjer, IT stručnjaci počeli napuštati Rusiju nakon početka sveobuhvatne invazije na Ukrajinu u februaru 2022., Kremlj je odgovorio povlasticama, a ne prijetnjama, ponudivši im odgodu služenja vojnog roka. Njihove kompanije oslobodio je poreza, a njima subvencionirao stambene kredite. Kada je ruski predsjednik Vladimir Putin sedam mjeseci kasnije naredio mobilizaciju 300.000 muškaraca, IT stručnjaci dobili su potpuno izuzeće. To se može učiniti pretjeranim, budući da je za rad jednog AI sistema potrebno tek nekoliko inženjera. Ali režim ne može unaprijed znati koji će mu inženjeri trebati niti može brzo obučiti njihove zamjene, pa mora zadržati čitav kadar iz kojeg će odabrati tu nekolicinu.

Ove mjere nisu zaustavile odlazak približno 100.000 stručnjaka — oko desetine radne snage ruskog tehnološkog sektora — tokom 2022. godine. Moskva se ipak držala potkupljivanja, jer je stručnjake izuzetno teško privoljeti na rad pod prijetnjom oružjem, a prisilno angažirani stručnjaci mogli bi biti manje skloni izvršavanju uputa. No ni novac ni povlastice ne mogu garantirati da će te elite ostati lojalne. Autokrati bi se trebali sjetiti pouke prvobitne pretorijanske garde: neko je vrijeme rimskim carevima pružala zaštitu i sigurnost. Zatim su pretorijanci spoznali vlastitu nezamjenjivost, pa su već u drugom stoljeću prodavali carstvo onome ko ponudi najviše. Ova nova elita može učiniti isto. Kada je u junu 2023. kolona Wagnera, paravojne kompanije Jevgenija Prigožina, krenula autoputem prema Moskvi, Putin se morao osloniti na svoje sigurnosne službe kako bi saznao šta se događa. Budući vladari koji se nađu u Putinovoj situaciji takva će upozorenja primati preko mašina: softverski razvrstanu presretnutu komunikaciju, snimke kamera filtrirane kroz sisteme za prepoznavanje i regionalne izvještaje objedinjene na nadzornim pločama. Inženjeri koji upravljaju tim sistemima mogli bi se nagoditi s novim pretendentom na vlast, a zatim namjerno odugovlačiti s poslom. Mogli bi usporavati dostavu podataka, pustiti da upozorenja kasne nekoliko sati, narušavati kvalitet prijenosa u nezgodnim trenucima ili onesposobiti sistem prepoznavanja. Vladar bi u takvom scenariju djelovao naslijepo. Pretorijanska garda nije morala ubiti cara Nerona da bi ga zamijenila. Bilo je dovoljno da ga napusti i stane uz njegovog suparnika.

Malo je vjerovatno da će ti programeri sami preuzeti vlast, jer vjerovatno nemaju ono bez čega vođe pučeva na kraju ne mogu: oružje. Ali već postoji primjer inženjera koji su svoju moć iskoristili da utječu na ishod borbe za vlast. Kada je sovjetska vojska 1991. pokušala preuzeti vlast od Mihaila Gorbačova, nekolicina programera mreže Relcom održavala je protok informacija prema inostranstvu i prenosila ukaze ruskog predsjednika Borisa Jeljcina javnosti u zemlji i inostranstvu. Pučisti nisu mogli spriječiti širenje vijesti o Jeljcinovom otporu, a puč je propao u roku od tri dana.

Umjetna inteligencija neće omogućiti autokratima da otpuste sve pripadnike represivnog aparata. Neko će i dalje morati hapsiti ljude i upravljati zatvorima, a autokrati mogu kupovati lojalnost nudeći svojim pristalicama poslove u državnoj službi. Ipak, omogućit će im da smanje aparat, a broj službenika na kraju je manje važan od načina na koji ih vladar nadzire. Praćenje nesposobnih podređenih ili onih koji kuju zavjere oduvijek je bilo najveći teret autokrata. Umjetna inteligencija mogla bi ga olakšati, omogućujući vladarima da pomnije nadziru svoje službenike uz manje ličnog angažmana.

Kratkoročno, dakle, umjetna inteligencija može donijeti velike koristi autokratijama. Uprkos brojnim preprekama njenoj primjeni, ta tehnologija autokratskim režimima već donosi jeftiniji nadzor, sofisticiraniju cenzuru i manje podređenih kojih se moraju bojati i kojima ne vjeruju. Ali privlačnost umjetne inteligencije mogla bi autokratske vladare ponovo dovesti u zamku iz koje pokušavaju izaći. Što režim više zavisi od umjetne inteligencije, više zavisi i od ljudi koji osiguravaju njen rad. A ti će ljudi, kao i svaki drugi pretorijanski sloj u historiji, brzo shvatiti koliko vrijedi njihova nezamjenjivost.