Vladavina algoritma: Vlast bez izbora i odgovornosti

Kada su sredinom juna u javnost dospjeli interni podaci zatvorenog društva Dialog, otvorio se rijedak pogled u skup koji se već naziva „tehno-Bilderbergom“. Organizacija, koju je 2006. pomogao osnovati milijarder Peter Thiel, okuplja ljude iz američke politike, vojske, finansija, obavještajnog sektora i Silikonske doline. Za okupljanje planirano u augustu u Irskoj registrirana su 222 učesnika. Među temama razgovora nalazile su se vještačka inteligencija, ratne tehnologije, nuklearna energija, društveni raspad i izgradnja političkih stranaka, pa čak i panel pod naslovom „Build-a-Cult“ – kako izgraditi kult.

Poređenje s Družbom Bilderberg nije plod slučajnosti. Dialog okuplja političare, investitore, tehnološke direktore te vojne i obavještajne zvaničnike na sastancima zatvorenim za javnost. Ipak, „tehno-Bilderberg“ treba shvatiti kao medijsku dosjetku, a ne kao dokaz o postojanju novog tajnog društva zavjerenika. Ovakvi skupovi više služe povezivanju, razmjeni utjecaja i potvrđivanju statusa nego formalnom donošenju odluka. Njihova važnost je u tome što dio rasprave o tehnologijama koje oblikuju javni život izmiču demokratskoj kontroli.

Nedavna debata Petera Thiela i francuskog historičara Emmanuela Todda u Japanu razotkrila je dio neizgovorene mitologije koja prati razvoj vještačke inteligencije. U njenom središtu nalazi se dolazak opće vještačke inteligencije, poznate pod skraćenicom AGI (engl. Artificial General Intelligence – opća vještačka inteligencija). Ovu priču prate svojevrsni „svećenici“: osnivači kompanija, inženjeri, investitori i stručnjaci za sigurnost sistema. Ona nudi viziju budućnosti bez rada, bolesti, neznanja, pa čak i smrti. Istovremeno, predviđa vlastitu apokalipsu u kojoj neposlušna mašina može uništiti čovječanstvo. Između obećanja o raju i prijetnje uništenjem, pitanja vlasništva, rada, javnih nabavki, zaštite podataka i demokratske kontrole ostaju potisnuta u drugi plan.

Stavovi najuticajnijih aktera znatno se razlikuju. Na jednoj strani su Todd, Papa Lav XIV i kanadski informatičar Yoshua Bengio, pionir dubokog učenja i profesor na Univerzitetu u Montrealu, koji upozoravaju na katastrofalne posljedice nekontrolisanog razvoja vještačke inteligencije. Nasuprot njima, rukovodioci kompanija kao što su OpenAI, Google DeepMind, Meta i Tesla zalažu se za nastavak ubrzanog razvoja, ali uz različite modele regulacije.

Mnoge od njih ipak povezuje sklonost da ključnu ulogu u određivanju budućnosti tehnologije zadrže oni koji modele grade, finansiraju i naravno posjeduju. Demokratski pristup politici u toj slici djeluje presporo, javnost nedovoljno upućena, a institucije nesposobne da prate tehnološki razvoj.

Iz takvog pogleda nazire se ideologija vještačke inteligencije. Ona ne tvrdi samo da je tehnologija moćna nego i da njena složenost daje poseban politički autoritet ljudima koji je razumiju. Građani postaju korisnici, političke zajednice tržišta, a društveni sukobi tehnički problemi koje treba optimizirati.

Materijalna struktura industrije dodatno učvršćuje takav poredak. Razvoj najmoćnijih modela zahtijeva goleme količine kapitala, energije, čipova, podataka i računarske infrastrukture. Moć se zato ne raspršuje među milionima inovatora, kako je obećavala rana internetska utopija, nego se sabija u nekoliko kompanija, podatkovnih centara i država.

Američki filozof tehnologije Benjamin Bratton predlaže da se ta infrastruktura posmatra kao jedinstvena, premda neplanirana megastruktura: The Stack, odnosno slojeviti sistem koji obuhvaća Zemlju i njene resurse, oblak, gradove, adrese, interfejse i korisnike. To nije doslovan opis postojećeg poretka, nego model koji pokazuje ono što klasična podjela na državu i tržište više ne može sasvim objasniti.

Računarska infrastruktura u toj slici sama preuzima funkcije upravljanja, oblikuje teritorije, određuje pristup i proizvodi nove oblike suverenosti. Kompanija koja kontroliše oblak, identitet korisnika, podatke i pristup uslugama više nije tek prodavač softvera. Počinje djelovati kao politička ustanova bez ustava.

Bratton jedan mogući ishod naziva „feudalizmom oblaka“. Platforme prisvajaju i raspoređuju vrijednost, dok korisnici ostaju formalno slobodni, ali strukturno zavisni od infrastrukture koju ne posjeduju i čija pravila ne mogu mijenjati. Vlasnici platformi ne ubiru samo profit nego određuju i uvjete pristupa, vidljivosti i učestvovanja.

Pojam tehnofeudalizma koristan je dok se ne pretvori u historijsku karikaturu. Današnji korisnik nije srednjovjekovni kmet, a platforma nije vlastelin u doslovnom smislu. Kapitalizam nije nestao. Ipak, odnosi zavisnosti sve manje počivaju samo na razmjeni robe i rada, a sve više na pristupu privatnoj infrastrukturi.

U ovom poretku vještačka inteligencija nije samo nova pokretačka snaga privrede, već djeluje i kao upravitelj privatnog digitalnog prostora: procjenjuje rizik, nadzire rad, određuje cijene, preporučuje sadržaj i sve češće posreduje između građana i javnih usluga. Kada algoritamski sistemi odlučuju o kreditima, dostupnosti informacija ili pristupu uslugama, privatna pravila odmah poprime političke posljedice. Tehnofeudalizam tako prevazilazi puku ekonomsku koncentraciju – privatna infrastruktura postaje novo političko okruženje.

Peter Thiel već dugo ukazuje na centralizujući potencijal vještačke inteligencije. On je opisuje kao „komunističku“ tehnologiju jer omogućava koncentraciju moći u rukama nekoliko velikih vlada, kompanija i računarskih sistema koji obrađuju ogromne količine podataka. Adam Elkus u časopisu Foreign Policy djelimično prihvata ovu dijagnozu: veliki AI modeli su skupi, monolitni i povezani s moćnim birokratijama, zbog čega lako postaju alati za upravljanje i kontrolu.

Thielovo upozorenje, međutim, ne vodi prema demokratizaciji tehnologije. Njegov politički odgovor traži izlazak iz ograničenja demokratske većine i širenje prostora u kojem investitor, osnivač ili tehnološka elita može djelovati bez sporog javnog pristanka.

Thiel nije staljinista. On je libertarijanac, protivnik državnog kolektivizma i zagovornik privatnog kapitala. Tehnološki libertarijanizam i staljinističko planiranje razlikuju se po vlasništvu, ideologiji i sredstvima prisile, ali dijele nepovjerenje prema društvu koje samo odlučuje o sebi.

Staljinistički sistem polazio je od uvjerenja da centar može prikupiti dovoljno podataka da racionalno upravlja cijelim društvom. Država je propisivala proizvodne ciljeve, određivala kvote i pokušavala raznoliku poljoprivredu pretvoriti u velike jedinice kojima se može upravljati iz Moskve.

Seljaci, radnici i lokalni upravnici nisu smatrani izvorima znanja koje planeri ne posjeduju. Umjesto toga, bili su tek varijable unutar centralnog plana. Njihova iskustva, otpor i lokalne specifičnosti doživljavani su kao prepreke koje treba ukloniti da bi se stvarnost uskladila s unaprijed zadatim modelom.

Savremena ideologija vještačke inteligencije privlači istom vizijom svijeta koji je potpuno čitljiv iz pozicije moći. Ljudi se kategoriziraju prema riziku, produktivnosti, kreditnoj sposobnosti, političkoj pouzdanosti ili vjerovatnoći da će počiniti prekršaj. Kada se život svede na podatke, upravljanje društvom postaje pitanje matematičke optimizacije ciljeva.

Ali teorijski model nije i društvo.

Vještačka inteligencija može stvoriti iluziju matematičke preciznosti baratanje podacima, ali ne može izbrisati političke pretpostavke, interese institucija i društvene odnose iz kojih ti podaci potiču. Umjesto da ukloni slijepe tačke birokratije, ona ih može samo dodatno automatizirati.

Još jedno poznato ime u svijetu filozofije tehnologije, Yuk Hui otvara još dublje pitanje: kada raspravljamo o „usklađivanju“ vještačke inteligencije, obično polazimo od pretpostavke da će ciljevi mašina biti usklađeni sa ljudskim vrijednostima. Međutim, ostaje nejasno na koga se te vrijednosti odnose. Da li su to vrijednosti pojedinaca, porodica, naroda, kompanija, država ili cijelog čovječanstva kao apstraktne kategorije?

Norme se razlikuju među društvima, sukobljavaju unutar njih i mijenjaju tokom vremena. Govor o jedinstvenim „ljudskim vrijednostima“ lako prikriva činjenicu da će neko morati odabrati koje će vrijednosti postati kod.

Tada tehnički problem postaje ustavno pitanje. Ko određuje normu prema kojoj se model usklađuje? Inženjeri kompanije, njeni investitori, državni regulator ili korisnici? Ako odgovor nije politički dogovoren, „usklađivanje“ može postati pristojan naziv za ugrađivanje interesa vlasnika sistema.

Hui upozorava da model zasnovan na pravilima ili statističkim obrascima ne može sam izvesti moralnu normu. Sposobnost predviđanja najvjerovatnijeg odgovora ne znači sposobnost prosuđivanja šta je pravedno. Pretvaranje statističke pravilnosti u društveno pravilo politički je čin, čak i kada se predstavlja kao tehnička procjena.

Hui razlikuje univerzalizam koji unaprijed nameće jedno pravilo svim slučajevima od univerzalnosti koja se gradi kroz susret s konkretnim okolnostima. Prvo odgovara logici centra: pravilo je već poznato, a pojedinačni slučaj treba mu prilagoditi. Drugo zahtijeva prosuđivanje, reviziju i otvorenost prema onome što ranije pravilo nije moglo predvidjeti.

Algoritamsko upravljanje privlačno je upravo zato što obećava da se proces rasprave, žalbe i promjene pravila može preskočiti.

Bratton upozorava na slabost kritike koja tehnologiju zna samo zaustavljati. U eseju o evropskoj vještačkoj inteligenciji tvrdi da strategija „prvo regulirati, a možda kasnije graditi“ ne proizvodi tehnološku suverenost nego zavisnost od američkih i kineskih sistema.

Zato se kritika tehnofeudalizma ne smije svesti na neoludistički zahtjev za zaustavljanjem tehnološkog razvoja. Takav pristup samo bi prepustio infrastrukturu korporacijama i autokratskim režimima koji je već grade.

Brattonov argument treba izvesti do kraja: biti suveren ne znači samo domaće vlasništvo nad serverima. Ono podrazumijeva mogućnost da građani provjere sistem, ospore njegove odluke i promijene pravila djelovanja.

Demokratski odgovor mora istovremeno graditi i ograničavati. Potrebni su javno finansirani modeli, otvoreni standardi, javna računarska infrastruktura i nabavke koje državu ne zaključavaju uz nekoliko dobavljača. Potrebne su i nezavisne revizije, pri čemu revizori ne smiju finansijski ni institucionalno zavisiti od izvršne vlasti ili kompanija koje nadziru.

Poslovna tajna ne smije spriječiti pristup regulatorima, sudovima i nezavisnim revizorima kada algoritamski sistem odlučuje ili bitno utječe na odluke o poslu, kreditu, obrazovanju, zdravstvenoj zaštiti ili slobodi. Vrijedi eksperimentirati i s javnim, zadružnim i zajedničkim oblicima vlasništva nad digitalnom infrastrukturom. Izbor ne mora biti sveden na korporaciju ili državu.

Demokratija je spora upravo zato što zahtijeva raspravu, saglasnost, provjeru, žalbu i mogućnost promjene vlasti. U tome leži njena stvarna vrijednost. Političko neslaganje nije kvar koji treba otkloniti algoritmom, već mehanizam kroz koji društvo pravovremeno prepoznaje i ispravlja greške prije nego što one postanu dio sistema.

Budućnost vještačke inteligencije neće odrediti samo njene sposobnosti nego raspored moći oko nje. Sistem koji treba služiti mnogima mora postati zajednička institucija koju je moguće nadzirati, mijenjati i osporavati. U suprotnom, vještačka inteligencija neće ukinuti politiku. Samo će je premjestiti u infrastrukturu kojom upravljaju oni koje građani nikada nisu izabrali.