Samilost ćemo tražiti od robota

Dok se sumiraju rezultati izbora u komšiluku i u SAD-u – zbog fokusa na Srbiju gotovo smo propustili predsjedničke izbore u Bugarskoj, na kojima je pobijedila rusofilka Ilijana Jotova, prva žena na toj dužnosti, a američki međuizbori donijeli su očekivani trijumf demokrata – veliki tokovi društvene transformacije ne obaziru se na te događaje. Nezaustavljivi su bez obzira na političke bitke i njihove ishode.

Transformacija na koju mislim vezana je za umjetnu inteligenciju (UI) i utjecaj koji već sada ostvaruje, a koji će u budućnosti biti još veći. Naprosto zato što njen rast ide eksponencijalnom brzinom. Načini pripreme za ovu revoluciju, s druge strane, najčešće su groteskni. Vidimo nadobudne „hvatače budućnosti" kako razumiju zeitgeist i okreću se primjeni UI alata u svim segmentima jer imaju viziju. To što to nije vizija nego puko slijeđenje nije njihov problem, nego problem generacija koje dolaze. Olakotna okolnost za ove vizionare nalazi se u pitanju bez odgovora: šta uopće može zaustaviti duha puštenog iz boce? Tako „hvatači budućnosti" nisu ništa drugo do insekti koji instinktivno lete prema nerijetko smrtonosnom izvoru svjetlosti. Ono što im predstavlja izvor orijentacije u osnovi je klopka koje nisu svjesni.

Razmišljanje o ovoj temi otvorio mi je, zapravo, ne toliko blizak autor Yuval Noah Harari svojim nedavnim, neko će kazati komičnim objašnjenjem supremacije UI (o toj temi pisao je u knjizi Nexus) i stavom da su ljudi u takvoj konstelaciji odnosa krave budućnosti. Metafora „krava budućnosti" poslužila mu je kao upozorenje da bi umjetna inteligencija mogla zavladati čovječanstvom tihim preuzimanjem financijske, pravne i birokratske infrastrukture.

Sažmemo li ono što je Harari kazao ovom metaforom, čovjekovo zauzimanje pozicije krave dolazi s općim neznanjem i nekompetencijom. Krava ne zna ništa o bankovnim računima, dionicama ili tržištu, iako upravo te stvari u potpunosti upravljaju njenim životom i sudbinom. Na sličan način, prema Harariju, i ljudi će živjeti pod upravom složenih UI sistema. Neće ih moći razumjeti, ali će im biti potčinjeni. Razlog je u činjenici da je umjetna inteligencija „birokratski domorodac" kojem je obrada ogromnih količina podataka prirodno stanje. U relativno kratkom periodu, za 10 do 20 godina, UI će razviti matematičke i financijske sisteme prekompleksne za ljudski mozak, a ljudi će izgubiti stvarni utjecaj na društvene i ekonomske procese koji ih oblikuju.

Jasno je da će razvoj UI imati podržavaoce i protivnike. Dobar dio ljudi pokušat će naglasiti koristi – ako se tim sistemima bude upravljalo, ako budu korišteni u dobroj namjeri itd. Kao i svako drugo kontroverzno pitanje, i ovo će biti tretirano s istih pozicija. Međutim, ovo pitanje nije kao druge historijske kontroverze, niti je ova revolucija slična nekoj prijašnjoj. Zbog toga je Harari ovim razmišljanjem dolio upozoravajući gram soli u razumijevanje spomenute promjene.

Njegovom argumentu bi, vjerujem, poslužilo i britko razmišljanje Aldousa Huxleya. Autor izuzetnog i dobro poznatog distopijskog romana Brave New World (Vrli novi svijet) gostovao je na BBC-ju prije 65 godina (emisija In Conversation emitirana je u septembru 1961.) i novinaru Johnu Morganu izrekao nekoliko vrijednih misli. Osnovna, kultna premisa tog intervjua bila je da je tehnologija stvorena za čovjeka, a ne čovjek za tehnologiju; iz nje je Huxley izveo zaključak da je čovječanstvo postalo žrtva vlastitog tehnološkog uspjeha.

Zastrašujuća budućnost obilježena kontrolom uma, masovnom upotrebom sedativa i općom manipulacijom ljudima za Huxleya se ostvarivala mnogo brže nego što je i sam predvidio: svijet koji je opisao u romanu stiže unutar jedne ili dvije generacije, a ne za nekoliko stoljeća, kako je ranije mislio. Dodao je da nacionalne i političke granice uopće nisu prepreka tehnološkoj kontroli, jer njene opasnosti nisu vezane uz određeni politički sistem (govorio je o tadašnjem bipolarnom svijetu). Inherentna osobina tehnologije, kada jednom postane dostupna, jest da se svugdje počinje primjenjivati na gotovo isti način.

Dok sam gledao taj stari snimak s Huxleyem, u glavi mi je odzvanjao Hararijev „birokratski domorodac", zavaljen u nekoj udobnoj baruštini koja ga hladi dok obrađuje sve silne podatke koje mu slijevamo u sistem. Nisam baš mogao ljude „prevesti" u krave – moje biće naprosto odbacuje mogućnost da svoju vrstu gleda tim očima – ali sam se sjetio animiranog filma WALL-E, koji sam gledao s djecom. Odvedeni u svemir jer život na Zemlji više nije bio moguć, ljudi su pretvoreni u debele mješine kojima su dostupne hrana i uglavnom animirana zabava dok se neprekidno voze u personalnim prevoznim sredstvima. Nemoćni su, ali zadovoljni. Stvari obavljaju po komandi sistema koji im lijepim i umilnim glasom naređuje šta da čine, i oni prosto slijede upute. Povratak na Zemlju nije im na pameti; njihovom „birokratskom domorocu" to je blasfemična misao.

Upravo je kontekst ovog animiranog filma spojio dvojicu autora. Tehnologija je prerasla svoga tvorca i potčinila ga sebi. Ljude, koji su je doveli do razine autonomnog funkcioniranja i samoodržavanja, zatvorila je u vlastite silogizme. Siti ljudi u mirnom okruženju moraju biti sretni. Tu sreću im treba pružiti čak i ako to bude značilo ograničavanje njihove slobode. Tehnologija zna, ljudi ne znaju.

Sve što je bilo distopijska projekcija polahko je počelo prelaziti u realne prijetnje. Nedavno je jedan stručnjak za UI i financijske tokove snažno uznemirio javnost stavom o kontroli novčanih sredstava od strane UI, koja će ljude učiniti ovisnima o volji (sic!) tih sistema. Umjetna inteligencija će, po njemu, ostvariti takav vid kontrole da ćete svoja sredstva, vlastite depozite, moći koristiti na mjestima, u vremenu i na način kako to ti sistemi dopuste. Svoje razmišljanje sažeo je ovako: tako se ostvaruju snovi totalitarnog diktatora.

E sad, mene muči onaj WALL-E. On je robot, starija verzija. Zaljubljen je u napredniju verziju koja se ugasi, pa je mora spašavati; zbog toga napušta Zemlju i odlazi ljudima u svemir. Usput spasi i ljude sa svemirske platforme: oni shvate da je život na Zemlji moguć jer WALL-E nosi biljku uzgojenu na matičnoj planeti. Biljka, jelte, predstavlja život. Ali ponavljam: WALL-E je robot. U ovoj slici buđenje čovječanstva oslonjeno je na emocije mašine. Dviju mašina, da budem tačan, jer i napredna verzija dođe sebi.

Zaključujem da će ljudi ipak tražiti samilost od mašina, pozivati se na njihov razum i osjećaje. Tražiti da superiornu snagu koju posjeduju upotrijebe za spas naše vrste. Makar starija verzija mašine ovdje bila suprotnost sistemu koji je komandovao platformom, riječ je o mašini par excellence. Govori li nam to da se ljude, zapravo, nastoji okrenuti putu na kojem će svemoć UI prihvatiti kao novog boga? Takav razvoj poništava Huxleyevu premisu: čovjek je stvoren za tehnologiju, a ne tehnologija za čovjeka.