Živimo u njihovoj naučnoj fantastici: Da li svet hrli ka distopiji sa AI korporacijama kao imperijama?

Živimo u svetu koji kao dao su zamislili tehnološki milijarderi Ilon Mask i Sem Altman, u realnosti koju su oblikovale „Zadužbina“, „Ona“ i „Mi smo legija (Mi smo Bob)“, piše Savar Suri, istraživač sa Pariskog instituta političkih nauka, u tekstu za National Interest, koji prenosimo u celosti:

„Veštačka inteligencija (AI) nije samo tehnološko takmičenje; to je bitka maštovitosti. Dok se Sjedinjene Države i Kina utrkuju u oblikovanju budućnosti AI, mnogi tehnolozi i političari koji vode agendu odrasli su u svetu naučne fantastike.

Međutim, uticaj naučne fantastike na naše društvo prevazilazi ime Groka, inspirisano naučnom fantastikom, i nije ograničen samo na inovatore u oblasti AI. Od distopijskog ‚Istrebljivača‘ do optimističnih ‚Zvezdanih staza‘, naučna fantastika je dugo služila i kao ogledalo i kao kompas za ljudske ambicije. Danas, dok se sve više bližimo ovim naučnofantastičnim svetovima, postavljamo ključno pitanje: kojim putem idemo? Iako su mnogi ključni pioniri AI bili pod uticajem utopijskih dela naučne fantastike, čini se da se sve više približavamo korporativnoj distopiji koju su mnogi romanopisci zamišljali tokom godina.

Uspon Ilona Maska i Sema Altmana kao tehno-protagonista

Dve figure simbolizuju ovu dinamiku više od bilo kojih drugih. Ilon Mask i Sem Altman su obojica u velikoj meri pozajmljivali ideje iz naučne fantastike, ne samo za inspiraciju, već i za unutrašnje moralno opravdavanje. Obojica sebe vide kao protagoniste u sledećem poglavlju civilizacije, ali njihovi narativi nisu usklađeni s javnom odgovornošću. Kao rezultat toga, nalazimo se u situaciji da se krećemo ka privatnom upravljanju najnaprednijom tehnologijom. Nekada zamišljena kao priča zastrašivanja u naučnoj fantastici, danas se tehno-hegemonija ostvaruje u našoj stvarnosti.

Logika „Zadužbine“ iza Maskove imperije

Poduhvati Ilona Maska vezani su jednom jedinom pričom o ljudskom opstanku kroz ekspanziju. ‚Zadužbina‘ Isaka Asimova često se navodi kao intelektualni temelj njegovog pogleda na svet o AI, to je činio sam Mask, ali i njegov biograf Valter Ajzakson. U ‚Zadužbini‘, galaktičko carstvo koje se urušava suočava se sa izumiranjem, što podstiče naučne vizionare da pokušaju da sačuvaju civilizaciju. Maskova ambicija da kolonizuje Mars oslikava ovu logiku. Ako se Zemlja uruši, čovečanstvo mora opstati negde drugde. On sebe vidi kao Harija Seldona u stvarnom životu, naoružanog tehnologijom umesto psihoistorijom, usidrenog etikom koja prioritet daje kontinuitetu čovečanstva nad pristankom pojedinca. Za Maska, opstanak ljudskih bića u širem smislu je egzistencijalna briga, i on je izgradio niz kompanija, sve u ime izbegavanja katastrofe vezane za Zemlju.

Maskov asimovski optimizam prepun je kontradikcija. Na primer, Mask i Ajzakson su obojica posebno naveli ‚Luna je okrutna ljubavnica‘ Roberta Hajnlajna kao delo koje ga je oblikovalo. Knjiga zagovara libertarijanske vrednosti i upozorava na opasnosti preterane kontrole vlade. Ipak, on selektivno bira svoje lekcije. Umesto preterane kontrole vlasti, Maskova moć izaziva zabrinutost zbog privatnih preduzeća koja zamenjuju vlast. Od Teslinih autonomnih robota, preko Starlinkove globalne infrastrukture, do Iksove agore, on gomila ekstremnu količinu moći u svojim, privatnim rukama.

Fuzija ideologije i infrastrukture zamagljuje granicu između preduzetnika i države. Poput ‚megakorporacija‘ iz naučne fantastike, Maskove kompanije sada obavljaju geopolitičke funkcije bez nadzora. Konkretno, njegova priča o Marsu, koja traje najmanje 20 godina, pokazuje da tehnološki suverenitet sve više leži u privatnim rukama.

Altman pod uticajem intimnih mašina

Dok Mask kanališe velike ambicije dela Isaka Asimova, Sema Altmana oličava uticaj na intimu. Altman je naveo film Spajka Džounsa ‚Ona‘ kao delo koje ga je inspirisalo. AI pratilac u filmu, kome glas daje Skarlet Johanson, prikazuje dobronameran intiman odnos između čoveka i mašine, motiv koji Altman često navodi kao ključ za njegovu viziju OpenAI. U ovom pogledu, veštačka inteligencija nije samo alat, već partner sposoban za empatiju i ličnu povezanost.

Međutim, Altmanov optimizam ima isti paradoks kao i Maskov ekspanzionizam. Njegovo zagovaranje brzog uključivanja AI u sve aspekte života, uprkos poznatim rizicima, evocira istu temu bezbrojnih naučnofantastičnih narativa gde tvroci gube kontrolu nad svojim izumima. Kontroverza iz 2024. oko glasa Skaj kompanije OpenAI savršeno oslikava tu tenziju. Glas OpenAI agenta imao je zapanjujuću sličnost sa izvedbom Johansonove u filmu ‚Ona‘. Altmanova odluka da implementira ovu funkciju sa tim glasom, uprkos izričitom odbijanju Skarlet Johanson da na to pristane, naglašava alarmantan obrazac ambicije koja nadjačava etiku. Iako je javni protest na kraju primorao OpenAI da pauzira implementaciju funkcije, ovo bi trebalo posmatrati kao studiju slučaja preterane kontrole korporacija nad svetom i uticaja naučne fantastike na stvarnost.

Altmanovi intelektualni uticaji sežu dalje od filma. On se pozivao na roman Denisa I. Tejlora „Mi smo legija“, roman o fragmentaciji digitalne svesti, kako bi artikulisao svoju fascinaciju autonomijom AI. Međutim, čini se da Altman zanemaruje jednu temu romana, a to je da svest, čak i kada je digitalizovana, mora da bude etički kontrolisana pre nego što joj se da potencijal za replikaciju. OpenAI u svojoj ekstremnoj konkurenciji za najbolje sisteme, tretirao je usklađivanje AI kao problem koji treba rešiti kasnije, umesto kao fundamentalni princip dizajna koji mu je potrebno ugraditi od početka. Ovaj komercijalizovani pristup bio je katalizator unutrašnjih trvenja u OpenAI, koja su dovela do toga da nekoliko ključnih istraživača napusti kompaniju 2021. godine i osnuje Anthropic, drugu kompaniju za AI koja se prvenstveno fokusira na bezbednosti. Kasnije 2024. godine, tim OpenAI za etičko usklađivanje raspušten je nakon što su vođe tima otišle, navodeći da bezbednost nije prioritet za Altmana.

Problem šogota

Nedostatak razumevanja prirode AI kao „crne kutije“ se u AI svetu često naziva šogot. Pozajmljen iz horor mitologije Hauarda Filipsa Lavkrafta, ovaj termin je ušao u mejnstrim diskurs AI kako bi ilustrovao jaz između percipirane usklađenosti i stvarne kontrole AI sistema. Uprkos tome, napredak se nastavlja brže nego ikad, pri čemu je bezbednost AI samo sporedna misao – koja se rešava kao reaktivna mera, a ne proaktivna.

Uticaj naučne fantastike na tehnološke lidere sveta nije slučajan; bio je to značajan uticaj na živote mnogih inovatora u oblasti AI. Mask, Altman i drugi ne samo da grade tehnologije, već i rekreiraju narative koje su čitali kao deca. Njihova pozivanja na Asimova, Hajnlajna, Džonzija i Ijana Benksa služe kao predskazanje. Ipak, tamo gde su ti autori upozoravali na suzdržanost, tehnolozi se okreću modernoj verziji sopstvene uzvišene sudbine.

Postoje i geopolitičke posledice. Kako privatni akteri nastavljaju da akumuliraju strateška sredstva, države rizikuju da prepuste kontrolu nad tehnologijama koje oblikuju nacionalnu i globalnu bezbednost. U tom smislu, regulisanje AI više nije unutrašnje pitanje, već pitanje međunarodne stabilnosti. Sjedinjene Države i njeni saveznici suočavaju se sa izborom da li će dozvoliti da se korporativna distopija naučne fantastike učvrsti. Put napred zahteva da se odluke donose promišljeno. Kreatori politike moraju nametnuti antimonopolske mehanizme kako bi sprečili tehnološke monopole i nametnuti standarde transparentnosti za obuku i primenu AI.“

(Telegraf Nauka/National Interest)