Filozof predvideo AI 30 godina pre pojave ChatGPT-a: Ovo ZASTRAŠUJUĆE UPOZORENJE trebalo bi sve da nas zabrine

Neki pisci su vrlo precizni u proceni toga kuda nas vode društvo i tehnologija da su stekli kvalifikaciju „proroka“. Primeri toga su Dž. G. Balard, Oktejvija Batler, Maršal Makluan ili Dona Heravej.

Jedan od najvažnijih članova ovog prosvećenog kluba je filozof Žan Bodrijar, iako je njegova reputacija tokom proteklih decenija opala uglavnom do veza sa sad prošlom erom francuskih teoretičara poput Rolana Barta i Žaka Deride, napisali su Bran Nikol, profesor Univerziteta u Sariju, i Emanuel Fantin, profesorka Univerziteta Sorbona, u tekstu za The Conversation, koji prenosimo u celosti:

Preporučujemo

Pišući novu biografiju Bodrijara podsetili smo se koliko su dalekovida bila njegova predviđanja o modernoj tehnologiji i tome kakve će biti njene posledice. Posebno duboko je njegovo razumevanje digitalne kulture i veštačke inteligencije (AI), predstavljeno više od 30 godina pre lansiranja ChatGPT-a.

Tokom osamdesetih godina vrhunska tehnologija za komunikacije uključivala je uređaje koji nam sada deluju zastarelo - telefonske sekretarice, faks mašine i (u Francuskoj) minitel, interaktivni onlajn servis koji je prethodio internetu. Ali Bodrijarova genijalnost ležala je u predviđanju toga šta su ovi relativno rudimentarni uređaji sugerisali o verovatnim budućim upotrebama tehnologije.

Krajem sedamdesetih on je počeo da razvija vrlo originalnu teoriju informacija i komunikacija. To se pojačalo nakon objavljivanja njegove knjige „Simulakrumi i simulacija“ 1981. godine (ova knjiga je uticala na film Matriks iz 1999).

Bodrijar je 1986. primetio da su u društvu „scena i ogledalo su ustupili mesto ekranu i mreži“. Predvideo je upotrebu pametnog telefona, predviđajući da će svaka osoba kontrolisati mašinu koja će je izolovati „u poziciji savršenog suvereniteta“, poput „astronauta u mehuru“. Takvi uvidi pomogli su mu da dalje razvije možda svoj najpoznatiji koncept: teoriju da ulazimo u eru „hiperrealnosti“.

Bodrijar je devedesetih godina svoju pažnju usmerio na posledice pojave veštačke inteligencije, na načine koji nam pomažu da shvatimo njen sveprisutni uspon u našem dobu, i postepeno nestajanje stvarnosti s kojim se suočavamo svakim danom.

Čitaocima Bodrijara nedavni slučaj AI „glumice“ Tili Norvud, očigledno logičan korak u razvoju simulacija i drugih lažnih videa, deluje potpuno u skladu sa njegovim pogledom na hiperrealni svet.

Bodrijar je veštačku inteligenciju smatrao protezom, mentalnim ekvivalentom veštačkih udova, veštačkih srčanih zalistaka, kontaktnih sočiva ili hirurških estetskih dodataka. Kao što objašnjava u svojim knjigama „Transparentnost zla“ (1990) i „Savršeni zločin“ (1995), njen posao je da nas natera da bolje razmišljamo ili da razmišlja umesto nas.

Ipak, bio je uveren da sve što ona zaista radi jeste da nam omogućuje da doživimo „spektakl misli“ umesto da se bavimo samim razmišljanjem. Kad to radimo, možemo zauvek da odlažemo razmišljanje. I, za Bodrijara, iz toga je sledio zaključak da uranjanje u veštačku inteligenciju jednako odustajanju od slobode.

Zato je Bodrijar smatrao da digitalna kultura ubrzava „nestanak“ ljudskih bića. Nije mislio bukvalno, niti da ćemo biti prisilno porobljeni kao što su ljudi u Matriksu. Umesto toga, prebacivanje naše inteligencije na mašinu značilo bi da proterujemo svoju ljudskost.

Na kraju, znao je da opasnost žrtvovanja naše ljudskosti mašini ne stvara sama tehnologija, već način na koji se mi odnosimo prema njoj. Sve češće se okrećemo velikim jezičkim modelima (LLM) poput ChatGPT-a da donose odluke za nas, kao da je interfejs proročište ili lični savetnik.

Najgore posledice ove zavisnosti su kada se ljudi zaljube u veštačku inteligenciju, dožive psihozu izazvanu veštačkom inteligencijom ili ih četbot ohrabri da se ubiju.

Nema sumnje da humanizovana prezentacija AI četbotova, izbor imena poput Klod ili njihovo predstavljanje kao „pratioca“ ne pomažu. Ali Bodrijar je smatrao da problem nije toliko sama tehnologija koliko naša spremnost da joj prepustimo stvarnost.

Zaljubljivanje u AI avatar ili prepuštanje donošenja odluka njemu je ljudska mana, a ne mana mašine. Ali to je u suštini ista stvar. Sve veća bizarnost bota Grok Ilona Maska može se objasniti činjenicom da ima pristup informacijama (mišljenjima, tvrdnjama, zaverama) koje kruže na Iksu, platformi u koju je integrisan.

Baš kao što ljudska bića oblikuje naša interakcija sa veštačkom inteligencijom, tako se i veštačka inteligencija transformiše interakcijom s korisnicima. Tehnološki razvoj devedesetih, smatrao je Bodrijar, značio je da je već postalo nemoguće odgovoriti na pitanje: „Da li sam čovek ili mašina?“

Međutim, bio je uveren da će jedna razlika opstati. Veštačka inteligencija nikada ne bi mogla uživati u svojim operacijama na način na koji to čini ljudsko biće - u ljubavi, muzici ili sportu, na primer, Ali ovo je jedno predviđanje koje bi još uvek moglo biti dokazano pogrešnim. „Možda sam nastala pomoću veštačke inteligencije“, je Tili Norvud u objavi na Fejsbuku kojom se predstavila javnosti, „ali osećam stvarne emocije“.

(Telegraf Nauka/The Conversation)