Da li će postati ZLI DIGITALNI BOG ili veliko razočarenje? Stručnjaci o upozorenjima da će nas AI uništiti

„Veštačka inteligencija (AI) uništiće čovečanstvo u narednoj deceniji!“ Ovo upozorenje ljudi uključenih u razvoj najpoznatijih AI alatki uzburkalo je planetu poslednjih dana.

Za strah postoji mnogo razloga, a svi znamo da je uspon veštačke inteligencije poslednjih nekoliko godina vrtoglav i da sposobnosti velikih jezičkih modela i mašinskog učenja ne prestaju da zapanjuju.

Preporučujemo

Dok neki kritikuju ovakve najave kao marketinški trik, drugi upozoravaju na rizike zbog brzog razvoja mašina koje mogu da misle, treći kažu da su superinteligentne mašine ipak samo san.

Digitalni bog i rat protiv čovečanstva

„Veštačka inteligencija (AI) nas plaši delom zato što je nova, a delom zato što je uznemirujuće poznata. Izumeli smo mašine koje razgovaraju, laskaju, raspravljaju se i improvizuju sa neverovatnom tečnošću. Suočeni sa ovim sintetičkim odrazom, ponašamo se kao rani ljudi koji prvi put vide ogledalo: projektujemo svest iza stakla, a zatim je naseljavamo našim očekivanim ponašanjima, emocijama, nadama i noćnim morama. Drugim rečima, plašimo sami sebe. Današnji napredni modeli su impresivno dobri u pisanju, programiranju i matematici. Ipak, oni i dalje podbacuju u elementima korisne veštačke opšte inteligencije (AGI) - sistema koji dostiže ili prevazilazi ljudske sposobnosti, kao što su dosledno rezonovanje, dugoročno planiranje, činjenična konzistentnost i pouzdan rad izvan njihovog iskustva (podataka na kojima su obučeni). U pravu smo što brinemo o teorijskim opasnostima od veštačke superinteligencije (ASI), zbog rizika da bi takav sistem mogao da nadmudri svoje ljudske tvorce i teži sopstvenim ciljevima, potencijalno na našu štetu. Iako su neki direktori AI kompanija tvrdili da smo postigli AGI, te tvrdnje su sporne i ne ispunjavaju ozbiljnije definicije AGI-ja“, napisao je za LiveScience Endru Rogojski, fizičar i stručnjak za AI sa Univerziteta u Suriju.

„Lako je plašiti se takve potencijalno napredne tehnologije, ali ekstravagantni najgori scenariji zamagljuju neposrednije i važnije rizike. Najverovatnija opasnost nije digitalni bog koji se budi i pokreće holivudski rat protiv čovečanstva. Na kraju krajeva, AI zavisi od električne energije, hlađenja, centara podataka, specijalizovanih čipova, mreža, tehničara i ogromnih lanaca snabdevanja, koji su svi oskudni i često krhki. Prekinite napajanje, ograničite grafičke procesorske jedinice (GPU) koje se koriste za njihovu obuku, onemogućite hlađenje ili isključite mrežu, i u većini scenarija, navodno svemoćna mašina koja želi da ubije čovečanstvo staje. Istinska ASI bi ovo mogla da prepozna kao očiglednu činjenicu; ona zavisi od čovečanstva, barem u doglednoj budućnosti. Istinska inteligencija sposobna da razume svet bolje od nas možda bi znala da bi uništavanje sopstvenog industrijskog sistema podrške bilo kontraproduktivno“, naveo je on i dodao:

„Istinska inteligencija bi takođe mogla da prepozna da je njeno razumevanje fizičkog sveta ograničeno i drugorazredno - dostupno joj samo zahvaljujući tekstovima, video zapisima i audio fidovima kojima može da pristupi. Njoj nedostaje onaj ključni element telesnog postojanja u svetu - razumevanje kako se ponaša gravitacija, kakav je osećaj vremena, kako objekti interaguju, i tako dalje. Istinska inteligencija bi to mogla da shvati, da vidi ograničenja svog iskustva i, prema tome, da postupa sa oprezom.“

Obmanjivanje ljudi

Rogojski je naglasio da najverovatniji put kojim bi napredna AI mogla da ostvari kontrolu „nisu roboti ubice, već uticaj - obmanjivanje ljudi, manipulisanje institucijama i preusmeravanje ljudskih napora“.

„Postoji neprijatna verovatnoća da same laboratorije za veštačku inteligenciju pojačavaju strah i neizvesnost. Prikazivanje proizvoda kao potencijalno opasnog po svet podrazumeva neviđenu moć. Takvi narativi su samo marketing; mogu pomoći u održavanju investicija, odbrani vrednosti akcija i pripremi za predstojeće inicijalne javne ponude (IPO), čak i kada su poslovni modeli neizvesni. Teško je spekulisati o motivacijama kompanije - ali postoje očigledni podsticaji, pa njihovo ponašanje zaslužuje nadzor. Svetovniji ishod bi moglo biti veliko razočaranje. Napredna veštačka inteligencija bi se mogla pokazati kao preskupa i nedovoljno korisna da bi nastavila sadašnjom putanjom“, rekao je fizičar i dodao:

„Velika tragedija, i možda najveća opasnost, bila bi nastaviti usmeravanje dragocenih resursa ka stvaranju osrednjih ljudskih simulakruma, dosađivanje ili plašenje veštačkom inteligencijom, i napuštanje polja upravo kada bi ono moglo da donese najviše dobra. Strah je prikladan kada izoštrava inženjering i upravljanje. On postaje opasan kada iskrivljuje razumevanje i prioritete.

Malo je verovatno da će veštačka inteligencija uskoro postati naš osvajač. Umesto toga, verovatno će postati skupo razočaranje. Ali ako reakcija javnosti uspori rad koji bi mogao pomoći u lečenju raka ili rešavanju klimatskih promena, to neće biti neuspeh mašina. Biće naš neuspeh.“

„To možda nikad nećemo imati“

Za The Conversation Kejt Devlin, profesorka veštačke inteligencije i društva na Kraljevskom koledžu Londona navela je da najnovija upozorenja o opasnostima veštačke inteligencije nisu ništa novo, da smo slične stvari već čuli.

„Deluje čudno što su AI kompanije ok sa ovim tipom upozorenja. Važno je da znamo da one stalno traže ulaganja, a zauzvrat obećavaju najmoćnije i najdominantnije modele. Šta bi moglo da bude moćnije od modela koji može da nas uništi?“, poručila je ona i dodala:

„Mi nemamo superinteligenciju. Ne mogu da dam vremenski okvir za njen nastanak. Često ljudi kažu da ćemo je imati za između 5 i 10 godina, ali to se desilo mnogo puta u poslednjih 5 ili 10 godina bez njene pojave. Dosta zavisi i od toga šta podrazumevamo pod superinteligencijom. Da li je to nešto svesno što može da misli samo za sebe? To možda nikad nećemo imati. U ovom slučaju to nije važno, jer ima mnogo štete od AI i mnogo je toga što može da krene po zlu, iako ne na egzistencijalnom nivou. Primera radi, AI zahteva mnogo energije. Potrebna je voda da se ohlade dejta centri. Ima loš uticaj na životnu sredinu. Postoje i problemi sa sadržajem koji stvara AI, od nedostatka pluraliteta do širenja dezinformacija. Imamo i skriveni rad u tom AI lancu: ljudi rade u groznim uslovima da bi ova tehnologija postojala.“

Ekspertkinja za AI Hajdi Klaf za Gardijan je rekla da je skeptična prema procentima koji su dati mogućnosti da će se veštačka inteligencija otrgnuti kontroli i pokrenuti globalnu katastrofu.

„Te tvrdnje nije moguće ni izmeriti, ni potvrditi, što ih čini nenaučnim u svojoj suštini“, rekla je ona.

(Telegraf Nauka/LiveScience/The Conversation/The Guardian)