ChatGPT možda ugrožava veštine kritičkog mišljenja, zabrinjavajući rezultati nove studije

U studiji iz Masačusetskog instituta za tehnologiju, 54 subjekta – od 18 do 39 godina starosti iz oblasti Bostona – podeljena su u tri grupe i od njih je zatraženo da napišu nekoliko eseja pomoću ChatGPT-a kompanije OpenAI, Guglovog sistema za pretraživanje ili bez pomoći.

Istraživači su koristili elektroencefalografiju (EEG) radi registrovanja njihove moždane aktivnosti u 32 regiona i otkrili da su korisnici ChatGPT-a imaju najnižu moždanu angažovanost i u skladu s tim lošiji učinak na nervnim, ligvističkim i bihevioralnim nivoima.

Preporučujemo

Tokom nekoliko meseci, korisnici ChatGPT-a su postajali sve lenji sa svakim sledećim esejom, često pribegavajući pukom kopiranju do kraja studije.

Ovaj rad sugeriše da upotreba velikih jezičkih modela (LLM) zapravo može naneti štetu učenju, naročito u slučaju mlađih korisnika. Stručnjaci još nisu dali ocenu stidije i njen uzorak je relativno mali, ali autorka Natalija Kosmina smatra da je važno objaviti rezultate kako bi se pojačala zabrinutost da, dok se društvo sve više oslanja na LLM u cilju neposredne udobnosti, dugoročni razvoj mozga može biti žrtvovan u tom procesu.

„Nisam čekala stručnu ocenu jer se plašim da će u toku od 6-8 meseci neko odlučiti da uvede GPT vrtić. Mislim da bi to bilo apsolutno loše i štetno. Mozgovi koji se razvijaju su u najvećoj opasnosti“, kaže ona.

Proizvodnja ideja

Laboratorija za medije MIT-a je nedavno posvetila znatne resurse izučavanju različitih uticaja generativne veštačke inteligencije (AI). Na primer, studije su ranije ove godine pokazale da, generalno, što više vremena korisnici provedu u razgovoru sa Chat GPT – usamljenije se osećaju.

Kosmina je želela da specifično istraži uticaje upotrebe veštačke inteligencije na školske aktivnosti pošto sve više učenika koristi AI. Tako su ona i kolege dali subjektima da pišu 20-minutne eseje na osnovu testova školskih sposobnosti (SAT), uključujući teme etike filantropije i teškoća zbog previše izbora.

Svi iz grupe koja je pisala koristeći ChatGPT proizveli su krajnje slične eseje bez originalnog mišljenja, oslanjajući se na iste izraze i ideje. Dva nastavnika koja su ocenjivala eseje nazvali su ih uveliko „bezdušnim“. EEG je pokazala nizak nivo egzekutivne kontrole i uključivanja pažnje. Do trećeg eseja, mnogi od subjekata su prosto postavljali zadatak ChatGPT-u, koji je gotovo sve odradio.

Naprotiv, grupa koja je koristila samo mozak ispoljila je najveću nervnu konektivnost, naročito u alfa, teta i delta opsezima, koji su povezani sa kreativnom ideacijom, upotrebom pamćenja i semantičkim procesuiranjem. Ova grupa je bila angažovanija i radoznalija, imala je osećaj vlasništva i veće zadovoljstvo u pogledu svojih eseja.

Treća grupa, koja je koristila Guglov pretraživač, takođe je imala visok nivo zadovoljstva i aktivnu moždanu funkciju. Distinkcija je značajna pošto mnogi ljudi sad traže informacije putem četbotoba.

Nakon tri napisana eseja, od subjekata je zatraženo da ponovo napišu jedan od prethodnih radova, ali grupa koja je koristila ChatGPT bez pomoći tog instrumenta, a grupa koja je koristila samo mozak mogla je da koristi ChatGPT.

Prva grupa se sećala malog dela sopstvenih eseja i imala slabije alfa i teta moždane talase, što je verovatno reflektovalo zaobilaženje procesa duboke memorije.

„Zadatak je izvršen, može se reći efikasno i ugodno. Međutim, u suštini ništa od toga nije integrisano u memorijske mreže“, kaže Kosmina.

Druga grupa je, nasuprot tome, ostvarila dobar učinak, pokazujući značajno povećanje moždane konektivnosti širom svih opsega EEG frekvencije. To daje nadu da AI, ako se koristi ispravno, može da poboljša učenje umesto da ga oslabi.

„Edukacija o upotrebi ovih instrumenata i promovisanje činjenice da mozak treba da se razvija na analogniji način su apsolutno kritični. Potrebno je usklađeno aktivno zakonodavstvo i, još važnije, da testiramo ove instrumente pre implementacije“, kaže Kosmina.

Mnoga deca se uveliko oslanjaju na AI radi svojih školskih zadataka. Sa psihijatrijske tačke gledišta, preterano oslanjanje na velike jezičke modele može imati nenameravane psihološke i kognitivne posledice, naročito kod mladih ljudi čiji mozgovi se još razvijaju. Nervne veze koje pomažu u pristupanju informacijama, pamćenju činjenica i moći fleksibilnosti – sve to će oslabiti.

Ironično, nakon objavljivanja studije, nekoliko korisnika društvenih medija su je putem LLM saželi i zatim objavili nalaze na internetu. Kosmina je to očekivala, pa je ubacila nekoliko zamki za AI tako da LLM izvede samo ograničen uvid iz studije.

LLM je takođe izmislio jedan važan detalj: nigde u studiji nije navedena verzija ChatGPT-a koja je korišćena, ali je AI navela da je upotrebljen GPT-4o. Baš to smo želeli da vidimo, pošto smo bili prilično sigurni da će LLM halucinirati u pogledu toga, kaže Kosmina, smejući se.

Ona kaže da sad rade na sličnoj studiji koja testira aktivnost mozga u softverskom inženjerstvu i programiranju sa ili bez AI – i da su zasad rezultati još gori. Studija može imati implikacije za mnoge kompanije koje nameravaju da programere na najnižem nivou zameni AI. Čak i ako efikasnost poraste, sve veće oslanjanje na AI moglo bi redukovati kritičko mišljenje, kreativnost i rešavanje problema širom ostale radne snage.

Naučne studije o uticajima AI se tek pojavljuju i razvijaju. Harvardska studija iz maja otkrila je da generativna AI čini ljude produktivnijim, ali manje motivisanim. Takođe prošlog meseca, MIT se distancirao od studije svog doktoranda u ekonomskom programu, koja je sugerisala da AI može značajno poboljšati produktivnost radnika.

OpenAI nije odgovorio na zahtev za komentar. Prošle godine, u saradji sa odsekom Poslovne škole Vorton – Vorton onlajn – Pensilvanijskog univerziteta, kompanija je objavila uputstvo za nastavnike kako da koriste generativnu AI u nastavi.

(Telegraf Nauka/Time)