„Dolazi kolapsa znanja“: Oslanjanje na AI ima značajne posledice

Previše oslanjanja na veštačku inteligenciju (AI) vodi do kolapsa znanja, upozorili su istraživači. Razlog za to je što četbotovi pružaju manje raznolike informacije od nekadašnjih pretraga na internet.

„Samo da pitam AI.“ Za mnoge je ovo postala svakodnevna fraza. Dok su se nekad ljudi okretali Guglu (ili pre toga Jahuu) da pronađu informacije, AI četbotovi postali su uobičajeni način za dobijanje odgovora na sve – od toga šta spremiti za večeru ili kako sastaviti onaj težak mejl šefu, pa do toga šta u stvari znači kad kamate rastu, piše EurekAlert!

Preporučujemo

Međutim, veliki jezički modeli (LLM) na kojima se zasnivaju AI četbotovi pružaju znatno uži spektar informacija nego konvencionalna pretraga na internetu. To je nalaz nove studije istraživača sa Odeljenja za računarske nauke (DIKU) Univerziteta u Kopenhagenu.

- Svaki jezički model koji smo testirali pruža korisnicima uniformnije informacije nego obična Gugl pretraga, i to u svim temama koje smo analizirali. Drugim rečima, ljudi su u velikoj meri izloženi istim informacijama iznova i iznova. Dakle, AI četbotovi ne menjaju samo način na koji dolazimo do znanja, već i menjaju to kom znanju imamo pristup – rekao je prvi autor Dastin Rajt, bivši postdoktorski istraživač na DIKU, sada docent na Univerzitetu u Olborgu.

Istraživači su testirali 27 različitih velikih jezičkih modela na 155 tema. Za svaku temu koristili su 200 različitih formulacija upita zasnovanih na pitanjima stvarnih korisnika. Ovo je generisalo skup podataka koji sadrži oko 70 miliona pojedinačnih tvrdnji koje su proizveli modeli.

Rezultati pokazuju da čak i jezički model koji proizvodi najraznovrsnije odgovore - OpenAI-jev GPT5 - pruža najmanje 18,7 odsto manje raznovrsne informacije nego Gugl. Teme koje su istraživači testirali kretale su se od nuklearnog oružja, braka, pornografije, rasizma i genocida, do tema specifičnih za pojedine zemlje, kao što su Marin Le Pen, Foklandski rat i K-pop.

Prema rečima istraživača, činjenica da ljudi sve više koriste AI modele kao svoju primarnu kapiju ka informacijama mogla bi imati značajne posledice:

- Rizikujemo da ljude izložimo manjem broju perspektiva i užem spektru znanja. To bi moglo da stvori začarani krug u kojem najpopularniji sadržaj postaje još dominantniji, dok se drugi sadržaj sve više zanemaruje. To je slično globalizaciji. Danas možete kupiti iste proizvode i pronaći iste lance kafeterija gotovo svuda u svetu. To ima mnoge prednosti, ali je takođe smanjilo raznolikost – rekla je Izabel Ogenstajn, profesorka na DIKU i viši autor studije.

Prema istraživačima, nizak nivo raznolikosti u jezičkim modelima delom je rezultat načina na koji modeli suštinski funkcionišu. Oni komprimuju ogromnu količinu teksta na kojoj su obučeni i uče obrasce koji se najčešće pojavljuju. U tom procesu, informacije koje odstupaju od najčešćih obrazaca se filtriraju.

Efekat bi mogao biti pojačan ako se jezički modeli sve više obučavaju na tekstovima koje su proizveli drugi AI modeli, što je nešto će se najverovatnije i desiti, veruju istraživači. U tom slučaju, modeli bi učili iz sopstvenih rezultata, koji su već manje raznovrsni od tekstova koje su napisali ljudi, na kojima su prvobitno obučavani.

Ako se ovaj proces ponovi kroz nekoliko generacija modela, spektar informacija bi postepeno mogao postati uži. Ovo istraživači nazivaju „kolaps znanja“.

- To je zabrinjavajuća pomisao. Međutim, vidimo da noviji modeli proizvode nešto raznovrsnije odgovore nego stariji modeli, tako da se kolaps znanja još ne dešava. Ali mehanizam koji bi ga mogao pokrenuti dugoročno već postoji. Dakle, to je nešto na šta treba da obratimo pažnju – rekla je Izabel Ogenstajn.

Studija je postavljena na server arXiv, što znači da još nije prošla stručnu recenziju.

(Telegraf Nauka/EurekAlert!)