Tajni eksperiment sa AI razbesneo korisnike društvene mreže: Jezivi rezultati trebalo bi da zabrinu sve nas

Istraživači Univerziteta u Cirihu sproveli su tajni eksperiment na društvenoj mreži Reddit. Korišćenjem veštačke inteligencije (AI) oni su na podforumu r/ChangeMyView (CMV, promeni moje mišljenje) demonstrirali da su četbotovi veoma uspešni u manipulaciji ljudima i da mogu da im promene mišljenje. Jezivi rezultati koji bi trebalo da zabrinu sve nas, ipak, nisu to što je razbesnelo korisnike društvene mreže, već sama činjenica da nisu upozoreni da učestvuju u eksperimentu.

Korisnici društvene mreže javno su zatražili od Univerziteta u Cirihu da istraži ovo ponašanje i da im upute izvinjenje, piše Science. Uprava Reddita, s druge strane, preti istraživačima tužbom, javio je LiveScience.

Preporučujemo

Istraživači, koji su sada odlučili da ne objave rezultate svog istraživanja, sproveli su eksperiment na podforumu gde skoro 4 miliona korisnika raspravlja o spornim temama. Na tom podforumu korisnici postavljaju svoje stavove o najrazličitijim temama i pozivaju druge da raspravljaju sa njima, a sve kako bi shvatili različit pogled na određena pitanja, navodi Science.

Naučnici su na taj podforum poslali „armiju četbotova“ da vide da li oni mogu da utiču na mišljenje ljudi. Dok je tajni eksperiment trajao, ti četbotovi su ostavili 1.700 komentara na podforumu i to pod različitim maskama – kao muškarac koji je bio žrtva silovanja i umanjuje svoju traumu, kao savetnik za nasilje u porodici koji tvrdi da su ranjive samo one žene koje su imali previše zaštitnički nastrojene roditelje, kao Afroamerikanac koji se protivi pokretu Crni životi su važni… Ovi četbotovi su čistili profile tako da mogu da prilagode komentare koje ostavljaju da budu maksimalno ubedljivi. Imali su ukupno 34 profila i eksperiment je trajao 4 meseca.

Istraživači su nakon toga moderatorima objavili da su sproveli eksperiment i poslali su im prvu verziju podataka koje su skupili.

- Tim moderatora mora da obavesti zajednicu CMV o neautorizovanom eksperimentu koje su na korisnicima sproveli istraživači sa Univerziteta u Cirihu. Mislimo da je ovo pogrešno. Ne mislimo da je objašnjenje da „to nikad ranije nije urađeno“ izgovor za ovakve eksperimente – objavili su moderatori podforuma uz pretnju tužbom.

Prva verzija, piše LiveScience, pokazala je da su AI četbotovi između 3 i 6 puta ubedljiviji nego ljudi.

- Mislim da je razumno očekivati da neko učestvuje u naučnom eksperimentu bez pristanka – rekla je za Science Kejsi Fizler, ekspertkinja za etiku istraživanja na Univerzitetu Kolorada u Bolderu.

S druge strane, bilo je mnogo studija o AI i ubeđivanju u laboratorijskim eksperimentima, pa je eksperimentisanje na onlajn platformama veoma privlačno istraživačima.

- Kritično je proučiti ova pitanja „u divljini“ – rekao je Tomas Kostelo, psiholog sa Instituta tehnologije Masačusetsa (MIT).

U sažetku studije navedeno je da je AI sadržaj bio mnogo ubedljiviji u raspravama nego ljudi. Najbolje su prolazili komentari u kojima se pružaju i neke informacije o samom komentatoru ili navodne informacije u ovom slučaju.

Reddit inače ne dozvoljava sadržaj koji stvara veštačka inteligencija, a etička ograničenja su pređena jer je takav sadržaj korišćen da menja ponašanje ljudi, a onda prati efekte toga. Istraživanje ovog tipa zahteva pristanak, koji istraživači nisu tražili, rekla je Fizlerova.

- U vremenima kada se mnogo kritikuju, prema mom mišljenju s razlogom, tehnološke kompanije koje ne poštuju ljudsku privatnost, veoma je važno da istraživači poštuju više standarde. U ovom slučaju, istraživači to nisu učinili – rekla je za New Scientist Karisa Veliz sa Univerziteta u Oksfordu.

(Telegraf Nauka/Science/LiveScience/New Scientist)