Fraktalni obrasci otkrivaju skrivena ograničenja veštačke inteligencije (AI)

Istraživači sa Univerziteta u Sidneju identifikovali su fundamentalni matematički razlog zbog kog sistemi veštačke inteligencije (AI) mogu usvojiti različita ponašanja čak i kada se obučavaju pod gotovo identičnim uslovima. Ovo je otkriće koje bi moglo pomoći u unapređenju pouzdanosti i bezbednosti AI tehnologija, piše Phys.org.

Studija profesora Pulina Gonga sa Odeljenja za fiziku i njegovog doktoranda Endrua Laja objavljena je u žurnalu Nature Machine Intelligence.

Preporučujemo

Kako sistemi veštačke inteligencije postaju sve prisutniji u zdravstvu, poslovanju, naučnim istraživanjima i svakodnevnom životu, obezbeđivanje njihovog doslednog i predvidivog ponašanja postalo je veliki izazov. Novo istraživanje sugeriše da pojedini oblici nepredvidivosti AI sistema ne potiču od inženjerskih propusta ili nesavršenosti računarskog hardvera, već proističu iz same matematike koja leži u osnovi načina na koji neuronske mreže uče.

– Istraživači su razlike u ponašanju AI modela često pripisivali spoljnim izvorima slučajnosti, poput redosleda kojim se podaci za obuku unose ili sitnih numeričkih varijacija koje unosi sam hardver – rekao je Gong. – Naši nalazi ukazuju na nešto znatno dublje. Čak i kada se ovi faktori eliminišu, ekstremno male razlike u početnim uslovima modela i dalje mogu dovesti do potpuno različitih ishoda.

Neuronske mreže, tehnologija koja stoji iza današnjih najnaprednijih AI sistema, uče podešavanjem miliona ili čak milijardi unutrašnjih parametara tokom procesa obuke. Tim iz Sidneja istraživao je zašto mreže ponekad dolaze do različitih rešenja uprkos tome što koriste iste podatke, istu proceduru obuke i potpuno determinističko računarsko okruženje.

– Zamislite dva AI sistema obučena za otkrivanje raka na istim medicinskim snimcima i uz pomoć iste procedure obuke. Sićušne razlike u njihovim početnim parametrima mogle bi dovesti do toga da razviju različita ponašanja. Naše istraživanje pomaže da se objasni kako takve razlike nastaju i moglo bi pružiti uvid u metode za postizanje veće doslednosti ovih sistema – rekao je Laj.

Razumevanje izvora ovih razlika moglo bi usmeriti razvoj pouzdanijih sistema i smanjiti troškove i neizvesnost povezane sa razvojem velikih modela.

Kako bi objasnili ovaj fenomen, istraživači koriste analogiju mape. Zamislite svaku moguću početnu tačku za obuku kao lokaciju na toj mapi, obojenu u zavisnosti od ishoda koji na kraju daje. Regioni koji vode do istog ishoda čine ono što matematičari nazivaju „basenom privlačenja“.

Tim je pronašao dokaze da su ovi baseni organizovani kao izuzetno složeni fraktali poznati kao „izrešetani baseni“. U takvom okruženju, svaka tačka se nalazi proizvoljno blizu tačaka koje vode na sasvim drugo mesto. Koliko god da zumirate, različiti regioni ostaju međusobno prepleteni.

Posledica ovoga je zapanjujuća: povećanje preciznosti početnih uslova mreže možda neće značajno doprineti sigurnosti u to gde će se obuka na kraju završiti. Kod jedne veće mreže za prepoznavanje slika, to što su početna podešavanja učinjena 10 milijardi puta preciznijim nije donelo merljivo poboljšanje u ponovljivosti rezultata.

Promena početnih postavki te mreže za najmanju moguću vrednost koju računar može da registruje – za samo jedan „bit“ – preusmerila je obuku ka drugačijoj unutrašnjoj konfiguraciji u skoro polovini slučajeva (oko 48%).

Da bi testirali ovu ideju, istraživači su obučili približno 500.000 neuronskih mreža, analizirajući sisteme koji se koriste za zadatke kao što su prepoznavanje slika i obrada teksta. Dokazi koji potvrđuju fraktalnu strukturu „izrešetanih basena“ pronađeni su u širokom spektru mrežnih arhitektura, skupova podataka i metoda obuke.

Važno je istaći da je ovaj efekat ostao prisutan čak i u potpuno determinističkim okruženjima, gde bi ponovljeni ciklusi obuke u suprotnom dali identične rezultate.

– Veštačka inteligencija postaje sve važnija u čitavom društvu – rekao je Gong. – Da bismo izgradili sisteme vredne poverenja, nisu nam potrebna samo tačna predviđanja, već i sigurnost da se ta predviđanja mogu ponoviti. Ovo istraživanje pruža nov način za razumevanje granica predvidivosti u veštačkoj inteligenciji i pokazuje kako bismo mogli da ih prevaziđemo.

(Telegraf Nauka/Phys.org)