Naučnica koja je razotkrila chatbotove za Radiosarajevo.ba: Ne treba odbaciti tehnologiju u cjelini

Jedan neobičan naučni eksperiment pokazao je koliko lako umjetna inteligencija može povjerovati u potpuno izmišljene informacije. Fiktivna bolest nazvana 'bixonimania', koja u stvarnosti ne postoji, uspjela se proširiti kroz AI sisteme, pa čak i u dijelove naučne literature, otvarajući ozbiljna pitanja o pouzdanosti savremenih tehnologija.

Iza ovog eksperimenta stoji istraživačica Almira Osmanović Thunström sa Univerziteta u Göteborgu, Švedska, koja je osmislila i objavila lažne naučne radove kako bi testirala način na koji veliki jezički modeli obrađuju informacije. Cilj je bio pokazati da li će sistemi prepoznati očigledne znakove fikcije ili će ih prihvatiti kao validne podatke.

Rezultati su bili zabrinjavajući. Već nakon nekoliko sedmica pojedini AI chatbotovi počeli su 'prepoznavati' bixonimaniu kao stvarno medicinsko stanje, opisujući simptome i uzroke koji ne postoje. Problem je dodatno eskalirao kada su pojedini istraživači, bez provjere izvora, počeli citirati izmišljene radove u vlastitim naučnim tekstovima, čime su dezinformacije dobile privid legitimnosti.

Trending

Saobraćajna nesreća u Jablanici: Povrijeđen motociklista

U razgovoru za portal Radiosarajevo.ba, Osmanović Thunström otkriva i ličnu priču koja stoji iza njenog naučnog puta, ali i motive koji su doveli do ovog eksperimenta.

Put od Bosne i Hercegovine do Švedske

Almira Osmanović Thunström je rođena u Banjoj Luci, a u Švedsku je došla kao izbjeglica tokom 1990-ih godina. Svoje akademsko obrazovanje započela je u oblasti životnih nauka na Karolinska institutu, ali je ubrzo shvatila da je tehnologija područje koje snažnije rezonira s njenim interesima.

"Doktorski studij započela sam u oblasti biologije, s fokusom na strukturne promjene mozga kod osoba s kognitivnim opadanjem. Međutim, tokom istraživačkog rada postalo mi je jasno da će budućnost medicinskih istraživanja u velikoj mjeri zavisiti od automatizacije, umjetne inteligencije i kvalitetnog dizajna sistema. Stoga sam se usmjerila ka novom istraživačkom pravcu, gdje se danas primarno bavim razvojem, ali i kritičkom analizom ('razgradnjom') AI sistema u zdravstvu, s posebnim naglaskom na sigurnost i pouzdanost", pojasnila je Osmanović Thunström.

Prije 1 dan

BiH ima svoju heroinu u svemiru: Vahida Velić je važna karika u misiji Artemis II

Šta je bio cilj eksperimenta

Kako je naglasila, cilj ovog eksperimenta bio je prvenstveno edukativan za studente kojima predaje, ali i širu javnost zainteresiranu za način na koji se konstruiraju veliki jezički modeli.

"Posebno sam željela ilustrirati kako se podaci prikupljaju i obrađuju iz opsežnih repozitorija poput Common Crawl-a, te koje implikacije takvi procesi imaju", istakla je Osmanović Thunström.

Rezultatom je, kako kaže bila iznenađena...

"Bilo je nedvosmisleno naznačeno da su podaci i nalazi u potpunosti izmišljeni, što je jasno istaknuto u metodologiji. Dodatno, uključivanje referenci poput Star Treka i Gospodara prstenova trebalo je poslužiti kao očigledan signal o prirodi rada, što, međutim, nije spriječilo prihvatanje tih informacija kao vjerodostojnih", naglašava Osmanović Thunström.

Koliko je AI pouzdana

Osmanović Thunström stava je da komercijalne AI sisteme treba koristiti s dozom opreza, naročito kada je riječ o zdravstvenim savjetima.

"Pravilno razvijeni, rigorozno testirani i adekvatno trenirani sistemi imaju značajan potencijal da unaprijede zdravstvenu zaštitu. Ključno je, dakle, ne odbaciti tehnologiju u cjelini, već je unaprijediti kroz odgovoran razvoj i implementaciju. Najveći rizik vidim u mogućnosti zloupotrebe ovih sistema od strane zlonamjernih aktera, koji bi mogli namjerno plasirati dezinformacije o medicinskim stanjima ili terapijama — bilo s ciljem izazivanja panike, bilo radi promoviranja nenaučnih pristupa liječenju", ističe Osmanović Thunström.

Prije 5 dana

Naučnica porijeklom iz BiH 'razotkrila' chat botove: AI ponekad izmišlja bolesti i širi opasne laži

Veza sa Bosnom i Hercegovinom i poruke mladima

Iako je skoro cijeli život provela u Švedskoj, sa Bosnom i Hercegovinom ipak osjeća duboku povezanost...

"Bosna i Hercegovina je moje mjesto rođenja i prema njoj osjećam duboku emotivnu povezanost. Ipak, budući da sam veći dio života provela izvan nje, svjesna sam da moje jezičke i kulturne reference nisu u potpunosti ažurne. Uprkos tome, rado bih se intenzivnije uključila u bosanskohercegovačku istraživačku zajednicu, za koju smatram da posjeduje značajan potencijal i već pokazuje zavidan nivo progresivnosti", pojašnjava i donosi poruku za mlade:

"Moj savjet mladim ljudima bio bi: sarađujte, kontinuirano gradite mreže saradnje i njegujte radoznalost. Ne ustručavajte se razmišljati izvan ustaljenih okvira — upravo takav pristup često vodi ka najinovativnijim idejama", zaključuje Osmanović Thunström u razgovoru za Radiosarajevo.ba.