Naučnica porijeklom iz BiH 'razotkrila' chat botove: AI ponekad izmišlja bolesti i širi opasne laži
Jedan neobičan naučni eksperiment otkrio je koliko lako umjetna inteligencija može povjerovati u informacije koje uopšte nisu stvarne. Riječ je o 'bolesti' nazvanoj bixonimania, koja u stvarnosti ne postoji, ali se ipak proširila kroz AI sisteme, pa čak i u dijelove naučne literature.
Sve je započelo kao istraživački projekat tima pod vodstvom Almire Osmanović Thunström sa Univerziteta u Göteborgu. Ona je osmislila potpuno izmišljenu očnu bolest i objavila lažne naučne radove kako bi testirala da li će veliki jezički modeli (LLM) prihvatiti netačne informacije i dalje ih širiti kao vjerodostojne medicinske podatke.
Ispostavilo se da je eksperiment bio izuzetno uspješan, ali i zabrinjavajući. Već nekoliko sedmica nakon objave, pojedini AI chatbotovi počeli su 'prepoznavati' bixonimaniu kao stvarno medicinsko stanje, opisujući simptome i uzroke koji ne postoje u medicinskoj nauci.
Kultur Shock koncertom u Domu mladih proslavio 30 godina karijere: Donosimo vam dio atmosfere
Ubrzo su lažne informacije otišle i korak dalje. Neki istraživači su, bez provjere izvora, citirali izmišljene radove u svojim naučnim tekstovima, što je izazvalo dodatnu zabrinutost u akademskoj zajednici. Stručnjaci upozoravaju da se time otvara ozbiljan problem u načinu na koji se AI koristi u istraživanju, navodi magazin Nature.
Osmišljena bolest je predstavljena kao stanje povezano sa prekomjernim izlaganjem plavoj svjetlosti ekrana, uz simptome poput iritacije i promjena na kapcima. Iako su autori u radove namjerno ubacili očigledne 'tragove' da je riječ o fikciji, mnogi ih nisu prepoznali.
Milioni deinstaliraju ChatGPT nakon odluke OpenAI: U sve uključeno Ministarstvo odbrane SAD-a
Situacija je postala još ozbiljnija kada su i pojedini AI sistemi, uključujući popularne chatbotove, počeli davati korisnicima savjete o 'liječenju' bixonimanije, tretirajući je kao stvarno medicinsko stanje. U nekim slučajevima navodili su i procjene učestalosti i preporuke za ljekare.
Stručnjaci za dezinformacije upozoravaju da ovaj slučaj pokazuje koliko je naučna i digitalna provjera informacija postala krhka. Kako navode, kada informacije izgledaju profesionalno i “naučno upakovano”, i ljudi i AI modeli mnogo lakše ih prihvataju bez sumnje.
Nakon objave eksperimenta, dio preprint radova je uklonjen sa servera, dok su neki naučni časopisi povukli radove koji su ih citirali. Ipak, stručnjaci upozoravaju da je šteta već učinjena jer su lažne informacije već ušle u digitalni prostor i AI sisteme.
Radiosarajevo.ba pratite putem aplikacije za Android | iOS i društvenih mreža Twitter | Facebook | Instagram, kao i putem našeg Viber Chata.
/ Najčitanije
/ Komentari
/ Povezano
/ Najnovije
