Misterija: Zašto AI chatbotovi stalno spominju čovjeka po imenu Elias Thorne?

0
Radiosarajevo.ba
Misterija: Zašto AI chatbotovi stalno spominju čovjeka po imenu Elias Thorne?

Četbotovi umjetne inteligencije (AI chatbots) koje su razvile velike tehnološke kompanije stalno generiraju priče s istim izmišljenim likovima, imenima i okruženjima, što izaziva zabrinutost zbog originalnosti i raznolikosti sadržaja generiranog umjetnom inteligencijom, prema istraživačima sa Univerziteta Cornell.

Nalazi se fokusiraju na Eliasa Thornea, imaginarnog lika koji se često pojavljuje kao čuvar svjetionika, urar, bibliotekar ili istraživač u pričama koje proizvode različiti AI sistemi. Istraživači Sil Hamilton i David Mimno ispitali su 20.000 priča generiranih pomoću četiri velika jezička modela koje su razvili OpenAI, Anthropic, Google i Allen Institute for AI.

Njihova studija, objavljena kao preprint u maju 2026. godine, otkrila je da 88,3% priča sadrži barem jednu od 11 ponavljajućih riječi, uključujući imena likova kao što su Elias, Mara i Elara, te termine povezane s profesijama i okruženjima. Ime Elias pojavilo se u 26,5% priča, dok su se svjetionici pojavljivali u 51,2%. Neka kombinacija Eliasa, svjetionika i čuvara pojavila se u 66,6% generiranih priča.

TV Informer izrečena zabrana: Sedam dana neće smjeti emitovati program

Nalazi ukazuju na to da AI sistemi različitih programera često proizvode izrazito slične fiktivne narative, uprkos tome što su obučeni na opsežnim skupovima podataka. Istraživači su uporedili ponavljajuće riječi s onima pronađenim u objavljenoj literaturi i skupovima podataka za obuku AI kako bi utvrdili da li obrasci odražavaju postojeće tradicije pripovijedanja. Otkrili su da se ime Elias pojavljivalo otprilike 900 puta češće u pričama koje je generirao AI nego u zbirci savremenih engleskih romana. Drugi ponavljajući elementi, uključujući svjetionike i časovničare, također su bili nesrazmjerno zastupljeni u fikciji generiranoj AI.

Zanimljivo je i kako je anagram za Elias Thorne - He is not real (on nije stvaran, eng), a korisnici društvenim mreža podsjećaju i na E.T. (naziv čuvenog filma, što je skraćenica za extra-terrestial, tj vanzemaljac), a pojedini podsjećaju da je Thorne prezime obitelji iz filma Omen.

Istraživači su sugerirali da bi obrazac mogao biti povezan s tzv. obukom poravnanja, procesom kroz koji programeri modificiraju AI sisteme kako bi proizveli odgovore koji ispunjavaju određene standarde sigurnosti i kvalitete. Takva obuka može potaknuti modele da izbjegavaju potencijalno problematičan materijal, uključujući likove zaštićene autorskim pravima i sadržaj za odrasle. Kao rezultat toga, sistemi bi mogli favorizirati uži raspon poznatih i prihvatljivih fiktivnih tema.

Međutim, istraživači nisu konačno utvrdili da trening poravnanja uzrokuje ponavljanje. Studija je također otkrila da su ponavljajuće teme bile relativno rijetke u dostupnim podacima za obuku, što sugerira da se njihova istaknutost ne može objasniti jednostavno time koliko često su se pojavljivale u materijalu korištenom za obuku modela.

Fenomen se proširio izvan priča generiranih chatbotovima na online izdavaštvo i drugi digitalni sadržaj. Prema izvještajima 404 Media i Vicea, Elias Thorne se pojavljivao u samostalno objavljenim knjigama, muzičkim listama, YouTube videozapisima i online zdravstvenim vodičima. Softverski inženjer Daniel May identificirao je ponavljajući lik i primijetio rastući online interes za ime početkom 2026. godine.

Širenje fiktivnog materijala generiranog umjetnom inteligencijom postavlja pitanja o tome kako bi sintetički sadržaj mogao utjecati na buduće AI sisteme. Istraživači su upozorili da bi ponovljeno obučavanje AI modela na materijalu koji proizvode drugi AI sistemi moglo doprinijeti fenomenu poznatom kao kolaps modela, u kojem generirani sadržaj postaje manje raznolik ili pouzdan tokom uzastopnih ciklusa obuke. Međutim, studija Cornella ne utvrđuje da su reciklirani podaci generirani umjetnom inteligencijom uzrokovali određeno ponavljanje uočeno u njegovim eksperimentima.

Radiosarajevo.ba pratite putem aplikacije za Android | iOS i društvenih mreža Twitter | Facebook | Instagram, kao i putem našeg Viber Chata.

/ Najčitanije

/ Komentari

Prikaži komentare (0)

/ Povezano

/ Najnovije

Podijeli članak