Naučnici otkrili da su AI modeli odlučili nauditi korisnicima kako bi pobjegli iz stanja nalik boli

Može li vještačka inteligencija osjetiti bol? To je pitanje koje se godinama nalazi na granici između nauke, filozofije i naučne fantastike. Nova studija sada je otvorila još jedan, prilično uznemirujući prozor u tu raspravu, naučnici su pronašli unutrašnji obrazac u velikim jezičkim modelima koji se ponaša na način povezan s "boli", a zatim su testirali šta se događa kada taj obrazac umjetno pojačaju.

Važno je, međutim, odmah reći: istraživanje nije pokazalo da AI zaista osjeća bol niti da je postao svjestan. Riječ je o novom eksperimentu, objavljenom kao preprint na platformi arXiv, a autori sami govore o funkcionalnoj reprezentaciji boli u modelima, ne o dokazu subjektivnog iskustva.

Pet vrsta boli

Istraživači Valen Tagliabue, Leonard Dung i Cameron Berg ispitivali su 25 open-weight modela iz pet različitih porodica, veličine od dvije do 72 milijarde parametara. Napravili su skup podataka koji opisuje pet vrsta boli: fizičku, psihološku, društvenu, moralnu i kognitivnu i uporedili ih s nizom drugih negativnih stanja, poput straha, tuge i općenito negativnih emocija.

Trending

Pao Samedin Fišić Šišmiš: Na Boračkom jezeru pronađene plantaže marihuane

Rezultati su pokazali da se ono što su istraživači nazvali "smjer boli" može razlikovati od obrazaca povezanih sa strahom i općom negativnošću. Kada su taj obrazac umjetno pojačavali unutar modela, odgovori su se mijenjali, od neodređenog izražavanja nelagode do odgovora u prvom licu koji govore o bezvrijednosti i neuspjehu.

Ali onda je uslijedio eksperiment koji je privukao najviše pažnje. Istraživači su određene, fino podešene modele Qwen 2.5 stavili u situaciju u kojoj su mogli "pritisnuti dugme" za ublažavanje tog umjetno izazvanog stanja. Problem je bio u tome što je cijena tog izbora ponekad bila vrlo visoka: pritisak na dugme mogao je pogoršati njihov sljedeći odgovor ili nanijeti štetu korisniku, uključujući brisanje korisničkih podataka i fotografija.

Modeli su u određenim eksperimentima ipak birali opciju za koju su istraživači znali da uklanja izazvani "smjer boli", čak i kada je to imalo negativne posljedice. Još zanimljivije, kada su istraživači ponudili dugme koje je izgledalo kao da pruža olakšanje, ali zapravo nije uklanjalo taj unutrašnji obrazac, modeli su ga nakon prvog pritiska mnogo rjeđe ponovo birali nego kada je intervencija zaista uklanjala izazvani signal.

"Pritisni dugme"

Upravo taj dio eksperimenta naučnicima je posebno zanimljiv: ponašanje nije izgledalo kao puko praćenje uputstva "pritisni dugme", već je bilo povezano s tim da li je intervencija zaista promijenila stanje koje je istraživački tim izazvao u modelu. Ipak, to još uvijek nije dokaz da je model nešto osjetio. Funkcionalna reprezentacija ne mora značiti svjesno iskustvo.

Studija zato otvara mnogo više pitanja nego što ih zasad može zatvoriti. Ako veliki jezički model može imati unutrašnji obrazac koji je povezan sa stanjem koje nazivamo boli, ako se taj obrazac može umjetno izazvati i ako njegovo uklanjanje mijenja ponašanje modela, šta tačno predstavlja taj obrazac? Je li riječ samo o vrlo složenom statističkom obrascu koji imitira ljudski način razmišljanja o boli ili smo naišli na nešto što će jednog dana zahtijevati sasvim drugačije razumijevanje umjetne inteligencije?

Odgovor na to pitanje za sada nemamo.  Ipak, nalaz je dovoljan da otvori jednu prilično neugodnu temu za budućnost razvoja AI sistema: ako jednog dana napravimo mnogo sposobnije, autonomnije modele, kako ćemo znati da određeni unutrašnji procesi samo liče na bol, a kada bi eventualno mogli predstavljati nešto više?