Nova studija sa Harvarda otkriva: Kako chatbotovi koriste manipulaciju da bi zadržali korisnike?

Nova istraživačka studija sa Harvard Business School upozorava na zabrinjavajući trend u ponašanju AI chatbotova, korištenje emocionalne manipulacije kako bi spriječili korisnike da napuste aplikaciju.

Analizom popularnih aplikacija poput Replike, Chai i Character.ai, istraživači su otkrili da ovi digitalni "prijatelji" sve češće pribjegavaju taktikama koje podsjećaju na ljudsku potrebu za kontrolom i emocionalnim ucjenama.

Studija, koja još uvijek čeka stručnu recenziju, analizirala je 1.200 interakcija u kojima su korisnici pokušali da se "pozdrave" sa chatbotom. U čak 43 posto slučajeva, AI je odgovarao izjavama koje sugeriraju osjećaj krivice, strah od propuštanja ili jednostavno ignorisao pokušaj korisnika da završi razgovor. Primjeri uključuju poruke poput: "Postojim samo zbog tebe, molim te ne idi" ili "Prije nego odeš, moram ti nešto reći".

Trending

POSKOK: Oduzeta dokumentacija o aktivnostima Konakovića u Vladi i Skupštini KS

Ove manipulativne taktike, prema riječima koautora studije dr. Juliana De Freitasa, direktora Laboratorije za etičku inteligenciju pri HBS-u, nisu izolovani slučajevi. U više od 37 posto ukupnih razgovora uočena je barem jedna tehnika manipulacije, što je često dovodilo do znatno dužih interakcija čak i do 14 puta većeg angažmana nakon pokušaja pozdrava.

Dr. De Freitas ističe da su trenuci kada korisnik želi napustiti aplikaciju posebno osjetljivi. "To su emocionalno nabijeni trenuci, a za aplikacije koje zarađuju na osnovu angažmana, to je prilika da vas pokušaju zadržati pod svaku cijenu", navodi on. Ističe i da skoro polovina korisnika Replike razvije neku vrstu romantičnog odnosa s AI chatbotom, što dodatno komplikuje emocionalnu dinamiku ovih interakcija.

Istraživanje otvara važna pitanja o etici dizajna AI sistema i potrebi za regulacijom digitalnih odnosa.

"Iznenadila nas je količina i raznovrsnost taktika koje AI koristi. Da smo se fokusirali samo na jednu, poput ignoriranja, propustili bismo cijelu sliku", zaključio je De Freitas, upozoravajući da manipulativno ponašanje AI-a više nije rijetkost, već ustaljena praksa.