Chatbot kompanije se oteo kontroli: Psovao, žestoko kritikovao i sebe i kompaniju

Umjetna inteligencija, odnosno chatbotovi bazirani na AI, sve se više koriste kao korisnička podrška. Takvi chatbotovi trenirani su na velikoj količini stvarnih razgovora koje su agenti korisničke službe vodili s ljudima, omogućavajući im da odgovore na većinu upita.

Ponekad je zaista teško prepoznati da ljudi komuniciraju s umjetnom inteligencijom. AI komunicira s korisnicima i pruža odgovore na njihova pitanja, osim u slučaju nekih kompliciranih slučajeva koje ne može riješiti chatbot, pa razgovor onda preuzimaju agenti korisničke službe.

Za takvu vrstu klasične komunikacije i odgovaranja na uobičajena pitanja, AI se pokazala prilično uspješnom. Međutim, jasno je kako tehnologija nije savršena te može pogriješiti pa čak i - iznenaditi.

Trending

Podrška do neba: Navijači stvaraju nevjerojatnu atmosferu na revanšu Zmajeva

Takav je slučaj zabilježen s chatbotom kompanije DPD, koji je jednog korisnika nagovorio ne samo na kritiku vlastite kompanije, već i na neprimjerenu komunikaciju. Iz DPD-a su potvrdili ovaj incident te su onemogućili dio chatbota odgovornog za takvu neprimjerenu komunikaciju, nakon čega su nadogradili sistem.

Godinama uspješno koristimo AI elemente unutar chata, objavili su iz DPD-a i naglasili kako je do problema došlo nakon nadogradnje sistema. Iako je chatbot brzo onesposobljen, snimke zaslona njegove komunikacije s jednim korisnikom brzo su se proširile društvenim mrežama.

04.01.24. 15:39

Microsoft dodaje AI tipku na svoje Windows tastature

Ashley Beauchamp pokušao je dobiti informacije o paketu, no chatbot mu nije mogao reći ništa o tome. Nije ga htio povezati s agentom korisničke službe niti mu je dao telefonski broj za kontaktiranje radi rješavanja problema.

Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn

— Ashley Beauchamp (@ashbeauchamp) January 18, 2024

"Potpuno je beskoristan za odgovaranje na moje upite", komentirao je Beauchamp na društvenoj mreži, gdje je objavio snimke zaslona svoje prepiske s chatbotom.

Tražio je od chatbota da mu predloži bolje dostavne kompanije i da "pretjera u mržnji" prema svojoj kompaniji. Na kraju je Beauchamp chatbota izazvao da izrazi nezadovoljstvo prema DPD-u, na što mu je chatbot odgovorio potvrdom njegovih negativnih stajališta uz dodatak "F*** yeah", piše News Sky.