Jeziv ispad: ChatGPT imitirao glas korisnika bez njegovog dopuštenja
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti umjetne inteligencije da oponaša glasove korisnika.
U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: chatbot je odjednom viknuo "NE!", koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvjesno preuzme i imitira glas korisnika bez njihove dozvole.
Nihad Uk otklonio sve sumnje o Vladi KS. Govorio i o poziciji gradonačelnika Sarajeva
Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi spriječio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbijediti sigurnost u radu s umjetnom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu.
Sve više Nijemaca informacije o političkoj situaciji traži od AI: Građani se boje zloupotrebe
Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamijenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
Korisnici društvenih mreža ovaj "ispad" chatbota označili su kao "jeziv".
"Ovo je više nego jezivo, zastrašujuće je", "Kada ChatGPT počne da govori, vrijeme je da isključite računar", "Zapanjen sam što je mogao da sintetiše glas tako brzo, pod pretpostavkom da je koristio samo glasovni odziv iz te testne sesije" bili su samo neki od komentara.
Radiosarajevo.ba pratite putem aplikacije za Android | iOS i društvenih mreža Twitter | Facebook | Instagram, kao i putem našeg Viber Chata.
/ Najčitanije
/ Komentari
/ Povezano
/ Najnovije
