Opasnost generisanih videa: OpenAI obustavlja aplikaciju Sora zbog zahtjeva porodice dr. Kinga

OpenAI je zaustavio svoju aplikaciju umjetne inteligencije (AI) Sora koja stvara deepfake videozapise s portretom dr. Martina Luthera Kinga Jr., nakon zahtjeva njegove ostavštine.

Kompanija je priznala da je generator videozapisa kreirao "nepoštovan" sadržaj o borcu za građanska prava.

Sora je postala viralna u SAD-u zbog svoje sposobnosti izrade hiperrealističnih videozapisa, što je dovelo do toga da ljudi dijele lažne scene preminulih slavnih osoba i histrijskih ličnosti u bizarnim i često uvredljivim scenarijima.

Trending

SDA zahtijeva hitne promjene Izbornog zakona radi zaštite od manipulacija

OpenAI je rekao da će pauzirati slike dr. Kinga "jer jača zaštitne ograde za historijske ličnosti" - ali i dalje dopušta ljudima da snimaju isječke drugih poznatih osoba.

Taj se pristup pokazao kontroverznim, jer su videozapisi s osobama poput predsjednika Johna F. Kennedyja, kraljice Elizabete II. i profesora Stephena Hawkinga široko dijeljeni na internetu.

To je navelo Zeldu Williams, kćerku Robina Williamsa, da zatraži od ljudi da joj prestanu slati videozapise generirane umjetnom inteligencijom o njezinom ocu, proslavljenom američkom glumcu i komičaru koji je umro 2014. godine.

Bernice A. King, kćerka pokojnog dr. Kinga, kasnije je uputila sličan javni apel, napisavši online: "Slažem se u vezi s mojim ocem. Molim vas, prestanite."

Među videozapisima generiranim umjetnom inteligencijom koji prikazuju borca ​​za građanska prava bili su i neki koji su na razne načine uređivali njegov zloglasni govor "I Have a Dream", a Washington Post je izvijestio da jedan isječak prikazuje kako ispušta rasističke zvukove.

U međuvremenu, drugi su dijelili videozapise na aplikaciji Sora i društvenim mrežama koji su prikazivali figure koje nalikuju dr. Kingu i kolegi borcu za građanska prava Malcolmu X kako se međusobno bore.

Etičarka umjetne inteligencije i autorica Olivia Gambelin izjavila je za BBC OpenAI da je ograničavanje daljnje upotrebe slike dr. Kinga "dobar korak naprijed".

No, rekla je da je kompanija trebala od samog početka uvesti mjere - umjesto da koristi pristup "pokušaja i pogrešaka vatrogasnim crijevom" za uvođenje takve tehnologije.

Rekla je da mogućnost stvaranja deepfakeova preminulih historijskih ličnosti ne govori samo o "nedostatku poštovanja" prema njima, već predstavlja i daljnje opasnosti za razumijevanje stvarnog i lažnog sadržaja od strane ljudi.

"Previše se poigrava s pokušajem prepisivanja aspekata historije", rekla je Gambelin.

"Interesi za slobodu govora"

Porast deepfakeova - videozapisa koji su izmijenjeni pomoću alata umjetne inteligencije ili druge tehnologije kako bi se prikazao neko ko govori ili se ponaša na način na koji to nije činio - izazvao je zabrinutost da bi se mogli koristiti za širenje dezinformacija, diskriminacije ili zlostavljanja.

OpenAI je u petak izjavio da, iako vjeruje da postoje "snažni interesi za slobodu govora u prikazivanju historijskih ličnosti", oni i njihove porodice trebali bi imati kontrolu nad svojim likovima.

"Ovlašteni predstavnici ili vlasnici ostavštine mogu zatražiti da se njihov lik ne koristi u Sorinim kameo pojavljivanjima", navodi se.

Stručnjak za generativnu umjetnu inteligenciju Henry Ajder rekao je da ovaj pristup, iako pozitivan, "postavlja pitanja o tome ko dobiva zaštitu od sintetičkog uskrsnuća, a ko ne".

"Kingova ostavština s pravom je pokrenula ovo pitanje s OpenAI-jem, ali mnoge preminule osobe nemaju dobro poznate i dobro opremljene ostavštine koje bi ih predstavljale", rekao je.

"U konačnici, mislim da želimo izbjeći situaciju u kojoj, osim ako nismo jako poznati, društvo prihvata da nakon naše smrti postoji slobodan izbor o tome kako ćemo i dalje biti predstavljeni."

OpenAI je u izjavi za BBC početkom oktobra rekao da je izgradio "više slojeva zaštite kako bi spriječio zloupotrebu".

I rekao je da je u "direktnom dijalogu s javnim osobama i vlasnicima sadržaja kako bi prikupio povratne informacije o tome koje kontrole žele" s ciljem da se to odrazi u naknadnim promjenama.