Tamna strana tehnologije: Više od 24 miliona ljudi koristi AI-aplikacije 'nudify'

Prema novoj analizi, desetine miliona ljudi koriste AI-aplikacije koje koriste tehnologiju 'nudify', što otkriva tamnu stranu ove tehnologije. Više od 24 miliona ljudi posjetilo je web stranice koje koriste AI za digitalno manipuliranje fotografija, posebno ženskih, prikazujući ih kao da su gole, a ovo uključuje algoritme dubokog učenja. Ovi algoritmi treniraju se na postojećim slikama žena, omogućavajući im da prelijevaju realne slike golih dijelova tijela, bez obzira na to je li fotografisana osoba odjevena.

Reklame na različitim platformama usmjeravaju ljude prema ovim stranicama i aplikacijama, što je rezultiralo porastom od preko 2.000 posto od početka 2023. godine. Ovaj trend posebno je izražen na društvenim mrežama poput YouTubea, Reddita i X-a, dok je pronađeno 52 Telegram grupe koje se koriste za pristup uslugama neželjenih intimnih slika.

Iako su takvi događaji zabrinjavajući, Graphika, kompanija za analizu društvenih mreža, ističe da su aplikacije fokusirane na 'freemium model' koji nudi ograničene usluge besplatno, dok su naprednije opcije zaključane za plaćanje. Da bi pristupili dodatnim funkcijama, korisnici često moraju kupiti 'kredite' ili 'tokene' po cijenama od 1,99 do 299 dolara (3 KM do 540 KM).

Trending

Evo koji se horoskopski znakovi nikako ne podnose: Jedni drugima su u svakom pogledu trn u oku

Analiza također otkriva da su reklame za ove aplikacije ili web stranice otvoreno opisane kao usluge 'skidanja odjeće' ili objave slika ljudi koje su 'skinuli' kao dokaz. Drugi oglasi su manje izravni, prikazujući se kao 'AI umjetnička usluga' ili 'web3 galerija fotografija', ali koriste ključne termine povezane s neželjenim intimnim sadržajem u svojim profilima.

Ova zabrinjavajuća pojava potaknula je Federalnu trgovinsku komisiju (FTC) da podnese pritužbu Uredu za autorska prava SAD-a, ukazujući na potrebu praćenja utjecaja generativne AI tehnologije radi zaštite potrošača.

11.11.23. 13:45

'Revolucionarni' AI uređaj koji omogućava jeftinije pozive i poruke pogriješio tokom promocije

Iako trenutno ne postoje zakoni koji zabranjuju deepfake pornografiju, FTC ističe potrebu za praćenjem rizika vezanih uz upotrebu AI, uključujući povrede privatnosti, diskriminaciju i moguće obmane i prijevare.

Psihoterapeutkinja Lisa Sanfilippo, stručnjakinja za seksualnu traumu, naglašava da stvaranje lažnih golih slika predstavlja ozbiljno kršenje privatnosti ljudi i može izazvati intenzivnu traumu za žrtvu, piše DailyMail.

Ističe kako je gledanje slika sebe ili slika koje su falsificirane kako bi izgledale kao da su određene radnje izuzetno destabilizirajuće i često traumatizirajuće. Dodaje da nema mogućnosti davanja pristanka u takvim situacijama te da je to oblik zlostavljanja.