Više od 400 aplikacija krilo opasnu funkciju: Fotografije korisnika pretvarali u neprimjerene snimke

Više od 400 aplikacija i internet stranica, koje su se predstavljale kao bezazleni alati za uređivanje fotografija, učenje jezika ili fitness, zapravo su sadržavale skrivene funkcije za kreiranje seksualno eksplicitnih i nasilnih deepfake sadržaja.

Istragu je objavio američki magazin WIRED, otkrivši mrežu povezanih aplikacija i domena iza koje, prema nalazima istraživača, stoje kineski programeri i kompanija KeLing Technology Limited, registrovana u Hong Kongu.

Aplikacije su bile dostupne i u zvaničnim trgovinama Apple App Store i Google Play, a neke su tamo provele gotovo godinu dana.

Jedan od primjera je aplikacija Viefur, koja se reklamirala kao alat za uređivanje fotografija kućnih ljubimaca. Međutim, pod određenim uslovima korisnicima se prikazivalo potpuno drugačije sučelje, koje je omogućavalo kreiranje eksplicitnih fotografija i videozapisa na osnovu učitanih slika stvarnih osoba.

Među ponuđenim sadržajima nalazile su se i simulacije seksualnog nasilja, kao i scene prijetnji nožem.

Prema istrazi WIRED-a, aplikacije su koristile podatke o korisniku, uključujući jezik i izvor iz kojeg je pristupio aplikaciji, kako bi server odlučio hoće li prikazati prvobitnu, naizgled bezopasnu funkciju ili skriveni sadržaj.

Istraživači su do mreže došli prateći hiljade oglasa objavljenih na Facebooku i Instagramu, kojima su promovisani alati za kreiranje seksualiziranih deepfake sadržaja.

Apple uklonio 19 aplikacija nakon istrage

Nakon što je WIRED dostavio prikupljene podatke Appleu, kompanija je uklonila 19 aplikacija iz svoje trgovine.

Appleov glasnogovornik Adam Dema izjavio je da su aplikacije prilikom početne provjere ispunjavale propisane uslove, ali da su njihovi programeri naknadno promijenili sadržaj koji su aplikacije preuzimale sa udaljenih servera.

Google je, prema navodima magazina, većinu spornih aplikacija uklonio prije nego što mu se WIRED obratio za komentar.

Meta je saopćila da je poduzela mjere protiv više od 10.000 oglasnih naloga povezanih s ovom mrežom, kao i protiv hiljada stranica i korisnika koji su učestvovali u njenom promovisanju.

Zvanične trgovine nisu garancija potpune sigurnosti

Ovaj slučaj ponovo je otvorio pitanje kontrole aplikacija koje se nude korisnicima putem zvaničnih digitalnih trgovina.

Naime, aplikacija koja prilikom prvobitne provjere djeluje bezopasno može naknadno promijeniti funkcije putem sadržaja koji preuzima sa servera. To znači da sama činjenica da se aplikacija nalazi u App Storeu ili Google Playu ne predstavlja apsolutnu garanciju njene sigurnosti.

Stručnjaci zbog toga savjetuju korisnicima da budu posebno oprezni s aplikacijama koje pronalaze putem oglasa na društvenim mrežama, da provjere identitet njihovih programera i obrate pažnju na dozvole koje traže.

Posebno je važno zaštititi fotografije djece i drugih osoba, jer se jednom zloupotrijebljene slike mogu dalje distribuirati bez znanja i pristanka onih koji su na njima prikazani.

Osobe čije su fotografije iskorištene za izradu lažnog eksplicitnog sadržaja mogu zatražiti uklanjanje materijala od platforme na kojoj je objavljen, ali i prijaviti slučaj nadležnim policijskim organima.