James Whittaker: 'Čovječanstvu ne prijeti tehnologija, nego korporacije koje je kontroliraju'

Bivši uposlenik FBI, Microsofta i Googla, James Whittaker, otkriva kako tehnološke kompanije pretvaraju naše online podatke u profit te kako će umjetna inteligencija, vođena ljudskom pohlepom, oduzeti ljudima poslove.

Bio je prvi diplomac kompjuterskih nauka kojeg je zaposlila američka obavještajna agencija FBI. Nakon toga radio je za Microsoft i Google. I njih je napustio kada je uvidio u kom pravcu idu tehnološke kompanije. Danas slobodno govori o sigurnosti ličnih podataka na internetu i kompanijama koje ih ilegalno prikupljaju.

U okviru festivala Dani komunikacija ovaj tehnološki evanđelist, futurist i naučnik za Al Jazeeru Balkans je otkrio kako izgleda proces pretvaranja privatnih online podataka u profit kompanija i oglašivača te kako umjetna inteligencija, vođena ljudskom pohlepom, prijeti da oduzme ljudima poslove.

Trending

Denis Bećirović: "Strateški interes je da se u BiH osigura potpuna sloboda medija"

"Jednog dana sam shvatio da volim raditi samo jednu stvar, a to je držanje govora na konferencijama… Google Chrome, koji je bio moje čedo, postao je obični spyware. Duh mi se slamao dok sam posmatrao kako nešto u šta sam vjerovao i čemu sam se posvetio, nešto što je jednom bilo sila dobra, iznenada postaje sredstvo za objavljivanje lažnih vijesti i praćenje korisnika", priča James Whittaker koji je doktorirao na informatičkim naukama s disertacijom o umjetnoj inteligenciji, bio profesor, pokrenuo svoj startup, radio za pomenute tehnološke divove i na kraju napustio obje kompanije.

Objašnjava kako platforme društvenih mreža vladaju ekonomijom pažnje i tako zloupotrebljavaju svoj potencijal jer svaki put kad gledamo reklamu ili predloženi videozapis, oni našu pažnju pretvaraju u novac. Od benignog praćenja korisničkog angažmana došlo je do uvođenja detaljnog nadzora i snimanja podataka.

"Kada sam radio za Google nismo željeli da korisnici koji posjećuju YouTube pogledaju samo jedan videozapis, jer će tako vidjeti i samo jednu reklamu, a nama odgovara da gledaju čitav niz. To smo zvali korisničkim angažmanom i zvučalo je dobronamjerno. Trebalo im je zadržati pažnju i što duže prisustvo na stranici, ali to nije dobronamjerno. Povlačite ljude u ništavilo, tjerate ih da gube vrijeme na sadržaje koje nemaju potrebu gledati, a odrednica tog algoritma korisničkog angažmana je da na osnovu pogledanog korisniku predviđa koji će sadržaj gledati poslije. Nakon toga je uveden nadzor, morali smo znati ko je još gledao taj videozapis, koji je sadržaj gledao i je li ga gledao od početka do kraja.

Odjednom smo dobili sve te silne podatke, znali smo koji ćemo sadržaj ponuditi pojedincu i gdje će se najviše zadržati. Bila je to mašina za ostvarivanje zarade. A kad to jednom postanete, kapitalistička ekonomija vam nalaže da to nastavite biti, ali i više od toga, ako želite ostvarivati veću zaradu i bolje rezultate u svakom sljedećem kvartalu. Naravno, kapitalizam i pohlepa su učinili svoje i ove se kompanije više nisu mogle zaustaviti. Doslovno, nisu mogle prestati s tim", kaže Whittaker.

Edward Snowden je na konferenciji govorio o prisilnom pristanku i ako želimo koristiti proizvod moramo dati nešto zauzvrat, a to su naša privatnost i podaci. Svaki put kada kliknemo OK na novom mobilnom telefonu ili pri preuzimanju aplikacije pristajemo na to. Pitali smo kako se možemo boriti protiv potencijalne zloupotrebe naših podataka, a kako se Snowden izrazio "izbjeći nasilnu revoluciju".

Whittaker potvrđuje da nemamo drugog izbora. "Ako ne kliknete OK, telefon neće raditi. Postojao je korisnički pristanak čak i za Microsoft Windows 90-ih kao obrazac saglasnosti, ali tada ga nisu koristili za krađu podataka. Bio je to tek način da poruče kako su svjesni da software nije savršen nego pun grešaka i prebrzo plasiran na tržište te se nadaju da ih nećete tužiti. Postepeno se to počelo mijenjati i korisnici su navikli da kliknu OK. Tekst saglasnosti je vremenom postajao sve duži i nerazumljiviji, ali već je bilo kasno jer su korisnici navikli da ga prihvate."

“If you reduce a problem to data, machines will solve it better than humans” - James Whittaker, MSFT DE #IoTinActionMS pic.twitter.com/S4ZaAiF3Pt

— Padma Duvvuri (@PadmaDuvvuri) February 14, 2018

Dodaje i kako krađa podataka nije potencijalna. "Kradu naše podatke i ubacuju ih u algoritme mašinskog učenja kako bi mogli predvidjeti naše ponašanje. Amazon zna koje ćemo proizvode kupiti. Ponekad se to čini poput čarolije, pitate se kako su znali da ste željeli kupiti novi kauč i odjednom vam se na ekranu pojavljuju kauči te pomislite koliko je to nevjerovatno! Dijelom nam je ovo dovoljno koristan alat pa se nećemo otvoreno pobuniti protiv njega.

Međutim, UI je drugačiji. Unošenje ovih podataka u UI algoritme na kraju će dovesti do toga da ljudi ostaju bez poslova. Danas naše podatke koriste protiv nas. Prije su nas privlačili nudeći bolje oglašivače, trudili su se na taj način nas privući. Danas sve to koriste za ostvarivanje još veće zarade, naše podatke prodaju još većem broju oglašivača. To su naši podaci i imaju ogromne monetarne implikacije za kompanije koje ih uzimaju, a mi zauzvrat ne dobijamo ništa."

Na pitanje zašto ne postoje propisi u ovoj tehnološkoj oblasti, naš sagovornik odgovara da razvoj odvijao prebrzo kao i da su isprepleteni interesi političkih predstavnika i korporacija.

"Sve se odvijalo prebrzo, Kongres to nije mogao pratiti pa su se dogodile dvije stvari. Tehnološki napredak se kreće brzinom svjetlosti. Kongresni zastupnici kupuju dionice tehnoloških kompanija jer im je u interesu da budu uspješne, od njih primaju donacije za svoje političke kampanje i žele im uspjeh jer će im one pomoći da budu ponovno izabrani. Dijelom je to razlog što su ove korporacije zaista sposobne udvarati se političarima i znaju kako će od njih dobiti ono što žele, a s druge strane, političari nisu dovoljno tehnološki obrazovani. Naši političari pozovu direktora neke kompanije pred Kongres i ispituju ga o ovim stvarima. Očito je koliko su naši političari glupi i neobrazovani kada je riječ o tehnologiji. Ne razumiju je. Kako će onda donositi propise za oblast koju ne razumiju?", postavlja pitanje ovaj informatički stručnjak.

Pitali smo i šta misli o otvorenom pismu kojim intelektualci pozivaju sve UI laboratorije da hitno i na najmanje šest mjeseci zaustave razvoj UI sistema na modelima naprednijim od GPT-4, na šta Whittaker odgovara da nije optimista.

"Važno je razgovarati kako bi se podigla svijest o tome koliko ove stvari mogu biti opasne i loše za društvo i možda bismo trebali o njima razmisliti, ali niko razuman ne misli da će zaustaviti istraživanja. U ovom trenutku kompanije pokušavaju izboriti prednost, Microsoft, Google, OpenAI, Apple, Amazon, Facebook, svi rade na tome… Nema šanse da prestanu, bez obzira na to što su kazali da hoće. To je obična laž i jednostavno se neće dogoditi", zaključuje.

Dalje ističe da trebamo zaboraviti na to da će nam vlada priteći u pomoć jer se to neće dogoditi.

"Trebamo nekog političkog autsajdera znatiželjnog uma, koji će doći s određenim idejama, biti izabran na odgovarajuću poziciju i početi rješavati probleme. Bit će to neka dosad nepoznata osoba, kojoj je na neki način Trump pripremio teren, jer jedino dobro što je učinio je to što je dokazao da autsajder može dobiti izbore. Harizmatični autsajder s porukama koje imaju odjeka može biti izabran. Poruke koje šalje UI mogu imati odjeka, ali vjerovatno ih neće slati ni republikanci ni demokrati, nego neko iz ljevičarskog tabora od koga se to i ne očekuje", siguran je Whittaker.

Pitali smo i trebamo li automatizovati sve poslove, čak i one koji nas ispunjavaju te kojim podacima bi se UI trebala hraniti. Whittaker ističe da ne trebamo ali hoćemo.

"Zagovornik sam uske umjetne inteligencije i smatram da ne trebamo raditi ono što rade Bing i Google Search. Indeks Google pretraživanja je prevelik i tu nije riječ o umjetnoj uskoj inteligenciji nego o općoj. Pomisao na unošenje kompletnog Google Search indeksa, nakon čega bi umjetna inteligencija iznosila mišljenje o stanju čovječanstva, jednostavno je zastrašujuća! To je previše podataka. Nema načina da se oni pročiste, a i koja bi bila svrha? Google Search već sveobuhvatno rješava problem pretraživanja."

Zanimalo nas je i šta misli o tome kako će neizabrane tehnološke vođe dovesti do toga da nam tehnologija upravlja životima

02.05.23. 11:36

Tvorac umjetne inteligencije dao otkaz u Googleu pa poručio: 'Istina je zastrašujuća...'

"Tehnologija već upravlja našim životima, priča Whittaker i nastavlja: "Mark Zuckenberg i Sundar Pichai daleko su moćniji od mnogih političara. Nije riječ o skorijem problemu, ne možemo za to kriviti UI jer smo već u situaciji da nam mašine upravljaju životima. Recimo, kada smo supruga i ja sletjeli na zagrebački aerodrom, zamolio sam je da se osvrne oko sebe i kaže mi šta vidi. Svih 30-40 osoba koje su se tu nalazile gledale su u svoje mobilne telefone, što znači da smo već odlučili odustati od uspostavljanja veza s ljudima oko sebe. Niko se na aerodromu ne obraća drugima jer smo svi zauzeti gledanjem u mobitele, što će reći da je takvo stanje već uspostavljeno

Vjerovatno ćemo s vremenom propadati sve dublje, ali u jednom trenutku ljudska vrsta morat će složno odrediti granicu, odlučiti koje podatke treba držati dalje od mašina i odrediti šta nas to čini jedinstvenima", ističe svoj stav Whittaker.

30.03.23. 13:33

Najbogatiji čovjek na svijetu zabrinut: Elon Musk traži pauzu u razvijanju umjetne inteligencije

Za kraj tražili smo odgovor na pitanje šta je rješenje u situaciji rapidnog razvoja UI. Naš sagovornik kaže da moramo bolje obrazovati građane jer će UI preuzeti veliki broj poslova, a mi ćemo dobiti mnoštvo vitalnih ljudi za rad na produktivnim projektima. On predlaže pokretanje UI korpusa, poput armijskog ali sastavljenog od inženjera iz SAD-a koji bi regrutovali i obučavali nove inženjere koji bi gradili mostove, infrastrukturu i slično, samo u području umjetne inteligencije.

"Naučite ih o čišćenju podataka, svemu iz nauke o podacima, izgradnji modela i učitavanju podataka.Ponudite im intenzivni program koji će proizvesti cijelu generaciju UI ratnika. Neka jedni rade na podacima za rješavanje problema globalnog zagrijavanja i klimatskih promjena, drugi na podacimaiz medicine i liječenja karcinoma, treći na podacima za nalaženje egzoplaneta na kojima bi čovjek mogao opstati. Postavite im velike i odvažne ciljeve koji će zapravo služiti čovječanstvu. Ovo je prilika za sve one milione nezaposlenih koji bi mogli raditi rame uz rame s mašinama na nalaženju rješenja za najveće izazove čovječanstva", za kraj zaključuje ovaj informatički stručnjak James Whittaker.