Šefica aplikacije Signal upozorava: Prava opasnost od AI-ja nije ono čega se ljudi najviše boje

Meredith Whittaker, predsjednica kompanije Signal, smatra da vještačka inteligencija predstavlja stvarnu opasnost, ali da se najveći rizici razlikuju od scenarija u kojima se tehnologija okreće protiv čovječanstva. U razgovoru za BBC upozorila je na posljedice primjene ove tehnologije u vojnim operacijama, kao i na utjecaj velikih tehnoloških kompanija.

Whittaker, koja je jedna od istaknutijih kritičarki načina na koji se razvija i koristi vještačka inteligencija, godinama upozorava da se pažnja javnosti previše usmjerava na hipotetičke prijetnje, dok se zanemaruju konkretne opasnosti koje već postoje.

Prema njenom stavu, strah da bi vještačka inteligencija mogla postati samostalna prijetnja ljudskom opstanku nije naučno utemeljen. Mnogo neposredniji problem predstavlja način na koji ljudi, kompanije i državne institucije koriste ovu tehnologiju, posebno u nadzoru i ratovanju.

Whittaker je širu pažnju javnosti privukla krajem 2017. godine, kada se usprotivila projektu Maven, tajnom ugovoru Googlea s američkim Ministarstvom odbrane. Cilj projekta bio je razvoj sistema vještačke inteligencije za analizu snimaka i podršku pri odabiru meta za napade dronovima.

Whittaker je upozoravala da takvi sistemi mogu prenijeti netačne podatke u vojne odluke i ubrzati donošenje odluka o upotrebi smrtonosne sile. Nakon protesta zaposlenih, Google je odustao od ugovora, a posao je preuzeo Palantir.

"Upravo na ovo smo upozoravali 2017. godine", poručila je Whittaker, povezujući razvoj vojnih sistema vještačke inteligencije s američkim raketnim napadom na školu u iranskom gradu Minabu ove godine.

Prema njenim tvrdnjama, u tom napadu korišteni su sistem povezan s ovim tehnološkim rješenjima i zastarjeli obavještajni podaci, zbog kojih je škola navodno označena kao vojna meta.

Kompanija Palantir odbacila je odgovornost za tragediju, navodeći za BBC da nema dokaza da je njen softver bio uzrok napada. Iz kompanije su dodali da nisu odgovorni za podatke na kojima se zasnivaju obavještajne procjene niti za propuste u njihovoj provjeri. Američke vlasti do objave BBC-jevog izvještaja nisu objavile rezultate istrage o napadu.

Pogrešni podaci mogu imati ozbiljne posljedice

Kao dodatni primjer rizika, Whittaker je navela slučaj koji je ranije objavio CNN, a u kojem je chatbot korišten u američkim obavještajnim strukturama navodno izmislio informacije o kineskom brodu koji je prevozio nuklearni materijal. Prema izvještaju, pogrešne informacije dovele su do priprema za mogući vojni odgovor.

"Gotovo smo zaratili s Kinom", izjavila je Whittaker za BBC, upozoravajući da se sistemi koji proizvode netačne obavještajne podatke ne bi smjeli predstavljati kao nadmoćno inteligentni.

Prema njenom mišljenju, problem nije samo u mogućim greškama tehnologije nego i u tome što se njenim rezultatima može dati prevelika težina, čak i kada postoje razlozi da se u njih posumnja.

Whittaker se zalaže i za zaštitu privatnosti korisnika digitalnih platformi. Signal, aplikacija koju vodi, zasniva se na snažnoj enkripciji poruka, a ona je više puta poručila da kompanija neće oslabiti zaštitu razgovora pod pritiskom vlasti.

U razgovoru za BBC izjavila je da bi Signal radije napustio tržište nego omogućio nadzor koji bi ugrozio korisnike.