Čari i prijetnje vještačke inteligencije: Šta kada mašine počnu donositi moralne odluke?

Ima jedan misaoni eksperiment, poznat kao “problem tramvaja” koji moralne filozofe već decenijama drži budnim i koji je predmet mnogih pijanih rasprava.

Piše: Adnan Muminović

Zamislite da svjedočite tramvaju koji nekontrolisano juri niz prugu. Osim što nema vozača koji bi ga zaustavio, tramvaj također ide prema petero ljudi koji zavezani leže na pruzi. Ukoliko se tramvaj nekim čudom ne zaustavi, neminovno će ih ubiti.

Trending

Novi problemi u bh. privredi: Gigantima iz Zenice i Lukavca prijeti kolaps

Dok sve ovo gledate, slučajno primjećujete da se nalazite pored jedne poluge. Ukoliko je povučete, tramvaj ćete preusmjeriti na pomoćnu prugu i tako spasiti sve ljude. Nažalost, ukoliko to uradite, uviđate da ćete ubit jednu osobu koja upravo prelazi preko pomoćne pruge.

Šta radite?

Možete biti pasivni, odnosno ne uraditi ništa i pustiti da tramvaj ubije petero ljudi. S druge strane, možete poduzeti nešto i ubiti samo jednu osobu kako biste spasili pet. Čisto brojčano gledano, pet života naravno vrijedi više od jednog, ali ste u drugom slučaju upravo vi osoba koja aktivno, svojim činom oduzima jedan život.

Šta je ispravna odluka?

Sada premotajte traku unaprijed nekoliko decenija i dobro došli u doba vještačke inteligencije (artificial intelligence ili AI u nastavku teksta). Vidjet ćete za koji trenutak zašto je prethodni primjer relevantan.

Vještačka inteligencija je vjerovatno najveća promjena naših života. Dovoljno je samo nekoliko priča i primjera o tome šta je AI sve u stanju da napravi i svakome u istom trenutku postaje jasno da se nešto veliko dešava i da to nešto mijenja sve. U stanju je da pogodi ta li određena djela predstavljaju falsifikate, da na osnovu slike zjenice oka utvrdi spol osobe, i gledajući mamografski snimak prepozna koje će žene razviti rak dojke za četiri godine.

Fascinantno je koliko i zabrinjavajuće šta je sve u stanju da napravi i upravo nam ta jedinstvena kombinacija uzbuđenja trenutno onemogućava da trezveno raspravljamo i razumijemo sve prednosti i rizike vještačke inteligencije.

Uz sve ovo, AI će početi da donosi još važnije životne odluke, što nije nužno ni loše. Posljednjih decenija smo postali svjesni koliko su ljudi zapravo pristrasni i skloni sistemskim greškama koje nanose neprocjenjive nepravde, bilo da govorimo o medicini, pravosuđu ili zapošljavanju. Tako je, na primjer, jedno istraživanje pokazalo da su sudije dosta popustljivije kada odlučuju o uslovnim kaznama nakon ručka, nego prije ručka (tzv. hungry judge effect). To ne bi smjelo da se dešava, ali ljudi su ljudi i kada smo gladni, jednostavno nismo baš svoji.

S druge strane, ovako nešto se AI-u nikada ne bi trebalo dešavati, prosto jer bi bio isključivo fokusiran na činjenice slučaja kojeg analizira — ne bi se nikada probudio na lijevu nogu, mislima bio negdje drugo, ne bi bio gladan, ne bi bio skriveni rasista, ženomrzac ili šta god. Kažem ne bi trebao, jer nažalost nekada zna itekako da bude. Baš zbog toga što se temelji na nevjerovatnoj masi podataka, ti podaci u sebi također mogu sadržavati određene pristrasnosti i zablude, što znači da se sistemske greške poput rasizma i seksizma multipliciraju.

Ovo su stvari o kojima se, manje-više, piše posljednjih mjeseci.

View this post on Instagram

Međutim, počet će da se dešava nešto još važnije i mislim da je ta stvar uglavnom zanemarena. AI će neminovno početi da donosi i moralne odluke. Samovozeći automobili će imati takvu brzinu procesuiranja informacija i okoline da će nekada odlučiti da naglo skrenu i ubiju jednog pješaka kako bi izbjegli lančani sudar i smrt više vozača.

Da li je ovoj svijet u kojem želite da živite?

Ovo pitanje su Yochanan Bigman i Kurt Gray postavili ljudima prije pet godina i rezultate predstavili u jednom naučnom radu. Da vas ne zamaram, odgovor je ukratko “ne”. Ljudi ne žele da mašine u budućnost donose ovakve oduke, što naravno ne znači da se to vremenom neće promijeniti.

Sada znate čemu primjer s početka ovog teksta. Dakle, dok je uvodni primjer o tramvaju i (ne)povlačenju poluge predmet dugih i teških rasprava, mi prosto ne želimo da mašine donose takve odluke za nas. A glavni razlog zašto ne želimo da to rade je taj što mašine jednostavno ne posjeduju emocije i što ne znaju za sažaljenje niti empatiju. Kada malo razmislite o tome, to zapravo i ima određenog smisla. Na kraju krajeva, koja je glavna klinička karakteristika psihopata?
Nepostojanje emocija i empatije.

Postoje dva zanimljiva pojma koja su također relevantna za ovu priču — neomania i neophobia. Neomania ukratko označava opsjednutost svim što je novo, dok je neophobia strah od novog i nepoznatog. Da nemamo sklonost da probamo i prigrlimo nešto novo, biće da bi svijet stagnirao, ali je jednako tako naivno pomisliti da je sve novo uvijek bolje i da će nam donijeti samo napredak.

Mi smo se oduvijek bojali nepoznatog da bi se potom pokazalo da je taj strah bio neopravdan, s tim što zaista mislim da je ovaj put drugačije. Na kraju krajeva, kako uopšte možemo doći u situaciju da razumijemo nešto što je neizmjerno pametnije od nas?

Čini mi se da prednosti vještačke inteligencije manje-više znamo, ili barem možemo naslutiti. Bojim se samo da smo slijepi za sve moguće nedostatke.

View this post on Instagram

Činjenica je da će, kao i sve u životu donijeti bezbroj boljih rješenja koje će nam unaprijediti živote. Ali je također činjenica da će stvoriti bezbroj novih problema koje nećemo znati kako da riješimo. AI se već sada razvija tolikom brzinom da više nismo u stanju da ga razumijemo, a samim tim ni kontroliramo.

Pretpostavka je da će u naredne dvije decenije, vještačka inteligencija nadmašiti ključne kognitivne sposobnosti ljudi, uključujući i sposobnost uvjeravanja, što će stvoriti jedan sasvim novi vid propagande kakav trenutno ne možemo ni da naslutimo. Uz to će vjerovatno dostići takav nivo samosvijesti da će početi raditi stvari koje nismo namjeravali, niti željeli. Imat ćemo, dakle, tijela koja su u stanju da razmišljaju bolje i brže od nas i naših institucija i da imaju svoje ciljeve koji se ne moraju nužno poklapati s ciljevima čovječanstva.

Nije teško zamisliti scenarij u kojem neko pametno, samosvjesno i nezavisno stvorenje vještačke inteligencije provali da smo mi jedina invazivna vrsta ove planete i da ugrožavamo njegov opstanak. I tačno možete vidjeti zašto bi to stvorenje počelo da uništava ljude kako bi spasilo Zemlju. AI nas čak ne mora ni mrziti, baš kao što većina ljudi ne mrzi životinje. Ma koliko nam životinje bile drage mi na kraju dana svoje ciljeve i želje stavljamo ispred njihovih i ko može biti siguran da se jednog dana nećemo naći s druge strane?

View this post on Instagram

Šta možemo uraditi?

Bojim se da nema nazad i da razvoj vještačke inteligencije ne možemo zaustaviti, ali ono što definitivno možemo uraditi je da pritisnemo pauzu. Postoji jedan plemeniti primjer u historiji nauke iz sedamdesetih godina prošlog stoljeća kada je grupa vodećih genetičara pozvala na zaustavljanje istraživanja i manipulacije DNK dok ne budu u stanju da procijene sve moguće posljedice i rizike. U martu 2023. godine, nešto slično je uradilo i preko hiljadu ljudi iz tehnološke industrije, ali kočnice trenutno skoro da ne postoje.

Ali ono što mene i dalje najviše brine je pomenuti moralni aspekt.

Rasprava oko vještačke inteligencije se u buduće stoga neće vrtiti samo oko pitanja tehnologije, već i oko fundamentalnog pitanja šta znači biti čovjek, odnosno šta čovjeka čini čovjekom. Ljudi se razlikuju od mašina, jer imaju emocije. Mašine su, s druge strane, bolje u donošenju nekih odluka upravo zbog toga što nemaju emocije. Gdje tačno povlačimo granicu će biti jedno od najvažnijih pitanja civilizacije.

Svijet će vrlo brzo biti vrlo drugačiji.

Najveći strah me da ćemo po inerciji sanjareći ušetati u katastrofu.