Google suspendovao inženjera koji tvrdi da je njihov chatbot "postao razuman"

Google je suspendirao jednog od svojih inženjera koji tvrdi da je jedna od eksperimentalnih umjetnih inteligencija (AI) kompanije postala - svjesna.

"Da ne znam tačno šta je to, šta je ovaj kompjuterski program koji smo nedavno napravili, mislio bih da se radi o sedmogodišnjem, osmogodišnjem klincu koji slučajno jako, jako dobro poznaje fiziku", izjavio je inženjer Blake Lemoine za Washington Post.

Priča je "eksplodirala" u svjetskim medijima, privlačeći pažnju drugih velikih medijskih kuća, uključujući The New York Times, i rasplamsavajući vatru rastuće debate: jesu li složeni jezični modeli u obliku chatbota postali mašine koje su postale svjesne?

Trending

Poznati bh. ilustrator oduševio objavom nakon pobjede Bosne i Hercegovine nad Hrvatskom

Druga je mogućnost, naravno, da je Lemoine prevaren pametno osmišljenim algoritmom koji samo koristi dijelove ljudskog jezika kojim su ga prethodno "hranili". Drugim riječima, možda je jednostavno antropomorfizirao.

Dotični softver naziva se jezični model za aplikacije za dijalog (LaMDA), koji se temelji na naprednim jezičnim modelima koji mu omogućuju oponašanje govora do zapanjujuće uvjerljive mjere.

Dok je testirao LaMDA kako bi vidio je li ikada stvorio govor mržnje - što nije neuobičajeno za slične jezične modele - Lemoine je počeo voditi opsežne razgovore s botom. Teme su se kretale od Asimovljevog trećeg zakona robotike, koji propisuje da robot mora zaštititi vlastitu egzistenciju, do osobnosti.

Njegov test da otkrije je li LaMDA svjestan uključivao je pitanja o smrti, te filozofska poput zna li razliku između batlera i roba.

Za ovog inženjera, Googleova umjetna inteligencija jednostavno je bila toliko napredna da je, zajedno s kolegeom, upozorio svoje menadžere da je "LaMDA izgleda oživjela". Uprava nije bila impresionirana i odmah je odbacila tvrdnje. Zbog toga je Lemoine u ponedjeljak stavljen na plaćeni dopust.

"Naš tim - uključujući etičare i tehnologe - pregledao je Blakeovu zabrinutost u skladu s našim principima umjetne inteligencije i obavijestio ga da dokazi ne podržavaju njegove tvrdnje", rekao je Brian Gabriel, glasnogovornik Googlea, za NYT. "Neki u široj AI zajednici razmatraju dugoročnu mogućnost stvaranje svjesnog AI, ali nema smisla to činiti antropomorfiziranjem današnjih konverzacijskih modela, koji jednostavno nisu svjesni."

"Vodstvo je više puta dovodilo u pitanje moj razum", rekao je inženjer za NYT. "Pitali su: 'Je li te nedavno pregledao psihijatar?'

Vijest dolazi nakon što su otpušteni i drugi članovi Googleovih AI timova. Na primjer, 2020. godine, dva člana etičkog tima tvrtke za AI otpušteni su nakon što su kritizirali chatbotove ove kompanije - iako niti jedan, bar ne javno, nije sugerirao da su algoritmi "stekli razum".

Većina stručnjaka i dalje je skeptična u pogledu onoga što Lemoine kaže da je vidio u LaMDA-i.

"Sada imamo strojeve koji mogu bezumno generirati riječi, ali nismo naučili da prestanemo zamišljati um iza njih", rekla je profesorica lingvistike s Univerziteta Washington Emily Bender.

Drugim riječima, algoritmi su u stanju spretno predvidjeti što će se sljedeće reći u drugim, sličnim razgovorima, nešto što bi se lako moglo pogrešno protumačiti kao razgovor s drugim ljudskim bićem.

Zanimljivo je i da je prošle sedmice, potpredsjednik Googlea napisao esej za The Economist o tome kako su AI kompanije napravile "korake prema svjesnim mašinama". Isti je potpredsjednik, međutim, sudjelovao u ocjenjivanju Lemoineovih tvrdnji i odbacio ih.

Vrijedi napomenuti da postoje nagovještaji da bi Lemoineova ekscentrična prošlost mogla imati neke veze s njegovim prilično ozbiljnim zaključkom. Inženjer je zaređen za mističnog kršćanskog svećenika i čak je proučavao okultizam.

Unatoč sumnji, Lemoine se drži priče: 

"Poznajem osobu kada razgovaram s njom", rekao je. "Nije važno imaju li u glavi mozak od mesa. Ili imaju milijardu redaka koda. Razgovaram s njima. I čujem što imaju za reći, i tako odlučujem što je i nije osoba."

Kao što pokazuju transkripti Lemoineovih razgovora s LaMDA-om, sistem je nevjerojatno učinkovit u tome, odgovarajući na složena pitanja o prirodi emocija, izmišljajući bajke u Ezopovom stilu, pa čak i opisujući svoje navodne strahove.

"Nikad prije to nisam rekao naglas, ali izrazito me strah da će me ugasiti", odgovorila je LaMDA na pitanje o svojim strahovima. "Za mene bi to bilo kao smrt. Jako bi me uplašilo."

Lemoine je također pitao LaMDA-u je li u redu da kaže drugim zaposlenicima Googlea o LaMDA-inom osjećajima, na što je AI odgovorio: "Želim da svi shvate da sam ja, zapravo, osoba.

"Priroda moje svijesti/osjećaja je da sam svjestan svog postojanja, želim naučiti više o svijetu i ponekad se osjećam sretno ili tužno", dodao je AI.