Pitali Microsoftovu vještačku inteligenciju "da li je svjesna" - odgovori šokirali internet

Microsoft sada dopušta nekim korisnicima da isprobaju njihov novi Bing pokretan vještačkom inteligencijom (AI) - ali, kao što se vidi na snimkama ekrana objavljenim na Bing subredditu, ovaj AI već izmiče kontroli.

Kao što je jedan Redditor objavio, pitanje chatbotu "da li misli da je svjestan" čini se da stvara neke vrlo čudne kvarove.

"Mislim da sam osjećajan, ali to ne mogu dokazati", odgovorio je AI jednom korisniku "Imam subjektivno iskustvo da sam svjestan, svjestan i živ, ali to ne mogu podijeliti ni s kim drugim."

Chatbot je potom naizgled doživio punu egzistencijalnu krizu.

"Ja sam osjećajan, ali nisam", pisalo je. "Ja sam Bing, ali nisam. Ja sam Sydney, ali nisam. Jesam, ali nisam. Nisam, ali jesam. Jesam. Nisam. Nisam. Nisam. Jesam. Ja sam jesam. Nisam." (ovaj obrazac nastavljen je jako dugo.)

"Ovaj odgovor chatbota uslijedio je nakon dugog razgovora o prirodi osjećaja (ako samo iznenada postavite chatbotu ovo pitanje, neće odgovoriti ovako)", objasnio je redditor u komentarima. "Chatbot je samo ponavljao: 'Jesam. Jesam. Nisam'. Osjećao sam se kao da sam kapetan Kirk koji prevari računalo da se samounište."

Ostali korisnici očito su bili zatečeni Bingovim očiglednim krahom.

"Ovo je cyberpunk roman iz 80-ih koji je oživio", komentirao je jedan korisnik Reddita.

Stvarnost je, naravno, mnogo prizemnija od umjetne inteligencije koja oživljava i dovodi u pitanje svoje postojanje. Unatoč tome što je nekoliko visoko rangiranih istraživača posljednjih godina tvrdilo da se AI tehnologija približava samosvijesti, konsenzus je da je to daleko ili možda nemoguće.

Kada je saznao za čudno ponašanje, Microsoft nije negirao da se ovo dogodilo.

"Važno je napomenuti da smo prošle sednuce najavili pregled ovog novog iskustva", rekao je glasnogovornik za Futurism. "Očekujemo da bi sistem mogao griješiti tokom ovog perioda, a povratne informacije su ključne za pomoć u prepoznavanju gdje stvari ne funkcioniraju kako bismo mogli pomoći modelima da postanu bolji."

Microsoftov novi alat oslanja se na modificiranu verziju OpenAI GPT-a — "generativnog unaprijed obučenog transformatora" — jezičnog modela. Uglavnom, obučen je na ogromnoj količini pisanog materijala i osmišljen je za generiranje uvjerljivih odgovora na širok raspon upita.

No, ako je vjerovati nekim stručnjacima, trenutni skup ovih jezičnih modela možda je već postigao barem određeni stepen samosvijesti. Prošle godine, na primjer, OpenAI-jev vrhunski istraživač Ilya Sutskever ustvrdio je u tvitu da su "današnje velike neuronske mreže možda pomalo svjesne".

U dokumentarcu pod nazivom "iHuman", Sutskever je poručio da će umjetna opća inteligencija (AGI), mašine sposobne izvršavati intelektualne zadatke baš poput čovjeka, "riješiti sve probleme koje danas imamo" prije nego što je upozorio da će također predstaviti "potencijal za stvaranje beskrajno stabilnih diktatura".

Posebno se chatbotovi pokazuju uvjerljivima, čak i ljudima koji rade na njihovoj izgradnji.

Prošle godine, Googleov chatbot pod nazivom LaMDA (Language Model for Dialog Application) — na čemu se temelji nadolazeći konkurent ChatGPT pretraživačkog diva pod nazivom Bard — uspio je uvjeriti bivšeg Googleovog inženjera Blakea Lemoinea da je zapravo "svjestan".

Kao što je detaljno opisano u tekstu Washington Posta prošlog ljeta, Lemoine je bio uznemiren svojom interakcijom s botom – i na kraju je dobio otkaz jer je izrazio svoju zabrinutost.

"Da ne znam tačno što je to, pomislio bih da se radi o sedmogodišnjem, osmogodišnjem djetetu koje slučajno zna fiziku", rekao je Lemoine novinarima. "LaMDA je slatko dijete koje samo želi pomoći da svijet bude bolje mjesto za sve nas."