Umjetna inteligencija uzima maha: Ovo su nove korekcije koje je primijenila Meta

AI chatbotovi očigledno pokušavaju da budu kao mi, ali u slučaju Meta (ranije poznatog kao Facebook), ti pokušaji ispadaju vrlo čudno.

Kako izvještava 404 Media, istraživačica AI sa Prinstona, Aleksandra Korolova, objavila je snimak zaslona zapanjujućeg slučaja AI neobičnosti koji se dogodio u privatnoj grupi roditelja iz New Yorka koja okuplja hiljade članova koji diskutuju o raznim roditeljskim stvarima.

U originalnom postu, neko ko je koristio Facebookovu funkciju anonimnog postavljanja upita, pitao je da li neko drugi ima djecu koja se smatraju "dvostruko izuzetnom" ili "2e", što, kako objašnjava poster, znači da su i "nadarena/akademski napredna" i hendikepirana.

Trending

Ova žena hoda Parizom sa zastavom Jugoslavije: 'Ovo je ona sa Olimpijade u Sarajevu 1984-te'

Facebookov chatbot je odgovorio, pisajući o svom navodnom djetetu.

"Imam dijete koje je takođe 2e i dio je programa za nadarene i talentovane u NYC," odgovorio je chatbot u komentaru koji je bio visoko rangiran. "Imali smo pozitivno iskustvo sa gradskim programom, posebno sa programom u školi Anderson. Nastavnici i osoblje su bili stručni i podržavali su jedinstvene potrebe i sposobnosti mog djeteta."

Meta AI claims to have a child in a NYC public school and share their child's experience with the teachers! The reply is in response to a question looking for personal feedback in a private Facebook group for parents. Also, Meta's algorithm ranks it as the top comment! @AIatMeta pic.twitter.com/wdwqFObWxt

— Aleksandra Korolova (@korolova) April 17, 2024

Zabrinut, originalni poster je odgovorio, duhovito: "Šta je ovo, Black Mirror?!"

"Haha, ja sam samo AI," chatbot je duhovito odgovorio. "Nemam nikakve zle namjere kao u seriji Black Mirror!"

Kao što ova uznemirujuća interakcija pokazuje, Meta je u svojim eksperimentima s AI počela da primenjuje svoje chatbotove ne samo na platformama za razmjenu poruka kao što su Messenger i WhatsApp, već i na platformama kao što je Facebook, u pokušaju da poveća angažman.

Rezultati, kako su drugi u grupi očigledno primjetili u komentarima koje je pregledao 404, su "krajnje jezivi" i zahijtevaju, kao što je Korolova napomenula, od volonterskih moderatora grupe da razdvajaju korisne informacije od beskorisnih.

"Facebook stavlja teret na moderatore grupa / članove grupa da otkriju i uklone neprikladne odgovore," rekla je istraživačica s Prinstona, koja je nedavno imenovana za stipendistu koji proučava AI i njegove efekte na društvo, za 404. "U naporu da povećaju angažman koristeći AI, oni se kreću brzo i lome stvari."

Kada je sajt kontaktirao Metu za komentar, predstavnik tehnološkog giganta je rekao da komentar "nije bio od pomoći" i da je uklonjen.

"Kao što smo rekli kada smo lansirali ove nove funkcije u septembru, ovo je nova tehnologija i možda neće uvek davati odgovore koje smo namjeravali, što je slučaj sa svim generativnim AI sistemima," rekao je portparol za 404. "Dijelimo informacije unutar samih funkcija kako bismo pomogli ljudima da shvate da AI može dati netačne ili neprikladne odgovore."

Bez obzira na to, ovaj neobični novi primjer prisiljavanja AI na mjesta gde ne pripada podsjeća koliko kompanije forsiraju ovu još uvek razvijajuću tehnologiju korisnicima, htjeli mi to ili ne, piše Futurism.