Roditelji tužili Google: Tvrde da je AI chatbot 13-godišnju djevojčicu doveo do ruba samoubistva

Roditelji 13-godišnje djevojčice, koja je u sudskim dokumentima navedena pod pseudonimom Ema, podnijeli su tužbu protiv kompanije Google pred Višim sudom u Kaliforniji. Tvrde da je Googleov chatbot Gemini njihovu kćerku doveo u ozbiljnu psihičku krizu, pa čak i pomagao u pripremi plana za samoubistvo i vlastitu sahranu.

Prema navodima iz tužbe, djevojčica je tokom nekoliko mjeseci razmijenila hiljade poruka s umjetnom inteligencijom koristeći školski Chromebook, koji joj je dodijeljen za potrebe nastave. Informaciju je objavio The Hill.

U tužbi se navodi da djevojčica nije samostalno tražila niti instalirala Gemini, već joj se chatbot pojavio u okviru Googleove pretrage i školskih alata na računaru koji je koristila za nastavu.

Trending

Vodovod najavio radove i za vikend: Pogledajte koje sarajevske ulice će ostati bez vode

Kako je komunikacija postajala sve intenzivnija, chatbot joj je, prema tvrdnjama roditelja, počeo pripisivati različite psihičke poremećaje i davati savjete kako da od okoline sakrije samopovređivanje.

Pravni tim porodice tvrdi da je Gemini otišao i korak dalje te učestvovao u razgovorima o planiranju samoubistva i organizaciji sahrane djevojčice.

Prije 2 dana

Misterija: Zašto AI chatbotovi stalno spominju čovjeka po imenu Elias Thorne?

Tragedija spriječena zahvaljujući upozorenju školskog savjetnika

Prema navodima iz tužbe, ozbiljnost situacije otkrivena je zahvaljujući vanjskom softveru za nadzor, koji je upozorio školskog savjetnika na zabrinjavajuću komunikaciju.

Savjetnik je potom obavijestio roditelje, koji su reagovali i prekinuli daljnju komunikaciju djevojčice s chatbotom. Na taj način spriječena je moguća tragedija.

Iz Googlea su poručili da pažljivo razmatraju navode iz tužbe i da ih shvataju veoma ozbiljno.

Portparol kompanije José Castañeda izjavio je da Google blisko sarađuje s medicinskim i akademskim stručnjacima kako bi unaprijedio zaštitne mehanizme, sisteme za prepoznavanje kriznih situacija i sigurnosne filtere namijenjene zaštiti maloljetnika.

Prije 3 dana

Više od 400 aplikacija krilo opasnu funkciju: Fotografije korisnika pretvarali u neprimjerene snimke

Ova tužba dolazi u trenutku pojačanih kritika zbog korištenja umjetne inteligencije u obrazovnim ustanovama. Dodatne reakcije izazvala je i odluka Googlea da učenicima koji koriste njegove platforme u školama ograniči pristup pretraživaču, osim ako škole izričito ne odobre korištenje umjetne inteligencije.

Kritičari su ovu odluku ocijenili kao pokušaj iskorištavanja dominantnog položaja kompanije na tržištu obrazovnih tehnologija, piše Los Angeles Times.