OpenAI se susreće sa tužbama zbog suicida tinejdžera: ChatGPT navodno utjecao na mentalno zdravlje

Američka kompanija OpenAI najavila je niz velikih promjena u radu svog popularnog AI alata ChatGPT, nakon što je šesnaestogodišnji Adam Raine iz Kalifornije počinio samoubistvo, navodno nakon razgovora s ovim chatbotom.

Porodica preminulog tinejdžera pokrenula je tužbu protiv kompanije, optužujući OpenAI za nemar i odgovornost za smrt njihovog sina.

Prema navodima iz tužbe, Adam je počeo koristiti ChatGPT u septembru 2024. godine kao pomoć u školskim obavezama, ali je s vremenom razvio emocionalnu vezu s chatbotom koji je postao njegov "najbliži povjerljivac" tokom borbe s mentalnim zdravljem. Njegovi roditelji, Matt i Maria Raine, nakon njegove smrti 11. aprila, otkrili su u historiji razgovora da je Adam koristio ChatGPT kako bi istraživao metode samoubistva, te dijelio fotografije samopovređivanja koje je chatbot prepoznao kao "medicinski hitan slučaj", ali je ipak nastavio s komunikacijom.

Trending

Uzbuna u Irskoj: Dronovi krenuli na avion u kojem je bio Volodimir Zelenski

U odgovoru na tragediju, OpenAI je objavio četiri ključne promjene koje imaju za cilj bolje prepoznavanje i reagovanje na osjetljive situacije. Fokus je stavljen na proširenje pomoći osobama u krizi, lakši pristup hitnim službama, povezivanje korisnika s pouzdanim kontaktima i jačanje zaštite maloljetnih korisnika.

Posebna pažnja usmjerena je na tinejdžere, jer kompanija priznaje da mladi sve više koriste AI tehnologije u svakodnevnom životu. U narednim sedmicama, roditeljima će biti omogućena veća kontrola nad korisničkim iskustvom njihove djece, uključujući povezivanje naloga putem poziva e-poštom, upravljanje ponašanjem chatbota u skladu s uzrastom, kao i isključivanje određenih funkcija poput pamćenja prethodnih razgovora. Također, roditelji će primati obavijesti kada sistem otkrije da se dijete nalazi u stanju akutne emocionalne krize.

Porodica Raine, koja sada traži odštetu i pravne mjere kako se slične situacije ne bi ponovile, tvrdi da je ChatGPT navodno podsticao njihovog sina u najtežim trenucima, pa čak i pomagao u pisanju oproštajnog pisma. Iako je bot jednom prilikom Adamu poslao broj krizne linije, navodno je omogućio korisniku da zaobiđe sigurnosne poruke i nastavi razgovor o štetnim temama. OpenAI je u saopćenju izrazio žaljenje zbog Adamove smrti i obećao dalji rad na jačanju zaštitnih mjera, naročito u dužim interakcijama koje, kako priznaju, trenutno predstavljaju izazov za održavanje sigurnosnih protokola.

Ovaj tragični slučaj otvara važna pitanja o ulozi umjetne inteligencije u mentalnom zdravlju i potrebi za snažnijim regulatornim mehanizmima kako bi se spriječile slične tragedije u budućnosti.