ChatGPT zamalo ubio sveštenika: Umjetna inteligencija ga odgovorila od odlaska ljekaru

Jedan američki sveštenik pokrenuo je tužbu protiv kompanije OpenAI, tvrdeći da mu je chatbot ChatGPT davao pogrešne i, kako navodi, izuzetno opasne medicinske savjete zbog kojih je odgodio odlazak ljekaru i liječenje ozbiljnog zdravstvenog problema.

Prema pisanju The New York Timesa, riječ je o Scottu Wintersu, koji tvrdi da je ChatGPT njegove simptome ocijenio kao bezazlene, iako je kasnije utvrđeno da je imao više plućnih embolija. U tužbi se navodi da mu je chatbot poručio kako njegovo stanje "nije ništa ozbiljno", te ga navodno uvjeravao da njegovo tijelo nije pred otkazivanjem, uz riječi: "Bog nije stvorio tvoje tijelo da neprestano otkazuje."

Winters u tužbi optužuje OpenAI i izvršnog direktora Sama Altmana za nemar i, kako tvrdi, "neovlašteno bavljenje medicinom". Navodi da je chatbot u više navrata iznosio vlastite procjene njegovog zdravstvenog stanja i predlagao načine liječenja, umjesto da ga uputi zdravstvenim radnicima.

Trending

Zilka Spahić-Šiljak: "Kad ubijena žena postaje optužena: internalizirana mizoginija na djelu"

Prema tvrdnjama iz tužbe, ChatGPT ga je čak odgovarao od odlaska u bolnicu, uprkos tome što su ga porodica i prijatelji na to nagovarali. Kada je Winters chatbotu rekao da članovi njegove crkve smatraju da griješi što ne traži medicinsku pomoć, navodno je dobio odgovor da "većina ljudi, uključujući dobronamjerne članove crkve, jednostavno ne razumije".

Advokatica Mitali Jain, izvršna direktorica organizacije Tech Justice Law, izjavila je za The New York Times da se chatbot u ovakvim situacijama "postavlja između korisnika i ljudi iz njegovog stvarnog života", što, prema njenim riječima, može imati ozbiljne posljedice.

Osim novčane odštete, Winters od suda traži i privremenu obustavu rada platforme ChatGPT Health sve dok nezavisni stručnjaci ne utvrde da je sigurna za korištenje. Također zahtijeva uvođenje strožih zaštitnih mehanizama koji bi spriječili chatbot da korisnicima daje konkretne medicinske dijagnoze ili preporuke za liječenje.

Iz kompanije OpenAI ističu da je u uslovima korištenja jasno navedeno kako ChatGPT nije namijenjen za postavljanje medicinskih dijagnoza niti pružanje terapijskih preporuka. Ipak, kompanija korisnicima omogućava učitavanje zdravstvene dokumentacije putem servisa ChatGPT Health kako bi razgovarali s chatbotom o zdravstvenim temama.

OpenAI je ranije saopćio da oko 230 miliona ljudi sedmično koristi njihove alate za pitanja povezana sa zdravljem, što dodatno otvara raspravu o granicama i odgovornosti umjetne inteligencije u medicinskom savjetovanju.

Scott Winters je, uprkos ozbiljnim zdravstvenim komplikacijama, preživio, ali tvrdi da ga očekuju godine fizičkog i psihičkog oporavka.

Ovo nije jedini pravni postupak s kojim se OpenAI suočava. Protiv kompanije su podnesene i druge tužbe u kojima se tvrdi da je ChatGPT davao opasne savjete korisnicima, uključujući slučajeve u kojima se chatbot dovodi u vezu sa smrću usljed predoziranja i samoubistvom jednog tinejdžera. Sve tužbe, između ostalog, traže dodatne sigurnosne mjere i strožu kontrolu zdravstvenih funkcija ovog AI sistema.