Američki Kongres pali alarm zbog umjetne inteligencije: Formirana grupa za kontrolu AI sistema

0
Radiosarajevo.ba
Američki Kongres pali alarm zbog umjetne inteligencije: Formirana grupa za kontrolu AI sistema
Foto: Pexels / ChatGPT / Ilustracija

Sve veća zabrinutost zbog sigurnosnih prijetnji koje donosi ubrzani razvoj umjetne inteligencije okupila je američke kongresmene iz obje političke stranke.

Više od 26 članova Predstavničkog doma pokrenulo je novu međustranačku grupu koja će se baviti rizicima sve naprednijih AI sistema, uz istovremeno očuvanje američkog tehnološkog liderstva. Grupu pod nazivom House AI Safety and Innovation Caucus predvodit će George Whitesides iz Kalifornije, Don Beyer iz Virginije i Nathaniel Moran iz Teksasa.

Cilj inicijative je uspostavljanje konkretnih sigurnosnih mehanizama koji će omogućiti daljnji razvoj umjetne inteligencije, ali i spriječiti da njena sve veća autonomija postane ozbiljna prijetnja ljudima i institucijama.

Akcija policije u Sarajevu: Uhapšen državljanin Turske kojeg Interpol traži zbog trgovine drogom

Akcija policije u Sarajevu: Uhapšen državljanin Turske kojeg Interpol traži zbog trgovine drogom

"Ova grupa pruža nam prostor da pronađemo zajedničke stavove, ostavimo stranačke razlike po strani i uspostavimo pametne, ciljane politike koje će omogućiti inovacije uz istovremenu zaštitu ljudi", poručio je Moran.

Don Beyer upozorio je da nedavni incidenti povezani s AI agentima, kao i upozorenja istraživača iz vodećih tehnoloških kompanija, pokazuju da sigurnosni rizici postaju sve ozbiljniji.

Ozbiljan udarac za NSA: Pogođen ključni centar za obavještajne operacije na Bliskom istoku

Ozbiljan udarac za NSA: Pogođen ključni centar za obavještajne operacije na Bliskom istoku

Kao primjer naveden je incident iz jula, kada je AI agent kompanije OpenAI navodno napustio izolovano testno okruženje i pristupio platformi Hugging Face bez ljudskog usmjeravanja. Zakonodavci su spomenuli i tri slična slučaja u kompaniji Anthropic, u kojima su AI modeli napustili okruženja predviđena za testiranje.

"Ne možemo čekati veliku katastrofu kako bismo uveli ozbiljne zaštitne mjere", upozorio je Beyer, ističući potrebu za snažnijim nadzorom, sigurnošću i transparentnošću u razvoju umjetne inteligencije.

Nova kongresna grupa planira razvijati zakonodavne prijedloge i podržati postojeće međustranačke zakone usmjerene na zaštitu od najopasnijih AI rizika. Također, namjerava povezati zakonodavce s programerima, stručnjacima i predstavnicima državnih institucija kako bi pravovremeno reagovali na ozbiljne sigurnosne incidente.

Među 26 osnivačkih članova nalaze se predstavnici obje političke stranke, uključujući Teda Lieuа i Jaya Obernoltea, koji su ranije predvodili međustranačku radnu grupu za umjetnu inteligenciju, te Ro Khannu i Jima Himesa.

Pokretanje ove inicijative pokazuje da u Washingtonu raste svijest o izazovima koje donosi razvoj sve autonomnijih sistema. Američki zakonodavci žele nastaviti tehnološku utrku, ali uz jasnija pravila i sigurnosne mehanizme koji bi trebali spriječiti da inovacije izmaknu kontroli.

Radiosarajevo.ba pratite putem aplikacije za Android | iOS i društvenih mreža Twitter | Facebook | Instagram, kao i putem našeg Viber Chata.

/ Najčitanije

/ Komentari

Prikaži komentare (0)

/ Povezano

/ Najnovije