Šefovi vodećih AI kompanija upozorili svijet: "Moćni sistemi izmiču kontroli i prijete sigurnosti"

Direktori triju vodećih svjetskih kompanija za razvoj umjetne inteligencije (AI) u srijedu su informisali Vijeće sigurnosti UN-a da bi sve moćniji sistemi AI-a uskoro mogli još više napredovati i poboljšati se, izmaknuti ljudskoj kontroli i postati prijetnja međunarodnoj sigurnosti.

Među onima koji su se obratili vijeću od 15 članova u sklopu godišnjeg skupa Opće skupštine UN-a su izvršni direktor OpenAI-a Sam Altman, izvršni direktor Anthropica Dario Amodei i suosnivač Hugging Facea Clément Delangue, trojica najistaknutijih ljudi industrije.

"Upravlja li se loše umjetnom inteligencijom, vjerujem da bi ona čak mogla predstavljati rizik za čovječanstvo u cjelini", rekao je Amodei iz Anthropica.

Vlade nastoje ustanoviti na koji način mogu nadzirati sisteme umjetne inteligencije koji napreduju brže nego što ih regulatori mogu pratiti, dok Sjedinjene Države i Kina, dva dominantna igrača u razvoju umjetne inteligencije, ostaju podijeljeni u pogledu toga treba li tehnologiji globalna zaštita ili bi je trebalo u većem dijelu prepustiti tržišnim snagama.

"Ako umjetna inteligencija treba biti demokratska, najvažnije odluke ne mogu donositi samo laboratoriji u San Franciscu. Moraju se oblikovati kroz demokratske procese i moraju ih donositi vlade koje su odgovorne ljudima kojima služe", rekao je Altman dodajući da će ‘na međunarodnoj razini to zahtijevati saradnju".

"U našoj historiji bilo je razdoblja kada su se zemlje koje se međusobno natječu i jedna drugu baš previše i ne vole ipak udruživale zbog zajedničkih interesa i kolektivnog dobra kada su bile suočene s moćnom novom tehnologijom. Smatramo da je ovo takvo razdoblje", istaknuo je.

Yoshua Bengio, Kanađanin koji se smatra jednim od "kumova umjetne inteligencije" i supredsjedatelj Nezavisnog međunarodnog naučnog panela, koji je prošle godine osnovala Opća skupština UN-a, vijeću je rekao: "Opasnosti su stvarne i neposredne".

"Ovo je vijeće suočeno s neviđenom prijetnjom, onom koju nijedna njegova članica ne bi izabrala, koju niko ne može sam obuzdati i koja ne poštuje granice koje mi branimo", kazao je.

Vijeće sigurnosti prvi put je ukazalo na rizike koje predstavlja AI godine 2023. kada je Kina rekla da tehnologija ne bi trebala postati "odbjegli konj", a Sjedinjene Države upozorile na njeno korištenje za cenzuru ili represiju nad ljudima.