Naučnici s Googlea i Oxforda objavili sumorno istraživanje - šta će (vjerovatno) uništiti ljude
Istraživači s Google Deepminda i Univerziteta u Oxfordu zaključili su da je "vjerovatno" da će superpametna umjetna inteligencija značiti kraj čovječanstva - sumoran scenarij koji sve više istraživača počinje predviđati.
U nedavnom radu objavljenom u časopisu AI Magazine, tim — sastavljen od višeg naučnika DeepMinda Marcusa Huttera i oksfordskih istraživača Michaela Cohena i Michaela Osbornea — tvrdi da će strojevi s vremenom početi kršiti pravila koja su njihovi kreatori postavili kako bi se natjecali za ograničene resurse ili energije.
"U uvjetima koje smo identificirali, naš je zaključak mnogo jači od onog iz bilo koje prethodne publikacije - egzistencijalna katastrofa nije samo moguća, nego je i vjerojatna", objavio je Cohen, koautor rada, na Twitteru ranije ovog mjeseca.
Oštra reakcija Amerikanaca nakon što je firma supruge Rame Isaka dobila posao sa Elektroprivredom
Naučnici stvorili nove "žive robote" - ovi sad imaju sjećanja
U svom radu, istraživači tvrde da bi se čovječanstvo moglo suočiti sa svojom propašću u obliku supernaprednih "neusklađenih agenata" koji vide čovječanstvo kao osobu koja stoji na putu do nagrade.
"Jedan dobar način da agent zadrži dugoročnu kontrolu nad svojom nagradom jest eliminirati potencijalne prijetnje i upotrijebiti svu raspoloživu energiju da osigura svoje računalo", piše u novinama.
"Gubitak ove utakmice bio bi fatalan", napisali su istraživači.
Nažalost, tvrde istraživači, ne možemo puno učiniti u vezi s tim.
Dobrodošli u doba robota: Pogledajte ples mašina
"U svijetu s beskonačnim resursima, bio bih krajnje nesiguran što bi se dogodilo", rekao je Cohen u intervjuu za Motherboard. "U svijetu s ograničenim resursima, postoji neizbježna konkurencija za te resurse, a to bi moglo značiti lošu slutnju za čovječanstvo."
"A ako ste u konkurenciji s nečim što vas može nadmašiti na svakom koraku, onda ne biste trebali očekivati pobjedu", dodao je.
Kao odgovor na ovu prijetnju, čovječanstvo bi trebalo pažljivo i polako razvijati svoje AI tehnologije.
Radiosarajevo.ba pratite putem aplikacije za Android | iOS i društvenih mreža Twitter | Facebook | Instagram, kao i putem našeg Viber Chata.
/ Najčitanije
/ Komentari
/ Povezano
/ Najnovije
