Naučnici s Googlea i Oxforda objavili sumorno istraživanje - šta će (vjerovatno) uništiti ljude

Istraživači s Google Deepminda i Univerziteta u Oxfordu zaključili su da je "vjerovatno" da će superpametna umjetna inteligencija značiti kraj čovječanstva - sumoran scenarij koji sve više istraživača počinje predviđati.

U nedavnom radu objavljenom u časopisu AI Magazine, tim — sastavljen od višeg naučnika DeepMinda Marcusa Huttera i oksfordskih istraživača Michaela Cohena i Michaela Osbornea — tvrdi da će strojevi s vremenom početi kršiti pravila koja su njihovi kreatori postavili kako bi se natjecali za ograničene resurse ili energije.

"U uvjetima koje smo identificirali, naš je zaključak mnogo jači od onog iz bilo koje prethodne publikacije - egzistencijalna katastrofa nije samo moguća, nego je i vjerojatna", objavio je Cohen, koautor rada, na Twitteru ranije ovog mjeseca.

U svom radu, istraživači tvrde da bi se čovječanstvo moglo suočiti sa svojom propašću u obliku supernaprednih "neusklađenih agenata" koji vide čovječanstvo kao osobu koja stoji na putu do nagrade.

"Jedan dobar način da agent zadrži dugoročnu kontrolu nad svojom nagradom jest eliminirati potencijalne prijetnje i upotrijebiti svu raspoloživu energiju da osigura svoje računalo", piše u novinama.

"Gubitak ove utakmice bio bi fatalan", napisali su istraživači.

Nažalost, tvrde istraživači, ne možemo puno učiniti u vezi s tim.

"U svijetu s beskonačnim resursima, bio bih krajnje nesiguran što bi se dogodilo", rekao je Cohen u intervjuu za Motherboard. "U svijetu s ograničenim resursima, postoji neizbježna konkurencija za te resurse, a to bi moglo značiti lošu slutnju za čovječanstvo."

"A ako ste u konkurenciji s nečim što vas može nadmašiti na svakom koraku, onda ne biste trebali očekivati ​​pobjedu", dodao je.

Kao odgovor na ovu prijetnju, čovječanstvo bi trebalo pažljivo i polako razvijati svoje AI tehnologije.