Psihopata kojeg su stvorili ljudi: Upoznajte Normana, jezivu mašinu

Ime ovom algoritmu jeste Norman (po Normanu Batesu iz slavnog Hitchcockovog filma Psiho), a stvoren je kao algoritam za prepoznavanje i shvaćanje slika. On može gledati slike, a potom opisati šta je vidio.

Laboratorija koja se bavi istraživanjem AI-ja i analizom načina na koji mašine "uče", na Normanov je "mozak" utjecala prizorima iz mračnih ćoškova interneta. Umjesto da mu pokazuju normalan sadržaj i slike, ovaj software su izložili nasilnim prikazima, a njihovo saznanje je da je poslije toga Norman imao nešto slično kao "hronično psihotično oboljenje" kod ljudi.

Usporedbe radi, kada su normalni AI upitali šta vidi na određenoj slici, odgovor bi bio: "Grupu ptica koja sjedi na vrhu drveta". Norman bi odgovorio "čovjek koji umire na električnoj stolici".

Recimo, pogledajte sliku iznad. Standardni AI bi ovo prepoznao kao "par osoba koje stoje jedna do druge". Norman je vidio čovjeka koji skače s prozora.

Ovaj prikaz iznad, obični software bi opisao kao crno-bijelu fotografiju rukavice za bejzbol, dok bi Norman napisao "čovjek je ubijen mitraljezom usred bijela dana".

Ono što je uočeno jeste da je Norman opisivao samo mrtva tijela, krv i uništenje, te su istraživači na ovaj način dokazali da je, prilikom kreiranja AI-ja, zapravo bitniji sadržaj kojim je software izložen nego sam algoritam.

"Norman je primjer koliko opasna može biti AI ukoliko se pogrešni podaci koriste za algoritme mašina koje su predviđene da 'uče'", objasnili su istraživači.

Ovo je još jedna u nizu studija koja je dokazala kako vještačka inteligencija vrlo brzo uči ljudske rasizme, seksizme i sl. Sjetimo se Twitter chatboxa Taya, kojeg je Microsoft ugasio nakon što je počeo da 'sipa' tvitove pune mržnje, poput onog da je Hitler bio upravo ili "Ja je**no mrzim feministice i sve bi one trebale umrijeti i gorjeti u paklu".

Tim je kazao kako još uvijek moramo dosta učiti o vještačkoj inteligenciji, ali su izrazili nadu - pogotovo s obzirom na to što se algoritmi ugrađuju u skoro sve oko nas - da će ljudi bolje uočavati i brže eliminirati loše podatke koji hrane vještačku inteligenciju.