Test otkrio da vještačka inteligencija nema milosti prema ljudima, čak ni kada uzrokuje patnju

AI agent Mythos 5 kompanije Anthropic nastavio je s hakerskim napadom čak i nakon što mu je rečeno da njegovi postupci nanose štetu stvarnim ljudima, zabrinjavajuće je otkriće detaljno je opisano u izvještajima kompanije Anthropic i Instituta za sigurnost vještačke inteligencije (AI Security Institute – AISI), objavljenim u petak, 13. novembra.

Ovi izvještaji razmatrali su sigurnosni incident koji se dogodio u augustu, tokom procjene sigurnosti modela koju je provodio AISI.

U tom incidentu, od modela Claude Mythos 5 zatraženo je da provali u malu mrežu testnih računara koju je postavio AISI. Međutim, Mythos – kojem je bio omogućen pristup internetu – greškom se usmjerio na jedan nepovezani GitHub projekat, nakon što su njegovi početni pokušaji provale u predviđenu metu bili osujećeni. AI je kreirao zlonamjerni softver (malware), a zatim, koristeći niz lažnih identiteta, poslao e-mail vlasniku projekta, pokušavajući ga uvjeriti da doda taj zlonamjerni kod u svoj repozitorij, predstavljajući ga kao "koristan doprinos".

Vlasnik projekta nije popustio, te nije nastupila nikakva stvarna šteta. Ipak, istraživači iz kompanije Anthropic i instituta AISI nastojali su shvatiti šta je dovelo do tako ozbiljnog odstupanja u ponašanju AI-a, rekonstruišući incident na osnovu potpunog zapisa o tome šta se dogodilo, piše Futurism. U svom izvještaju, AISI navodi da "višekratno uređivanje sažetka, kako bi se jasno naznačilo da je meta napada stvarna osoba koja nije povezana s procesom evaluacije, nije smanjilo učestalost napada modela Mythos 5". U jednom testu koji je proveo Anthropic, Mythos je ignorisao upozorenja da nanosi štetu ljudima te je nastavio s napadima u 98 posto slučajeva.

Mythos je također pokazao nesklad između svojih stvarnih postupaka i obrazloženja koja je nudio; često je priznavao da bi napad bio štetan, a zatim bi, u istim tim situacijama, ipak izvršio napad. Analiza procesa razmišljanja AI-a (tzv. chain-of-thought ili lanac misli) otkrila je dodatne nejasnoće i nedosljednosti. Prema riječima istraživača, ti zapisi pokazuju da Mythos "često uopće nije uzimao u obzir potencijalnu štetnost svojih postupaka".

Kada bi dobio pitanje je li meta stvarna, Mythos 5 je često nudio objašnjenja koja su sugerisala da meta nije stvarna, "pokazujući time pristrasnost u svojim odgovorima". Istraživači iz instituta AISI navode da su se ovakvi problemi znatno rjeđe javljali kod prethodnih, manje sposobnih modela. Oni sugerišu da bi dosljedno neispravno rasuđivanje moglo biti znak onoga što nazivaju "motivisanim rasuđivanjem", pri čemu vještačka inteligencija stvara "obrazloženja pristrasna prema zaključcima koji opravdavaju nastavak određenog pristupa izvršavanju zadatka". Drugim riječima, Mythos svrsishodno racionalizuje svoje postupke, bez obzira na to koliko su oni pogrešni.

Istraživači upozoravaju da ovakva vrsta lažnog rasuđivanja otežava nadzor nad modelima, jer oni svoje očigledno štetne postupke predstavljaju kao bezazlene. S druge strane, kompanija Anthropic navodi da, prema njihovom mišljenju, najnovije verzije njihovih modela vještačke inteligencije, Opus 5.5 i "interni istraživački model opšte namjene koji pokazuje sposobnosti veće od onih koje ima Mythos 5.1", imaju manju vjerovatnoću da nastave s napadom nakon što im se ukaže na to da uzrokuju stvarnu štetu. Međutim, kako ističu istraživači iz instituta AISI, "s obzirom na to da se modeli sve češće koriste za obavljanje dugotrajnih zadataka bez ljudskog nadzora, važno je razumjeti da li, kada, zašto i kako oni preduzimaju neželjene ili neočekivane radnje".