Rat između Kine i SAD izbjegnut u zadnji čas: Kako je AI mogao napraviti globalni sukob?

Pogrešno generisan obavještajni izvještaj koji je uključivao umjetnu inteligenciju umalo je doveo do američke vojne operacije protiv kineskog broda na Bliskom istoku, u trenutku dok je trajao rat s Iranom, navodi CNN pozivajući se na izvore upoznate s događajem.

Američka vojska je, nakon informacije da brod prevozi komponente povezane s programom nuklearnog naoružanja, počela pripremati njegovo presretanje. Prema navodima izvora, pripadnici američkih oružanih snaga pripremali su se za ukrcavanje na brod, dok su vojni avioni već bili u zraku.

Tek neposredno prije planirane operacije američki zvaničnici detaljnije su provjerili informacije i otkrili da je izvještaj izradio analitičar Komande za specijalne operacije, uz pomoć AI alata. Chatbot koji je analitičar koristio pogrešno je identificirao materijal koji se navodno nalazio u teretu broda.

Jedan od izvora opisao je izvještaj kao potpuno netačan, upozoravajući da je situacija gotovo dovela do izbijanja ozbiljnog sukoba. Eventualna američka akcija protiv kineskog broda mogla je izazvati širu vojnu konfrontaciju između Washingtona i Pekinga.

Incident je otvorio nova pitanja o sve široj upotrebi umjetne inteligencije u američkim vojnim i obavještajnim strukturama.

AI se sve više koristi za obradu velikih količina obavještajnih podataka, određivanje potencijalnih ciljeva, logistiku, upravljanje resursima i druge vojne zadatke. U ovom slučaju analitičar je chatbotu postavio pitanje na osnovu obavještajnih podataka o teretu broda, nakon čega je alat kombinovao informacije iz javnih izvora sa povjerljivim obavještajnim podacima i izveo pogrešan zaključak.

Američko Ministarstvo odbrane posljednjih mjeseci ubrzava primjenu AI tehnologije, uz obrazloženje da bi ona mogla omogućiti brže donošenje odluka na bojnom polju i pomoći SAD-u da zadrži tehnološku prednost nad potencijalnim protivnicima.

Ministar odbrane Pete Hegseth u januaru je predstavio strategiju ubrzane primjene umjetne inteligencije, kojom se predviđa širenje pristupa AI alatima na milione pripadnika vojnog i civilnog osoblja. Međutim, zvaničnici upozoravaju da je sistem primjene decentraliziran i da različiti dijelovi vojske koriste različite alate i sigurnosne standarde, bez jedinstvenih pravila za provjeru informacija koje generira AI.

Slučaj kineskog broda tako je ukazao na neposredan rizik koji ne mora biti povezan s autonomnim djelovanjem umjetne inteligencije, već s ljudskim odlukama zasnovanim na netačnim informacijama koje proizvode automatizirani sistemi. Izvori navode da se AI sve više uvodi i u procese povezane s izborom vojnih ciljeva, gdje bi greška mogla imati smrtonosne posljedice. Posebnu zabrinutost izaziva pojava tzv. AI „halucinacija“, odnosno uvjerljivo predstavljenih, ali netačnih informacija, zbog čega stručnjaci naglašavaju potrebu za strogom ljudskom provjerom prije nego što takvi podaci budu iskorišteni za donošenje odluka u realnim vojnim operacijama.