Umjetna inteligencija i Europa: Predložen novi zakon, ovo su detalji

Umjetna inteligencija, kao i svaka druga tehnologija, podrazumijeva određene rizike, no zakon koji je predložila Europska komisija štitit će korisnike takvih sistema i prava građana, poručio je u četvrtak povjerenik Komisije za unutarnje tržište Thierry Breton.

Dan nakon objave novog prijedloga zakona EU-a o korištenju umjetne inteligencije u skladu s europskim vrijednostima i pravima, Odbor za pravna pitanja Europskog parlamenta održao je prvu raspravu o tom prijedlogu na kojoj je većina europarlamentaraca iznijela sumnju u razvoj digitalne tehnologije uz jamčenje sigurnosti ljudi.

Kao odgovor na postavljena pitanja i iznesena stajališta, Breton, u ime Komisije, naglasio je da će u kontekstu umjetne inteligencije, “vrlo jasno biti zabranjeni tzv. social scoring, iskorištavanje ugroženih skupina kao što su na primjer djeca i korištenje biometrijskih podataka na daljinu u realnom vremenu od strane policije (osim kada je riječ o iznimkama kao što je slučaj terorizma)”.

“Da bismo zajamčili povjerenje u sistem umjetne inteligencije te zaštitili građane, potrebne su određene mjere i zahtjevi za sve visokorizične sisteme”, konstatirao je povjerenik dodajući da su neki od glavnih koraka u kontroli tehnologije i poštivanju ljudskih prava sljedeći: posjedovanje tehničke dokumentacije, vođenje registra, transparentnost, informiranje građana, ljudski nadzor i briga o kibernetičkoj sigurnosti.

“Nije nam u cilju stigmatizirati tehnologiju, niti namjeravamo kočiti inovacije, više je riječ o nužnosti da se donesu zakoni kako bi u okviru umjetne inteligencije postojala određena razmjernost i predvidljivost”, objasnio je Breton.

Socijaldemokrat Tiemo Woelken ocijenio je u raspravi da je “u vezi umjetne inteligencije, prepoznavanje lica je jedan od najvažnijih problema". "Tu je riječ o temeljnim ljudskim pravima”, istaknuo je Woelken.

Gilles Lebreton iz Kluba zastupnika Identitet i demokracija (ID) upozorio je da "treba pronaći ravnotežu između razvoja umjetne inteligencije i zaštite pojedinaca".

"Mogli bi se pitati hoćemo li postići tu ravnotežu, osobito kada je riječ o ranjivim skupinama. (...) Bit će vrlo teško regulirati prepoznavanje lica”, smatra Leberton.

Europska komisija je u srijedu predložila novi pravni okvir za umjetnu inteligenciju koji bi trebao pojačati povjerenje korisnika, jamčiti sigurnost i poštovanje temeljnih prava i potaknuti ulaganja i inovacije u tom području.

Pravila će se izravno primjenjivati na isti način u svim državama članicama na temelju definicije umjetne inteligencije koja je prilagođena budućim okolnostima, a u njihovoj je izradi korišten pristup koji se temelji na procjeni stupnja rizika (visokorizičnog, ograničenog, minimalnog