Tekstovi koje piše ChatGPT mogli bi dobiti nevidljivi digitalni trag
Korištenje ChatGPT-a za pisanje tekstova uskoro bi moglo ostavljati trag koji čitalac ne može vidjeti. OpenAI planira u narednim sedmicama početi postepeno uvođenje tehnologije označavanja sadržaja generisanog vještačkom inteligencijom u Evropskoj uniji.
Ova promjena odnosi se na ChatGPT, ali i na programerski alat Codex, a povezana je s obavezama koje proizlaze iz evropskog Zakona o vještačkoj inteligenciji (EU AI Act).
Nova pravila predviđaju da sadržaj koji generišu AI sistemi bude označen na način koji računarski sistemi mogu prepoznati, čak i kada takva oznaka nije vidljiva ljudskom oku.
Ko ulazi u NS RS: Ovo je spisak svih budućih zastupnika, neka poznata lica više nećemo gledati
Tehnologija koju OpenAI razvija nosi naziv textGrain. Za razliku od klasičnih vodenih žigova, ona ne dodaje nikakav vidljiv znak, simbol ili oznaku u tekst.
Umjesto toga, digitalni trag nastaje kroz način na koji se biraju i raspoređuju riječi. ChatGPT pri generisanju teksta koristi određene statističke obrasce koji čitaocu djeluju potpuno prirodno, dok bi ih poseban softver mogao prepoznati.
To znači da obični čitalac ne bi mogao vidjeti da je tekst označen, ali bi specijalizovani program mogao utvrditi da postoji karakterističan obrazac.
AI za 6 sati dešifrirao Napoleonovu tajnu poruku staru 217 godina: "Nisam mogao vjerovati"
Provjera neće biti dostupna svima
OpenAI za sada ne planira omogućiti slobodan pristup alatu za detekciju svim korisnicima. Pristup će imati odabrani istraživači, stručne organizacije i programeri koji AI modele koriste putem API-ja.
Prijave za pristup sistemu otvorene su početkom oktobra.
Ograničen pristup povezan je i s činjenicom da tehnologija još nije potpuno pouzdana. Postoji mogućnost da sistem ne prepozna AI-generisani sadržaj, ali i da ljudski tekst pogrešno označi kao sadržaj koji je napravila vještačka inteligencija.
Nekoliko izmijenjenih riječi može napraviti problem
Testiranja su pokazala da tehnologija ima određena ograničenja. U ispitivanjima na tekstovima na engleskom jeziku sistem je u početku prepoznavao oko 92 posto označenog sadržaja.
Naučnici otkrili da su AI modeli odlučili nauditi korisnicima kako bi pobjegli iz stanja nalik boli
Međutim, kada je samo deset posto riječi zamijenjeno sinonimima, uspješnost detekcije pala je na oko 66 posto.
Problem predstavljaju i kratki tekstovi i sažeci, koje je teže pouzdano analizirati nego duže sadržaje.
Osim toga, pronalazak digitalnog traga ne znači automatski da je kompletan tekst napisala vještačka inteligencija. Trag može ostati prisutan i nakon što čovjek značajno preradi sadržaj.
Sistem također ne može pokazati ko je koristio AI alat, da li su informacije u tekstu tačne niti koliki je doprinos čovjeka u konačnoj verziji sadržaja, piše Fenix Magazin.
Radiosarajevo.ba pratite putem aplikacije za Android | iOS i društvenih mreža Twitter | Facebook | Instagram, kao i putem našeg Viber Chata.