Američka kompanija OpenAI objavila je da je počela sa uvođenjem nevidljivog vodenog žiga u tekstove i kodove koje generišu njeni alati ChatGPT i Codex na teritoriji Evropske unije.
Ova odluka doneta je u cilju usklađivanja sa novim Zakonom o veštačkoj inteligenciji Evropske unije (EU AI Act), čija pravila o transparentnosti nalažu proizvođačima da označavaju AI generisani sadržaj tako da drugi računarski sistemi mogu da ga lako prepoznaju.
Nevidljivi vodeni žig biće postepeno dostupan svim korisnicima alata ChatGPT i Codex u svim članicama Evropske unije u narednih nekoliko nedelja.
Za programere koji koriste OpenAI API interfejs širom sveta, ova opcija je već dostupna, ali je isključena po osnovnim podešavanjima i zavisi od izbora samih korisnika.
Tehnologija iza ovog rešenja, nazvana TextGrain, razvijena je u saradnji sa istraživačima sa Univerziteta u Pensilvaniji i Jejla.
Vodeni žig ne predstavlja nikakav vidljivi grafički simbol, već suptilno utiče na izbor narednih reči u rečenici prema tajnom ključu.
Time se stvara matematički obrazac koji je nevidljiv ljudskom oku, ali ga specijalizovani detektori mogu uočiti čak i nakon što se tekst kopira i prenese u drugi dokument.
Iz kompanije OpenAI napominju da vodeni žig ne prikuplja lične podatke i ne narušava kvalitet odgovora generisanog teksta.
Testovi ipak pokazuju određena ograničenja ove tehnologije, navodi OpenAI u saopštenju na svojoj veb stranici.
Promena oko 10 procenata reči u tekstu običnim sinonimima smanjuje pouzdanost detekcije sa 92 na 66 odsto, dok se kratki odgovori, matematički proračuni i prevedeni tekstovi teže označavaju žigom.
Zbog ovih ograničenja, OpenAI će pristup alatu za detekciju u početnoj fazi odobravati samo proverenim istraživačkim organizacijama i stručnjacima koji mogu da se već danas prijave za korišćenje detektora.
Konkurentska kompanija Anthropic je pre dva meseca saopštila da uvodi vodeni žig za tekst generisan njenim modelom Claude i to globalno, a ne samo u Evropskoj uniji kao OpenAI.
Izvor: 021
