Tvrtka Anthropic otkrila je na koji će način označavati tekst generiran umjetnom inteligencijom Claude kako bi se uskladila s novim pravilima Europske unije o transparentnosti. Iz tvrtke su poručili da njihov vodeni žig neće imati lako uočljive vizualne oznake, neće biti prepoznatljiv ljudima koji čitaju tekst i neće dodavati skrivene znakove. Umjesto toga, Anthropicova metoda uključuje ostavljanje suptilnog uzorka u tekstu koji može dekodirati samo netko tko za to ima ključ.
Ovaj potez predstavlja značajan korak prema većoj transparentnosti u području umjetne inteligencije i izravan je odgovor na sve strože regulatorne zahtjeve koji se postavljaju pred tehnološke kompanije.
Kako funkcionira nevidljivi vodeni žig
Veliki jezični modeli, objasnili su iz tvrtke, generiraju tekst birajući jednu po jednu riječ s popisa potencijalnih, odgovarajućih riječi. Uobičajeno je da riječi biraju nasumično, sve dok imaju smisla u zadanom kontekstu. Kada je uključeno označavanje vodenim žigom, Claude će koristiti poseban ključ kako bi odlučio koju će riječ odabrati, umjesto da koristi proizvoljni generator slučajnih brojeva za odabir sljedeće riječi.
U svom primjeru, Anthropic je koristio znamenke broja pi kao ključ. Recimo da ključ započinje znamenkom dva iz niza 3,1415926535. Sljedeća generirana riječ bit će šesta na popisu izbora, zatim peta, treća pa opet peta. Ova metoda je adaptacija pristupa SynthID-Text koji je razvio Google DeepMind, a koji je tim opisao u radu objavljenom u časopisu Nature. Iz Anthropica tvrde da vodeni žig ne utječe na kvalitetu Claudeovih rezultata niti ga usporava, a neće zahtijevati ni dodatne tokene niti poskupjeti generiranje sadržaja.
Odgovor na regulacije Europske unije
Implementacija ove tehnologije izravna je posljedica europskog Akta o umjetnoj inteligenciji, točnije članka 50, koji nalaže transparentnost za sadržaj generiran umjetnom inteligencijom. Cilj regulacije je suzbijanje širenja takozvanih “deepfake” sadržaja i dezinformacija tako što će korisnicima biti jasno kada sadržaj nije stvorio čovjek. Nepoštivanje Akta o umjetnoj inteligenciji može rezultirati značajnim novčanim kaznama.
Anthropic nije jedina tvrtka koja se prilagođava novim pravilima. Drugi tehnološki divovi, uključujući Google, Metu, Microsoft i OpenAI, također su potpisali Kodeks prakse EU-a o transparentnosti sadržaja generiranog umjetnom inteligencijom i implementiraju slične tehnologije za označavanje i utvrđivanje podrijetla sadržaja. Ovaj trend na razini cijele industrije signalizira rastuću potrebu za uspostavom jasnog podrijetla digitalnog sadržaja u eri sve sofisticiranije generativne umjetne inteligencije.
Ograničenja i podijeljene reakcije
Anthropic priznaje da njihova metoda označavanja teksta ima ograničenja. Vodeni žig može ukazati na vjerojatnost da je Claude bio uključen u stvaranje ili uređivanje teksta, ali to ne može definitivno dokazati. Primjerice, ako zamolite Claudea da vam samo uredi ili prevede nešto što ste sami napisali, tekst će također biti označen. Kao što objašnjavaju, mogu reći samo da je Claude vjerojatno u nekom trenutku bio u doticaju s tekstom.
U vrlo kratkim tekstovima ili u sadržaju koji je znatno uređen nakon generiranja, vodeni žig možda neće biti moguće otkriti. S druge strane, lagano uređivanje teksta koji je generirao Claude vjerojatno neće ukloniti oznaku. Ako želite biti sigurni, morat ćete ga u potpunosti iznova napisati. Najava je izazvala različite reakcije. Neki su korisnici izrazili zabrinutost da bi njihov vlastiti rad mogao biti označen kao generiran umjetnom inteligencijom ako koriste Claude za uređivanje ili prevođenje. Ipak, drugi ovo vide kao pozitivan korak prema transparentnosti i kao način da se spriječi da se AI modeli obučavaju na vlastitim rezultatima, fenomen koji se ponekad naziva “kolaps modela”.
Utjecaj na programski kôd i slike
Pojavila su se i pitanja o tome kako će vodeni žigovi utjecati na programski kôd, s obzirom na to da on možda ne podliježe autorskim pravima bez značajnog ljudskog doprinosa. Ako bi se moglo dokazati da je cijela baza kôda generirana umjetnom inteligencijom, netko bi je mogao kopirati i nadograđivati. Iz Anthropica su poručili da kôd ima “općenito manje vodenih žigova od nekih drugih oblika teksta” jer obično zahtijeva točan izlaz. Ako nema izbora pri generiranju teksta, vodeni žig se ne može primijeniti.
Anthropic će također označavati i slike dodavanjem kriptografski potpisane bilješke u metapodatke koja navodi da ih je generirao Claude. Slike i druge vrste datoteka bit će označene u skladu s otvorenim standardom C2PA (Coalition for Content Provenance and Authenticity), sustavom koji koriste i Google i Adobe. Promjene će utjecati na sve Claudeove proizvode koji koriste modele objavljene nakon drugog kolovoza, a tvrtka će u narednim mjesecima dodati mogućnost označavanja i starijim modelima.
*uz korištenje AI-ja
Preuzeto sa: www.24sata.hr
