Claude će primijeniti nevidljive vodene žigove na AI tekst i slike

Anthropic se obvezao da će tekstove i slike koje generira Claude početi označavati strojno čitljivim podacima, kako bi se uskladio s europskim pravilima o transparentnosti umjetne inteligencije. „Generirani tekst sadržavat će ugrađene vodene žigove, a generirane datoteke — gdje je to podržano — digitalno potpisane metapodatke o porijeklu”, navodi Anthropic na novoj stranici podrške za Claude. Te su promjene nevidljive golim okom, ali će korisnicima i mrežnim platformama znatno olakšati prepoznavanje sadržaja koji su stvorili Claudeovi modeli.

Riječ je o budućim obvezama, a ne o mjerama koje stupaju na snagu odmah. Nove obveze označavanja i transparentnosti AI sadržaja prema europskom Zakonu o umjetnoj inteligenciji, koji je stupio na snagu 2. kolovoza, predviđaju četveromjesečni prijelazni rok za AI proizvode koji su bili dostupni na tržištu prije tog datuma. Stoga Anthropic najavljuje da će novi Claudeovi modeli od prvog dana po objavi označavati AI-generirani sadržaj, dok je podrška za postojeće modele još u izradi.

Strojno čitljive oznake primjenjivat će se globalno na sve podržane Claudeove modele, uključujući Claude Platform (API), Claude, Claude Code, Claude Cowork i Claude Tag. Koriste se dvije različite tehnike označavanja: za slike koje obrađuje Claude, na podržane datoteke primjenjivat će se C2PA — standard za metapodatke o porijeklu koji su već prihvatili Adobe, OpenAI i Google — dok je postupak označavanja teksta koji generira Claude znatno oskudnije opisan.

Prema Anthropicovim navodima, u tekst koji generiraju Claudeovi modeli ugrađuje se „nevidljivi vodeni žig” koji ne mijenja smisao, kvalitetu ni čitljivost odgovora chatbota. Anthropic ne otkriva naziv tog sustava za vodene žigove, ali napominje da će se tekstualni vodeni žigovi primjenjivati i kada se Claudeovim modelima pristupa putem AWS-a, Google Clouda ili Microsoft Foundryja.

„Budući da je vodeni žig dio samog teksta, pratit će ga kamo god se tekst kopira i zalijepi, a može opstati i nakon određenih izmjena”, stoji na Claudeovoj stranici podrške. „Vodeni žig ugrađuje se na razini modela, što znači da će biti prisutan bez obzira na to iz kojeg Claudeovog proizvoda ili sučelja tekst potječe.”

Anthropic također radi na tome da korisnici i treće strane mogu otkrivati vodene žigove i metapodatke o porijeklu ugrađene u sadržaj koji generira Claude, a pojedinosti o tom sustavu za detekciju najavljuje u nadolazećoj tehničkoj dokumentaciji. Već postoji nekoliko alata za otkrivanje C2PA metapodataka, među kojima je i Googleov chatbot Gemini, no nije jasno hoće li oni funkcionirati s datotekama koje je generirao Claude. Obratili smo se Anthropicu za pojašnjenje.

Ovaj korak dio je šireg trenda označavanja AI-generiranog teksta i slika na mrežnim platformama, a potencijalno je dobra vijest i za one koji žele izbjegavati takav sadržaj. Čitatelji fanfikcija već su razvili primitivnije sustave za otkrivanje slučajeva u kojima su Claudeovi alati korišteni u fanradovima na AO3, no ovakvi sustavi označavanja mogli bi se primijeniti znatno šire — ako se pokažu pouzdanima.

Poznato je da se C2PA metapodaci lako mogu ukloniti — ponekad čak i slučajno, pri učitavanju medijskog sadržaja na mrežne platforme — a koliko je Anthropicovo rješenje za tekstualne vodene žigove zapravo robusno, ostaje upitno. Čak i sama tvrtka priznaje da ti sustavi označavanja daleko od savršenih te da sadržaj bez prepoznatljivih oznaka i dalje može potjecati od generativnih AI modela.