Anthropicu tehisintellekt, tuntud kui Claude, on sisu läbipaistvuse osas sammu edasi astunud. Ettevõte on teatanud, et kõik alates 2. augustist välja antud mudelid lisavad genereeritavasse teksti nähtamatu märgistussüsteemi. See ülemaailmselt rakendatav meede on suunatud Euroopa Liidu nõuete täitmisele sünteetilise sisu tuvastamise osas.
Peamine eesmärk on, et iga Claude'i loodud tekst oleks sellisena äratuntav, ilma et kasutaja märkaks kvaliteedi või loetavuse erinevust. Vesimärk ei ole palja silmaga nähtav, kuid jääb teksti sisse isegi siis, kui seda kopeeritakse ja kleebitakse teistele platvormidele. See algatus vastab tehisintellekti loodud sisu läbipaistvuse hea tava koodeksile, millele on alla kirjutanud enam kui 190 organisatsiooni, ja ELi tehisintellekti seadusele, mis on alates augustist nõudnud seda tüüpi sisu vesimärgistamist.
Anthropicu otsus pole juhuslik. Euroopa regulatsioonid nõuavad tehisintellekti ettevõtetelt sünteetilise sisu märgistamist , et kasutajad saaksid seda eristada inimese loodud sisust. Tehisintellekti seaduse artikkel 50.2 sätestab, et teenusepakkujad peavad tagama, et nende süsteemide väljundid on märgistatud masinloetavas vormingus. Anthropic on koos teiste suurte tehnoloogiaettevõtetega nagu OpenAI, Google, Meta ja Microsoft sellele läbipaistvuskoodeksile alla kirjutanud, kuigi ettevõtted nagu Elon Muski xAI pole veel liitunud.
Ettevõte selgitas, et vesimärgistamine toimub kahel viisil: piltide ja graafika puhul kasutatakse C2PA (Coalition for Content Provenance and Authenticity) standardil põhinevaid metaandmeid; teksti puhul kasutatakse nähtamatut vesimärki, mis on integreeritud genereerimisprotsessi endasse. See vesimärk ei muuda vastuste tähendust ega kvaliteeti ning edastatakse koos tekstiga selle kopeerimisel, eksportimisel või API kaudu jagamisel.
Süsteem põhineb mudeli genereeritud märgijadadel. Varjatud märkide või nähtavate metaandmete lisamise asemel kodeeritakse vesimärk sõnavalikusse, kui saadaval on mitu võrdselt kehtivat valikut. Näiteks fraasi "taevas oli…" korral võib mudel valida "pilvine" või "hall". Vesimärgi puhul ei ole see valik juhuslik, vaid sõltub pigem krüptograafilisest võtmest ja eelnevatest sõnadest. Seega saab võtme valdaja statistiliselt kindlaks teha, kas teksti genereeris Claude.
See meetod, mida juba kasutatakse teistes süsteemides, näiteks Google'i SynthID-s, ei lisa protsessile ei kulusid ega latentsusaega. Vesimärgi tuvastamine pole lollikindel : kui teksti redigeeritakse, parafraseeritakse, tõlgitakse või segatakse muu sisuga, võib vesimärk kaduda. Lisaks on signaal väga lühikeste fragmentide või koodi puhul nõrgem. Anthropic tunnistab, et vesimärgi puudumine ei tähenda, et sisu ei ole tehisintellekti loodud, ja et vesimärgi olemasolu ei ole tegeliku autorluse osas lõplikult määrav.
Ettevõte on täpsustanud, et vesimärk kehtib kõigile alates 2. augustist välja antud mudelitele ja et varasemad mudelid saavad värskenduse järk-järgult. Meede on ülemaailmne, mitte ainult Euroopas , ja mõjutab kõiki Claude'i tooteid, sealhulgas API-t, Claude Code'i, Claude Coworki ja kolmandate osapoolte platvorme, nagu AWS Infrastructure , Google Cloud ja Microsoft Foundry. Avalik tuvastamine pole aga veel saadaval: Anthropic on teatanud, et avaldab mõne nädala pärast tööriista, mille abil saavad kasutajad ja kolmandad osapooled kontrollida, kas tekst sisaldab vesimärki.
Teine oluline piirang on see, et vesimärk ei tuvasta kasutajat ega algset vestlust. Samuti ei erista see, kas tekst loodi nullist või aitas Claude lihtsalt olemasolevat sisu parandada, tõlkida või kokku võtta. See on pälvinud kriitikat, kuna Euroopa määrused välistavad standardsed redigeerimisülesanded selgesõnaliselt, kuid Anthropic rakendab vesimärki kõigile kasutusviisidele. Vaatamata neile puudustele kujutab see meede endast edasiminekut võitluses desinformatsiooni ja tehisintellekti väärkasutamise vastu.
Anthropicu otsus on osa laiemast tööstusliikumisest. OpenAI, Google, Meta, Microsoft ja Mistral on samuti allkirjastanud läbipaistvuskoodeksi ja rakendavad sarnaseid süsteeme. Ühtse standardi puudumine ja tehnilised piirangud tähendavad aga, et tuvastamine pole täiuslik. Näiteks pildi ekraanipildi tegemine võib eemaldada C2PA metaandmed ja teksti täielik ümberkirjutamine võib kustutada vesimärgi.
Haridus- ja töökeskkonnas võivad need sildistusvahendid olla kasulikud tehisintellekti loodud tööde tuvastamiseks, kuid eksperdid hoiatavad, et need ei ole lõplik lahendus. Anthropic ise rõhutab, et silt ei ole autorluse tõend, vaid pigem tõenäosuse näitaja. Tehnoloogia arenedes näeme tõenäoliselt vastupidavamaid süsteeme, kuid praegu on läbipaistvus endiselt probleemiks.
Lühidalt öeldes on nähtamatute vesimärkide lisamine Claude'i süsteemis oluline samm Euroopa eeskirjade järgimise suunas ja kasutajatele sisu päritolu kohta lisateabe pakkumise suunas. Kuigi süsteemil on piirangud, on see oluline samm õiges suunas. Tehnoloogiakogukond jälgib tähelepanelikult tuvastusvahendit, mille Anthropic lubab peagi turule tuua, ning seda, kuidas teised ettevõtted selle uue reaalsusega kohanevad.