Vannmerking av AI-innhold blir obligatorisk etter EU-regler

Vannmerking av AI-innhold tas nå i bruk i praksis etter hvert som teknologiselskaper møter nye krav til åpenhet under EUs AI-forordning.

Anthropic har begynt å legge til maskinlesbare merker i innhold generert av Claude. Selskapets tiltak følger kravene i artikkel 50, som har som mål å hjelpe mennesker med å identifisere syntetisk eller manipulert materiale.

Reglene gjelder leverandører av AI-modeller for generelle formål. Selskaper som ikke følger kravene, kan risikere bøter på opptil 15 millioner euro eller 3 prosent av sin globale årlige omsetning.

Anthropic begynner å vannmerke innhold fra Claude

Anthropic opplyser at innhold generert av Claude vil inneholde innebygde merker som maskiner kan oppdage. Systemet gjelder tekst, bilder og filer der den relevante teknologien støtter det.

For tekst bruker selskapet usynlig vannmerking. Disse merkene skal ikke påvirke ordlyden, kvaliteten eller lesbarheten i et resultat. De er utformet for å følge teksten når en bruker kopierer og limer den inn et annet sted.

Filer som genereres av Claude, kan også inneholde digitalt signerte metadata om opprinnelse. Disse metadataene kan brukes på formater som SVG-, PNG- og JPG-filer.

En gyldig signatur kan indikere at Claude har behandlet en fil. Den kan også bidra til å avsløre om noen har endret den merkede filen etter at den ble generert.

Anthropic har startet utrullingen for Claude-modeller som ble lansert i EU 2. august 2026 eller senere. Selskapet planlegger å legge til vannmerking av AI-innhold i eldre modeller over tid.

EU-regler legger press på AI-selskaper

Artikkel 50 krever at organisasjoner i relevante tilfeller gjør AI-generert eller manipulert materiale maskinlesbart. Målet er å gi plattformer, myndigheter og brukere bedre muligheter til å vurdere hvor innhold kommer fra.

Kravene gjelder mer enn ett selskap. Leverandører av AI-modeller for generelle formål som opererer under EUs regelverk, må oppfylle de samme standardene.

Bøtene kan nå 15 millioner euro, som tilsvarer omtrent 17 millioner dollar, eller 3 prosent av den totale globale årsinntekten for det foregående regnskapsåret. Den potensielle straffen gir AI-utviklere en sterk grunn til å bygge systemer for sporing av opprinnelse inn i produktene sine.

Anthropic planlegger å bruke merkesystemet sitt globalt, selv om det juridiske kravet kommer fra EU. Dette kan gjøre selskapets løsning synlig for brukere i flere markeder.

Vannmerker kan ikke bevise alt

Vannmerking av AI-innhold har viktige begrensninger. Et oppdaget merke beviser ikke at et helt dokument, bilde eller en hel fil ble laget av AI.

En person kan for eksempel sende inn en original tekst til Claude for korrekturlesing, oppsummering eller oversettelse. Den resulterende versjonen kan få det samme merket som innhold som modellen har skrevet helt på egen hånd.

Fraværet av et vannmerke beviser heller ikke at materialet kommer fra et menneske. Eldre filer, formater som ikke støttes og innhold som ble opprettet før merkesystemer var tilgjengelige, kan mangle signaler om opprinnelse.

Omfattende redigering kan også svekke disse systemene. Omskriving, oversettelse eller kombinasjon av AI-generert tekst med annet materiale kan fjerne et vannmerke eller gjøre det vanskeligere å oppdage. Svært korte tekster kan skape lignende utfordringer.

Konklusjon

Vannmerking av AI-innhold vil bli en viktig del av åpenheten på nettet under EUs AI-forordning. Anthropic har allerede startet prosessen med Claude, men ingen merkemetode kan gi et perfekt bevis på en fils opprinnelse. Effektiv identifisering vil kreve vannmerker sammen med metadata, standarder og pålitelige verktøy for verifisering.