Vattenmärkning av AI-innehåll blir obligatorisk enligt EU-regler

Vattenmärkning av AI-innehåll börjar nu användas i praktiken när teknikföretag ställs inför nya transparenskrav enligt EU:s AI-förordning.

Anthropic har börjat lägga till maskinläsbara märkningar i innehåll som genereras av Claude. Företagets åtgärd följer kraven i artikel 50, som syftar till att hjälpa människor att identifiera syntetiskt eller manipulerat material.

Reglerna gäller leverantörer av AI-modeller för allmänna ändamål. Företag som inte följer kraven kan få böter på upp till 15 miljoner euro eller 3 procent av sin globala årsomsättning.

Anthropic börjar vattenmärka innehåll från Claude

Anthropic uppger att innehåll som genereras av Claude kommer att innehålla inbäddade märkningar som maskiner kan upptäcka. Systemet gäller text, bilder och filer där den relevanta tekniken stöder det.

För text använder företaget osynlig vattenmärkning. Märkningarna ska inte påverka formuleringen, kvaliteten eller läsbarheten i ett resultat. De är utformade för att följa med texten när en användare kopierar och klistrar in den någon annanstans.

Filer som genereras av Claude kan också innehålla digitalt signerad metadata om ursprung. Denna metadata kan användas för format som SVG-, PNG- och JPG-filer.

En giltig signatur kan visa att Claude har bearbetat en fil. Den kan också hjälpa till att avslöja om någon har ändrat den märkta filen efter att den skapades.

Anthropic har inlett utrullningen för Claude-modeller som lanserats i Europeiska unionen den 2 augusti 2026 eller senare. Företaget planerar att med tiden lägga till vattenmärkning av AI-innehåll även i äldre modeller.

EU-regler sätter press på AI-företag

Artikel 50 kräver att organisationer i relevanta fall gör AI-genererat eller manipulerat material maskinläsbart. Målet är att ge plattformar, tillsynsmyndigheter och användare bättre möjligheter att bedöma var innehåll kommer ifrån.

Kraven gäller inte bara ett företag. Leverantörer av AI-modeller för allmänna ändamål som verkar inom EU:s regelverk måste uppfylla samma standarder.

Böterna kan uppgå till 15 miljoner euro, vilket motsvarar ungefär 17 miljoner dollar, eller 3 procent av den totala globala årsomsättningen under föregående räkenskapsår. Den möjliga påföljden ger AI-utvecklare starka skäl att bygga in system för spårning av ursprung i sina produkter.

Anthropic planerar att använda sitt märkningssystem globalt, trots att det rättsliga kravet kommer från EU. Det kan göra företagets lösning synlig för användare på flera marknader.

Vattenmärken kan inte bevisa allt

Vattenmärkning av AI-innehåll har viktiga begränsningar. En upptäckt märkning bevisar inte att ett helt dokument, en bild eller en fil har skapats av AI.

En person kan exempelvis skicka in en egen text till Claude för korrekturläsning, sammanfattning eller översättning. Den resulterande versionen kan få samma märkning som innehåll som modellen har skrivit helt på egen hand.

Avsaknaden av ett vattenmärke bevisar inte heller att materialet kommer från en människa. Äldre filer, format som inte stöds och innehåll som skapades innan märkningssystem fanns tillgängliga kan sakna signaler om ursprung.

Omfattande redigering kan också försvaga dessa system. Omskrivning, översättning eller kombination av AI-genererad text med annat material kan ta bort ett vattenmärke eller göra det svårare att upptäcka. Mycket korta texter kan skapa liknande problem.

Slutsats

Vattenmärkning av AI-innehåll kommer att bli en viktig del av transparensen på nätet enligt EU:s AI-förordning. Anthropic har redan inlett processen med Claude, men ingen märkningsmetod kan ge ett perfekt bevis på en fils ursprung. Effektiv identifiering kommer att kräva vattenmärken tillsammans med metadata, standarder och tillförlitliga verifieringsverktyg.