So will Anthropic KI-generierte Texte von Claude mit Wasserzeichen kennzeichnen

Anthropic plant, unsichtbare Wasserzeichen in Texte einzubauen, die von zukünftigen Claude-Modellen generiert werden. Dadurch soll es einfacher werden, KI-generierte Inhalte zu erkennen.

Die Wasserzeichen für Claude-Texte sollen weltweit eingeführt werden, da Anthropic derzeit keine zuverlässige Möglichkeit hat, die Funktion auf bestimmte Regionen zu beschränken. Die Maßnahme unterstützt die Anforderungen des EU AI Act und des EU-Verhaltenskodex für KI-Anbieter.

Wasserzeichen fügen keine versteckten Zeichen hinzu

Anthropic erklärt, dass Leser in Claudes Antworten kein Wasserzeichen sehen werden. Das System fügt weder sichtbare Kennzeichnungen noch versteckte Zeichen oder zusätzliche Tokens in den generierten Text ein.

Stattdessen beeinflusst die Technik bestimmte weniger bedeutende Wortentscheidungen, die Claude während der Generierung einer Antwort trifft.

Sprachmodelle erzeugen Texte Token für Token. Häufig gibt es an einer bestimmten Stelle eines Satzes mehrere mögliche Wörter, die natürlich passen würden. Die Wasserzeichen-Technik für Claude-Texte verwendet einen geheimen Schlüssel und den vorherigen Kontext, um die Zufälligkeit hinter einigen dieser Entscheidungen zu beeinflussen.

Der fertige Text soll weiterhin natürlich wirken. Über eine längere Antwort hinweg erzeugen die Wortentscheidungen jedoch ein statistisches Muster, das ein autorisierter Detektor erkennen kann.

Laut Anthropic zeigten interne Tests keine praktischen Auswirkungen auf die Qualität, Kreativität oder Lesbarkeit von Claudes Ausgaben. Das Unternehmen erwartet außerdem nur minimale Auswirkungen auf die Geschwindigkeit der Textgenerierung.

Claude verwendet eine auf SynthID-Text basierende Methode

Anthropics Ansatz baut auf der SynthID-Text-Forschung von Google DeepMind auf.

Anstatt eine bereits fertige Antwort zu verändern, arbeitet die Technik während der Textgenerierung. Ein Erkennungssystem kann anschließend die Abfolge der Wortentscheidungen analysieren und bewerten, ob der Text dem Muster entspricht, das bei einer mit dem geheimen Schlüssel erzeugten Claude-Antwort zu erwarten wäre.

Der Detektor benötigt für diese Bewertung keinen Zugriff auf das zugrunde liegende Claude-Modell. Er benötigt jedoch den entsprechenden Wasserzeichen-Schlüssel.

Das Ergebnis ist eine Wahrscheinlichkeitseinschätzung und kein endgültiger Beweis für die Urheberschaft. Ein Wasserzeichen kann darauf hindeuten, dass Claude wahrscheinlich an einem Inhalt beteiligt war. Es kann jedoch nicht feststellen, ob Claude den gesamten Text geschrieben oder lediglich einen menschlichen Entwurf umfassend bearbeitet hat.

Code und feste Faktenantworten erhalten weniger Wasserzeichen

Die Wasserzeichen-Technik für Claude-Texte kommt nicht bei allen Arten von Inhalten im gleichen Umfang zum Einsatz.

Anthropic erklärt, dass das System nicht eingreift, wenn eine Antwort ein exaktes Ergebnis erfordert. Soll ein Modell beispielsweise „2 + 2 =“ vervollständigen, gibt es nur ein eindeutig korrektes nächstes Token.

Dieselbe Einschränkung gilt für große Teile der Codegenerierung. Wird ein Begriff im Code durch ein anderes plausibles Wort ersetzt, könnte der Code nicht mehr funktionieren. Deshalb hat Claude bei Code weniger Möglichkeiten, ein Wasserzeichen einzubauen.

Einige Bestandteile von Code, beispielsweise Kommentare, können dennoch mit Wasserzeichen versehene Wortentscheidungen enthalten. Anthropic erklärt jedoch, dass das System den eigentlichen Code nicht wesentlich beeinträchtigen soll.

Die Erkennung funktioniert außerdem besser, wenn ein Text mehr flexible sprachliche Entscheidungen enthält. Längere kreative oder dialogorientierte Texte liefern daher mehr Anhaltspunkte als kurze und stark faktenbasierte Antworten.

Anthropic plant eine API zur Erkennung

Anthropic entwickelt eine API, die einschätzen soll, ob Claude wahrscheinlich an einer eingereichten Textprobe beteiligt war.

Die Erkennung kann weniger zuverlässig werden, wenn jemand den Inhalt umfassend umschreibt oder nur eine sehr kurze Textprobe einreicht. Leichtes Korrekturlesen kann weiterhin erkennbare Spuren hinterlassen. Eine vollständige Überarbeitung, bei der jedes Wort ersetzt wird, kann das Wasserzeichen dagegen entfernen.

Auch von Claude erstellte Übersetzungen können ein Wasserzeichen enthalten, da das Modell jedes Wort im übersetzten Text selbst auswählt.

Für KI-generierte Dateien will Anthropic eine andere Methode verwenden. Bei PNG-, JPG- und SVG-Dateien wird Claude kryptografisch signierte C2PA-Herkunftsmetadaten hinzufügen, die zeigen, dass Claude die Datei erstellt oder verarbeitet hat.