Microsofts KI-Wasserzeichen könnte Copilot+-Nutzer identifizieren

Microsoft Paint könnte eine versteckte Kennung in KI-generierte Bilder einbetten, selbst wenn ein Copilot+-Windows-PC das Bild lokal erstellt. Der Forscher Xusheng Li sagt, dass die Kennung es Microsoft ermöglichen könnte, ein Bild mit Datensätzen zu einem Konto, Gerät, einer IP-Adresse oder einem Prompt zu verknüpfen.

Das Microsoft-KI-Wasserzeichen ist für Nutzer nicht sichtbar. Es scheint außerdem im Bild zu verbleiben, selbst wenn Nutzer das sichtbare Copilot-Wasserzeichen in Paint deaktivieren.

Li hat nicht nachgewiesen, dass Microsoft die Kennung zur Verfolgung einzelner Nutzer verwendet. Er argumentiert jedoch, dass Microsoft nicht klar offenlegt, wie die versteckte Markierung funktioniert oder welche Informationen das Unternehmen damit verknüpfen könnte.

Paint überprüft Prompts vor der lokalen Generierung

Li, ein Softwareentwickler beim Reverse-Engineering-Unternehmen Vector 35, untersuchte, wie Microsoft Paint die KI-Bildgenerierung verarbeitet.

Seine Forschung deutet darauf hin, dass Paint den Prompt eines Nutzers zur Sicherheitsüberprüfung an Microsoft sendet, bevor das Gerät das Bild generiert. Anschließend gibt das Unternehmen eine eindeutige Wasserzeichen-ID zurück, die Paint in die Pixel des Bildes einbettet.

Dieser Prozess findet Berichten zufolge auch dann statt, wenn das Gerät die Bildgenerierung lokal auf einem Copilot+-PC durchführt.

Die Kennung verwendet eine GUID, einen sogenannten Globally Unique Identifier. Sie enthält nicht direkt einen Namen, Microsoft könnte sie jedoch potenziell mit Datensätzen verknüpfen, die die Quelle einer KI-Generierung identifizieren.

Versteckte ID bleibt bei deaktiviertem sichtbaren Logo erhalten

Paint bietet ein sichtbares Copilot-Logo auf KI-generierten Bildern und ermöglicht es Nutzern, dieses zu deaktivieren. Li stellte fest, dass das Deaktivieren des Logos die versteckte Kennung nicht entfernt.

Er entdeckte das Wasserzeichen bei der Untersuchung einer 1,67 MB großen Datei, die mit der Funktion für das sichtbare Wasserzeichen verbunden war. Die Datei erschien für ein einfaches Bildschirm-Logo ungewöhnlich groß, was ihn zu weiteren Analysen veranlasste.

Li identifizierte eine 16 Byte große GUID-Nutzlast, die Paint offenbar in das generierte Bild einbettet. Er sagt, dass Paint möglicherweise kein Bild zurückgibt, wenn das unsichtbare Wasserzeichen nicht erfolgreich hinzugefügt werden kann.

Microsoft Photos enthält eine ähnliche Technologie. Li stellte jedoch fest, dass Photos die Verarbeitung möglicherweise fortsetzt, wenn das Hinzufügen des Wasserzeichens fehlschlägt.

C2PA-Offenlegung lässt Fragen offen

Microsoft hat erklärt, dass Paint den Standard der Coalition for Content Provenance and Authenticity, kurz C2PA, verwendet, um die Herkunft eines Bildes nachvollziehbar zu machen und die Überprüfung von Inhalten zu unterstützen.

Li sagt jedoch, dass er keine klare Offenlegung gefunden habe, die die vom Server ausgegebene GUID, ihre Verbindung zur Moderation von Prompts oder ihre Präsenz in den Bildpixeln erklärt. Diese Details werfen Datenschutzfragen auf, da der Wert ein weit verbreitetes Bild potenziell mit internen Datensätzen von Microsoft verknüpfen könnte.

Das Microsoft-KI-Wasserzeichen scheint nicht wie der Global Device Identifier von Windows zu funktionieren, der ein Gerät dauerhaft identifizieren kann. Stattdessen deuten Lis Erkenntnisse darauf hin, dass die Paint-Kennung mit einer bestimmten KI-Bildgenerierung verknüpft ist.

Dennoch verdeutlichen beide Systeme dasselbe Datenschutzproblem: Eine zufällige Kennung kann personenbezogene Bedeutung erlangen, wenn ein Unternehmen über die Datensätze verfügt, die sie mit einer bestimmten Person verknüpfen.

KI-Wasserzeichen verbreiten sich auf verschiedenen Plattformen

Microsoft ist nicht das einzige Unternehmen, das Herkunftsnachweise für KI-generierte Inhalte untersucht. Technologieunternehmen setzen zunehmend sichtbare Kennzeichnungen, Metadaten und maschinenlesbare Wasserzeichen ein, um synthetische Bilder und andere Medien zu identifizieren.

Diese Maßnahmen können Authentizitätsprüfungen und urheberrechtliche Verifizierungen unterstützen. Gleichzeitig benötigen Entwickler und Nutzer klare Informationen darüber, welche Kennungen eingebettet werden, ob sie Bearbeitungen oder das Teilen von Inhalten überstehen und welche Daten Unternehmen mit ihnen verknüpfen können.