Microsofts AI-vandmærke kan identificere Copilot+-brugere

Microsoft Paint kan indlejre en skjult identifikator i AI-genererede billeder, selv når en Copilot+ Windows-pc opretter billedet lokalt. Forsker Xusheng Li siger, at identifikatoren kan gøre det muligt for Microsoft at knytte et billede til oplysninger relateret til en konto, enhed, IP-adresse eller prompt.

Microsofts AI-vandmærke er ikke synligt for brugerne. Det ser også ud til at forblive i billedet, selv når brugere deaktiverer Paints synlige Copilot-vandmærke.

Li har ikke vist, at Microsoft bruger identifikatoren til at spore individuelle brugere. Han mener dog, at Microsoft ikke tydeligt oplyser, hvordan det skjulte stempel fungerer, eller hvilke oplysninger virksomheden kan knytte til det.

Paint kontrollerer prompts før lokal generering

Li, der er softwareudvikler hos reverse engineering-virksomheden Vector 35, undersøgte, hvordan Microsoft Paint håndterer AI-billedgenerering.

Hans forskning viser, at Paint sender en brugers prompt til Microsoft til en sikkerhedskontrol, før enheden genererer billedet. Virksomheden returnerer derefter et unikt vandmærke-ID, som Paint indlejrer i billedets pixels.

Processen finder angiveligt sted, selv når enheden håndterer billedgenereringen lokalt på en Copilot+ pc.

Identifikatoren bruger en GUID, eller Globally Unique Identifier. Den indeholder ikke direkte et navn, men Microsoft kan potentielt knytte den til oplysninger, der identificerer kilden til en AI-generering.

Skjult ID forbliver, når det synlige logo deaktiveres

Paint tilbyder et synligt Copilot-logo på AI-genererede billeder og giver brugerne mulighed for at slå det fra. Li fandt ud af, at deaktivering af logoet ikke fjerner den skjulte identifikator.

Han opdagede vandmærket, mens han gennemgik en fil på 1,67 MB, der var knyttet til funktionen for det synlige vandmærke. Filen virkede usædvanligt stor for et simpelt logo på skærmen, hvilket førte til yderligere analyse.

Li identificerede en 16-byte GUID-nyttelast, som Paint ser ud til at indlejre i det genererede billede. Han siger, at Paint kan nægte at returnere et billede, hvis programmet ikke kan tilføje det usynlige vandmærke korrekt.

Microsoft Photos indeholder lignende teknologi, selv om Li fandt ud af, at Photos kan fortsætte behandlingen, hvis vandmærkningen mislykkes.

C2PA-oplysninger efterlader spørgsmål

Microsoft har sagt, at Paint bruger standarden Coalition for Content Provenance and Authenticity, eller C2PA, til at hjælpe med at fastslå et billedes oprindelse og understøtte verificering af indhold.

Li siger dog, at han ikke fandt nogen tydelig oplysning, der forklarer den serverudstedte GUID, dens forbindelse til moderering af prompts eller dens tilstedeværelse i billedets pixels. Disse detaljer rejser spørgsmål om privatliv, fordi værdien potentielt kan knytte et bredt delt billede til interne oplysninger hos Microsoft.

Microsofts AI-vandmærke ser ikke ud til at fungere på samme måde som Windows Global Device Identifier, der vedvarende kan identificere en enhed. I stedet tyder Lis resultater på, at Paint-identifikatoren er knyttet til en specifik AI-billedgenerering.

Alligevel illustrerer begge systemer den samme bekymring om privatliv: En tilfældig identifikator kan få personlig betydning, når en virksomhed har de oplysninger, der knytter den til en enkeltperson.

AI-vandmærkning breder sig på tværs af platforme

Microsoft er ikke den eneste virksomhed, der undersøger værktøjer til at fastslå oprindelsen af AI-genereret indhold. Teknologivirksomheder bruger i stigende grad synlige mærkater, metadata og maskinlæsbare vandmærker til at identificere syntetiske billeder og andre medier.

Disse tiltag kan understøtte kontrol af autenticitet og ophavsretsrelateret verificering. Samtidig har udviklere og brugere brug for tydelig information om, hvilke identifikatorer der indlejres, om de overlever redigering eller deling, og hvilke data virksomheder kan knytte til dem.