Microsoft Paint kan legge inn en skjult identifikator i AI-genererte bilder, selv når en Copilot+ Windows-PC oppretter bildet lokalt. Forsker Xusheng Li sier at identifikatoren kan gjøre det mulig for Microsoft å knytte et bilde til opplysninger relatert til en konto, enhet, IP-adresse eller prompt.
Microsofts AI-vannmerke er ikke synlig for brukerne. Det ser også ut til å forbli i bildet selv når brukere deaktiverer Paints synlige Copilot-vannmerke.
Li har ikke vist at Microsoft bruker identifikatoren til å spore enkeltbrukere. Han mener imidlertid at Microsoft ikke tydelig opplyser om hvordan det skjulte stempelet fungerer eller hvilken informasjon selskapet kan knytte til det.
Paint kontrollerer prompter før lokal generering
Li, som er programvareutvikler hos reverse engineering-selskapet Vector 35, undersøkte hvordan Microsoft Paint håndterer AI-bildegenerering.
Forskningen hans viser at Paint sender brukerens prompt til Microsoft for en sikkerhetskontroll før enheten genererer bildet. Selskapet returnerer deretter en unik vannmerke-ID, som Paint legger inn i bildepikslene.
Prosessen skal finne sted selv når enheten håndterer bildegenereringen lokalt på en Copilot+ PC.
Identifikatoren bruker en GUID, eller Globally Unique Identifier. Den inneholder ikke et navn direkte, men Microsoft kan potensielt knytte den til opplysninger som identifiserer kilden til en AI-generering.
Skjult ID forblir når den synlige logoen deaktiveres
Paint tilbyr en synlig Copilot-logo på AI-genererte bilder og lar brukerne slå den av. Li fant ut at deaktivering av logoen ikke fjerner den skjulte identifikatoren.
Han oppdaget vannmerket mens han undersøkte en fil på 1,67 MB som var knyttet til funksjonen for det synlige vannmerket. Filen virket uvanlig stor for en enkel logo på skjermen, noe som førte til videre analyse.
Li identifiserte en 16-byte GUID-nyttelast som Paint ser ut til å legge inn i det genererte bildet. Han sier at Paint kan nekte å returnere et bilde dersom programmet ikke klarer å legge til det usynlige vannmerket.
Microsoft Photos inneholder lignende teknologi, selv om Li fant ut at Photos kan fortsette behandlingen dersom vannmerkingen mislykkes.
C2PA-informasjon etterlater spørsmål
Microsoft har sagt at Paint bruker standarden Coalition for Content Provenance and Authenticity, eller C2PA, for å bidra til å fastslå et bildes opprinnelse og støtte verifisering av innhold.
Li sier imidlertid at han ikke fant noen tydelig informasjon som forklarer den serverutstedte GUID-en, dens forbindelse til moderering av prompter eller dens tilstedeværelse i bildepikslene. Disse detaljene reiser personvernspørsmål fordi verdien potensielt kan knytte et bilde som deles bredt, til interne opplysninger hos Microsoft.
Microsofts AI-vannmerke ser ikke ut til å fungere på samme måte som Windows Global Device Identifier, som kan identifisere en enhet permanent. I stedet tyder Lis funn på at Paint-identifikatoren er knyttet til en spesifikk AI-bildegenerering.
Likevel illustrerer begge systemene den samme personvernbekymringen: En tilfeldig identifikator kan bli personlig betydningsfull når et selskap har opplysningene som knytter den til en enkeltperson.
AI-vannmerking blir mer utbredt på tvers av plattformer
Microsoft er ikke det eneste selskapet som utforsker verktøy for å fastslå opprinnelsen til AI-generert innhold. Teknologiselskaper bruker i økende grad synlige merker, metadata og maskinlesbare vannmerker for å identifisere syntetiske bilder og andre medier.
Disse tiltakene kan støtte autentisitetskontroller og opphavsrettsrelatert verifisering. Samtidig trenger utviklere og brukere tydelig informasjon om hvilke identifikatorer som legges inn, om de forblir etter redigering eller deling, og hvilke data selskaper kan knytte til dem.
0 responses to “Microsofts AI-vannmerke kan identifisere Copilot+-brukere”