Microsoft Paint kan bädda in en dold identifierare i AI-genererade bilder, även när en Copilot+-dator med Windows skapar bilden lokalt. Forskaren Xusheng Li uppger att identifieraren kan göra det möjligt för Microsoft att koppla en bild till uppgifter relaterade till ett konto, en enhet, en IP-adress eller en prompt.
Microsofts AI-vattenmärke är inte synligt för användarna. Det verkar också finnas kvar i bilden även när användare inaktiverar Paints synliga Copilot-vattenmärke.
Li har inte visat att Microsoft använder identifieraren för att spåra enskilda användare. Han hävdar dock att Microsoft inte tydligt redovisar hur den dolda märkningen fungerar eller vilken information företaget kan koppla till den.
Paint kontrollerar prompter före lokal generering
Li, som är mjukvaruutvecklare på reverse engineering-företaget Vector 35, undersökte hur Microsoft Paint hanterar AI-bildgenerering.
Hans forskning visar att Paint skickar användarens prompt till Microsoft för en säkerhetskontroll innan enheten genererar bilden. Företaget skickar sedan tillbaka ett unikt vattenmärkes-ID som Paint bäddar in i bildens pixlar.
Processen sker enligt uppgift även när enheten hanterar bildgenereringen lokalt på en Copilot+-dator.
Identifieraren använder en GUID, eller Globally Unique Identifier. Den innehåller inte direkt något namn, men Microsoft kan potentiellt koppla den till uppgifter som identifierar källan till en AI-generering.
Dolt ID finns kvar när den synliga logotypen inaktiveras
Paint erbjuder en synlig Copilot-logotyp på AI-genererade bilder och låter användarna stänga av den. Li upptäckte att den dolda identifieraren finns kvar även när logotypen inaktiveras.
Han upptäckte vattenmärket när han granskade en fil på 1,67 MB som var kopplad till funktionen för det synliga vattenmärket. Filen verkade ovanligt stor för en enkel logotyp på skärmen, vilket ledde till ytterligare analys.
Li identifierade en 16 byte stor GUID-nyttolast som Paint verkar bädda in i den genererade bilden. Han uppger att Paint kan vägra att returnera en bild om programmet inte lyckas lägga till det osynliga vattenmärket.
Microsoft Photos innehåller liknande teknik, även om Li upptäckte att Photos kan fortsätta bearbetningen om vattenmärkningen misslyckas.
C2PA-information lämnar frågor obesvarade
Microsoft har uppgett att Paint använder standarden Coalition for Content Provenance and Authenticity, eller C2PA, för att fastställa en bilds ursprung och stödja verifiering av innehåll.
Li säger dock att han inte hittade någon tydlig information som förklarar den serverutfärdade GUID-identifieraren, dess koppling till moderering av prompter eller dess närvaro i bildpixlarna. Dessa detaljer väcker integritetsfrågor eftersom värdet potentiellt kan koppla en bild som delas brett till interna uppgifter hos Microsoft.
Microsofts AI-vattenmärke verkar inte fungera på samma sätt som Windows Global Device Identifier, som kan identifiera en enhet permanent. I stället tyder Lis resultat på att Paints identifierare är kopplad till en specifik AI-bildgenerering.
Trots det illustrerar båda systemen samma integritetsproblem: en slumpmässig identifierare kan bli personligt betydelsefull när ett företag har de uppgifter som kopplar den till en individ.
AI-vattenmärkning blir vanligare på olika plattformar
Microsoft är inte det enda företaget som utforskar verktyg för att fastställa ursprunget för AI-genererat innehåll. Teknikföretag använder i allt större utsträckning synliga märkningar, metadata och maskinläsbara vattenmärken för att identifiera syntetiska bilder och andra medier.
Dessa åtgärder kan stödja äkthetskontroller och verifiering kopplad till upphovsrätt. Samtidigt behöver utvecklare och användare tydlig information om vilka identifierare som bäddas in, om de finns kvar efter redigering eller delning och vilka uppgifter företag kan koppla till dem.
0 svar till ”Microsofts AI-vattenmärke kan identifiera Copilot+-användare”