Androids SafetyCore API väcker nya integritetsfrågor

Android SafetyCore har fått förnyad uppmärksamhet efter att användare rapporterat att systemkomponenten återkommit på deras enheter efter uppdateringar. Google uppger att tjänsten stöder varningar för känsligt innehåll direkt på enheten, men ett nytt API för utvecklare har väckt nya frågor om hur liknande innehållsklassificering kan användas av andra appar.

Vad Android SafetyCore gör

Android SafetyCore tillhandahåller gemensam infrastruktur för säkerhetsfunktioner på Android-enheter. I Google Messages stöder den Sensitive Content Warnings, som kan göra potentiellt nakna bilder suddiga och visa en varning innan användare visar, skickar eller vidarebefordrar dem.

Google uppger att klassificeringen sker uteslutande på enheten. Företaget säger att funktionen inte skickar upptäckta bilder, klassificeringsresultat eller identifierbar information till dess servrar.

För vuxna är Sensitive Content Warnings valfritt. Inställningen finns i Google Messages. Funktionen är dock aktiverad som standard för vissa övervakade tonårskonton.

Varför användare fortfarande är oroliga

Många användare blev förvånade över att hitta Android SafetyCore installerat utan någon tydlig förklaring av dess syfte. Komponenten har ingen framträdande appikon, vilket har bidragit till förvirring och oro.

Vissa användare har också rapporterat att tjänsten återkommit efter att de tagit bort eller inaktiverat den. Detta kan hända när systemkomponenter i Google Play uppdateras, även om Google inte har beskrivit varje rapporterat installationsfall.

Android SafetyCore skannar inte alla bilder på en enhet som standard. Google uppger att bildklassificeringsfunktionen endast körs när kvalificerat innehåll passerar genom Google Messages och Sensitive Content Warnings är aktiverat.

Nytt API kan utöka innehållsklassificeringen

Googles dokumentation för utvecklare hänvisar nu till ett ContentSafetyManager API som är under utveckling. Det skulle göra det möjligt för godkända Android-appar att begära innehållsklassificering direkt på enheten och få ett resultat.

API:et kan behandla bilder och annan mediedata. Det returnerar breda kategorier som tillåtet, varning, blockerat eller oklassificerat.

Dokumentationen uppger inte att alla tredjepartsappar kommer att få åtkomst. Den bekräftar inte heller att API:et direkt använder den nuvarande SafetyCore-komponenten.

Det föreslagna ramverket skulle ändå kunna ge utvecklare ett standardiserat sätt att klassificera innehåll lokalt. Appar skulle sedan kunna välja om relevanta medier ska visas, göras suddiga eller begränsas.

Integritetsrisker beror på appbehörigheter

Klassificering direkt på enheten ger inte automatiskt en app åtkomst till användarens bilder eller filer. En app behöver fortfarande de nödvändiga behörigheterna innan den kan skicka medier för analys.

Integritetsförespråkare oroar sig dock för att en skadlig app med omfattande åtkomst till medier skulle kunna använda systemet för att snabbt kategorisera känsligt innehåll. Klassificeringsfunktionen i sig skulle inte skicka iväg bilder, men en skadlig app skulle potentiellt kunna samla in eller föra ut filer på andra sätt.

Google uppger att Android SafetyCore är utformat för att skydda integriteten och skydda användare från oönskat innehåll. Det kommande API:et visar dock tydligt varför transparens, behörigheter och strikta åtkomstkontroller kommer att vara viktiga i takt med att säkerhetsverktyg direkt på enheten blir vanligare.