Androids SafetyCore API wirft neue Datenschutzfragen auf

Android SafetyCore hat erneut Aufmerksamkeit erregt, nachdem Nutzer berichteten, dass die Systemkomponente nach Updates wieder auf ihren Geräten aufgetaucht sei. Google erklärt, dass der Dienst Warnungen vor sensiblen Inhalten direkt auf dem Gerät unterstützt. Eine neue Entwickler-API wirft jedoch neue Fragen darüber auf, wie eine ähnliche Inhaltsklassifizierung von anderen Apps genutzt werden könnte.

Was Android SafetyCore macht

Android SafetyCore stellt eine gemeinsame Infrastruktur für Sicherheitsfunktionen auf Android-Geräten bereit. In Google Messages unterstützt es Sensitive Content Warnings, die potenziell Nacktheit enthaltende Bilder unscharf darstellen und eine Warnung anzeigen können, bevor Nutzer sie ansehen, senden oder weiterleiten.

Google erklärt, dass die Klassifizierung ausschließlich auf dem Gerät erfolgt. Das Unternehmen gibt an, dass die Funktion weder erkannte Bilder noch Klassifizierungsergebnisse oder identifizierbare Informationen an seine Server sendet.

Für Erwachsene sind Sensitive Content Warnings optional. Die Einstellung ist in Google Messages verfügbar. Bei einigen beaufsichtigten Konten von Jugendlichen ist die Funktion jedoch standardmäßig aktiviert.

Warum Nutzer weiterhin Bedenken haben

Viele Nutzer waren überrascht, Android SafetyCore auf ihren Geräten installiert vorzufinden, ohne eine klare Erklärung zu dessen Zweck zu erhalten. Die Komponente verfügt über kein auffälliges App-Symbol, was zusätzlich zu Verwirrung und Bedenken geführt hat.

Einige Nutzer berichteten außerdem, dass der Dienst wieder aufgetaucht sei, nachdem sie ihn entfernt oder deaktiviert hatten. Dies kann geschehen, wenn Google-Play-Systemkomponenten aktualisiert werden, obwohl Google nicht jeden gemeldeten Installationsfall beschrieben hat.

Android SafetyCore scannt standardmäßig nicht alle Fotos auf einem Gerät. Google erklärt, dass die Bildklassifizierungsfunktion nur ausgeführt wird, wenn geeignete Inhalte Google Messages durchlaufen und Sensitive Content Warnings aktiviert sind.

Neue API könnte die Inhaltsklassifizierung erweitern

Googles Entwicklerdokumentation verweist inzwischen auf eine ContentSafetyManager API, die sich in Entwicklung befindet. Sie würde es zugelassenen Android-Apps ermöglichen, eine Inhaltsklassifizierung direkt auf dem Gerät anzufordern und ein Ergebnis zu erhalten.

Die API kann Bilder und andere Mediendaten verarbeiten. Sie gibt allgemeine Kategorien wie erlaubt, Warnung, blockiert oder nicht klassifiziert zurück.

Aus der Dokumentation geht nicht hervor, dass jede Drittanbieter-App Zugriff erhalten wird. Sie bestätigt auch nicht, dass die API direkt die aktuelle SafetyCore-Komponente verwendet.

Dennoch könnte das vorgeschlagene Framework Entwicklern eine standardisierte Möglichkeit bieten, Inhalte lokal zu klassifizieren. Apps könnten anschließend entscheiden, ob sie die entsprechenden Medien anzeigen, unscharf darstellen oder einschränken.

Datenschutzrisiken hängen von App-Berechtigungen ab

Die Klassifizierung direkt auf dem Gerät gibt einer App nicht automatisch Zugriff auf die Fotos oder Dateien eines Nutzers. Eine App benötigt weiterhin die erforderlichen Berechtigungen, bevor sie Medien zur Analyse übermitteln kann.

Datenschützer befürchten jedoch, dass eine schädliche App mit umfassendem Zugriff auf Mediendateien das System nutzen könnte, um sensible Inhalte schnell zu kategorisieren. Die Klassifizierungsfunktion selbst würde keine Bilder versenden, eine missbräuchliche App könnte Dateien jedoch möglicherweise auf anderem Wege sammeln oder exfiltrieren.

Google erklärt, dass Android SafetyCore datenschutzfreundlich konzipiert wurde und Nutzer vor unerwünschten Inhalten schützen soll. Die kommende API macht jedoch deutlich, warum Transparenz, Berechtigungen und strenge Zugriffskontrollen wichtig sein werden, wenn Sicherheitsfunktionen direkt auf Geräten weiter ausgebaut werden.