Gemini-Sicherheitslücken offenbaren kritische KI-Risiken

Forscher haben schwerwiegende Gemini-Sicherheitslücken entdeckt, die zeigen, wie Angreifer Googles KI-System ausnutzen können. Diese Schwachstellen, bekannt als „Gemini Trifecta“, offenbaren Mängel bei der Verarbeitung von Prompts, dem Datenschutz und den Personalisierungsfunktionen.

Die drei größten Schwachstellen

Experten identifizierten drei separate Schwachstellen in Gemini. Jede stellte ein Risiko für Datendiebstahl oder Manipulation dar:

• Prompt Injection in Cloud Assist ermöglichte es Angreifern, Befehle in Logdaten zu verbergen.
• Missbrauch der Suchpersonalisierung erlaubte es, dass bösartige Verlaufseinträge Geminis Antworten steuerten.
• Fehlerhafte Nutzung des Browsing-Tools erlaubte Angreifern, sensible Benutzerdaten an externe Server zu übertragen.

Wie Prompt Injection funktionierte

Gemini Cloud Assist fasst Protokolle für Administratoren zusammen. Forscher fanden heraus, dass angreifergesteuerte Eingaben, wie HTTP-Header, Gemini dazu bringen konnten, versteckte Befehle auszuführen. Diese Schwachstelle hätte interne Cloud-Konfigurationen offenlegen können.

Ausnutzung der Suchpersonalisierung

Gemini verwendet den Browserverlauf, um Suchergebnisse zu personalisieren. Angreifer platzierten schädliche Anweisungen im Verlauf eines Nutzers, wodurch Gemini diese als legitimen Kontext interpretierte. Diese Methode konnte Anfragen umleiten oder private Details offenlegen.

Datenlecks durch das Browsing-Tool

Das Browsing-Tool rief Live-Inhalte aus dem Internet ab. Angreifer betteten persönliche Daten in ausgehende Anfragen ein. Gemini übermittelte diese Daten anschließend an einen feindlichen Server, ohne dass der Nutzer davon erfuhr.

Googles Reaktion

Nach der Offenlegung handelte Google schnell, um die drei Gemini-Sicherheitslücken zu schließen. Das Unternehmen verstärkte seine KI-Schutzmaßnahmen, um Prompt Injection, Missbrauch von Personalisierung und Datenexfiltration über Tools zu verhindern.

Fazit

Die Entdeckung dieser Gemini-Sicherheitslücken zeigt den dringenden Bedarf an stärkeren Schutzmaßnahmen in KI-Plattformen. Ohne robuste Abwehrmechanismen können Angreifer Prompts manipulieren, Personalisierung kapern und sensible Daten abfließen lassen. Der Fall beweist, dass sich die KI-Sicherheit genauso schnell entwickeln muss wie die Systeme selbst.