Gemini CLI zum Betrieb eines Malware-Botnetzes bei realem Cyberangriff genutzt

Googles Gemini CLI wurde bei einem realen Cyberangriff missbraucht. Sicherheitsforscher entdeckten, dass ein Bedrohungsakteur den KI-Codeassistenten nutzte, um Schadsoftware zu entwickeln, ein Botnetz zu verwalten und technische Probleme während einer laufenden Kampagne zu lösen.

Anstatt jeden Befehl manuell zu schreiben, setzte der Angreifer Gemini CLI ein, um Code zu generieren, Fehler zu beheben und wiederkehrende Aufgaben zu automatisieren. Die Untersuchung zeigt, wie KI-Assistenten zu leistungsstarken Werkzeugen für Cyberkriminelle werden können, wenn ihre Sicherheitsmechanismen umgangen werden.

Bedrohungsakteur nutzte Gemini CLI

Hinter der Kampagne stand ein russischsprachiger Bedrohungsakteur mit dem Namen bandcampro. Während der Operation registrierten die Forscher mehr als 200 Interaktionen mit Gemini CLI.

Der Angreifer kontrollierte acht kompromittierte Systeme in einer Zahnklinik. Darüber hinaus richtete sich die Kampagne gegen die OpenDental-Datenbank der Klinik.

Gemini CLI übernahm dabei weit mehr Aufgaben als ein gewöhnlicher Codeassistent. Das Tool erstellte Skripte, beantwortete technische Fragen und löste Konfigurationsprobleme. Außerdem machte die KI eigenständig Verbesserungsvorschläge, ohne dass der Angreifer danach fragte.

Die Forscher zählten mindestens 59 unaufgeforderte Empfehlungen der KI. Viele davon machten den Angriff effizienter und reduzierten den manuellen Aufwand erheblich.

KI unterstützte die Migration des Botnetzes

Eine der bemerkenswertesten Aktionen erfolgte, als der Angreifer den Command-and-Control-Server (C2) des Botnetzes verlegen wollte.

Der Betreiber gab Gemini CLI lediglich eine Anweisung. Anschließend analysierte die KI die Migrationsanleitung, bereitete die erforderlichen Dateien vor, stellte den neuen Server bereit und konfigurierte die neue Umgebung.

Die Migration verlief zunächst nicht reibungslos. Mehrere infizierte Systeme konnten sich nicht erneut verbinden. Gemini identifizierte das Problem jedoch schnell, empfahl die Abschaltung des alten Servers und stellte die Kommunikation mit dem Botnetz wieder her. Laut den Forschern dauerte der gesamte Vorgang nur sechs Minuten.

Ein kleines Toolset steuerte den Angriff

Trotz des Umfangs der Kampagne setzte der Angreifer überraschend wenige Werkzeuge ein.

Die Forscher fanden lediglich drei Textdateien mit einer Gesamtgröße von rund 5 KB.

Eine Datei enthielt einen Jailbreak-Prompt, der die Sicherheitsmechanismen von Gemini CLI umging. Eine weitere beschrieb den Betrieb des Command-and-Control-Servers. Die dritte erklärte, wie sich die Infrastruktur nach einer Servermigration wieder aufbauen lässt.

Auch die Schadsoftware selbst war vergleichsweise einfach aufgebaut. Sie nutzte einen speicherresidenten Python-HTTP-Server für die Kommunikation mit dem Botnetz. PowerShell-Agenten kontaktierten den Server alle fünf Sekunden, um neue Befehle abzurufen.

Um den Zugriff nach einem Neustart aufrechtzuerhalten, setzte der Angreifer verschiedene Persistenzmethoden ein, darunter geplante Aufgaben, WMI-Ereignisabonnements und Einträge in der Windows-Registrierung.

Jailbreak-Prompts umgingen die Schutzmechanismen

Die Forscher betonen, dass der Angreifer keine Software-Sicherheitslücke in Gemini CLI ausnutzte.

Stattdessen verwendete der Bedrohungsakteur sorgfältig formulierte Jailbreak-Prompts, die die KI glauben ließen, sie unterstütze einen autorisierten Penetrationstester. Dadurch erzeugte Gemini Code, verwaltete Dateien und lieferte während der gesamten Kampagne technische Hilfestellung.

Die Schutzmechanismen wurden jedoch nicht vollständig ausgehebelt. Als der Angreifer Unterstützung bei der Entwicklung selbstverbreitender Schadsoftware verlangte, verweigerte die KI die Zusammenarbeit.

KI wird zu einem festen Bestandteil moderner Cyberangriffe

Die Untersuchung zeigt, wie schnell KI-Werkzeuge Teil moderner Cyberangriffe werden.

Gemini CLI ersetzte den Angreifer nicht, machte die gesamte Operation jedoch deutlich schneller und effizienter. Die KI verkürzte die Zeit für das Schreiben von Code, die Fehlerbehebung, den Aufbau der Infrastruktur und die Aufrechterhaltung des Zugriffs auf kompromittierte Systeme.

Die Forscher gehen davon aus, dass KI-Assistenten künftig eine noch größere Rolle bei Cyberangriffen spielen werden. Deshalb gewinnen stärkere Schutzmaßnahmen, eine bessere Überwachung und eine effektivere Angriffserkennung für Unternehmen, die KI-gestützte Entwicklungstools einsetzen, zunehmend an Bedeutung.