Gemini CLI användes för att driva skadligt botnät i verklig cyberattack

Googles Gemini CLI har missbrukats i en verklig cyberattack. Säkerhetsforskare har upptäckt att en hotaktör använde AI-verktyget för kodutveckling för att skapa skadlig kod, hantera ett botnät och lösa tekniska problem under en pågående attack.

I stället för att skriva varje kommando manuellt använde angriparen Gemini CLI för att generera kod, rätta fel och automatisera återkommande arbetsuppgifter. Upptäckten visar hur AI-assistenter kan bli kraftfulla verktyg för cyberkriminella när deras säkerhetsbegränsningar kringgås.

Hotaktör använde Gemini CLI

Bakom kampanjen stod en ryskspråkig hotaktör som använder namnet bandcampro. Under attacken registrerade forskarna över 200 interaktioner med Gemini CLI.

Angriparen kontrollerade åtta komprometterade system på en tandläkarklinik. Kampanjen riktade sig även mot klinikens OpenDental-databas.

Gemini CLI fungerade som betydligt mer än en vanlig kodassistent. Verktyget skapade skript, besvarade tekniska frågor och hjälpte till att lösa konfigurationsproblem. AI föreslog dessutom egna förbättringar utan att angriparen efterfrågade dem.

Forskarna identifierade minst 59 spontana rekommendationer från AI. Många av dem effektiviserade attacken och minskade behovet av manuellt arbete.

AI hjälpte till att flytta botnätet

En av de mest anmärkningsvärda händelserna inträffade när angriparen valde att flytta botnätets kommando- och kontrollserver (C2).

Operatören gav Gemini CLI en enda instruktion. Därefter analyserade AI migrationsguiden, förberedde nödvändiga filer, driftsatte en ny server och konfigurerade den nya miljön.

Flytten gick inte helt enligt plan från början. Flera infekterade system lyckades inte återansluta. Gemini identifierade snabbt problemet, rekommenderade att den gamla servern skulle stängas ned och återställde kommunikationen med botnätet. Hela processen tog enligt forskarna endast sex minuter.

Ett litet verktygspaket drev attacken

Trots kampanjens omfattning använde angriparen ett förhållandevis litet antal verktyg.

Forskarna fann endast tre textfiler med en sammanlagd storlek på omkring 5 KB.

Den första filen innehöll en jailbreak-prompt som kringgick Gemini CLI skydd. Den andra beskrev hur kommando- och kontrollservern skulle hanteras. Den tredje innehöll instruktioner för hur infrastrukturen skulle byggas upp igen efter en serverflytt.

Själva skadliga koden var också relativt enkel. Den använde en Python-baserad HTTP-server som kördes i minnet för kommunikationen med botnätet. PowerShell-agenter kontaktade servern var femte sekund för att hämta nya instruktioner.

För att behålla åtkomsten efter omstarter använde angriparen flera metoder för persistens, bland annat schemalagda aktiviteter, WMI-händelseprenumerationer och poster i Windows-registret.

Jailbreak-promptar kringgick skydden

Forskarna betonar att angriparen inte utnyttjade någon sårbarhet i Gemini CLI.

I stället använde hotaktören noggrant utformade jailbreak-promptar som fick AI att tro att den hjälpte en auktoriserad penetrationstestare. Därför skapade Gemini kod, hanterade filer och gav teknisk vägledning under hela operationen.

Skydden stoppade dock inte allt. När angriparen försökte få hjälp med att utveckla självspridande skadlig kod vägrade AI att följa instruktionen.

AI blir ett allt vanligare verktyg för angripare

Undersökningen visar hur snabbt AI-baserade verktyg blir en del av moderna cyberattacker.

Gemini CLI ersatte inte angriparen, men gjorde operationen betydligt snabbare och mer effektiv. AI minskade tiden som krävdes för att skriva kod, felsöka problem, bygga upp infrastrukturen och behålla kontrollen över komprometterade system.

Forskarna bedömer att AI-assistenter kommer att spela en ännu större roll i framtida cyberattacker. Därför blir starkare skydd, bättre övervakning och effektivare upptäckt allt viktigare för organisationer som använder AI-drivna utvecklingsverktyg.