Googles Gemini CLI er blevet misbrugt i et virkeligt cyberangreb. Sikkerhedsforskere har opdaget, at en trusselsaktør brugte AI-kodeassistenten til at udvikle malware, administrere et botnet og løse tekniske problemer under en aktiv kampagne.
I stedet for at skrive hver kommando manuelt brugte angriberen Gemini CLI til at generere kode, rette fejl og automatisere gentagne opgaver. Resultaterne viser, hvordan AI-assistenter kan blive kraftfulde værktøjer for cyberkriminelle, når deres sikkerhedsforanstaltninger bliver omgået.
Trusselsaktør brugte Gemini CLI
Kampagnen blev udført af en russisktalende trusselsaktør kendt som bandcampro. Under operationen registrerede forskerne mere end 200 interaktioner med Gemini CLI.
Angriberen kontrollerede otte kompromitterede systemer på en tandklinik. Kampagnen rettede sig også mod klinikkens OpenDental-database.
Gemini CLI fungerede som langt mere end en almindelig kodeassistent. Værktøjet genererede scripts, besvarede tekniske spørgsmål og løste konfigurationsproblemer. AI’en kom også med egne forbedringsforslag, uden at angriberen bad om dem.
Forskerne registrerede mindst 59 uopfordrede anbefalinger fra AI’en. Mange af dem gjorde angrebet mere effektivt og reducerede behovet for manuelt arbejde.
AI hjalp med at flytte botnettet
Et af de mest bemærkelsesværdige øjeblikke opstod, da angriberen besluttede at flytte botnettets kommando- og kontrolserver (C2).
Operatøren gav Gemini CLI én enkelt instruktion. Derefter gennemgik AI’en migrationsvejledningen, klargjorde de nødvendige filer, implementerede den nye server og konfigurerede det nye miljø.
Flytningen forløb ikke perfekt i første forsøg. Flere inficerede systemer kunne ikke genoprette forbindelsen. Gemini identificerede hurtigt problemet, anbefalede at lukke den gamle server ned og genskabte kommunikationen med botnettet. Ifølge forskerne tog hele processen kun seks minutter.
Et lille værktøjssæt drev angrebet
På trods af kampagnens omfang benyttede angriberen et overraskende lille antal værktøjer.
Forskerne fandt kun tre tekstfiler med en samlet størrelse på omkring 5 KB.
Den første fil indeholdt en jailbreak-prompt, der omgik Gemini CLI’s sikkerhedsforanstaltninger. Den anden beskrev, hvordan kommando- og kontrolserveren skulle administreres. Den tredje forklarede, hvordan infrastrukturen kunne genopbygges efter en servermigration.
Selve malwaren var også forholdsvis enkel. Den benyttede en Python-baseret HTTP-server, som kørte i hukommelsen til kommunikationen med botnettet. PowerShell-agenter kontaktede serveren hvert femte sekund for at modtage nye instruktioner.
For at bevare adgangen efter en genstart anvendte angriberen flere persistensmetoder, herunder planlagte opgaver, WMI-hændelsesabonnementer og poster i Windows-registreringsdatabasen.
Jailbreak-prompts omgik sikkerhedsforanstaltningerne
Forskerne understreger, at angriberen ikke udnyttede en softwaresårbarhed i Gemini CLI.
I stedet benyttede trusselsaktøren nøje udformede jailbreak-prompts, som fik AI’en til at tro, at den hjalp en autoriseret penetrationstester. Derfor genererede Gemini kode, administrerede filer og leverede teknisk vejledning gennem hele operationen.
Sikkerhedsforanstaltningerne blev dog ikke sat helt ud af kraft. Da angriberen bad om hjælp til at udvikle selvspredende malware, nægtede AI’en at efterkomme anmodningen.
AI bliver en stadig større del af cyberangreb
Undersøgelsen viser, hvor hurtigt AI-værktøjer bliver en del af moderne cyberkriminalitet.
Gemini CLI erstattede ikke angriberen, men gjorde operationen betydeligt hurtigere og mere effektiv. AI’en reducerede den tid, der skulle bruges på at skrive kode, fejlfinde problemer, opbygge infrastrukturen og bevare kontrollen over kompromitterede systemer.
Forskerne forventer, at AI-assistenter vil spille en endnu større rolle i fremtidige cyberangreb. Derfor bliver stærkere sikkerhedsforanstaltninger, bedre overvågning og mere effektiv trusselsdetektion stadig vigtigere for organisationer, der anvender AI-drevne udviklingsværktøjer.
0 svar til “Gemini CLI brugt til at drive malware-botnet i et virkeligt cyberangreb”