Gaslight-malware retter sig mod AI-baseret analyse på macOS

Forskere har opdaget Gaslight, en ny malware til macOS, som retter sig mod AI-baserede værktøjer til analyse af malware i stedet for traditionelle sikkerhedsløsninger. Malwaren skjuler falske fejlmeddelelser og prompt injection-indhold i sin kode for at forvirre automatiserede analysesystemer og forstyrre sikkerhedsundersøgelser.

Opdagelsen viser, at cyberkriminelle er begyndt at tilpasse deres malware for at udnytte den voksende anvendelse af kunstig intelligens inden for cybersikkerhed.

Gaslight retter sig mod AI-baseret analyse

Forskerne knytter med stor sikkerhed Gaslight til en nordkoreansk trusselsaktør. I modsætning til mange avancerede malwarefamilier benytter Gaslight ikke nye undvigelsesteknikker eller avancerede sårbarheder.

I stedet retter angriberne fokus mod selve analyseprocessen. Målet er at manipulere de AI-assistenter, som sikkerhedsforskere anvender under analyser af malware.

Udviklerne har skrevet malwaren i programmeringssproget Rust og udstyret den med funktioner til bagdørsadgang og tyveri af oplysninger. Disse funktioner minder tæt om tidligere malware, der er blevet tilskrevet den samme trusselsgruppe.

Falske systemmeddelelser vildleder AI-modeller

Det, der gør Gaslight særlig, er en indlejret nyttelast på 3,5 kB, som indeholder 38 falske systemmeddelelser.

Malwaren indsætter opdigtede udviklerlogs, fejlfindingsudskrifter, nedbrudsrapporter og programadvarsler direkte i den eksekverbare fil. Mange af meddelelserne benytter Markdown-formatering og skabelonbaserede pladsholdere for at fremstå troværdige.

Forskerne fandt blandt andet falske memory dumps, meddelelser om udløbne godkendelsestokens, Redis-fejl, SQL-injektionsadvarsler, JSON-fejl, build-fejl og andre beskeder, som ikke har nogen forbindelse til malwarets reelle adfærd.

Angriberne har skabt disse meddelelser for at påvirke AI-modeller, der automatisk analyserer malware.

Prompt injection bliver et nyt værktøj mod analyse

Forskerne vurderer, at malwaren anvender prompt injection til at manipulere store sprogmodeller frem for at forsøge at omgå sandkasser eller traditionelle sikkerhedsværktøjer.

De indlejrede meddelelser giver indtryk af, at AI-sessionen er mislykket eller har produceret upålidelige resultater. Nogle advarsler hævder, at godkendelsestokens er udløbet, mens andre rapporterer om hukommelsesmangel, diskfejl eller gentagne behandlingsfejl.

Ved at præsentere falske diagnostiske oplysninger håber angriberne, at AI-assistenten vil afbryde analysen, forkorte sin rapport eller helt nægte at fortsætte.

Forskerne gav malwaren navnet Gaslight, fordi den forsøger at få AI-systemer til at tvivle på deres egne konklusioner i stedet for at skjule den skadelige kode.

En ny udfordring for AI-baseret cybersikkerhed

Traditionel malware forsøger ofte at omgå antivirusprogrammer eller undslippe virtuelle miljøer. Gaslight vælger en anden strategi ved at angribe AI-understøttede analyseprocesser.

Forskerne har ikke bekræftet, at teknikken allerede kan omgå nutidens AI-baserede platforme til malwareanalyse. De vurderer dog, at kampagnen viser en voksende interesse for metoder, der specifikt er udviklet til at modarbejde AI-baseret analyse.

Efterhånden som flere sikkerhedsteams integrerer store sprogmodeller i deres malwareanalyser, vil angribere sandsynligvis fortsætte med at udvikle teknikker, der manipulerer automatiserede analyser frem for traditionelle detektionssystemer.

Fremkomsten af Gaslight markerer en ny fase i kampen mellem cyberkriminelle og forsvarere, hvor kunstig intelligens er blevet et nyt mål for angribere – og ikke længere blot et værktøj til cybersikkerhed.