Gaslight-skadlig kod riktar in sig på AI-baserad analys i macOS

Forskare har upptäckt Gaslight, en ny skadlig kod för macOS som riktar in sig på AI-baserade verktyg för analys av skadlig kod i stället för traditionella säkerhetslösningar. Skadeprogrammet gömmer falska felmeddelanden och innehåll för prompt injection i sin kod för att förvirra automatiserade analyssystem och störa säkerhetsutredningar.

Upptäckten visar att cyberkriminella har börjat anpassa sin skadliga kod för att utnyttja den växande användningen av artificiell intelligens inom cybersäkerhet.

Gaslight riktar in sig på AI-baserad analys

Forskarna kopplar med hög säkerhet Gaslight till en nordkoreansk hotaktör. Till skillnad från många avancerade skadeprogram bygger Gaslight inte på nya metoder för att undvika upptäckt eller avancerade sårbarheter.

I stället riktar angriparna in sig på själva analysprocessen. Målet är att manipulera de AI-assistenter som säkerhetsforskare använder vid analys av skadlig kod.

Utvecklarna har skrivit skadeprogrammet i programmeringsspråket Rust och utrustat det med funktioner för bakdörrsåtkomst och informationsstöld. Dessa funktioner liknar tidigare skadeprogram som kopplats till samma hotgrupp.

Falska systemmeddelanden vilseleder AI-modeller

Det som gör Gaslight unikt är en inbäddad nyttolast på 3,5 kB som innehåller 38 falska systemmeddelanden.

Skadeprogrammet placerar påhittade utvecklarloggar, felsökningsutskrifter, kraschrapporter och programvarningar direkt i den körbara filen. Många av meddelandena använder Markdown-formatering och mallbaserade platshållare för att framstå som äkta.

Forskarna hittade bland annat falska minnesdumpar, varningar om utgångna autentiseringstoken, Redis-fel, SQL-injektionsvarningar, JSON-fel, byggfel och andra meddelanden som saknar koppling till skadeprogrammets verkliga funktion.

Angriparna har skapat dessa meddelanden för att påverka AI-modeller som analyserar skadeprogram automatiskt.

Prompt injection blir ett nytt verktyg mot analys

Forskarna bedömer att skadeprogrammet använder prompt injection för att manipulera stora språkmodeller snarare än att försöka undvika sandlådor och traditionella säkerhetsverktyg.

De inbäddade meddelandena ger intrycket av att AI-sessionen har misslyckats eller producerat opålitliga resultat. Vissa varningar hävdar att autentiseringstoken har gått ut, medan andra rapporterar minnesbrist, diskfel eller upprepade bearbetningsproblem.

Genom att presentera falsk diagnostisk information hoppas angriparna att AI-assistenten ska avbryta analysen, förkorta sin rapport eller helt vägra att fortsätta.

Forskarna gav skadeprogrammet namnet Gaslight eftersom det försöker få AI-system att ifrågasätta sina egna slutsatser i stället för att dölja den skadliga koden.

En ny utmaning för AI-baserad cybersäkerhet

Traditionella skadeprogram försöker ofta kringgå antivirusprogram eller ta sig ur virtuella miljöer. Gaslight använder en annan strategi genom att angripa AI-stödda analysflöden.

Forskarna kunde inte bekräfta att tekniken redan kan kringgå dagens AI-baserade analysplattformar. Däremot anser de att kampanjen visar ett växande intresse för metoder som specifikt riktar in sig på AI-baserade säkerhetsverktyg.

I takt med att fler säkerhetsteam integrerar stora språkmodeller i analysarbetet väntas angriparna fortsätta utveckla tekniker som manipulerar automatiserade analyser i stället för traditionella skyddssystem.

Gaslight markerar därmed en ny fas i kampen mellan cyberkriminella och försvarare, där artificiell intelligens har blivit ett nytt mål för angripare – inte bara ett verktyg för cybersäkerhet.