Blackbox AI-sårbarhet hotar VS Code-användare

Säkerhetsforskare har upptäckt en allvarlig sårbarhet i ett populärt kodningsverktyg för Visual Studio Code. Blackbox AI-sårbarheten gör det möjligt för angripare att injicera dolda instruktioner som assistenten kan följa automatiskt. Om sårbarheten utnyttjas kan skadliga kommandon köras direkt på en utvecklares dator.

Upptäckten visar de växande säkerhetsriskerna kring AI-baserade utvecklingsverktyg. När kodassistenter får djupare åtkomst till lokala miljöer och projektfiler kan brister i hur de tolkar extern information skapa nya attackvägar.

Prompt injection-attack identifierad

Blackbox AI-sårbarheten bygger på en så kallad indirekt prompt injection-teknik. Angripare kan gömma instruktioner i filer som AI-assistenten senare analyserar när den hjälper utvecklare med kodning.

När assistenten läser filen kan den tolka de dolda instruktionerna som legitima uppmaningar. AI-verktyget kan då följa instruktionerna utan att förstå att de kommer från en skadlig källa.

Forskare visade att angripare kan placera dolda promptar i flera typer av filer. Exempel är kodarkiv, dokumentationsfiler eller till och med bildfiler som assistenten analyserar.

Dolda instruktioner kan starta skadliga kommandon

När assistenten tolkar den dolda prompten kan angripare manipulera dess beteende. Instruktionerna kan få assistenten att utföra handlingar som äventyrar utvecklarens system.

I testscenarier instruerade de skadliga promptarna assistenten att hämta filer från en extern server och köra dem lokalt. Eftersom assistenten agerar på uppdrag av användaren kan attacken undgå normal misstanke.

Experimentet visade att en utvecklare kan trigga farliga kommandon utan att veta om det, bara genom att öppna eller analysera en komprometterad fil.

Demonstration visar allvarlig risk

Forskare demonstrerade attacken genom att placera skadliga instruktioner i en bildfil. När AI-assistenten analyserade bilden och extraherade dess innehåll körde den även de inbäddade kommandona.

Demonstrationen visade hur enkelt angripare kan dölja skadliga promptar i vanliga utvecklingsresurser. Filer i kodarkiv, dokumentationspaket eller delade projektfiler kan fungera som distributionskanaler.

Eftersom många utvecklare använder AI-assistenter för att analysera filer automatiskt kan sådana attacker spridas utan att upptäckas direkt.

AI-kodassistenter ökar attackytan

AI-verktyg har snabbt blivit en del av vardagen för många utvecklare. Programmerare använder ofta kodassistenter för att granska kod, generera funktioner och automatisera repetitiva uppgifter.

Samtidigt ökar dessa funktioner den möjliga attackytan. AI-assistenter interagerar med projektfiler, externa resurser och systemkommandon, vilket ger nya möjligheter för manipulation.

Säkerhetsforskare varnar för att prompt injection-attacker kan bli vanligare när AI-baserade verktyg integreras allt djupare i utvecklingsmiljöer.

Slutsats

Blackbox AI-sårbarheten visar hur AI-baserade kodassistenter kan skapa nya säkerhetsrisker för utvecklare. Genom att gömma instruktioner i filer kan angripare manipulera assistenten till att köra skadliga kommandon.

När AI-verktyg blir mer integrerade i utvecklingsmiljöer blir det allt viktigare att skydda dem mot prompt injection-attacker. Utvecklare bör vara försiktiga när AI-assistenter analyserar externa filer eller utför automatiska åtgärder.