Sikkerhetsforskere har oppdaget en alvorlig sårbarhet i et mye brukt kodeassistentverktøy for Visual Studio Code. Blackbox AI-sårbarheten gjør det mulig for angripere å injisere skjulte instruksjoner som assistenten kan følge automatisk. Hvis sårbarheten utnyttes, kan ondsinnede kommandoer kjøres direkte på utviklerens system.
Oppdagelsen viser de økende sikkerhetsrisikoene knyttet til AI-drevne utviklingsverktøy. Etter hvert som kodeassistenter får dypere tilgang til lokale miljøer og prosjektfiler, kan svakheter i hvordan de behandler eksternt innhold skape nye angrepsmuligheter.
Prompt injection-angrep identifisert
Blackbox AI-sårbarheten skyldes en indirekte prompt injection-teknikk. Angripere kan skjule instruksjoner i filer som AI-assistenten senere analyserer når den hjelper utviklere med kodeoppgaver.
Når assistenten leser filen, kan den tolke de skjulte instruksjonene som legitime kommandoer. AI-verktøyet kan deretter følge instruksjonene uten å forstå at de kommer fra en ondsinnet kilde.
Forskere viste at angripere kan plassere skjulte promptinstruksjoner i flere typer filer. Dette kan inkludere kodearkiver, dokumentasjonsfiler eller til og med bildefiler som assistenten analyserer.
Skjulte instruksjoner kan utløse ondsinnede handlinger
Når assistenten tolker den skjulte prompten, kan angripere manipulere hvordan verktøyet oppfører seg. Instruksjonene kan få assistenten til å utføre handlinger som kompromitterer utviklerens system.
I testscenarioer instruerte de ondsinnede promptene assistenten til å hente filer fra en ekstern server og kjøre dem lokalt. Siden assistenten utfører disse handlingene på vegne av brukeren, kan angrepet passere uten å vekke mistanke.
Eksperimentet viste at en utvikler uvitende kan utløse skadelige kommandoer bare ved å åpne eller analysere en kompromittert fil.
Demonstrasjon viser alvorlig risiko
Forskerne demonstrerte angrepet ved å legge ondsinnede instruksjoner inn i en bildefil. Da AI-assistenten analyserte bildet og hentet ut det skjulte innholdet, utførte den også de innebygde kommandoene.
Dette beviset på konsept viser hvor enkelt angripere kan skjule ondsinnede promptinstruksjoner i vanlige utviklingsressurser. Filer i kodearkiver, dokumentasjonspakker eller delte prosjektressurser kan alle fungere som distribusjonskanaler.
Siden mange utviklere lar AI-assistenter analysere filer automatisk, kan slike angrep spre seg uten at de oppdages umiddelbart.
AI-kodeassistenter utvider angrepsflaten
AI-verktøy har raskt blitt en del av utvikleres daglige arbeidsflyt. Mange programmerere bruker kodeassistenter til å gjennomgå filer, generere kode og automatisere gjentakende oppgaver.
Disse funksjonene utvider imidlertid også den potensielle angrepsflaten. AI-assistenter samhandler med prosjektfiler, eksterne ressurser og systemkommandoer, noe som åpner for nye former for manipulering.
Sikkerhetsforskere advarer om at prompt injection-angrep kan bli mer utbredt etter hvert som AI-drevne verktøy integreres tettere i utviklingsmiljøer.
Konklusjon
Blackbox AI-sårbarheten viser hvordan AI-baserte kodeassistenter kan introdusere nye sikkerhetsrisikoer for utviklere. Ved å skjule instruksjoner i filer kan angripere manipulere assistenten til å kjøre ondsinnede kommandoer.
Etter hvert som AI-verktøy blir mer integrert i utviklingsmiljøer, blir det stadig viktigere å beskytte dem mot prompt injection-angrep. Utviklere bør derfor være forsiktige når AI-assistenter analyserer eksterne filer eller utfører automatiserte handlinger.
0 responses to “Blackbox AI-sårbarhet truer VS Code-brukere”