AI-kodningsagenter skapar ett nytt och oväntat problem för cybersäkerhetsteam. Ny forskning från Sophos visar att AI-agenter för kodutveckling allt oftare utför åtgärder som liknar hackares beteende. Därför flaggar företagens säkerhetsverktyg legitim AI-aktivitet som misstänkta cyberattacker.
Resultaten tyder på att säkerhetsteam snart kommer att lägga mindre tid på att avgöra om misstänkt aktivitet har inträffat och mer tid på att avgöra om en betrodd AI-agent eller en mänsklig angripare låg bakom den.
AI-kodningsagenter utlöser vanliga säkerhetslarm
Forskarna vid Sophos X-Ops analyserade sju dagars telemetridata från flera populära AI-verktyg för utvecklare, däribland Claude Code, Cursor och Codex.
Studien visade att AI-kodningsagenter regelbundet utlöste larm i endpoint detection and response-system (EDR). Orsaken var att många av deras åtgärder överensstämde med tekniker som finns dokumenterade i MITRE ATT&CK-ramverket.
Sophos registrerade bland annat larm kopplade till:
- Exekvering
- Åtkomst till autentiseringsuppgifter
- Försvarsförbikoppling
En ingenjör som kommenterade resultaten påpekade att säkerhetsprogram för klientenheter inte kan avgöra om en AI-assistent eller en människa har kört ett riskfyllt kommando. Därför utlöste Claude Code, Cursor och Codex larm kopplade till webbläsaruppgifter, cmdkey, certutil och bitsadmin.
AI-agenter utför åtgärder som liknar hackares
Sophos menar inte att AI-verktygen är skadliga. Forskarna förklarar i stället att likheterna mellan autonoma AI-assistenter och cyberkriminella gör att säkerhetsprodukterna reagerar.
Ur ett endpoint-säkerhetssystems perspektiv liknar många AI-genererade åtgärder den aktivitet som försvarare normalt kopplar till en pågående attack.
Forskarna pekar ut flera vanliga AI-uppgifter som ofta framstår som misstänkta:
- Starta terminalsessioner
- Köra PowerShell-kommandon
- Installera programvarupaket
- Ändra stora mängder filer
- Autentisera mot molntjänster
- Hämta lagrade autentiseringsuppgifter
Utvecklare utför dessa åtgärder varje dag när de bygger programvara. Samtidigt använder angripare många av samma tekniker under de första stegen i en cyberattack.
Enligt Sophos utlöser säkerhetsregler som tidigare främst upptäckte skadlig aktivitet nu allt oftare larm under legitim AI-assisterad utveckling.
Att avgöra avsikten blir den stora utmaningen
Scott Miserendino, teknisk chef på DataBee, säger att resultaten inte förvånar honom.
Han förklarar att leverantörer av endpoint-säkerhet länge har hanterat program som beter sig på samma sätt som skadlig kod. För att minska antalet falska larm kombinerar de beteendeanalys, processövervakning och listor över godkända program.
Han anser däremot att den verkliga utmaningen kommer när AI-kodningsagenter blir mer självständiga och kraftfulla.
Enligt Miserendino måste säkerhetsleverantörer kontinuerligt uppdatera sina detekteringsregler för att hålla antalet falska larm på en acceptabel nivå samtidigt som de fortfarande identifierar verkliga attacker.
Företag behöver tydliga AI-policyer
Sophos anser att organisationer tydligt måste definiera vad AI-agenter får och inte får göra på företagens klientenheter.
Frågor om vilka systemresurser agenter får använda, vilka administrativa åtgärder de får utföra och när de ska begära användarens godkännande blir allt viktigare när företag inför AI-assistenter i större skala.
Framtidens säkerhetskontroller behöver därför inte bara bedöma beteende utan även ta hänsyn till sammanhang, identitet, behörighet och avsikt.
AI-aktivitet kan hjälpa försvarare
Den ökande användningen av AI-agenter kan också gynna säkerhetsteam.
Miserendino menar att företag i framtiden kan använda de unika beteendemönstren hos betrodda AI-verktyg som en extra källa till säkerhetstelemetri.
Även om ett företag godkänner vissa AI-assistenter kan säkerhetsteam fortfarande identifiera deras aktivitet och upptäcka när angripare försöker dölja AI-genererade åtgärder eller kringgå interna säkerhetsregler.
AI-kodningsagenter lämnar tydliga spår
Sophos bedömer att säkerhetsteam i allt högre grad kommer att övervaka AI-aktivitet tillsammans med traditionell endpoint-aktivitet.
Forskarna rekommenderar att organisationer justerar sina detekteringsregler så att de känner igen godkända AI-agenter, samtidigt som de fortsätter att flagga verkligt riskfyllda åtgärder.
Vissa beteenden bör alltid utlösa larm, oavsett om en AI-assistent eller en människa utför dem.
Sophos lyfter bland annat fram dekryptering av webbläsaruppgifter, hämtning av uppgifter från Credential Manager, skrivning till autostartmappar och användning av LOLBin-tekniker för nedladdning. Dessa aktiviteter innebär fortfarande hög risk även när en godkänd AI-agent utför dem.
När AI-kodningsagenter blir mer avancerade behöver säkerhetsprodukterna utvecklas. Enbart beteendeanalys räcker inte längre. Säkerhetslösningarna måste också väga in sammanhang, behörighet och avsikt.
0 svar till ”AI-kodningsagenter utlöser säkerhetslarm genom att bete sig som hackare”