AI-kodingsagenter skaper en ny og uventet utfordring for cybersikkerhetsteam. Ny forskning fra Sophos viser at AI-agenter for programvareutvikling stadig oftere utfører handlinger som ligner hackeres aktivitet. Derfor markerer bedriftenes sikkerhetsverktøy legitim AI-aktivitet som mulige cyberangrep.
Funnene tyder på at sikkerhetsteam snart vil bruke mindre tid på å avgjøre om mistenkelig aktivitet har funnet sted, og mer tid på å finne ut om en betrodd AI-agent eller en menneskelig angriper sto bak den.
AI-kodingsagenter utløser vanlige sikkerhetsvarsler
Forskerne ved Sophos X-Ops analyserte sju dagers telemetridata fra flere populære AI-verktøy for utviklere, blant annet Claude Code, Cursor og Codex.
Studien viste at AI-kodingsagenter jevnlig utløste varsler i endpoint detection and response-systemer (EDR). Årsaken var at mange av handlingene deres samsvarte med teknikker som er dokumentert i MITRE ATT&CK-rammeverket.
Sophos registrerte blant annet varsler knyttet til:
- Kjøring av kode
- Tilgang til legitimasjonsopplysninger
- Omgåelse av sikkerhetsmekanismer
En ingeniør som kommenterte funnene, påpekte at sikkerhetsprogramvare for endepunkter ikke kan avgjøre om en AI-assistent eller et menneske utførte en risikofylt kommando. Derfor utløste Claude Code, Cursor og Codex varsler knyttet til nettleserlegitimasjon, cmdkey, certutil og bitsadmin.
AI-agenter utfører handlinger som ligner hackeres
Sophos hevder ikke at AI-verktøyene er ondsinnede. Forskerne forklarer i stedet at likheten mellom autonome AI-assistenter og cyberkriminelle gjør at sikkerhetsløsningene reagerer.
Fra et endepunktsikkerhetssystems perspektiv ligner mange AI-genererte handlinger aktiviteten forsvarere normalt forbinder med et pågående cyberangrep.
Forskerne trekker frem flere vanlige AI-oppgaver som ofte virker mistenkelige:
- Starte terminaløkter
- Kjøre PowerShell-kommandoer
- Installere programvarepakker
- Endre store mengder filer
- Autentisere mot skytjenester
- Hente lagrede legitimasjonsopplysninger
Utviklere utfører disse handlingene hver dag når de utvikler programvare. Samtidig benytter angripere mange av de samme teknikkene i de tidlige fasene av et cyberangrep.
Ifølge Sophos utløser sikkerhetsregler som tidligere hovedsakelig oppdaget ondsinnet aktivitet, nå stadig oftere varsler under legitim AI-assistert utvikling.
Å avgjøre hensikten blir den største utfordringen
Scott Miserendino, teknologidirektør i DataBee, sier at funnene ikke overrasker ham.
Han forklarer at leverandører av endepunktsikkerhet lenge har måttet håndtere programvare som oppfører seg på samme måte som skadevare. For å redusere falske positiver kombinerer de atferdsanalyse, prosessovervåking og lister over godkjente programmer.
Han mener likevel at den virkelige utfordringen kommer når AI-kodingsagenter blir mer selvstendige og avanserte.
Ifølge Miserendino må sikkerhetsleverandører kontinuerlig oppdatere deteksjonsreglene for å holde antallet falske varsler på et akseptabelt nivå samtidig som de fortsatt oppdager reelle angrep.
Organisasjoner trenger tydelige AI-policyer
Sophos mener organisasjoner tydelig må definere hva AI-agenter kan og ikke kan gjøre på virksomhetens endepunkter.
Spørsmål om hvilke systemressurser agentene kan bruke, hvilke administrative handlinger de kan utføre, og når de skal be om brukerens godkjenning, blir stadig viktigere etter hvert som flere virksomheter tar i bruk AI-assistenter.
Fremtidige sikkerhetskontroller må derfor ikke bare vurdere atferd, men også ta hensyn til kontekst, identitet, autorisasjon og hensikt.
AI-aktivitet kan hjelpe forsvarerne
Den økende bruken av AI-agenter kan også komme sikkerhetsteam til gode.
Miserendino mener virksomheter etter hvert kan bruke de unike atferdsmønstrene til godkjente AI-verktøy som en ekstra kilde til sikkerhetstelemetri.
Selv om en virksomhet godkjenner bestemte AI-assistenter, kan sikkerhetsteam fortsatt identifisere aktiviteten deres og oppdage situasjoner der angripere forsøker å skjule AI-genererte handlinger eller omgå interne sikkerhetsregler.
AI-kodingsagenter etterlater tydelige mønstre
Sophos forventer at sikkerhetsteam i stadig større grad vil overvåke AI-aktivitet sammen med tradisjonell endepunktaktivitet.
Forskerne anbefaler at organisasjoner justerer deteksjonsreglene slik at de gjenkjenner godkjente AI-agenter, samtidig som de fortsatt varsler om reelt farlige handlinger.
Noen typer aktivitet bør alltid utløse varsler, uansett om en AI-assistent eller et menneske utfører dem.
Sophos trekker blant annet frem dekryptering av nettleserlegitimasjon, uthenting av oppføringer fra Credential Manager, skriving til oppstartsmapper og bruk av LOLBin-teknikker for nedlasting. Disse aktivitetene innebærer fortsatt høy risiko, selv når en autorisert AI-agent utfører dem.
Etter hvert som AI-kodingsagenter blir mer avanserte, må sikkerhetsprodukter utvikle seg videre. Ren atferdsanalyse vil ikke lenger være tilstrekkelig. Fremtidige løsninger må også legge større vekt på kontekst, autorisasjon og hensikt.
0 responses to “AI-kodingsagenter utløser sikkerhetsvarsler ved å opptre som hackere”