AI-kodningsagenter skaber en ny og uventet udfordring for cybersikkerhedsteams. Ny forskning fra Sophos viser, at AI-agenter til softwareudvikling i stigende grad udfører handlinger, der minder om hackeres adfærd. Derfor markerer virksomheders sikkerhedsværktøjer legitim AI-aktivitet som potentielle cyberangreb.
Resultaterne tyder på, at sikkerhedsteams snart vil bruge mindre tid på at afgøre, om mistænkelig aktivitet har fundet sted, og mere tid på at afgøre, om en betroet AI-agent eller en menneskelig angriber stod bag den.
AI-kodningsagenter udløser almindelige sikkerhedsalarmer
Forskerne hos Sophos X-Ops analyserede syv dages telemetridata fra flere populære AI-værktøjer til udviklere, herunder Claude Code, Cursor og Codex.
Undersøgelsen viste, at AI-kodningsagenter regelmæssigt udløste alarmer i endpoint detection and response-systemer (EDR). Årsagen var, at mange af deres handlinger svarede til teknikker, som er dokumenteret i MITRE ATT&CK-rammeværket.
Sophos registrerede blandt andet alarmer relateret til:
- Eksekvering
- Adgang til legitimationsoplysninger
- Omgåelse af sikkerhedsforanstaltninger
En ingeniør, som kommenterede resultaterne, påpegede, at endpoint-sikkerhedssoftware ikke kan afgøre, om en AI-assistent eller et menneske udførte en risikabel kommando. Derfor udløste Claude Code, Cursor og Codex alarmer i forbindelse med browserlegitimationsoplysninger, cmdkey, certutil og bitsadmin.
AI-agenter udfører handlinger, der minder om hackeres
Sophos antyder ikke, at AI-værktøjerne er ondsindede. Forskerne forklarer i stedet, at den adfærdsmæssige lighed mellem autonome AI-assistenter og cyberkriminelle får sikkerhedsprodukterne til at reagere.
Set fra en endpoint-sikkerhedsplatforms perspektiv minder mange AI-genererede handlinger om aktivitet, som forsvarere normalt forbinder med et aktivt cyberangreb.
Forskerne fremhæver flere almindelige AI-opgaver, som ofte virker mistænkelige:
- Starte terminalsessioner
- Køre PowerShell-kommandoer
- Installere softwarepakker
- Ændre store mængder filer
- Godkende adgang til cloudtjenester
- Tilgå gemte legitimationsoplysninger
Udviklere udfører disse handlinger hver dag under softwareudvikling. Samtidig benytter angribere mange af de samme teknikker i de tidlige faser af et cyberangreb.
Ifølge Sophos udløser sikkerhedsregler, som tidligere primært registrerede ondsindet aktivitet, nu i stigende grad alarmer under legitim AI-assisteret udvikling.
At afgøre hensigten bliver den største udfordring
Scott Miserendino, Chief Technology Officer hos DataBee, siger, at resultaterne ikke overrasker ham.
Han forklarer, at leverandører af endpoint-sikkerhed længe har håndteret software, som opfører sig på samme måde som malware. For at reducere falske positiver kombinerer de adfærdsanalyse, procesovervågning og lister over godkendte programmer.
Han mener dog, at den virkelige udfordring kommer, når AI-kodningsagenter bliver mere selvstændige og avancerede.
Ifølge Miserendino skal sikkerhedsleverandører løbende opdatere deres detekteringsregler for at holde antallet af falske alarmer på et acceptabelt niveau, samtidig med at de fortsat opdager reelle angreb.
Organisationer har brug for klare AI-politikker
Sophos mener, at organisationer tydeligt bør definere, hvad AI-agenter må og ikke må gøre på virksomhedens enheder.
Spørgsmål om, hvilke systemressourcer agenter må tilgå, hvilke administrative handlinger de må udføre, og hvornår de skal bede om brugerens godkendelse, bliver stadig vigtigere, efterhånden som virksomheder tager AI-assistenter i brug.
Fremtidens sikkerhedskontroller skal derfor ikke kun vurdere adfærd, men også tage højde for kontekst, identitet, autorisation og hensigt.
AI-aktivitet kan hjælpe forsvarerne
Den stigende anvendelse af AI-agenter kan også gavne sikkerhedsteams.
Miserendino mener, at organisationer på sigt kan bruge de unikke adfærdsmønstre fra godkendte AI-værktøjer som en ekstra kilde til sikkerhedstelemetri.
Selv hvis virksomheder godkender bestemte AI-assistenter, kan sikkerhedsteams stadig identificere deres aktivitet og opdage situationer, hvor angribere forsøger at skjule AI-genererede handlinger eller omgå interne sikkerhedspolitikker.
AI-kodningsagenter efterlader tydelige mønstre
Sophos forventer, at sikkerhedsteams i stigende grad vil overvåge AI-aktivitet sammen med traditionel endpoint-aktivitet.
Forskerne anbefaler, at organisationer justerer deres detekteringsregler, så de genkender godkendte AI-agenter, samtidig med at de fortsat markerer reelt risikable handlinger.
Nogle typer adfærd bør altid udløse alarmer, uanset om en AI-assistent eller et menneske udfører dem.
Sophos fremhæver blandt andet dekryptering af browserlegitimationsoplysninger, udtræk af oplysninger fra Credential Manager, skrivning til opstartsmapper og brug af LOLBin-teknikker til download. Disse handlinger udgør fortsat en høj risiko, selv når en autoriseret AI-agent udfører dem.
Efterhånden som AI-kodningsagenter bliver mere avancerede, skal sikkerhedsprodukter udvikle sig. Ren adfærdsanalyse er ikke længere nok. Fremtidige løsninger skal også lægge større vægt på kontekst, autorisation og hensigt.
0 svar til “AI-kodningsagenter udløser sikkerhedsalarmer ved at opføre sig som hackere”