DIVD-brud afslører AI-agents kaotiske hackingforsøg

En AI-agent foretog modstridende handlinger og efterlod detaljerede noter under DIVD-bruddet, hvilket gav efterforskerne beviser at undersøge. Den hollandske nonprofitorganisation inden for cybersikkerhed siger, at en angriber indsatte agenten efter at have udnyttet en sikkerhedsfejl. Angriberens mål og konsekvenserne af indtrængningen er dog fortsat ukendte.

Automatiseret indtrængning efterlader spor

Dutch Institute for Vulnerability Disclosure siger, at agenten selvstændigt valgte sin næste handling, mens den bevægede sig gennem det kompromitterede miljø.

Forskere identificerede hurtige beslutninger, inkonsekvent ræsonnement og omfattende kommentarer, der forklarede disse beslutninger. Tilsammen danner disse observationer grundlaget for DIVD’s vurdering af, at angrebet involverede autonom AI.

Automatiseringen førte dog ikke til en koordineret operation. I ét eksempel forstyrrede agentens password spraying-aktivitet dens eget adversary-in-the-middle-angreb.

Password spraying tester almindelige adgangskoder mod flere konti. Samtidig forsøger adversary-in-the-middle-teknikker at opsnappe autentificeringsaktivitet mellem brugere og legitime tjenester.

DIVD mener, at mangelfuld forberedelse og konfiguration bidrog til agentens fejl. Derfor har efterforskerne adskillige spor, der kan hjælpe dem med at fastslå, hvordan indtrængningen udviklede sig.

Organisationen understregede dog, at en angriber, der begår fejl, stadig kan forårsage en alvorlig sikkerhedshændelse.

Unavngiven sikkerhedsfejl muliggjorde adgang

Før agenten begyndte at operere inde i netværket, udnyttede angriberen en teknisk sårbarhed, ifølge DIVD.

Nonprofitorganisationen har udelukket Citrix NetScaler, men har ikke identificeret det berørte system. Den har heller ikke oplyst, om en sikkerhedsopdatering retter svagheden.

Derfor fastslår de tilgængelige oplysninger ikke, om hændelsen involverede en tidligere ukendt sårbarhed.

DIVD siger, at organisationen skal balancere gennemsigtighed med behovet for at beskytte sin efterforskning og andre potentielt udsatte organisationer. Af den grund har den midlertidigt tilbageholdt dele af sine resultater.

Forskere retter opmærksomheden mod interne systemer

DIVD’s frivillige undersøger normalt sårbarheder, der påvirker andre organisationer. De søger efter eksponerede systemer, advarer de ansvarlige og forklarer, hvordan risiciene kan reduceres.

Efter denne indtrængning begyndte nonprofitorganisationen dog at undersøge sit eget kompromitterede miljø. Den offentliggjorde hændelsen sent i sidste uge efter syv år uden et sammenligneligt brud.

Organisationen underrettede også det hollandske politi, den nationale databeskyttelsesmyndighed og National Cyber Security Center.

I sin opdatering mandag beskrev DIVD agentens adfærd, mens organisationen undlod at offentliggøre det tekniske indgangspunkt.

Opdatering om DIVD-bruddet kommer 1. oktober

DIVD planlægger at offentliggøre yderligere resultater den 1. oktober. Derudover har organisationen til hensigt at kontakte andre potentielle ofre for den samme sårbarhed så hurtigt som muligt.

Indtil videre efterlader efterforskningen flere centrale spørgsmål ubesvarede. Organisationen har ikke fastslået angrebets formål eller offentligt beskrevet dets fulde konsekvenser.

Selvom agenten efterlod et omfattende spor, skal forskerne stadig fastslå, hvad dens handlinger førte til.