DIVD-intrång avslöjar AI-agents kaotiska hackningsförsök

En AI-agent gjorde motstridiga drag och lämnade detaljerade anteckningar under DIVD-intrånget, vilket gav utredarna bevis att granska. Den nederländska ideella cybersäkerhetsorganisationen säger att en angripare använde agenten efter att ha utnyttjat en säkerhetsbrist. Angriparens mål och konsekvenserna av intrånget är dock fortfarande okända.

Automatiserat intrång lämnar ledtrådar efter sig

Dutch Institute for Vulnerability Disclosure säger att agenten självständigt valde sin nästa åtgärd medan den rörde sig genom den komprometterade miljön.

Forskare identifierade snabba beslut, inkonsekvent resonemang och omfattande kommentarer som förklarade dessa beslut. Tillsammans ligger dessa observationer till grund för DIVD bedömning att attacken involverade autonom AI.

Automatiseringen resulterade dock inte i en samordnad operation. I ett exempel störde agentens password spraying-aktivitet dess egen adversary-in-the-middle-attack.

Password spraying testar vanliga lösenord mot flera konton. Samtidigt försöker adversary-in-the-middle-tekniker fånga upp autentiseringsaktivitet mellan användare och legitima tjänster.

DIVD anser att bristande förberedelser och konfiguration bidrog till agentens misstag. Som ett resultat har utredarna många spår som kan hjälpa dem att fastställa hur intrånget gick till.

Organisationen betonade ändå att en angripare som gör misstag fortfarande kan orsaka en allvarlig säkerhetsincident.

Namnlös säkerhetsbrist möjliggjorde åtkomst

Innan agenten började verka inne i nätverket utnyttjade angriparen en teknisk sårbarhet, enligt DIVD.

Den ideella organisationen har uteslutit Citrix NetScaler men har inte identifierat det drabbade systemet. Den har inte heller uppgett om en säkerhetsuppdatering åtgärdar svagheten.

Därför går det inte att fastställa utifrån de tillgängliga uppgifterna om incidenten involverade en tidigare okänd sårbarhet.

DIVD säger att organisationen måste balansera transparens med behovet av att skydda sin utredning och andra potentiellt utsatta organisationer. Av den anledningen har den tillfälligt undanhållit delar av sina resultat.

Forskare riktar uppmärksamheten mot interna system

DIVD volontärer undersöker vanligtvis sårbarheter som påverkar andra organisationer. De söker efter exponerade system, varnar de ansvariga och förklarar hur riskerna kan minskas.

Efter detta intrång började den ideella organisationen dock undersöka sin egen komprometterade miljö. Den offentliggjorde incidenten i slutet av förra veckan efter sju år utan ett jämförbart intrång.

Organisationen underrättade även den nederländska polisen, den nationella dataskyddsmyndigheten och National Cyber Security Center.

I sin uppdatering på måndagen beskrev DIVD agentens beteende men avslöjade inte den tekniska ingångspunkten.

Uppdatering om DIVD-intrånget väntas den 1 oktober

DIVD planerar att publicera ytterligare resultat den 1 oktober. Dessutom avser organisationen att kontakta andra potentiella offer för samma sårbarhet så snart som möjligt.

För närvarande lämnar utredningen flera centrala frågor obesvarade. Organisationen har inte fastställt attackens syfte eller offentligt redogjort för dess fullständiga konsekvenser.

Även om agenten lämnade efter sig omfattande spår måste forskarna fortfarande fastställa vad dess handlingar åstadkom.