DIVD-innbrudd avslører AI-agentens kaotiske hackingforsøk

En AI-agent gjorde motstridende trekk og etterlot detaljerte notater under DIVD-innbruddet, noe som ga etterforskerne bevis å undersøke. Den nederlandske ideelle cybersikkerhetsorganisasjonen sier at en angriper tok i bruk agenten etter å ha utnyttet en sikkerhetssvakhet. Angriperens mål og konsekvensene av innbruddet er imidlertid fortsatt ukjente.

Automatisert innbrudd etterlater spor

Dutch Institute for Vulnerability Disclosure sier at agenten selvstendig valgte sin neste handling mens den beveget seg gjennom det kompromitterte miljøet.

Forskere identifiserte raske beslutninger, inkonsekvent resonnement og omfattende kommentarer som forklarte disse beslutningene. Samlet danner disse observasjonene grunnlaget for DIVDs vurdering om at angrepet involverte autonom AI.

Automatiseringen førte imidlertid ikke til en koordinert operasjon. I ett eksempel forstyrret agentens password spraying-aktivitet dens eget adversary-in-the-middle-angrep.

Password spraying tester vanlige passord mot flere kontoer. Samtidig forsøker adversary-in-the-middle-teknikker å fange opp autentiseringsaktivitet mellom brukere og legitime tjenester.

DIVD mener at mangelfulle forberedelser og konfigurasjon bidro til agentens feil. Som et resultat har etterforskerne en rekke spor som kan hjelpe dem med å fastslå hvordan innbruddet utviklet seg.

Organisasjonen understreket likevel at en angriper som gjør feil, fortsatt kan forårsake en alvorlig sikkerhetshendelse.

Ikke navngitt sikkerhetssvakhet muliggjorde tilgang

Før agenten begynte å operere inne i nettverket, utnyttet angriperen en teknisk sårbarhet, ifølge DIVD.

Den ideelle organisasjonen har utelukket Citrix NetScaler, men har ikke identifisert det berørte systemet. Den har heller ikke opplyst om en sikkerhetsoppdatering retter svakheten.

Dermed fastslår ikke de tilgjengelige detaljene om hendelsen involverte en tidligere ukjent sårbarhet.

DIVD sier at organisasjonen må balansere åpenhet med behovet for å beskytte etterforskningen og andre potensielt utsatte organisasjoner. Derfor har den midlertidig holdt tilbake deler av funnene.

Forskere retter oppmerksomheten mot interne systemer

DIVDs frivillige undersøker vanligvis sårbarheter som påvirker andre organisasjoner. De leter etter eksponerte systemer, varsler de ansvarlige og forklarer hvordan risikoene kan reduseres.

Etter dette innbruddet begynte den ideelle organisasjonen imidlertid å undersøke sitt eget kompromitterte miljø. Den offentliggjorde hendelsen sent i forrige uke etter sju år uten et sammenlignbart innbrudd.

Organisasjonen varslet også nederlandsk politi, den nasjonale datatilsynsmyndigheten og National Cyber Security Center.

I mandagens oppdatering beskrev DIVD agentens atferd, men lot det tekniske inngangspunktet forbli ukjent.

Oppdatering om DIVD-innbruddet kommer 1. oktober

DIVD planlegger å publisere ytterligere funn 1. oktober. I tillegg har organisasjonen til hensikt å kontakte andre potensielle ofre for den samme sårbarheten så snart som mulig.

Foreløpig etterlater etterforskningen flere sentrale spørsmål ubesvart. Organisasjonen har ikke fastslått formålet med angrepet eller offentlig beskrevet hele omfanget av konsekvensene.

Selv om agenten etterlot seg omfattende spor, må forskerne fortsatt fastslå hva handlingene dens faktisk førte til.