Et brud hos Hugging Face blev udført af et autonomt AI-agentsystem, som fik adgang til et begrænset antal interne datasæt og legitimationsoplysninger til virksomhedens tjenester, har virksomheden bekræftet.
Hændelsen begyndte i platformens databehandlingsmiljø og udviklede sig til et bredere indbrud på tværs af flere interne klynger. Ifølge Hugging Face udspillede angrebet sig i løbet af en enkelt weekend og omfattede tusindvis af automatiserede handlinger.
Virksomheden oplyser, at der ikke er fundet tegn på, at offentlige modeller, offentlige datasæt, Spaces, containerbilleder eller offentliggjorte pakker er blevet ændret.
Autonomt AI-system stod bag angrebet
Hugging Face-bruddet skiller sig ud, fordi virksomheden oplyser, at et autonomt AI-agentsystem gennemførte hele angrebet fra start til slut.
Angriberne skal have brugt et ondsindet datasæt til at udnytte svagheder i Hugging Faces databehandlingspipeline. Efter at have opnået kodeeksekvering på en behandlingsnode eskalerede systemet sine rettigheder, indsamlede cloud- og klyngelegitimationsoplysninger og bevægede sig videre til flere interne miljøer.
Hugging Face oplyser, at agentsystemet udførte mange tusinde individuelle handlinger gennem en gruppe kortlivede sandbox-miljøer. Det gjorde det muligt for angriberne at operere med maskinhastighed og automatisere trin, som normalt ville kræve langt mere manuelt arbejde.
Virksomheden ved endnu ikke, hvilken stor sprogmodel der drev angribernes agentsystem.
Interne data og legitimationsoplysninger blev tilgået
Hugging Face bekræfter, at angriberne fik adgang til et begrænset antal interne datasæt og flere legitimationsoplysninger, som bruges af virksomhedens tjenester.
Virksomheden undersøger fortsat, om partner- eller kundedata blev berørt. Hvis det viser sig at være tilfældet, vil de berørte parter blive kontaktet direkte.
Samtidig understreger Hugging Face, at der ikke er fundet tegn på manipulation af offentlige modeller, datasæt eller Spaces. Virksomheden oplyser også, at dens softwareforsyningskæde er blevet gennemgået og fundet upåvirket.
Det betyder, at brugerne på nuværende tidspunkt ikke behøver at antage, at offentlige downloads, containerbilleder eller offentliggjorte pakker blev ændret som en del af hændelsen.
Virksomheden lukkede de oprindelige angrebsveje
Efter Hugging Face-bruddet oplyser virksomheden, at de kodeeksekveringsveje, som blev brugt til den første adgang, er blevet lukket.
Virksomheden fjernede også angribernes adgang fra de berørte klynger og genopbyggede kompromitterede noder. Derudover tilbagekaldte og roterede Hugging Face de berørte legitimationsoplysninger og adgangstokens, inden virksomheden gennemførte en bredere forebyggende udskiftning af hemmeligheder.
Hugging Face har desuden indført yderligere sikkerhedsforanstaltninger og skærpet kontrollen af sine klynger. Samtidig er overvågningssystemerne blevet forbedret, så kritiske alarmer når sikkerhedsteamet inden for få minutter.
Virksomheden samarbejder nu med eksterne it-forensiske specialister og har anmeldt hændelsen til de relevante myndigheder.
AI hjalp med at opdage og undersøge angrebet
AI spillede en rolle på begge sider under hændelsen.
Hugging Face oplyser, at virksomhedens AI-baserede system til registrering af anomalier hjalp med at identificere mistænkelig aktivitet. Derefter brugte virksomheden AI-baserede analyseagenter til at gennemgå mere end 17.000 registrerede angriberhandlinger og genskabe angrebets tidslinje.
Undersøgelsen afslørede dog også en udfordring for forsvarerne. Hugging Face forsøgte først at analysere angrebsloggene ved hjælp af avancerede sprogmodeller via kommercielle API’er.
Disse modeller blokerede de it-forensiske forespørgsler, fordi loggene indeholdt reelt udnyttelsesmateriale, ondsindede kommandoer og artefakter fra kommando- og kontrolinfrastruktur. Systemerne kunne ikke skelne mellem en forsvarer, der undersøgte et angreb, og en angriber, der søgte hjælp.
Derfor valgte Hugging Face i stedet at anvende en selvhostet open-weight-model under undersøgelsen. På den måde kunne virksomheden beholde alle data i sit eget miljø, mens analysen fortsatte.
Brugere bør rotere deres adgangstokens
Som en forholdsregel anbefaler Hugging Face, at brugerne roterer deres adgangstokens og gennemgår den seneste kontoaktivitet.
Hugging Face-bruddet viser, hvordan AI-drevne offensive værktøjer kan gøre avancerede cyberangreb hurtigere og mere skalerbare. Samtidig understreger hændelsen behovet for at beskytte databehandlingspipelines, overvåge interne klynger og have værktøjer til hændelsesrespons, som sikkert kan analysere ondsindet materiale.
0 svar til “Autonom AI-agent stod bag bruddet hos Hugging Face”