Et angrep mot Hugging Face ble utført av et autonomt AI-agentsystem som fikk tilgang til et begrenset sett med interne datasett og tjenestepåloggingsinformasjon, har selskapet bekreftet.
Hendelsen startet i plattformens databehandlingsmiljø og utviklet seg til et bredere innbrudd på tvers av flere interne klynger. Ifølge Hugging Face utspilte angrepet seg i løpet av én helg og omfattet tusenvis av automatiserte handlinger.
Selskapet opplyser at det ikke finnes bevis for at offentlige modeller, offentlige datasett, Spaces, containerbilder eller publiserte pakker ble endret.
Autonomt AI-system sto bak angrepet
Hugging Face-angrepet skiller seg ut fordi selskapet sier at et autonomt AI-agentsystem gjennomførte hele innbruddet fra start til slutt.
Angriperne skal ha brukt et ondsinnet datasett til å utnytte svakheter i Hugging Faces databehandlingspipeline. Etter å ha oppnådd kodekjøring på en behandlingsnode eskalerte systemet tilgangen sin, samlet inn sky- og klyngelegitimasjon og beveget seg videre til flere interne miljøer.
Hugging Face opplyser at agentsystemet utførte mange tusen individuelle handlinger gjennom en gruppe kortlivede sandkassemiljøer. Dermed kunne angriperne operere i maskinhastighet og automatisere trinn som normalt ville krevd langt mer manuelt arbeid.
Selskapet vet foreløpig ikke hvilken stor språkmodell som drev angripernes agentsystem.
Interne data og legitimasjon ble åpnet
Hugging Face bekrefter at angriperne fikk tilgang til et begrenset antall interne datasett og flere legitimasjonsopplysninger som brukes av selskapets tjenester.
Selskapet vurderer fortsatt om partner- eller kundedata ble berørt. Dersom det viser seg å være tilfelle, vil berørte parter bli kontaktet direkte.
Samtidig understreker Hugging Face at de ikke har funnet tegn til manipulering av offentlige modeller, datasett eller Spaces. Selskapet opplyser også at programvareforsyningskjeden er kontrollert og funnet upåvirket.
Det betyr at brukere foreløpig ikke trenger å anta at offentlige nedlastinger, containerbilder eller publiserte pakker ble endret som en del av hendelsen.
Selskapet stengte de opprinnelige angrepsveiene
Etter angrepet opplyser Hugging Face at kodekjøringsveiene som ble brukt for den første tilgangen, er stengt.
Selskapet fjernet også angripernes tilgang fra de berørte klyngene og bygget kompromitterte noder opp på nytt. I tillegg tilbakekalte og roterte Hugging Face berørte legitimasjonsopplysninger og tilgangstokener før selskapet gjennomførte en bredere forebyggende rotasjon av hemmeligheter.
Hugging Face har også innført ekstra sikkerhetstiltak og strengere kontroller for sine klynger. Samtidig er overvåkingssystemene forbedret slik at kritiske varsler når sikkerhetsteamet i løpet av få minutter.
Selskapet samarbeider nå med eksterne digitale etterforskere og har meldt hendelsen til politimyndighetene.
AI bidro til å oppdage og etterforske angrepet
AI spilte en rolle på begge sider under hendelsen.
Hugging Face opplyser at selskapets AI-baserte system for avviksdeteksjon bidro til å oppdage mistenkelig aktivitet. Deretter brukte selskapet AI-baserte analyseagenter til å gjennomgå mer enn 17 000 registrerte angriperhandlinger og rekonstruere hendelsesforløpet.
Etterforskningen avdekket imidlertid en utfordring for forsvarere. Hugging Face forsøkte først å analysere angrepsloggene ved hjelp av avanserte språkmodeller via kommersielle API-er.
Disse modellene blokkerte de digitale etterforskningsforespørslene fordi loggene inneholdt ekte utnyttelseskode, ondsinnede kommandoer og artefakter knyttet til kommando- og kontrollinfrastruktur. Systemene klarte ikke å skille mellom en forsvarer som etterforsket et angrep og en angriper som søkte hjelp.
Derfor valgte Hugging Face å bruke en selvhostet modell med åpne vekter under etterforskningen. På den måten kunne selskapet beholde dataene i sitt eget miljø samtidig som analysen fortsatte.
Brukere bør rotere tilgangstokener
Som en forholdsregel anbefaler Hugging Face at brukere roterer tilgangstokenene sine og gjennomgår den siste kontoaktiviteten.
Hugging Face-angrepet viser hvordan AI-drevne offensive verktøy kan gjøre avanserte cyberangrep raskere og mer skalerbare. Samtidig understreker hendelsen hvor viktig det er å sikre databehandlingspipeliner, overvåke interne klynger og ha hendelseshåndteringsverktøy som kan analysere ondsinnet materiale på en trygg måte.
0 responses to “Autonom AI-agent sto bak innbruddet hos Hugging Face”