Ett intrång hos Hugging Face utfördes av ett autonomt AI-agentsystem som fick åtkomst till en begränsad mängd interna dataset och tjänsteuppgifter, har företaget bekräftat.
Incidenten började i plattformens databehandlingsmiljö och utvecklades till ett bredare intrång i flera interna kluster. Enligt Hugging Face utspelade sig attacken under en enda helg och omfattade tusentals automatiserade åtgärder.
Företaget uppger att det inte finns några bevis för att publika modeller, publika dataset, Spaces, containeravbildningar eller publicerade paket har ändrats.
Autonomt AI-system låg bakom attacken
Hugging Face-intrånget sticker ut eftersom företaget uppger att ett autonomt AI-agentsystem genomförde attacken från början till slut.
Angriparna ska ha använt ett skadligt dataset för att utnyttja svagheter i Hugging Faces databehandlingskedja. Efter att ha fått möjlighet att köra kod på en bearbetningsnod eskalerade systemet sina behörigheter, samlade in moln- och klusteruppgifter och tog sig vidare till fler interna miljöer.
Hugging Face uppger att agentsystemet utförde många tusen enskilda åtgärder via en grupp kortlivade sandlådemiljöer. Därmed kunde angriparna arbeta i maskinhastighet och automatisera steg som normalt kräver betydligt mer manuellt arbete.
Företaget vet ännu inte vilken stor språkmodell som drev angriparnas agentsystem.
Interna data och tjänsteuppgifter exponerades
Hugging Face bekräftar att angriparna fick åtkomst till en begränsad mängd interna dataset och flera autentiseringsuppgifter som används av företagets tjänster.
Företaget undersöker fortfarande om partner- eller kunddata har påverkats. Om så är fallet kommer berörda parter att kontaktas direkt.
Samtidigt betonar Hugging Face att det inte finns några tecken på manipulation av publika modeller, dataset eller Spaces. Företaget uppger också att leveranskedjan för programvara har granskats och bedömts vara opåverkad.
Det innebär att användare för närvarande inte behöver utgå från att publika nedladdningar, containeravbildningar eller publicerade paket har ändrats i samband med incidenten.
Företaget stängde de ursprungliga attackvägarna
Efter intrånget uppger Hugging Face att de kodkörningsvägar som användes för den första åtkomsten har stängts.
Företaget tog också bort angriparnas åtkomst från de drabbade klustren och byggde om komprometterade noder. Dessutom återkallades och roterades berörda autentiseringsuppgifter och token innan en bredare förebyggande rotation av hemligheter genomfördes.
Hugging Face har även infört ytterligare skyddsåtgärder och skärpt säkerhetskontrollerna i sina kluster. Samtidigt har övervakningssystemen förbättrats så att kritiska larm når säkerhetspersonal inom några minuter.
Företaget samarbetar nu med externa IT-forensiska specialister och har rapporterat incidenten till brottsbekämpande myndigheter.
AI hjälpte till att upptäcka och utreda intrånget
AI spelade en roll på båda sidor under incidenten.
Hugging Face uppger att företagets AI-baserade system för avvikelsedetektering hjälpte till att identifiera misstänkt aktivitet. Därefter användes AI-baserade analysagenter för att granska mer än 17 000 registrerade angriparåtgärder och återskapa händelseförloppet.
Utredningen avslöjade dock en utmaning för försvarare. Hugging Face försökte först analysera attackloggarna med avancerade språkmodeller via kommersiella API:er.
Modellerna blockerade de forensiska förfrågningarna eftersom loggarna innehöll verkligt exploateringsmaterial, skadliga kommandon och artefakter från kommando- och kontrollinfrastruktur. Systemen kunde inte skilja mellan en försvarare som utreder en attack och en angripare som söker hjälp.
Därför använde Hugging Face i stället en självhostad modell med öppna vikter under utredningen. På så sätt kunde företaget behålla all data i sin egen miljö samtidigt som analysen fortsatte.
Användare bör rotera sina åtkomsttoken
Som en försiktighetsåtgärd rekommenderar Hugging Face att användare roterar sina åtkomsttoken och granskar den senaste kontoaktiviteten.
Hugging Face-intrånget visar hur AI-drivna offensiva verktyg kan göra avancerade cyberattacker snabbare och mer skalbara. Samtidigt understryker incidenten vikten av att säkra databehandlingskedjor, övervaka interna kluster och ha incidenthanteringsverktyg som kan analysera skadligt material på ett säkert sätt.
0 svar till ”Autonom AI-agent låg bakom intrånget hos Hugging Face”