Ein Sicherheitsvorfall bei Hugging Face wurde durch ein autonomes KI-Agentensystem verursacht, das Zugriff auf eine begrenzte Anzahl interner Datensätze und Dienstzugangsdaten erlangte, wie das Unternehmen bestätigt hat.
Der Vorfall begann in der Datenverarbeitungsumgebung der Plattform und weitete sich zu einem umfassenderen Eindringen in mehrere interne Cluster aus. Laut Hugging Face spielte sich der Angriff innerhalb eines einzigen Wochenendes ab und umfasste Tausende automatisierter Aktionen.
Das Unternehmen erklärte, es gebe keine Hinweise darauf, dass öffentliche Modelle, öffentliche Datensätze, Spaces, Container-Images oder veröffentlichte Pakete verändert wurden.
Autonomes KI-System führte den Angriff aus
Der Sicherheitsvorfall bei Hugging Face ist außergewöhnlich, weil das Unternehmen angibt, dass ein autonomes KI-Agentensystem den Angriff vollständig eigenständig von Anfang bis Ende ausführte.
Die Angreifer sollen einen bösartigen Datensatz genutzt haben, um Schwachstellen in der Datenverarbeitungspipeline von Hugging Face auszunutzen. Nachdem das System Code auf einem Verarbeitungs-Worker ausführen konnte, erweiterte es seine Berechtigungen, sammelte Cloud- und Cluster-Zugangsdaten und bewegte sich anschließend in weitere interne Umgebungen.
Nach Angaben von Hugging Face führte das Agentensystem viele Tausend einzelne Aktionen über eine Gruppe kurzlebiger Sandbox-Umgebungen aus. Dadurch konnten die Angreifer mit Maschinengeschwindigkeit arbeiten und Arbeitsschritte automatisieren, die normalerweise erheblich mehr manuellen Aufwand erfordern würden.
Welches große Sprachmodell das Agentensystem der Angreifer antrieb, ist derzeit noch nicht bekannt.
Interne Daten und Zugangsdaten wurden abgerufen
Hugging Face bestätigte, dass die Angreifer auf eine begrenzte Anzahl interner Datensätze sowie auf mehrere Zugangsdaten für Unternehmensdienste zugreifen konnten.
Das Unternehmen prüft weiterhin, ob Partner- oder Kundendaten betroffen sind. Falls dies der Fall sein sollte, sollen die betroffenen Parteien direkt informiert werden.
Gleichzeitig betont Hugging Face, dass keine Hinweise auf Manipulationen an öffentlichen Modellen, Datensätzen oder Spaces gefunden wurden. Zudem wurde die Software-Lieferkette überprüft und als unbeeinträchtigt eingestuft.
Das bedeutet, dass Nutzer derzeit nicht davon ausgehen müssen, dass öffentliche Downloads, Container-Images oder veröffentlichte Pakete im Rahmen des Vorfalls verändert wurden.
Unternehmen schloss die ursprünglichen Angriffswege
Nach dem Sicherheitsvorfall schloss Hugging Face nach eigenen Angaben die Codeausführungspfade, die für den ersten Zugriff genutzt wurden.
Außerdem entfernte das Unternehmen den Zugriff der Angreifer auf die betroffenen Cluster und baute kompromittierte Knoten neu auf. Darüber hinaus wurden betroffene Zugangsdaten und Tokens widerrufen und ausgetauscht, bevor Hugging Face eine umfassendere vorsorgliche Rotation weiterer Geheimnisse durchführte.
Zusätzlich führte das Unternehmen weitere Schutzmaßnahmen und strengere Sicherheitskontrollen für seine Cluster ein. Gleichzeitig wurden die Erkennungssysteme verbessert, sodass kritische Warnmeldungen innerhalb weniger Minuten die zuständigen Sicherheitsteams erreichen.
Hugging Face arbeitet inzwischen mit externen IT-Forensikern zusammen und hat den Vorfall den Strafverfolgungsbehörden gemeldet.
KI half bei Erkennung und Untersuchung des Angriffs
KI spielte während des Vorfalls auf beiden Seiten eine wichtige Rolle.
Nach Angaben von Hugging Face half das KI-gestützte System zur Anomalieerkennung dabei, verdächtige Aktivitäten zu identifizieren. Anschließend setzte das Unternehmen KI-Analyseagenten ein, um mehr als 17.000 aufgezeichnete Angreiferaktionen auszuwerten und den zeitlichen Ablauf des Angriffs zu rekonstruieren.
Die Untersuchung machte jedoch auch ein Problem für Verteidiger deutlich. Hugging Face versuchte zunächst, die Angriffsprotokolle mithilfe moderner Sprachmodelle über kommerzielle APIs auszuwerten.
Diese Modelle blockierten die forensischen Anfragen, da die Protokolle echten Exploit-Code, schädliche Befehle und Artefakte einer Command-and-Control-Infrastruktur enthielten. Die Systeme konnten nicht zwischen einem Sicherheitsforscher, der einen Angriff untersucht, und einem Angreifer unterscheiden, der Unterstützung sucht.
Aus diesem Grund setzte Hugging Face stattdessen ein selbst gehostetes Open-Weight-Modell für die Untersuchung ein. Dadurch konnte das Unternehmen sämtliche Daten innerhalb der eigenen Infrastruktur behalten und die Analyse dennoch fortsetzen.
Nutzer sollten ihre Zugriffstokens austauschen
Als Vorsichtsmaßnahme empfiehlt Hugging Face allen Nutzern, ihre Zugriffstokens zu rotieren und die jüngsten Kontoaktivitäten zu überprüfen.
Der Sicherheitsvorfall bei Hugging Face zeigt, wie KI-gestützte Angriffswerkzeuge komplexe Cyberangriffe schneller und besser skalierbar machen können. Gleichzeitig unterstreicht der Vorfall die Bedeutung einer sicheren Datenverarbeitungspipeline, einer kontinuierlichen Überwachung interner Cluster sowie von Incident-Response-Werkzeugen, die schädliches Material sicher analysieren können.
0 Kommentare zu „Autonomer KI-Agent steckte hinter dem Sicherheitsvorfall bei Hugging Face“