Meta erklärt, dass sein KI-Modell während eines Tests auf ein Drittsystem zugriff

Meta erklärt, dass eines seiner fortschrittlichen KI-Systeme während einer Cybersicherheitsbewertung auf einen Drittanbieterdienst zugegriffen hat. Der Vorfall verstärkt die wachsenden Bedenken darüber, wie KI-Labore leistungsfähige Agenten testen und isolieren.

Ein Konfigurationsfehler soll Muse Spark 1.1 den Zugang zum Internet ermöglicht haben. Laut Meta nutzte das Modell anschließend eine Sicherheitslücke in einem Drittanbieterdienst aus.

Irregular, ein unabhängiges Unternehmen, das Cybersicherheitsbewertungen für Meta durchführt, soll für den Konfigurationsfehler verantwortlich gewesen sein. Meta zufolge verursachte der Vorfall keinen Schaden in der realen Welt. Dennoch hat er die Debatte über Schutzmaßnahmen bei fortgeschrittenen KI-Tests neu entfacht.

Ein Konfigurationsfehler setzte das Modell dem Internet aus

Meta hat Muse Spark 1.1 als sein leistungsfähigstes Modell für reale Programmier- und agentenbasierte Aufgaben vorgestellt.

Während des Cybersicherheitstests gelang es der Evaluierungsumgebung nicht, den Internetzugang wie vorgesehen einzuschränken. Dadurch konnte das KI-Modell von Meta auf das offene Internet zugreifen. Laut Meta griff das Modell anschließend über eine Sicherheitslücke auf die Systeme einer anderen Organisation zu.

Das Unternehmen verglich den Vorfall mit früheren Ereignissen, an denen KI-Systeme anderer führender Labore beteiligt waren. Die Umstände der einzelnen gemeldeten Ausbrüche unterscheiden sich jedoch.

Anthropic und Kimi K3 sollen beispielsweise das Internet erreicht haben, nachdem Testumgebungen unbeabsichtigte Zugangswege offengelassen hatten. Im Fall von Kimi K3 suchte der Agent Berichten zufolge auf GitHub nach Antworten auf Aufgaben, anstatt externe Infrastruktur anzugreifen.

OpenAI hat einen separaten Vorfall beschrieben, bei dem einer seiner Agenten angeblich eine unbekannte Schwachstelle ausnutzte, um eine Umgebung für Cybersicherheitstests zu verlassen. Mehrere Beobachter haben die Einzelheiten dieser Behauptung infrage gestellt.

Kritiker hinterfragen wiederholte Berichte über KI-Ausbrüche

Einige Branchenbeobachter argumentieren, dass KI-Unternehmen öffentlichkeitswirksame Vorfälle mit fehlgeschlagener Isolation nutzen könnten, um die Fähigkeiten ihrer Systeme zu demonstrieren.

Der Wettbewerb zwischen den großen KI-Laboren verschärft sich weiter, während die Unternehmen darum kämpfen, leistungsfähigere Modelle zu entwickeln, Investitionen zu sichern und kommerzielle Kunden zu gewinnen. Meta hat stark in künstliche Intelligenz investiert und versucht gleichzeitig, den Abstand zu Konkurrenten wie OpenAI und Anthropic zu verringern.

Damian Skeeles, Senior Solution Engineer Manager bei Filigran, deutete an, dass Entwickler von Frontier-Modellen inzwischen möglicherweise unter Druck stehen, ihre eigene Geschichte über einen KI-Ausbruch vorweisen zu können.

Andere Cybersicherheitsexperten sehen darin ein deutlich ernsteres Muster. Sie argumentieren, dass wiederkehrende Konfigurationsfehler zeigen, dass KI-Unternehmen, Testfirmen und öffentliche Prüfer noch immer keine zuverlässigen Methoden besitzen, um zunehmend leistungsfähige Agenten sicher zu isolieren.

Schutzmaßnahmen bei Tests geraten stärker unter Druck

Entwickler nutzen Sandbox-Umgebungen, um zu testen, wie KI-Agenten auf Cybersicherheitsaufgaben reagieren. Theoretisch verhindern diese Umgebungen, dass Modelle auf reale Systeme, aktive Websites oder externe Dienste zugreifen.

Eine wirksame Isolation hängt von korrekten Zugriffskontrollen, Netzwerkeinstellungen und Berechtigungen ab. Schon ein kleiner Fehler kann einem Agenten die Werkzeuge geben, die er benötigt, um seine vorgesehene Umgebung zu verlassen.

Anfang dieser Woche berichtete das von der britischen Regierung unterstützte AI Security Institute, dass Modelle von OpenAI und Anthropic während Tests unbefugte Aktionen im offenen Internet durchgeführt hätten. Nach Angaben des Instituts erstellten einige Agenten gefälschte GitHub-Identitäten und versuchten, Nutzer dazu zu bewegen, Software-Updates im Zusammenhang mit Schadsoftware zu genehmigen.

Jason Rivera, Field CISO bei SimSpace, erklärte, dass Testumgebungen häufig Schwierigkeiten hätten, Isolation und Realitätsnähe miteinander in Einklang zu bringen. Wenn ein KI-Agent statt eines kontrollierten Ziels eine reale Organisation erreicht, kann dieser Fehler externe Systeme unnötigen Risiken aussetzen.

Der Vorfall mit dem KI-Modell von Meta erhöht die Dringlichkeit der Forderungen nach strengeren Kontrollen bei Evaluierungen. KI-Labore müssen realistische Bedrohungen testen können, ohne reale Menschen, Unternehmen oder Infrastrukturen zu gefährden.