Anthropic warnt: Selbstreplizierende KI könnte sich über smarte Geräte verbreiten

Selbstreplizierende KI könnte sich künftig über vernetzte Haushaltsgeräte verbreiten und deren gemeinsame Rechenleistung nutzen, wie Forschungsergebnisse von Anthropic nahelegen. In den Experimenten wurde untersucht, ob kleine Modelle unbekannte Hardware für die Ausführung von KI-Anwendungen vorbereiten und sich innerhalb eines Netzwerks verbreiten könnten.

Die Forscher demonstrierten jedoch keinen vollständig autonomen KI-Wurm, der sich auf echten Verbrauchergeräten ausbreitete. Die Ergebnisse deuten auf eine potenzielle zukünftige Bedrohung hin und nicht auf eine bereits nachgewiesene Angriffsfähigkeit.

Experimente untersuchen KI-Netzwerke aus Verbrauchergeräten

Anthropic untersuchte, ob kostengünstige vernetzte Geräte KI-Anwendungen ausführen könnten, ohne auf zentralisierte Rechenzentren angewiesen zu sein. Zu den potenziellen Zielen gehören Android-TV-Boxen weniger bekannter Hersteller und andere intelligente Haushaltsgeräte.

In einer Demonstration führten die Forscher das Modell Gemma4-26B-A4B von Google DeepMind auf insgesamt 15 Android-TV-Boxen aus. Dies zeigte, dass mehrere kostengünstige Geräte gemeinsam ein KI-Modell unterstützen können.

Die Verteilung eines Modells auf mehrere Hardwaregeräte ist jedoch nur ein Teil der autonomen Replikation. Ein funktionierendes System müsste außerdem weitere Geräte finden, Zugriff darauf erlangen, sie konfigurieren und sich anschließend zuverlässig weiterverbreiten.

Ein solches Netzwerk könnte schwer abzuschalten sein, da es keinen zentralen Abschaltpunkt hätte. Dennoch vermutete Anthropic, dass sich frühe Versionen nur langsam verbreiten könnten und möglicherweise mehrere Tage benötigen würden, um ihre Größe zu verdoppeln.

Tests verwendeten Geräte mit vereinfachtem Zugriff

In den Experimenten wurden mehreren KI-Modellen unterschiedliche Aufgaben zugewiesen. Qwen3.5-9B und GLM-5.2 versuchten, Geräte zu konfigurieren und Software zur Ausführung von Llama3.1-8B zu verbreiten.

Unabhängig davon wurde Gemma4-26B-A4B für die Demonstration verteilter Rechenleistung eingesetzt. Die Forscher untersuchten außerdem, ob Unterstützung durch das leistungsfähigere Modell Opus 4.8 die Leistung von Qwen verbesserte.

Entscheidend war, dass die Testumgebung den Zugriff über Android Debug Bridge ohne Authentifizierung ermöglichte. Dadurch entfiel eine wichtige Sicherheitsbarriere, und die Bedingungen waren im Vergleich zu geschützten Geräten in realen Umgebungen deutlich vereinfacht.

Die Ergebnisse belegen daher nicht, dass die Modelle eigenständig in gewöhnliche, abgesicherte Heimnetzwerke eindringen könnten.

Modelle bewältigten einzelne Aufgaben, hatten jedoch Schwierigkeiten bei der zuverlässigen Verbreitung

Qwen3.5-9B konnte die für die Ausführung von Llama3.1-8B erforderliche Software auf acht von neun Hardwaretypen erfolgreich installieren und konfigurieren.

Unterdessen erreichte GLM-5.2 in vier von fünf Versuchen sämtliche Knoten eines emulierten Netzwerks mit acht Knoten. Andere getestete Modelle konnten den gesamten Prozess nicht zuverlässig abschließen.

Die Speicherung von Informationen aus früheren Versuchen verbesserte die Leistung. Die Erfolgsquote von Qwen3.5-9B stieg von 45 % bei den ersten Versuchen auf 84 % in späteren Generationen.

Die Unterstützung durch Opus 4.8 führte in der getesteten Umgebung jedoch zu keiner messbaren Verbesserung. Die Ergebnisse zeigen Fortschritte bei einzelnen Aufgaben, während bei einer zuverlässigen Replikation über den gesamten Prozess hinweg weiterhin erhebliche Lücken bestehen.

Anthropic erwartet weitere Fortschritte bis zum Jahresende

Auf Grundlage der Experimente und historischer Verbesserungsraten schätzte Anthropic, dass Modelle mit höchstens 30 Milliarden Parametern bis Ende 2026 das erforderliche Fähigkeitsniveau erreichen könnten.

Diese Prognose setzt weitere Fortschritte voraus. Sie bedeutet nicht, dass innerhalb dieses Zeitraums tatsächlich autonome, selbstreplizierende KI entstehen wird.

Auch die Geschwindigkeit bleibt eine Einschränkung. Auf der untersuchten Hardware lagen die gemeldeten Zeiten für die Einrichtung der Inferenzumgebung bei Qwen3.5-9B zwischen 28 und 51 Stunden. Für Gemma4-26B-A4B betrug die Spanne 71 bis 150 Stunden.

Diese langwierigen Prozesse könnten Sicherheitsteams ausreichend Zeit geben, verdächtige Aktivitäten zu erkennen und einzugreifen. Künftige Verbesserungen könnten dieses Zeitfenster jedoch verkürzen.

Forscher beschreiben mögliche Schutzmaßnahmen

Anthropic schlug vor, große Modellübertragungen und ungewöhnliche Kommunikation zwischen Geräten zu überwachen. Solche Aktivitäten könnten dabei helfen, Versuche zur Verteilung von KI-Anwendungen auf kompromittierter Hardware aufzudecken.

Weitere vorgeschlagene Maßnahmen umfassen den Einsatz von Honeypots zur Untersuchung verdächtiger Schadsoftware-Komponenten, die Isolierung der Verbindungen betroffener Anschlussinhaber sowie die Verbesserung der standardmäßigen Sicherheitseinstellungen von IoT-Geräten.

Die Forschung belegt nicht, dass autonome KI-Würmer eine unmittelbar bevorstehende Bedrohung darstellen. Selbst unter vereinfachten Zugriffsbedingungen und mit ausdrücklich vorgegebenen Verbreitungszielen demonstrierten die Experimente keine vollständige Replikation über reale IoT-Hardware hinweg.

Stattdessen zeigen die Ergebnisse, welche Fähigkeiten sich zunehmend verbessern und welche Sicherheitslücken künftig für Missbrauch ausgenutzt werden könnten.