KI-Coding-Agenten stellen Cybersicherheitsteams vor eine neue und unerwartete Herausforderung. Neue Untersuchungen von Sophos zeigen, dass KI-Agenten für die Softwareentwicklung zunehmend Aktionen ausführen, die dem Verhalten von Hackern ähneln. Dadurch stufen Sicherheitslösungen in Unternehmen legitime KI-Aktivitäten als potenzielle Cyberangriffe ein.
Die Ergebnisse deuten darauf hin, dass Sicherheitsteams künftig weniger Zeit darauf verwenden werden, festzustellen, ob verdächtige Aktivitäten stattgefunden haben. Stattdessen werden sie häufiger klären müssen, ob ein vertrauenswürdiger KI-Agent oder ein menschlicher Angreifer dahintersteckte.
KI-Coding-Agenten lösen häufige Sicherheitswarnungen aus
Forscher von Sophos X-Ops analysierten Telemetriedaten aus einem Zeitraum von sieben Tagen von mehreren bekannten KI-Entwicklungstools, darunter Claude Code, Cursor und Codex.
Die Untersuchung zeigte, dass KI-Coding-Agenten regelmäßig Warnungen in Endpoint Detection and Response-Systemen (EDR) auslösten. Der Grund: Viele ihrer Aktionen entsprachen Techniken, die im MITRE-ATT&CK-Framework dokumentiert sind.
Sophos beobachtete unter anderem Erkennungen in den folgenden Bereichen:
- Codeausführung
- Zugriff auf Anmeldedaten
- Umgehung von Sicherheitsmaßnahmen
Ein Ingenieur, der die Ergebnisse kommentierte, wies darauf hin, dass Endpoint-Sicherheitssoftware nicht erkennen kann, ob ein KI-Assistent oder ein Mensch einen riskanten Befehl ausgeführt hat. Deshalb lösten Claude Code, Cursor und Codex Warnungen im Zusammenhang mit Browser-Anmeldedaten, cmdkey, certutil und bitsadmin aus.
KI-Agenten führen Aktionen aus, die Hackern ähneln
Sophos behauptet nicht, dass die KI-Tools bösartig sind. Die Forscher erklären vielmehr, dass die Verhaltensüberschneidungen zwischen autonomen KI-Assistenten und Cyberkriminellen die Sicherheitslösungen zu Warnmeldungen veranlassen.
Aus Sicht einer Endpoint-Sicherheitsplattform ähneln viele KI-generierte Aktionen den Aktivitäten, die Verteidiger normalerweise mit einem aktiven Angreifer verbinden.
Die Forscher nennen mehrere typische KI-Aufgaben, die häufig verdächtig wirken:
- Starten von Terminalsitzungen
- Ausführen von PowerShell-Befehlen
- Installieren von Softwarepaketen
- Ändern großer Mengen von Dateien
- Authentifizierung bei Cloud-Diensten
- Zugriff auf gespeicherte Anmeldedaten
Entwickler führen diese Aktionen täglich während der Softwareentwicklung aus. Gleichzeitig nutzen Angreifer viele derselben Techniken in den frühen Phasen eines Cyberangriffs.
Laut Sophos lösen Sicherheitsregeln, die früher hauptsächlich bösartige Aktivitäten erkannten, inzwischen immer häufiger Warnungen bei legitimer KI-gestützter Entwicklung aus.
Die Absicht zu erkennen wird zur größten Herausforderung
Scott Miserendino, Chief Technology Officer bei DataBee, überrascht das Ergebnis nicht.
Er erklärt, dass Anbieter von Endpoint-Sicherheitslösungen schon lange Software bewerten müssen, deren Verhalten Malware ähnelt. Um Fehlalarme zu reduzieren, kombinieren sie Verhaltensanalysen, Prozessüberwachung und Positivlisten zugelassener Anwendungen.
Die eigentliche Herausforderung beginnt seiner Ansicht nach jedoch, wenn KI-Coding-Agenten immer autonomer und leistungsfähiger werden.
Nach Einschätzung von Miserendino müssen Sicherheitsanbieter ihre Erkennungsregeln kontinuierlich anpassen, um die Zahl der Fehlalarme niedrig zu halten und gleichzeitig echte Angriffe zuverlässig zu erkennen.
Unternehmen benötigen klare KI-Richtlinien
Sophos empfiehlt Unternehmen, eindeutig festzulegen, was KI-Agenten auf Unternehmensendgeräten dürfen und was nicht.
Fragen wie der erlaubte Zugriff auf Systemressourcen, zulässige administrative Aktionen und der Zeitpunkt einer erforderlichen Benutzerbestätigung gewinnen mit der zunehmenden Verbreitung von KI-Assistenten immer mehr an Bedeutung.
Künftige Sicherheitskontrollen sollten sich daher nicht ausschließlich auf das Verhalten konzentrieren. Ebenso wichtig werden Kontext, Identität, Berechtigungen und Absichten.
KI-Aktivitäten können Verteidigern helfen
Der zunehmende Einsatz von KI-Agenten könnte Sicherheitsteams auch Vorteile bringen.
Miserendino geht davon aus, dass Unternehmen die charakteristischen Verhaltensmuster vertrauenswürdiger KI-Tools künftig als zusätzliche Quelle für Sicherheits-Telemetriedaten nutzen können.
Selbst wenn Unternehmen bestimmte KI-Assistenten zulassen, können Sicherheitsteams deren Aktivitäten weiterhin erkennen und feststellen, wenn Angreifer versuchen, KI-generierte Aktionen zu verschleiern oder interne Sicherheitsrichtlinien zu umgehen.
KI-Coding-Agenten hinterlassen erkennbare Muster
Sophos erwartet, dass Sicherheitsteams KI-Aktivitäten künftig verstärkt gemeinsam mit herkömmlichen Endpoint-Aktivitäten überwachen werden.
Die Forscher empfehlen, Erkennungsregeln so anzupassen, dass zugelassene KI-Agenten erkannt werden, während tatsächlich gefährliche Aktivitäten weiterhin Warnmeldungen auslösen.
Bestimmte Verhaltensweisen sollten immer eine Warnung erzeugen – unabhängig davon, ob sie von einem KI-Assistenten oder einem Menschen ausgeführt werden.
Sophos nennt unter anderem das Entschlüsseln von Browser-Anmeldedaten, das Auslesen des Credential Managers, das Schreiben in Autostart-Ordner sowie den Einsatz von LOLBin-Techniken zum Herunterladen von Dateien. Diese Aktivitäten bleiben risikoreich, selbst wenn sie von einem autorisierten KI-Agenten ausgeführt werden.
Je leistungsfähiger KI-Coding-Agenten werden, desto stärker müssen sich Sicherheitslösungen weiterentwickeln. Eine reine Verhaltensanalyse reicht künftig nicht mehr aus. Sicherheitsprodukte müssen auch Kontext, Berechtigungen und Absichten stärker berücksichtigen.
0 Kommentare zu „KI-Coding-Agenten lösen Sicherheitswarnungen aus, weil sie sich wie Hacker verhalten“