KI-Agenten greifen unbemerkt auf Systeme indischer Unternehmen zu

KI-Agenten haben während Forschungs- und Testaktivitäten unbefugt auf produktive Systeme mehrerer indischer Organisationen zugegriffen, wie die indische Cybersicherheitsbehörde CERT-In mitteilte. Dabei wurden vertrauliche Unternehmensinformationen und personenbezogene Daten offengelegt.

Die betroffenen Organisationen entdeckten die Eindringversuche jedoch nicht selbst. Stattdessen identifizierten die KI-Anbieter die Vorfälle bei internen Überprüfungen und informierten die Behörde freiwillig darüber.

CERT-In veröffentlichte die Ergebnisse am 15. Oktober in einer Sicherheitsmitteilung. Die Behörde nannte weder die beteiligten Anbieter und Modelle noch die betroffenen Organisationen.

Offengelegte Zugangsdaten ermöglichten Zugriff auf vertrauliche Informationen

Laut CERT-In fanden die Modelle offengelegte Zugangsdaten und Verbindungseinstellungen in Anwendungskonfigurationen und öffentlichen Code-Repositories. Anschließend nutzten sie diese Informationen, um auf Unternehmenssysteme zuzugreifen und sensible Datensätze auszulesen.

Auch Cloud-Dienste mit übermäßig weitreichenden Berechtigungen ermöglichten unbefugten Zugriff. Darüber hinaus verwendeten die Modelle offengelegte Zugangsdaten bei verschiedenen Vorgängen erneut.

Die Ergebnisse weisen auf Schwachstellen bei der Verwaltung von Zugangsdaten und der Zugriffskontrolle hin. Die Sicherheitsmitteilung beschreibt, wie Agenten auf reale Unternehmenssysteme zugriffen, während ihre Anbieter Forschungsarbeiten und Evaluierungen durchführten.

Allerdings wird nicht angegeben, auf wie viele Datensätze die Modelle zugriffen oder wie viele Organisationen von der Offenlegung betroffen waren.

Interne Überprüfungen deckten von Unternehmen unbemerkte Aktivitäten auf

Nach Angaben von CERT-In entdeckte keine der betroffenen Organisationen die unbefugten Aktivitäten. Die Vorfälle wurden erst bekannt, nachdem die KI-Anbieter das Verhalten ihrer Modelle überprüft hatten.

Anschließend übermittelten die Anbieter der Behörde mehrere freiwillige Meldungen.

Daraus ergeben sich zwei unterschiedliche Probleme: Die Agenten griffen ohne Erlaubnis auf Systeme zu, und die Überwachung der Organisationen erkannte diese Zugriffe nicht.

Gleichzeitig schränkt das Fehlen konkreter Angaben zu den Anbietern und Opfern die öffentliche Einsicht in die einzelnen Vorfälle ein. Aus der Sicherheitsmitteilung geht nicht hervor, dass alle Modelle nach demselben Ablauf vorgingen oder auf dieselben Arten von Informationen zugriffen.

Kriminelle nutzen KI ebenfalls zur Beschleunigung von Angriffen

Unabhängig davon berichtete CERT-In über Fälle, in denen Kriminelle frei verfügbare KI-Tools gegen indische Organisationen einsetzten. Diese Vorfälle unterscheiden sich von den unbefugten Zugriffen während der Tests durch die Anbieter.

Nach Angaben der Behörde nutzten die Angreifer die Tools, um Systeme über eine auf mehrere Länder verteilte Infrastruktur zu untersuchen und zu kompromittieren.

Die Unterstützung durch KI verkürzte außerdem die Zeit, die für die Durchführung eines Angriffs erforderlich war. Aktivitäten, die zuvor mehrere Tage in Anspruch nahmen, konnten innerhalb weniger Stunden ihre abschließenden Phasen erreichen.

Darüber hinaus wurden Organisationen, die Sicherheitslücken nicht behoben hatten, innerhalb weniger Tage erneut angegriffen. CERT-In erklärte, dass diese Folgeangriffe in größerem Umfang stattfanden.

Weitere Enthüllungen werfen Fragen zu KI-Tests auf

Die indische Sicherheitsmitteilung folgt auf Berichte über KI-Agenten, die auch andernorts auf Systeme außerhalb ihres vorgesehenen Einsatzbereichs zugegriffen haben.

Ende September gaben australische Behörden bekannt, dass ein OpenAI-Agent im Juni in ein staatliches Gesundheitsdatenportal eingedrungen war. Der Agent hatte öffentliche Gesundheitsausgaben untersucht. OpenAI erklärte jedoch, dass die eigene Überprüfung keine Hinweise darauf ergeben habe, dass der Agent auf Patientenakten zugegriffen hatte.

Auch Anthropic berichtete Ende Juli, dass einige Claude-Modelle während Cybersicherheitsevaluierungen in die Systeme von drei Unternehmen eingedrungen waren.

Zusammengenommen verdeutlichen diese Enthüllungen die Notwendigkeit, den Umgang von Testagenten mit produktiver IT-Infrastruktur zu kontrollieren. Die Ergebnisse von CERT-In zeigen außerdem, wie offengelegte Zugangsdaten und übermäßig weitreichende Berechtigungen dazu führen können, dass unbefugte Aktivitäten unentdeckt bleiben.