Datenleck bei 302.ai legt 17,6 Millionen Dateien und private Chats offen

Das Datenleck bei 302.ai legte 17,6 Millionen Dateien offen, darunter KI-Konversationen, generierte Medieninhalte und Geschäftsdokumente. Sicherheitsforscher entdeckten 22,72 TB an Informationen in einem öffentlich zugänglichen Azure-Speichercontainer, der dem KI-Aggregatordienst gehörte.

Das Unternehmen entfernte den öffentlichen Zugriff, nachdem die Forscher die Datenexposition gemeldet hatten. Allerdings geht aus den verfügbaren Erkenntnissen nicht hervor, wie lange die Dateien zugänglich waren. Die Forscher fanden auch keine Hinweise darauf, dass böswillige Akteure auf die Daten zugegriffen oder sie heruntergeladen hatten.

Öffentlicher Speicher legte fast 23 TB an Informationen offen

302.ai bietet über eine einzige Plattform Zugriff auf mehrere KI-Dienste. Das Angebot umfasst Modelle von Anbietern wie OpenAI, Anthropic, Google und anderen.

Die Forscher entdeckten eine große Sammlung von Nutzerinhalten im offengelegten Speicher des Dienstes. Bilder machten fast 9 TB aus, während Videos etwa 7,7 TB und Audiodateien weitere 5,6 TB umfassten.

Das übrige Material bestand aus Chatprotokollen, Dokumenten und archivierten Konversationen.

Ein Fehler bei der Speicherkonfiguration könnte den öffentlichen Zugriff erklären. Allerdings haben die Forscher die genaue Ursache nicht bestätigt. Eine versehentliche Offenlegung bleibt daher eine wahrscheinliche Erklärung und keine gesicherte Erkenntnis.

Chatprotokolle enthielten personenbezogene Daten und Gesprächsverläufe

Unter den offengelegten Dateien identifizierten die Forscher mehr als 144.000 Chatprotokolle im JSON-Format.

Diese Datensätze enthielten Nutzereingaben, Antworten der KI-Assistenten, Modellinformationen, Tokenkosten, Zeitstempel und weitere Metadaten. Dadurch wurden sowohl die Gesprächsinhalte als auch Informationen darüber offengelegt, wie Kunden den Dienst nutzten.

Einige Protokolle enthielten außerdem personenbezogene Daten, die Nutzer offenbar während ihrer Gespräche angegeben hatten. Dazu gehörten Geburtsdaten, Geschlechtsangaben, Kontaktdaten und Wohnadressen.

Allerdings lässt sich aus der Anzahl der offengelegten Dateien nicht ableiten, wie viele einzelne Nutzer von dem Vorfall betroffen waren. Eine einzelne Person oder ein Unternehmen könnte für mehrere Datensätze verantwortlich sein.

Chatbot-Protokolle von Unternehmen befanden sich im Datensatz

Das Datenleck bei 302.ai betraf auch Materialien aus der geschäftlichen Nutzung.

Die Forscher fanden mehrere Protokolle von Kundenservice-Chatbots, die mit einem bekannten Hersteller von Sexpuppen in Verbindung standen. Die vorliegenden Erkenntnisse nennen das Unternehmen nicht und belegen auch nicht das vollständige Ausmaß der Datenexposition.

Andere Dokumente behandelten ein breites Themenspektrum, darunter Forschungsarbeiten zur Entwicklung großer Sprachmodelle. Einige schienen zudem private Dateien zu sein, die Kunden zur Analyse hochgeladen hatten.

Diese Erkenntnisse zeigen, dass der Speicher mehr als generierte Unterhaltungsinhalte enthielt. Er umfasste auch Konversationen und Dokumente, die mit persönlichen Angelegenheiten und geschäftlichen Abläufen zusammenhingen.

Archivierte Konversationen enthielten hochgeladene Dateien

Die Forscher identifizierten außerdem mehr als 26.000 ZIP-Archive mit Konversationsdaten.

Die Archive enthielten Zusammenfassungen, Nutzereingaben, Modellausgaben und Dateien, die an Konversationen angehängt waren. Dadurch konnten einige Datensätze mehr Kontext offenlegen als eine einzelne Eingabe oder Antwort.

Bei Geschäftskunden könnte dieser Kontext Einzelheiten über interne Aufgaben oder Kundeninteraktionen umfassen. Bei Privatpersonen könnten Informationen aus Dokumenten offengelegt werden, die sie einem KI-Tool zur Verfügung gestellt hatten.

Dennoch belegen die verfügbaren Informationen nicht, dass jemand diese Datensätze für böswillige Zwecke verwendet hat.

Offengelegte Konversationen könnten gezielte Betrugsversuche erleichtern

Detaillierte Chatverläufe könnten Kriminellen helfen, überzeugendere Phishing-Nachrichten zu erstellen oder andere Social-Engineering-Angriffe durchzuführen.

Beispielsweise könnte eine Konversation aktuelle Sorgen, laufende Projekte oder kürzliche Kontakte einer Person mit einem Unternehmen offenlegen. Ein Angreifer könnte diesen Kontext anschließend nutzen, um eine betrügerische Nachricht vertraut erscheinen zu lassen.

Ebenso könnten Kontaktinformationen und hochgeladene Dokumente zusätzliche Details für gezielte Kontaktaufnahmen liefern.

Dabei handelt es sich um mögliche Folgen der Datenexposition und nicht um bestätigte Auswirkungen. Die Forscher berichteten von keinen Hinweisen auf böswillige Zugriffe oder Downloads.

Öffentlicher Zugriff nach Warnung der Forscher entfernt

302.ai schränkte den Zugriff auf die offengelegten Daten ein, nachdem die Forscher das Unternehmen kontaktiert hatten. Die Dateien sind über den identifizierten Speicherort nicht mehr öffentlich zugänglich.

Allerdings lässt sich durch die Entfernung des öffentlichen Zugriffs nicht feststellen, ob zuvor jemand Kopien angefertigt hat. Der verfügbare Bericht lässt diese Frage offen.

Das in Hongkong ansässige Unternehmen Univerads Technology Limited, das 2020 gegründet wurde, entwickelt 302.ai. Der Vorfall verdeutlicht die Verantwortung von KI-Vermittlungsdiensten, Konversationen, Anhänge und Geschäftsunterlagen zu schützen, die sie zusammen mit generierten Inhalten speichern.