Yellow.ai Cookie-Fehler ließ Hacker Support-Konten kapern

Forscher entdeckten einen Yellow.ai-Cookie-Fehler, der Support-Agent-Konten der Übernahme aussetzte. Die Schwachstelle ermöglichte es Angreifern, Cross-Site-Scripting (XSS) zu nutzen, um Sitzungs-Cookies zu stehlen. Yellow.ai hat den Fehler inzwischen behoben, doch der Fall verdeutlicht wachsende Risiken in Chatbot-Systemen.

Wie die Schwachstelle funktionierte

Der Fehler entstand, weil der Chatbot Ein- und Ausgaben nicht korrekt bereinigte. Angreifer konnten Eingaben erstellen, die den Chatbot zwangen, schädliches HTML oder JavaScript zurückzugeben. Wurde dies in der Oberfläche eines Support-Agenten angezeigt, führte der Browser das Skript automatisch aus.

Diese Ausführung sendete Cookies aus dem Browser des Agenten an einen Server, der von Angreifern kontrolliert wurde. Mit diesen Cookies konnten Angreifer sich als Agenten ausgeben und Zugriff auf interne Systeme erhalten.

Welche Unternehmen gefährdet waren

Yellow.ai stellt Chatbots für große Unternehmen wie Sony, Hyundai und Domino’s bereit. Die Schwachstelle befand sich im Kern der Plattform, doch Forscher fanden keine Beweise dafür, dass sie aktiv ausgenutzt wurde.

Trotzdem macht die große Kundenbasis von Yellow.ai die Exponierung bedeutend. Gestohlene Support-Agent-Konten hätten Angreifern ermöglichen können, Kommunikation abzufangen oder erweiterte Rechte zu missbrauchen.

Patch und Reaktion

Yellow.ai behob die Schwachstelle, indem es die Verarbeitung der generierten Ausgaben aktualisierte. Seit dem Update werden eingeschleuste Skripte als Text angezeigt, anstatt im Browser ausgeführt zu werden. Diese Lösung verhindert zukünftige Cookie-Diebstahlsversuche.

Das Unternehmen bestätigte den Patch und würdigte die Sicherheitsforscher, die das Problem gemeldet hatten.

Lehren für Unternehmen

Der Yellow.ai-Cookie-Fehler unterstreicht die Notwendigkeit strenger Sicherheitsmaßnahmen in KI-gestützten Systemen. Unternehmen, die Chatbots einsetzen, sollten:

• Alle Ein- und Ausgaben bereinigen, um schädliche Skripte zu blockieren.
• Kontoberechtigungen einschränken, um den Schaden gestohlener Sitzungen zu verringern.
• Chatbot-Antworten regelmäßig prüfen, um unsicheres Verhalten zu erkennen.
• Ungewöhnliche Aktivitäten in Support-Systemen überwachen.

Fazit

Der Yellow.ai-Cookie-Fehler zeigt, wie kleine Versäumnisse im Chatbot-Design mächtige Angriffsvektoren eröffnen können. Obwohl er schnell behoben wurde, hätte die Schwachstelle es Hackern ermöglichen können, Support-Konten zu kapern und auf sensible Systeme zuzugreifen. Organisationen, die KI-gestützte Support-Tools einsetzen, müssen diese mit derselben Strenge behandeln wie andere Webanwendungen, indem sie starke Kontrollen durchsetzen, Bedrohungen überwachen und die Exponierung begrenzen.