Yellow.ai cookie-fejl lod hackere kapre supportkonti

Forskere opdagede en Yellow.ai-cookiefejl, der udsatte supportagentkonti for kapring. Sårbarheden gjorde det muligt for angribere at bruge cross-site scripting (XSS) til at stjæle sessionscookies. Yellow.ai har siden rettet fejlen, men sagen fremhæver voksende risici i chatbot-systemer.

Hvordan sårbarheden fungerede

Fejlen opstod, fordi chatbotten ikke rensede input og output korrekt. Angribere kunne udforme prompt, der tvang chatbotten til at returnere skadelig HTML eller JavaScript. Når dette blev vist i en supportagents grænseflade, blev scriptet kørt automatisk.

Denne kørsel sendte cookies fra agentens browser til en server kontrolleret af angriberen. Med disse cookies kunne angribere udgive sig for agenter og få adgang til interne systemer.

Hvilke virksomheder der var i risikozonen

Yellow.ai leverer chatbots til store virksomheder som Sony, Hyundai og Domino’s. Sårbarheden fandtes i platformens kerne, men forskere fandt ingen beviser for, at den blev udnyttet i praksis.

Alligevel gør Yellow.ais store kundebase eksponeringen betydelig. Kaprede supportagentkonti kunne have gjort det muligt for angribere at opsnappe kommunikation eller misbruge forhøjede rettigheder.

Patch og respons

Yellow.ai rettede sårbarheden ved at opdatere, hvordan chatbotten håndterer genereret output. Efter opdateringen vises injicerede scripts som tekst i stedet for at blive kørt i browseren. Denne løsning forhindrer fremtidige forsøg på cookietyveri.

Virksomheden bekræftede rettelsen og gav sikkerhedsforskerne anerkendelse for at have rapporteret problemet.

Læringer for virksomheder

Yellow.ai-cookiefejlen understreger behovet for strenge sikkerhedsforanstaltninger i AI-drevne systemer. Virksomheder, der anvender chatbots, bør:

• Rense al input og output for at blokere skadelige scripts.
• Begrænse kontorettigheder for at reducere skade fra en stjålet session.
• Gennemgå chatbot-svar regelmæssigt for at identificere usikre handlinger.
• Overvåge usædvanlig aktivitet i supportsystemer.

Konklusion

Yellow.ai-cookiefejlen viser, hvordan små fejl i chatbotdesign kan åbne kraftfulde angrebsvektorer. Selvom fejlen hurtigt blev rettet, kunne sårbarheden have gjort det muligt for hackere at kapre supportkonti og få adgang til følsomme systemer. Organisationer, der anvender AI-støttede værktøjer, må behandle dem med samme alvor som andre webapplikationer ved at indføre stærke kontroller, overvåge trusler og begrænse eksponering.