Yellow.ai cookie-feil lot hackere kapre supportkontoer

Forskere oppdaget en Yellow.ai-cookiefeil som utsatte supportagentkontoer for kapring. Sårbarheten gjorde det mulig for angripere å bruke cross-site scripting (XSS) til å stjele sesjonscookies. Yellow.ai har siden rettet feilen, men saken fremhever økende risiko i chatbot-systemer.

Hvordan sårbarheten fungerte

Feilen oppstod fordi chatboten ikke renset inn- og utdata korrekt. Angripere kunne lage prompt som tvang chatboten til å returnere skadelig HTML eller JavaScript. Når dette ble vist i en supportagents grensesnitt, ble skriptet kjørt automatisk.

Denne kjøringen sendte cookies fra agentens nettleser til en server kontrollert av angriperen. Med disse cookiene kunne angripere utgi seg for agenter og få tilgang til interne systemer.

Hvilke selskaper som var i risikosonen

Yellow.ai leverer chatboter til store selskaper som Sony, Hyundai og Domino’s. Sårbarheten fantes i plattformens kjerne, men forskere fant ingen bevis for at den ble utnyttet i praksis.

Likevel gjør Yellow.ais store kundebase eksponeringen betydelig. Kaprede supportagentkontoer kunne ha gjort det mulig for angripere å avskjære kommunikasjon eller misbruke utvidede rettigheter.

Patch og respons

Yellow.ai rettet sårbarheten ved å oppdatere hvordan chatboten håndterer generert output. Etter oppdateringen vises injiserte skript som tekst i stedet for å kjøres i nettleseren. Denne løsningen forhindrer fremtidige forsøk på cookietyveri.

Selskapet bekreftet rettelsen og ga sikkerhetsforskerne anerkjennelse for å ha rapportert problemet.

Lærdommer for virksomheter

Yellow.ai-cookiefeilen understreker behovet for strenge sikkerhetstiltak i AI-drevne systemer. Bedrifter som bruker chatboter bør:

• Rense alle inn- og utdata for å blokkere skadelige skript.
• Begrense kontorettigheter for å redusere skade fra en stjålet sesjon.
• Gjennomgå chatbot-svar regelmessig for å identifisere usikre handlinger.
• Overvåke uvanlig aktivitet i supportsystemer.

Konklusjon

Yellow.ai-cookiefeilen viser hvordan små feil i chatbotdesign kan åpne kraftige angrepsvektorer. Selv om feilen raskt ble rettet, kunne sårbarheten ha gjort det mulig for hackere å kapre supportkontoer og få tilgang til sensitive systemer. Organisasjoner som tar i bruk AI-støttede verktøy må behandle dem med samme alvor som andre webapplikasjoner ved å innføre sterke kontroller, overvåke trusler og begrense eksponering.