AI-stemmebotangreb skjuler kommandoer i lyd

Forskere har opdaget en ny trussel, der rammer stemmestyrede AI-systemer. De nyeste AI-stemmebotangreb bruger skjulte lydsignaler til at manipulere assistenter til at udføre uautoriserede handlinger uden, at brugerne bemærker noget usædvanligt.

Angrebene retter sig mod moderne stemmebaserede AI-værktøjer, herunder digitale assistenter, transskriptionsplatforme og virksomheders stemmesystemer. Forskerne advarer om, at angribere kan skjule ondsindede instruktioner i musik, podcasts, videoer eller live-samtaler. Når sårbare AI-systemer behandler lyden, kan de skjulte kommandoer udløse farlige handlinger i baggrunden.

Resultaterne skaber ny bekymring omkring den voksende brug af stemme-AI i virksomheder, smarte enheder og kundeserviceplatforme.

Forskere demonstrerede skjulte lydangreb

Sikkerhedsforskere viste under test, at skjulte lydsignaler kunne manipulere store lyd- og sprogmodeller. Mennesker kunne ikke høre de indlejrede kommandoer, men AI-systemerne opfattede dem stadig som legitime instruktioner.

Forskerne testede angrebene mod flere kommercielle og open source-baserede stemme-AI-systemer. Ifølge resultaterne kunne manipulerede assistenter:

• Udføre uautoriserede websøgninger
• Downloade filer fra eksterne servere
• Sende e-mails med følsomme oplysninger
• Starte automatiserede handlinger uden godkendelse

Forskerne advarede også om, at angribere kan indsætte skjulte kommandoer i live-opkald eller onlinemøder. Det skaber ekstra risici for kommunikationsplatforme og AI-drevne supportsystemer.

Stemmebaseret AI skaber nye sikkerhedsrisici

De nyeste AI-stemmebotangreb viser, hvordan den hurtige udbredelse af AI samtidig udvider cybertruslernes angrebsflade.

Stemmestyrede AI-værktøjer findes nu i smartphones, smarthøjttalere, automatiseringsplatforme og virtuelle assistenter. Mange af systemerne forbindes direkte til cloudtjenester, interne værktøjer og følsomme virksomhedsdata.

Forskerne forklarede, at angribere ikke nødvendigvis behøver direkte adgang til en enhed eller et netværk. I stedet kan ondsindede kommandoer skjule sig i almindeligt medieindhold, som brugerne forbruger hver dag.

Truslen skaber alvorlige bekymringer for organisationer, der bruger AI-baserede transskriptionstjenester eller automatiserede stemmearbejdsgange. Et kompromitteret stemmesystem kan eksponere følsomme oplysninger eller udføre uautoriserede handlinger uden tydelige advarselstegn.

Eksperter advarede også om, at realistiske AI-interaktioner kan få manipulerede systemer til at fremstå troværdige, selv når de handler skadeligt i baggrunden.

Skjulte lydtrusler fortsætter med at udvikle sig

Lydbaserede angreb mod stemmeassistenter har eksisteret i flere år. Samtidig øger avancerede generative AI-systemer den potentielle påvirkning markant.

Cyberkriminelle bruger allerede AI-genererede stemmer til svindel, identitetstyveri og phishingkampagner. Skjult lydmanipulation tilføjer nu endnu et farligt lag til disse trusler.

Forskerne mener, at organisationer skal begynde at behandle stemme-AI som højrisikoinfrastruktur frem for simple bekvemmelighedsfunktioner. Sikkerhedsteams kan derfor få brug for stærkere lydfiltrering, strengere adgangskontroller og løbende sikkerhedstest for at reducere risikoen.

Samtidig indrømmede forskerne, at nuværende forsvar stadig har svært ved at stoppe avancerede skjulte lydangreb.

Konklusion

De nyeste AI-stemmebotangreb viser, hvor sårbare moderne stemmebaserede AI-systemer kan blive, når angribere udnytter skjulte lydsignaler. Angrebene gør det muligt at sende skadelige kommandoer til AI-assistenter uden, at brugerne hører eller opdager dem.

Efterhånden som stemmestyret AI spreder sig til flere virksomheder og forbrugerenheder, vil angribere sandsynligvis fortsætte med at teste nye manipulationsteknikker. Forskningen viser også, at hver ny AI-funktion kan skabe helt nye cybersikkerhedsrisici, som organisationer hurtigt må håndtere.