LLM Phishing-links: Hvordan AI-hallucinationer driver en ny cybersikkerhedstrussel

Store sprogmodeller (LLM’er) bliver betroede digitale assistenter. Men LLM-phishinglinks skaber nu alvorlige cybersikkerhedsrisici.

AI-chatbots anbefaler selvsikkert falske login-sider, der fører til svindel og datatyveri. Dette voksende problem er ikke bare en uskyldig fejl — det er en mulighed for cyberkriminelle.

Forskere fra Netcraft opdagede for nylig, at AI-værktøjer viste en falsk Wells Fargo-login-side under test. AI’en gav selvsikkert et phishinglink uden nogen ekstern manipulation.

Sådan omgår LLM-phishinglinks traditionelle sikkerhedsforanstaltninger

Faren ved LLM-phishinglinks ligger i AI’ens mangel på traditionelle sikkerhedstjek. I modsætning til søgemaskiner:

Viser AI-svar ikke URL-forhåndsvisninger.

Springer sikkerhedsindikatorer over.

Præsenterer information med stor selvtillid, selv når den er forkert.

I Netcrafts undersøgelse førte 34 % af AI-svarene til usikre, ikke-brandede domæner. Disse hallucinerede phishinglinks kan forvolde reel skade uden advarselstegn.

Cyberkriminelle kan nu skabe falske websites, der er designet til at manipulere AI-svar. Det er en spilændrer for phishingangreb.

Sådan udnytter LLM-phishinglinks AI’s svagheder

Phishing-svindlere udnytter allerede denne nye AI-svaghed. AI-systemer verificerer ikke ægtheden af de websites, de foreslår.

Netcraft har identificeret over 17.000 phishing-sider hostet på platforme som GitBook. Mange af disse målretter mod kryptovalutabrugere.

Falske hjælpecentre, softwareguider og login-sider genereres for at bedrage AI-værktøjer og deres brugere.

Nogle cyberkriminelle laver endda falske kryptoværktøjer for at narre AI til at anbefale malware-infekte downloads.

AI-genererede phishinglinks fjerner de traditionelle advarselstegn, som brugere stoler på, hvilket gør det lettere for angreb at lykkes.

Virkelige konsekvenser af LLM-phishinglinks

Phishinglinks truer både enkeltbrugere og virksomheder. Et klik på et ondsindet link kan:

Stjæle følsomme loginoplysninger.

Muliggøre økonomisk svindel.

Underminere tilliden til AI-tjenester.

At genoprette tillid efter et phishingangreb er vanskeligt. Ét forkert link fra AI kan forårsage langvarig skade.

Hvorfor LLM-phishinglinks er svære at stoppe

AI-chatbots er designet til at give hurtige og sikre svar, men mangler i øjeblikket indbygget faktatjek for webadresser.

Ondsindede aktører tilpasser sig hurtigt og skaber utallige falske domæner, der ser troværdige ud for både brugere og AI-systemer.

Sikkerhedsteams kæmper for at følge med disse skalerbare, AI-drevne phishingkampagner.

Sådan kan brugere og AI-udbydere bekæmpe LLM-phishinglinks

For brugere:

Klik aldrig på login-links direkte fra AI-chatbots.

Bekræft altid websites gennem officielle kilder.

Brug bogmærker eller betroede apps til følsomme tjenester.

For AI-udbydere:

Implementer domæneverifikationssystemer.

Vis hele URL’en i svarene.

Oplys brugere om risiciene ved AI-hallucinationer.

Disse samlede tiltag kan hjælpe med at reducere risiciene ved LLM-links.

Konklusion

LLM-phishinglinks er mere end AI-fejl — de er en køreplan for cyberkriminalitet. Indsatsen er høj og stigende.

AI-platforme må styrke beskyttelsen mod hallucinerede phishinglinks. Brugere skal forblive opmærksomme, når AI foreslår websites.

I denne nye AI-æra er oplysning og forsigtighed den bedste forsvar mod ondsindede links.