Russiske og kinesiske svindlere utnytter ChatGPT for å øke bedragerioperasjoner

Saken der russiske og kinesiske svindlere utnytter ChatGPT viser hvordan generative AI-verktøy i økende grad misbrukes til svindel og påvirkningsoperasjoner. Nye trusselrapporter viser at organiserte nettverk med tilknytning til Russland og Kina brukte ChatGPT til å produsere svindelinnhold, falsk dokumentasjon og koordinerte budskapskampanjer. Selv om AI-systemer har innebygde sikkerhetsmekanismer, fortsetter målrettede aktører å teste grensene deres.

Sikkerhetsanalytikere advarer om at AI ikke trenger å bryte seg inn i systemer for å forårsake skade. Når teknologien brukes til å automatisere overtalelse, identitetssvindel og innholdsproduksjon, kan den kraftig øke omfanget og effektiviteten til tradisjonelle svindelmetoder.

Hvordan svindlere brukte ChatGPT

Etterforskere fant at ondsinnede aktører brukte ChatGPT til å generere store mengder overbevisende tekst til ulike svindelopplegg. Disse inkluderte romantikksvindel, falske investeringsmuligheter og såkalte gjenopprettingssvindler rettet mot tidligere svindelofre. AI-en bidro til å formulere meldinger som fremstod naturlige og personlige, noe som økte troverdigheten og engasjementet.

Ett nettverk skal ha laget markedsføringsmateriell for en falsk eksklusiv datingplattform. Svindlere brukte AI-generert innhold til å kontakte velstående personer og bygge tillit over tid. Etter å ha etablert en følelsesmessig relasjon introduserte de økonomiske forespørsler forkledd som investeringsmuligheter eller akutte personlige behov.

I andre tilfeller genererte angripere falske juridiske dokumenter og formelle brev. De utga seg for å være advokatfirmaer, etterforskere og finansielle gjenopprettingsbyråer. Ved å produsere profesjonelt utformet kommunikasjon forsøkte de å overbevise ofre om at tapte midler kunne gjenopprettes mot et forskuddsgebyr.

AI utførte ikke svindelen direkte. Den akselererte imidlertid innholdsproduksjonen og gjorde det mulig for operatører å håndtere flere samtaler samtidig.

Påvirkningsoperasjoner og koordinert kommunikasjon

Utover økonomisk svindel observerte forskere forsøk på å bruke ChatGPT i påvirkningskampanjer. Enkelte kontoer knyttet til russiske og kinesiske aktører genererte innlegg på sosiale medier med mål om å forme narrativer og forsterke geopolitiske budskap. AI-en hjalp med å utforme kommentarer, justere tone og tilpasse språk til ulike målgrupper.

Disse kampanjene bygget på nettverk av kontoer som spredte AI-generert innhold på tvers av plattformer. Målet var ikke nødvendigvis teknisk kompromittering, men narrativ kontroll og manipulering av engasjement. Ved å automatisere budskapsproduksjonen reduserte aktørene tiden og ressursene som krevdes for å opprettholde koordinert aktivitet.

OpenAI og andre AI-leverandører rapporterte at de stengte kontoer involvert i slike operasjoner. De påpekte også at enkelte forsøk på å generere tydelig skadelig eller villedende materiale ble blokkert av innebygde sikkerhetsmekanismer.

Hvorfor dette er viktig

Saken der russiske og kinesiske svindlere utnytter ChatGPT reflekterer en bredere endring i cyberkriminalitetens taktikker. Generativ AI senker terskelen for å produsere overbevisende innhold i stor skala. Angripere trenger ikke lenger avanserte skriveferdigheter eller store team for å utvikle troverdige manus og dokumenter.

Denne utviklingen øker både volumet og sofistikeringen av sosial manipulering. Ofre kan få stadig vanskeligere for å skille mellom legitim kommunikasjon og AI-generert bedrag. Etter hvert som modellene forbedres, blir grensen mellom autentisk og fabrikert interaksjon vanskeligere å oppdage.

Organisasjoner må derfor styrke opplæring, verifiseringsrutiner og systemer for svindeldeteksjon. Samtidig møter AI-leverandører økende press for å forbedre misbruksdeteksjon og atferdsanalyse fremfor å basere seg utelukkende på nøkkelordfiltrering.

Konklusjon

Saken om russiske og kinesiske svindlere som utnytter ChatGPT viser hvordan generativ AI kan forsterke eksisterende cyberkriminelle strategier. Selv med innebygde sikkerhetstiltak fortsetter ondsinnede aktører å eksperimentere med prompt-teknikker for å omgå begrensninger. Myndigheter, teknologileverandører og virksomheter må tilpasse seg raskt. Uten lagdelte forsvar og sterkere tilsyn vil AI-assistert svindel og påvirkningskampanjer fortsette å utvikle seg og vokse.