En Gisele Bündchen-deepfake-svindel på Instagram har afsløret, hvordan avanceret AI-teknologi bliver brugt som et våben til svindel.
Brasilianske myndigheder har afsløret et netværk af kriminelle, der brugte falske kendisvideoer til at promovere ikke-eksisterende tilbud og stjæle millioner fra intetanende brugere.
Sådan fungerede svindlen
Gruppen anvendte deepfake-teknologi til at skabe overbevisende videoannoncer med den brasilianske supermodel Gisele Bündchen og andre offentlige personer.
De AI-genererede klip så ægte ud og blev brugt til at reklamere for skønhedsprodukter, konkurrencer og særlige kampagner.
Ofrene blev opfordret til at klikke på annoncerne, betale små “behandlingsgebyrer” eller dække “forsendelsesomkostninger” for gratis produkter.
Men ingen varer blev nogensinde leveret.
Myndighederne opdagede senere, at svindlerne havde indsamlet millioner af reais fra tusindvis af ofre på tværs af flere brasilianske delstater.
Efterforskerne oplyser, at de kriminelle udnyttede Instagrams målrettede annoncesystem til hurtigt og gentagne gange at nå brugere.
Den professionelle præsentation gjorde det svært at skelne svindlen fra legitim reklame.
Politiets efterforskning og anholdelser
Det brasilianske politi iværksatte en landsdækkende operation, der førte til fire anholdelser og indefrysning af aktiver i fem delstater.
Efterforskningen viste, at netværket havde genereret mere end 20 millioner reais (omtrent 3,9 millioner USD) i svigagtige betalinger.
Myndighederne beskrev sagen som et af de største tilfælde af deepfake-baseret svindel i Brasiliens historie.
Finansielle spor knyttede flere stråmandsfirmaer og betalingskonti til operationen, hvilket bekræftede, at AI spillede en central rolle i svindlens succes.
Meta og Gisele Bündchen reagerer
Meta, moderselskabet bag Instagram, udtalte, at virksomhedens politikker forbyder vildledende reklame og identitetstyveri.
Selskabet hævder at have systemer, der kan opdage deepfakes og fjerne falske annoncer, men erkender, at det stadig er en vanskelig opgave.
Repræsentanter for Gisele Bündchen opfordrede fans til altid at verificere kampagner gennem hendes officielle kanaler.
De understregede, at modellen ikke har nogen tilknytning til online-konkurrencer eller tredjeparts-promotioner.
De bredere konsekvenser
Gisele Bündchen-deepfake-svindlen fremhæver den voksende trussel fra AI-genereret manipulation i sociale medier.
Teknologien gør det lettere for svindlere at efterligne kendte personer og omgå traditionelle verificeringsprocesser.
Eksperter advarer om, at lignende svindler vil sprede sig globalt, efterhånden som AI-værktøjer bliver mere tilgængelige.
Selv små beløb kan hurtigt udvikle sig til storskalasvindel, før den opdages.
Konklusion
Gisele Bündchen-deepfake-svindlen viser, hvordan AI kan forvandle online-bedrageri fra enkel phishing til meget overbevisende svindel.
Platforme som Instagram står over for stigende pres for at opdage syntetisk indhold og bekræfte ægte samarbejder.
Efterhånden som deepfakes bliver stadig mere realistiske, må brugerne forblive kritiske over for kendisreklamer – selv når de ser helt ægte ud.
0 svar til “Gisele Bündchen-deepfake-svindel på Instagram afslører stigningen i AI-drevne svindelnumre”