En deepfake-bluff med Gisele Bündchen på Instagram har avslöjat hur avancerad AI-teknik används som vapen för bedrägeri.
Brasilianska myndigheter har avslöjat ett nätverk av bedragare som använde falska kändisvideor för att marknadsföra påhittade erbjudanden och stjäla miljoner från intet ont anande användare.
Så fungerade bedrägeriet
Gruppen använde deepfake-teknik för att skapa övertygande videoreklam med den brasilianska supermodellen Gisele Bündchen och andra offentliga personer.
De AI-genererade klippen såg äkta ut och användes för att marknadsföra skönhetsprodukter, utlottningar och specialerbjudanden.
Offren uppmanades att klicka på annonserna, betala små ”hanteringsavgifter” eller täcka ”fraktkostnader” för gratisprodukter.
Men inga varor levererades någonsin.
Myndigheterna upptäckte senare att bedragarna samlat in miljontals reais från tusentals offer i flera brasilianska delstater.
Enligt utredarna utnyttjade brottslingarna Instagrams målgruppsstyrda annonsverktyg för att snabbt nå användare flera gånger.
Den professionella presentationen gjorde det svårt att skilja bluffarna från legitim reklam.
Polisens utredning och gripanden
Den brasilianska polisen inledde en rikstäckande insats som resulterade i fyra gripanden och frysta tillgångar i fem delstater.
Utredningen visade att nätverket hade genererat mer än 20 miljoner reais (cirka 3,9 miljoner USD) i bedrägliga betalningar.
Myndigheterna kallade det ett av de största fallen av deepfake-baserat bedrägeri i Brasiliens historia.
Finansiella spår kopplade flera skalbolag och betalningskonton till operationen, vilket bekräftade att AI spelade en central roll i framgången.
Meta och Gisele Bündchen svarar
Meta, Instagrams moderbolag, uppgav att företagets policy förbjuder vilseledande reklam och identitetsstöld.
Företaget hävdar att det har system för att upptäcka deepfakes och ta bort falska annonser, men medger att det fortfarande är en stor utmaning.
Gisele Bündchens representanter uppmanade fans att alltid verifiera reklaminnehåll via hennes officiella kanaler.
De betonade att modellen inte har någon koppling till nätutlottningar eller tredjeparts-kampanjer.
De bredare konsekvenserna
Deepfake-bluffen med Gisele Bündchen visar det växande hotet från AI-genererad manipulation i sociala medier.
Tekniken gör det enklare för bedragare att imitera kända personer och kringgå traditionella verifieringsprocesser.
Experter varnar för att liknande bedrägerier kommer att spridas globalt i takt med att AI-verktyg blir mer tillgängliga.
Även små belopp kan snabbt växa till storskaligt bedrägeri innan det upptäcks.
Slutsats
Deepfake-bluffen med Gisele Bündchen visar hur AI kan förvandla nätbedrägeri från enkla phishing-försök till mycket övertygande manipulation.
Plattformar som Instagram står under ökande press att upptäcka syntetiskt material och verifiera äkta samarbeten.
När deepfakes blir allt mer realistiska måste användare förbli skeptiska till kändisreklam – även när den ser helt äkta ut.
0 svar till ”Gisele Bündchen-bluff med deepfake på Instagram avslöjar ökningen av AI-drivna bedrägerier”