Brasiliansk mand rejser 1.200 engelske mil for at møde en AI-genereret kvinde

En brasiliansk murer solgte sine ejendele og rejste cirka 1.200 engelske mil for at møde en AI-genereret kvinde, som han troede var virkelig. Edimar Rocha Martins håbede på at begynde et nyt liv med personen bag en populær profil på sociale medier.

I stedet opdagede han, at Jéssica Oliveira var en fiktiv person. Efter forgæves at have forsøgt at finde hende henvendte Martins sig til en lokal radiostation, hvor han fik sandheden at vide.

Videoer på nettet lovede et liv på en gård

Kontoen med Jéssica havde tiltrukket omkring 300.000 følgere. Videoerne inviterede en mand til at flytte til hendes gård med løfter om økonomisk støtte og et liv uden at skulle arbejde mere.

Martins tog løfterne alvorligt. Han forlod sit arbejde, solgte sine ejendele og begav sig af sted for at møde kvinden, som han troede kunne blive hans partner.

Senere angav han ensomhed som den primære årsag til, at han ønskede at opsøge hende. Den tilgængelige beretning fastslår dog ikke, om han nogensinde kommunikerede direkte med personen bag profilen.

Det er også uklart, om en separat konto, der udgav sig for at være Jéssica, kontaktede ham.

Radiostation hjalp med at afsløre sandheden

Efter at være nået frem til sin destination forsøgte Martins uden held at finde Jéssica. Til sidst bad han en lokal radiostation om hjælp.

Her fik han at vide, at kvinden fra videoerne ikke eksisterede.

Martins fik efterfølgende hjælp til at vende hjem og tog ophold hos slægtninge. Beretningen angiver ikke, hvor mange penge han mistede ved at sælge sine ejendele eller foretage rejsen.

Billedtekst fra kontoen afviste private samtaler

En billedtekst knyttet til Jéssica-profilen hævdede, at den oprindelige konto aldrig havde talt privat med nogen. Den beskrev også kontoens formål som at tjene penge gennem TikTok og sælge produkter på TikTok Shop.

Udtalelsen stammede dog fra en maskinoversat billedtekst og bekræfter ikke uafhængigt, hvad der skete med Martins.

Denne forskel er vigtig, fordi de tilgængelige oplysninger ikke bekræfter et direkte kærlighedssvindelnummer, der involverer den oprindelige konto. Det, oplysningerne derimod beskriver, er en mand, der traf store beslutninger om sit liv efter at have troet, at en AI-genereret kvinde var virkelig.

Syntetiske profiler kan skabe virkelige forventninger

Sagen illustrerer, hvordan overbevisende fiktive profiler kan påvirke mennesker uden for skærmen. Et stort publikum og gentagne personlige videoer kan få en opdigtet karakter til at fremstå troværdig.

Samtidig bruger andre vildledende konti syntetiske personligheder eller kendtes udseende til at markedsføre produkter og betalte samtaler. Brugere kan tro, at de interagerer med den person, der vises, selv når en anden driver kontoen.

Efterhånden som genererede billeder og videoer bliver mere overbevisende, kan visuelle tegn alene give begrænset sikkerhed. I Martins’ tilfælde havde misforståelsen allerede kostet ham jobbet, ejendelene og en lang rejse, før han opdagede sandheden.