Säkerhetsforskare har upptäckt ett avancerat bedrägeri med OpenAI-organisationsinbjudningar som riktar sig mot cybersäkerhets- och teknikföretag genom falska ChatGPT-arbetsytor. I stället för traditionella nätfiskemejl skapar angriparna falska OpenAI-organisationer som efterliknar legitima företag och bjuder in anställda via äkta aviseringar från OpenAI.
Kampanjen sticker ut eftersom inbjudningarna skickas från OpenAI egen infrastruktur. Därför ser mejlen trovärdiga ut, passerar vanliga autentiseringskontroller och kan ta sig förbi många e-postfilter.
Angripare skapar falska ChatGPT-organisationer
Forskare på Push Security upptäckte kampanjen efter att flera anställda fått inbjudningar till en OpenAI-organisation som såg ut att tillhöra deras företag.
Mejlen skickades från OpenAI legitima avsändaradress, men själva ChatGPT-arbetsytan kontrollerades av angripare som hade registrerat organisationen med Gmail-konton i stället för företagets officiella domän.
Varje inbjudan liknade en äkta inbjudan till en OpenAI-arbetsyta, vilket gjorde det svårt för mottagarna att upptäcka bedrägeriet.
Push Security fann också att andra företag inom cybersäkerhets- och tekniksektorn hade fått liknande inbjudningar. Det tyder på att angriparna valde ut sina mål noggrant i stället för att genomföra en bred nätfiskekampanj.
Anställda fick administratörsbehörighet
Angriparna nöjde sig inte med att skapa trovärdiga företagsnamn.
När forskarna accepterade en av inbjudningarna anslöt de till en falsk ChatGPT-arbetsyta som utgav sig för att tillhöra deras företag. Där fanns ett enda Gmail-konto som utgav sig för att vara företagets vd.
Angriparna hade dessutom tilldelat samtliga inbjudna användare rollen Owner, vilket gav dem fullständiga administrativa rättigheter i organisationen.
Behörigheterna gjorde det möjligt för forskarna att granska arbetsytan och bekräfta att ingen av de inbjudna medarbetarna hade accepterat inbjudan innan kampanjen upptäcktes.
Forskarna noterade även att angriparna redan hade kopplat ett Visa-kort till organisationens betalkonto. Det gjorde arbetsytan ännu mer trovärdig eftersom användarna direkt kunde använda ChatGPT premiumfunktioner utan att ifrågasätta organisationens äkthet.
Kampanjen verkar vara utformad för att stjäla känslig AI-data
Den falska arbetsytan innehöll inga befintliga konversationer eller projekt. Forskarna bedömer ändå att angriparna räknade med att de inbjudna skulle börja använda den som företagets officiella AI-miljö.
Det skulle kunna ge angriparna tillgång till mycket värdefull företagsinformation.
Många organisationer använder i dag ChatGPT för att analysera källkod, granska interna dokument, sammanfatta kunddata, ta fram säkerhetsanalyser och utveckla affärsstrategier. Om anställda utför sådana uppgifter i en angriparkontrollerad arbetsyta kan känslig information hamna i fel händer utan att några inloggningsuppgifter stjäls eller skadlig kod installeras.
Forskarna anser att arbetet med att skapa trovärdiga organisationer, kartlägga anställda och betala för abonnemang tydligt visar att målet var att samla in AI-relaterad företagsdata.
Betrodda SaaS-funktioner blir nya verktyg för nätfiske
Kampanjen visar också en växande trend inom cyberbrottslighet. I stället för att skapa falska inloggningssidor missbrukar angripare allt oftare legitima funktioner i etablerade SaaS-plattformar.
Eftersom OpenAI skickar inbjudningarna från sin egen infrastruktur ser mottagarna äkta mejl i stället för förfalskade meddelanden. Det ökar sannolikheten för att användarna litar på inbjudan och accepterar den.
OpenAI visar visserligen en varning när avsändarens domän inte matchar mottagarens företagsdomän. Meddelandet visas dock endast som en kort rad i mejlet och är därför lätt att missa.
Så kan organisationer minska risken
Organisationer bör uppmana sina anställda att alltid kontrollera oväntade inbjudningar till ChatGPT-arbetsytor innan de accepterar dem, även om mejlet kommer direkt från OpenAI.
Säkerhetsteam bör dessutom övervaka medlemskap i SaaS-tjänster, utbilda personalen om AI-relaterade nätfiskemetoder och införa tydliga riktlinjer för vilka ChatGPT-arbetsytor medarbetare får ansluta sig till.
I takt med att allt fler företag integrerar generativ AI i den dagliga verksamheten kommer angripare sannolikt att hitta nya sätt att utnyttja betrodda AI-plattformar. Bedrägeriet med OpenAI-organisationsinbjudningar visar hur legitima samarbetsfunktioner kan förvandlas till effektiva verktyg för social manipulation när användare litar på att varje inbjudan från en välkänd tjänst är säker.
0 svar till ”OpenAI-bedrägeri med organisationsinbjudningar riktar in sig på cybersäkerhetsföretag”