Sikkerhedsforskere har afsløret en avanceret svindelkampagne med OpenAI-organisationsinvitationer, der retter sig mod cybersikkerheds- og teknologivirksomheder gennem falske ChatGPT-arbejdsområder. I stedet for at sende traditionelle phishing-mails opretter angriberne falske OpenAI-organisationer, som udgiver sig for at være legitime virksomheder, og inviterer medarbejdere til at deltage via ægte notifikationer fra OpenAI.
Kampagnen skiller sig ud, fordi invitationerne sendes fra OpenAIs egen infrastruktur. Derfor fremstår e-mailsene troværdige, består almindelige autentificeringskontroller og kan omgå mange e-mailsikkerhedsløsninger.
Angribere opretter falske ChatGPT-organisationer
Forskere hos Push Security opdagede kampagnen, efter at flere medarbejdere modtog invitationer til en OpenAI-organisation, som så ud til at tilhøre deres egen virksomhed.
Selvom e-mailsene kom fra OpenAIs officielle notifikationsadresse, blev selve ChatGPT-arbejdsområdet styret af angribere, som havde registreret organisationen med Gmail-konti i stedet for virksomhedens officielle domæner.
Hver invitation lignede en ægte invitation til et OpenAI-arbejdsområde, hvilket gjorde det vanskeligt for modtagerne at opdage svindlen.
Push Security fandt også, at andre virksomheder inden for cybersikkerhed og teknologi havde modtaget lignende invitationer. Det tyder på, at angriberne udvalgte deres mål omhyggeligt frem for at gennemføre en bred phishing-kampagne.
Medarbejdere fik administratorrettigheder
Angriberne gjorde mere end blot at oprette overbevisende virksomhedsnavne.
Da forskerne accepterede en af invitationerne, blev de føjet til et falsk ChatGPT-arbejdsområde, som udgav sig for at tilhøre deres egen virksomhed. Her fandt de én Gmail-konto, der udgav sig for at være virksomhedens administrerende direktør.
Angriberne havde desuden tildelt alle inviterede brugere rollen Owner, hvilket gav dem fulde administratorrettigheder i organisationen.
Disse rettigheder gjorde det muligt for forskerne at undersøge arbejdsområdet og bekræfte, at ingen af de inviterede medarbejdere havde accepteret invitationen, før kampagnen blev opdaget.
Forskerne bemærkede også, at angriberne allerede havde tilknyttet et Visa-kort til organisationens betalingskonto. Det gjorde arbejdsområdet mere troværdigt, fordi brugerne straks kunne få adgang til ChatGPTs premiumfunktioner uden at stille spørgsmål ved organisationens ægthed.
Kampagnen ser ud til at være udviklet til at stjæle følsomme AI-data
Det falske arbejdsområde indeholdt ingen eksisterende samtaler eller projekter. Alligevel vurderer forskerne, at angriberne forventede, at medarbejderne ville begynde at bruge det som virksomhedens officielle AI-platform.
Det kunne give adgang til meget værdifulde virksomhedsoplysninger.
Mange virksomheder anvender i dag ChatGPT til at analysere kildekode, gennemgå interne dokumenter, opsummere kundedata, udføre sikkerhedsanalyser og udvikle strategiske planer. Hvis medarbejdere udfører disse opgaver i et arbejdsområde, som kontrolleres af angribere, kan følsomme oplysninger havne i de forkerte hænder, uden at nogen behøver at stjæle loginoplysninger eller installere malware.
Forskerne mener, at arbejdet med at oprette troværdige organisationer, kortlægge medarbejdere og betale for abonnementer tydeligt viser, at indsamling af AI-relaterede virksomhedsdata var kampagnens primære mål.
Betroede SaaS-funktioner bliver nye phishing-værktøjer
Kampagnen viser også en voksende tendens inden for cyberkriminalitet. I stedet for at oprette falske login-sider misbruger angribere i stigende grad legitime funktioner på etablerede SaaS-platforme.
Fordi OpenAI sender invitationerne fra sin egen infrastruktur, modtager brugerne ægte e-mails frem for forfalskede beskeder. Det øger sandsynligheden for, at medarbejdere stoler på invitationen og accepterer den.
OpenAI viser ganske vist en advarsel, når afsenderens domæne ikke matcher modtagerens virksomhedsdomæne. Meddelelsen vises dog kun som en kort tekstlinje i e-mailen og kan derfor let blive overset.
Sådan kan virksomheder reducere risikoen
Virksomheder bør opfordre medarbejdere til altid at kontrollere uventede invitationer til ChatGPT-arbejdsområder, før de accepterer dem, også selv om e-mailen kommer direkte fra OpenAI.
Sikkerhedsteams bør desuden overvåge medlemskaber i SaaS-tjenester, uddanne medarbejdere i AI-relaterede phishing-metoder og fastlægge klare retningslinjer for, hvilke ChatGPT-arbejdsområder medarbejdere må tilslutte sig.
Efterhånden som flere virksomheder integrerer generativ kunstig intelligens i den daglige drift, vil angribere sandsynligvis finde nye måder at udnytte betroede AI-platforme på. Svindlen med OpenAI-organisationsinvitationer viser, hvordan legitime samarbejdsfunktioner kan blive effektive redskaber til social manipulation, når medarbejdere antager, at enhver invitation fra en velkendt tjeneste er sikker.
0 svar til “OpenAI-svindel med organisationsinvitationer rammer cybersikkerhedsvirksomheder”