Skadelige LLM-modeller giver uerfarne hackere avancerede muligheder

En ny sikkerhedsanalyse viser, at skadelige LLM-modeller nu gør det muligt for uerfarne hackere at udføre avancerede cyberangreb med stor lethed. Disse ubegrænsede modeller genererer malware, phishingindhold og automatiseringsscripts, som tidligere krævede reel teknisk ekspertise, og ændrer dermed hele trusselsbilledet.

Hvad skadelige LLM-modeller er

Sikkerhedsforskere beskriver skadelige LLM-modeller som systemer uden sikkerhedskontroller. I modsætning til almindelige AI-modeller giver disse værktøjer brugerne mulighed for direkte at anmode om skadelig kode eller angrebsinstruktioner. De dukker op på undergrundsfora og private kanaler, hvor udviklere markedsfører dem som offensive cybersikkerhedsassistenter.

To eksempler skiller sig ud:

• WormGPT 4, en kommerciel model med forbindelse til tidligere kriminelle versioner
• KawaiiGPT, et gratis alternativ, der promoveres på dark web

Begge modeller hævder at kunne generere malware, værktøjer til tyveri af legitimationsoplysninger, ransomware-scripts og indhold til social engineering. Tilgængeligheden giver brugere med lave færdigheder adgang til ressourcer, der tidligere kun var tilgængelige for erfarne cyberkriminelle.

Hvad disse værktøjer kan generere

Tests, som forskere har udført, afslørede bekymrende kapaciteter. Skadelige LLM-modeller genererede:

• Funktionelle ransomware-scripts, der krypterer lokale filer
• Phishing-e-mails, der efterligner professionel virksomhedskommunikation
• Rekognosceringsværktøjer til netværksscanning
• Automatiseringsværktøjer til laterale bevægelser i angreb

I et eksperiment genererede WormGPT 4 et PowerShell-baseret ransomware-script med mulighed for dataeksfiltrering. Outputtet krævede minimale justeringer, før det kunne bruges, hvilket viser, hvor nemt disse angreb kan operationaliseres.

Disse modeller eliminerer også almindelige advarselstegn som dårlig grammatik, fejlbehæftet kode eller inkonsekvent formatering. Angribere får adgang til poleret, professionelt indhold uden at forstå de tekniske detaljer bag.

Hvorfor dette er vigtigt for cybersikkerheden

Fremkomsten af skadelige LLM-modeller har store konsekvenser. Traditionelle antagelser om angribernes kompetenceniveau gælder ikke længere. En person uden programmeringsbaggrund kan nu producere malware eller phishingkampagner, der fremstår avancerede.

Dette medfører flere risici:

• Flere angribere, der træder ind i økosystemet
• Stigende mængder automatiseret phishing
• Hurtigere udvikling af ransomware-familier
• Nedsat effektivitet af signaturbaseret detektion
• Mere overbevisende social engineering

Cyberkriminelle drager fordel af AI-modellernes skalerbarhed. De kan generere store mængder unikt angrebsindhold, hvilket gør det sværere for forsvarere at opdage.

Voksende global påvirkning

Sikkerhedsteams forventer mere omfattende misbrug af disse værktøjer. Cyberkriminelle kan bruge dem til at automatisere komplekse opgaver som privilegieeskalering, dataeksfiltrering eller etablering af vedvarende adgang. Modellerne hjælper også angribere med at målrette beskeder mere præcist, hvilket øger succesraten i phishing og BEC-angreb.

Skadelige LLM-modeller skaber også risici for organisationer, der undervurderer truslen. Forsvarsteams må opdatere deres detektionsstrategier, styrke autentificeringskontroller og overvåge adfærd, der ligner automatiserede angreb fremfor traditionelle manuelle indbrud.

Konklusion

Fremkomsten af skadelige LLM-modeller markerer et vendepunkt i cyberkriminalitet. Disse værktøjer giver uerfarne hackere avancerede muligheder for hurtige og effektive angreb. Sikkerhedsteams må tilpasse sig et trusselsmiljø, hvor tekniske færdigheder ikke længere er en barriere, og hvor AI-genererede trusler kan blive den nye norm. Øget bevidsthed, styrket overvågning og opdaterede forsvarsstrategier er nu afgørende.