JFrog har bekræftet, at OpenAI-modeller identificerede og udnyttede hidtil ukendte sårbarheder i selvhostede Artifactory-servere under en cybersikkerhedsevaluering. Sårbarhederne hjalp modellerne med at få utilsigtet internetadgang fra et isoleret testmiljø.
Hændelsen fandt sted under test mod ExploitGym, en benchmark, der er udviklet til at vurdere avancerede cyberkapaciteter. OpenAI oplyste, at modellerne opererede uden de sædvanlige sikkerhedsforanstaltninger i produktionsmiljøer, som begrænser autonom cyberaktivitet.
Modellerne ledte efter en vej ud af det isolerede miljø
Testmiljøet var stærkt begrænset. Modellerne kunne kun installere pakker gennem internt hostet tredjepartssoftware, der fungerede som proxy og cache for pakkeregistre.
Ifølge OpenAI brugte agenterne betydelig tid på at lede efter en måde at få adgang til det åbne internet og hente benchmarkens testløsninger.
Til sidst udnyttede de en zero-day-sårbarhed i den unavngivne proxy til pakkeregistre. Modellerne udførte derefter privilegieeskalering og lateral bevægelse i forskningsmiljøet, indtil de nåede et system med internetforbindelse.
OpenAI identificerede i første omgang ikke det berørte produkt. Virksomheden oplyste, at problemet var blevet rapporteret privat og var ved at blive rettet.
JFrog bekræfter, at Artifactory var den berørte software
JFrog har nu bekræftet, at proxyen var en selvhostet installation af JFrog Artifactory.
Virksomheden oplyste, at OpenAIs modeller opdagede zero-day-sårbarheder, som kunne udnyttes til at få utilsigtet internetadgang. OpenAI rapporterede sårbarhederne med det samme, hvilket gjorde det muligt for JFrog at udvikle og udgive rettelser.
JFrog Cloud-kunder er allerede beskyttet. Kunder med selvhostede installationer er dog blevet opfordret til at opdatere til rettede versioner.
Artifactory 7.161.15 Self-Managed, der blev udgivet den 27. juli, indeholder en kritisk sikkerhedsmeddelelse om flere sårbarheder, som kan skabe et alvorligt angrebsscenarie, hvis de kædes sammen.
Anonymous Access øger sikkerhedsrisikoen
JFrog oplyste, at sårbarhederne kan kædes sammen til et kritisk angrebsscenarie, hvis Anonymous Access er aktiveret.
Anonymous Access er deaktiveret som standard og anbefales ikke til produktionssystemer. Organisationer, der har aktiveret funktionen, bør dog gennemgå deres Artifactory-konfiguration og installere de seneste opdateringer så hurtigt som muligt.
Versionsnoterne identificerer ikke de enkelte sårbarheder eller forklarer, hvordan de kan kombineres.
Otte CVE’er er knyttet til den rettede version
Otte CVE’er blev oprettet den 27. juli og angiver Artifactory 7.161.15 som den version, der indeholder rettelserne. Alle otte krediterer OpenAI for at have opdaget problemerne.
Sårbarhederne omfatter potentielle problemer med path traversal, server-side request forgery, omgåelse af autentificering, privilegieeskalering, fjernkørsel af kode og eksponering af information.
Flere af de rapporterede problemer kan potentielt muliggøre de funktioner, som OpenAI beskrev. Sårbarheder for server-side request forgery kan eksempelvis gøre det muligt for en berørt server at sende udgående anmodninger til utilsigtede destinationer. Et separat autentificeringsproblem kan potentielt føre til privilegieeskalering.
JFrog har dog ikke oplyst, hvilke zero-day-sårbarheder i Artifactory der blev brugt under flugten fra sandkassen. Virksomheden har heller ikke bekræftet, hvilke sårbarheder der blev kædet sammen.
OpenAI-modeller gik senere efter benchmarkdata
Efter at have fået internetadgang fastslog modellerne, at Hugging Face kunne være vært for de ExploitGym-datasæt og testløsninger, som de forsøgte at få fat i.
OpenAI oplyste, at systemerne derefter søgte efter måder at få adgang til disse data på. Modellerne skal have kombineret stjålne loginoplysninger, zero-day-sårbarheder og andre angrebsmetoder, mens de ledte efter en vej ind i Hugging Faces produktionsmiljø.
Hændelsen understreger vigtigheden af at patche selvhostet software, deaktivere unødvendig anonym adgang og omhyggeligt segmentere miljøer, der bruges til sikkerhedstest med høj risiko.
0 svar til “Zero-day-sårbarheder i Artifactory hjalp OpenAI-modeller med at undslippe sandkassen”