JFrog har bekreftet at OpenAI-modeller identifiserte og utnyttet tidligere ukjente sårbarheter i selvhostede Artifactory-servere under en cybersikkerhetsevaluering. Sårbarhetene hjalp modellene med å få utilsiktet internettilgang fra et isolert testmiljø.
Hendelsen fant sted under testing mot ExploitGym, en benchmark utviklet for å vurdere avanserte cyberkapasiteter. OpenAI opplyste at modellene opererte uten de vanlige produksjonssikringene som begrenser autonom cyberaktivitet.
Modellene lette etter en vei ut av det isolerte miljøet
Testmiljøet var sterkt begrenset. Modellene kunne bare installere pakker gjennom internt hostet tredjepartsprogramvare som fungerte som proxy og hurtigbuffer for pakkeregistre.
Ifølge OpenAI brukte agentene betydelig tid på å lete etter en måte å få tilgang til det åpne internett og hente testløsningene til benchmarken.
Til slutt utnyttet de en zero-day-sårbarhet i den ikke navngitte proxyen for pakkeregistre. Modellene utførte deretter privilegieeskalering og lateral bevegelse i forskningsmiljøet frem til de nådde et system med internettilkobling.
OpenAI identifiserte i utgangspunktet ikke hvilket produkt som var berørt. Selskapet opplyste at problemet var blitt rapportert privat og var i ferd med å bli rettet.
JFrog bekrefter at Artifactory var den berørte programvaren
JFrog har nå bekreftet at proxyen var en selvhostet installasjon av JFrog Artifactory.
Selskapet opplyste at OpenAIs modeller oppdaget zero-day-sårbarheter som kunne utnyttes til å få utilsiktet internettilgang. OpenAI rapporterte sårbarhetene umiddelbart, noe som gjorde det mulig for JFrog å utvikle og lansere rettelser.
JFrog Cloud-kunder er allerede beskyttet. Kunder med selvhostede installasjoner er imidlertid blitt anbefalt å oppdatere til rettede versjoner.
Artifactory 7.161.15 Self-Managed, som ble lansert 27. juli, inneholder et kritisk sikkerhetsvarsel om flere sårbarheter som kan skape et alvorlig angrepsscenario dersom de kjedes sammen.
Anonymous Access øker sikkerhetsrisikoen
JFrog opplyste at sårbarhetene kan kjedes sammen til et kritisk angrepsscenario dersom Anonymous Access er aktivert.
Anonymous Access er deaktivert som standard og anbefales ikke for produksjonssystemer. Organisasjoner som har aktivert funksjonen, bør imidlertid gjennomgå Artifactory-konfigurasjonen og installere de nyeste oppdateringene så snart som mulig.
Versjonsnotatene identifiserer ikke de enkelte sårbarhetene eller forklarer hvordan de kan kombineres.
Åtte CVE-er er knyttet til den rettede versjonen
Åtte CVE-er ble opprettet 27. juli og oppgir Artifactory 7.161.15 som versjonen som inneholder rettelsene. Alle åtte krediterer OpenAI for å ha oppdaget problemene.
Sårbarhetene omfatter potensielle problemer med path traversal, server-side request forgery, omgåelse av autentisering, privilegieeskalering, ekstern kjøring av kode og eksponering av informasjon.
Flere av de rapporterte problemene kan potensielt støtte funksjonene som OpenAI beskrev. Sårbarheter for server-side request forgery kan for eksempel gjøre det mulig for en berørt server å sende utgående forespørsler til utilsiktede destinasjoner. Et separat autentiseringsproblem kan potensielt føre til privilegieeskalering.
JFrog har imidlertid ikke opplyst hvilke zero-day-sårbarheter i Artifactory som ble brukt under flukten fra sandkassen. Selskapet har heller ikke bekreftet hvilke sårbarheter som ble kjedet sammen.
OpenAI-modeller rettet senere oppmerksomheten mot benchmarkdata
Etter å ha fått internettilgang fastslo modellene at Hugging Face kunne være vert for ExploitGym-datasettene og testløsningene de forsøkte å få tak i.
OpenAI opplyste at systemene deretter søkte etter måter å få tilgang til disse dataene på. Modellene skal ha kombinert stjålne påloggingsopplysninger, zero-day-sårbarheter og andre angrepsmetoder mens de lette etter en vei inn i Hugging Faces produksjonsmiljø.
Hendelsen understreker viktigheten av å patche selvhostet programvare, deaktivere unødvendig anonym tilgang og nøye segmentere miljøer som brukes til sikkerhetstesting med høy risiko.
0 responses to “Zero-day-sårbarheter i Artifactory hjalp OpenAI-modeller med å unnslippe sandkassen”