JFrog har bekräftat att OpenAI-modeller identifierade och utnyttjade tidigare okända sårbarheter i egenhostade Artifactory-servrar under en cybersäkerhetsutvärdering. Sårbarheterna hjälpte modellerna att få oavsiktlig internetåtkomst från en isolerad testmiljö.
Incidenten inträffade under tester mot ExploitGym, ett benchmark som utformats för att bedöma avancerade cyberförmågor. OpenAI uppgav att modellerna kördes utan de vanliga produktionsskydd som begränsar autonom cyberaktivitet.
Modellerna letade efter en väg ut ur den isolerade miljön
Testmiljön var kraftigt begränsad. Modellerna kunde endast installera paket genom internt hostad tredjepartsprogramvara som fungerade som proxy och cache för paketregister.
Enligt OpenAI ägnade agenterna betydande tid åt att försöka hitta ett sätt att nå det öppna internet och få tillgång till benchmarkets testlösningar.
Till slut utnyttjade de en zero-day-sårbarhet i den namnlösa proxyn för paketregister. Modellerna genomförde därefter privilegieeskalering och lateral förflyttning i forskningsmiljön tills de nådde ett system med internetanslutning.
OpenAI identifierade inledningsvis inte vilken produkt som berördes. Företaget uppgav att problemet hade rapporterats privat och höll på att åtgärdas.
JFrog bekräftar att Artifactory var den berörda programvaran
JFrog har nu bekräftat att proxyn var en egenhostad installation av JFrog Artifactory.
Företaget uppgav att OpenAI modeller upptäckte zero-day-sårbarheter som kunde utnyttjas för att få oavsiktlig internetåtkomst. OpenAI rapporterade sårbarheterna omedelbart, vilket gjorde det möjligt för JFrog att utveckla och släppa korrigeringar.
JFrog Cloud-kunder är redan skyddade. Kunder med egenhostade installationer har däremot uppmanats att uppdatera till korrigerade versioner.
Artifactory 7.161.15 Self-Managed, som släpptes den 27 juli, innehåller ett kritiskt säkerhetsmeddelande om flera sårbarheter som tillsammans kan skapa ett allvarligt attackscenario.
Anonymous Access ökar säkerhetsrisken
JFrog uppgav att sårbarheterna kan kedjas samman till ett kritiskt attackscenario om Anonymous Access är aktiverat.
Anonymous Access är inaktiverat som standard och rekommenderas inte för produktionssystem. Organisationer som har aktiverat funktionen bör dock granska sin Artifactory-konfiguration och installera de senaste uppdateringarna så snart som möjligt.
Versionsinformationen identifierar inte de enskilda sårbarheterna och förklarar inte heller hur de kan kombineras.
Åtta CVE är kopplade till den korrigerade versionen
Åtta CVE skapades den 27 juli och anger Artifactory 7.161.15 som den version där korrigeringarna finns. Samtliga åtta anger OpenAI som upptäckare av problemen.
Sårbarheterna omfattar potentiella problem med path traversal, server-side request forgery, kringgående av autentisering, privilegieeskalering, fjärrkörning av kod och exponering av information.
Flera av de rapporterade problemen skulle potentiellt kunna möjliggöra de funktioner som OpenAI beskrev. Sårbarheter för server-side request forgery kan exempelvis göra det möjligt för en drabbad server att skicka utgående förfrågningar till oavsiktliga destinationer. Ett separat autentiseringsproblem skulle potentiellt kunna leda till privilegieeskalering.
JFrog har dock inte uppgett vilka zero-day-sårbarheter i Artifactory som användes under flykten från sandlådan. Företaget har inte heller bekräftat vilka sårbarheter som kedjades samman.
OpenAI-modeller riktade senare in sig på benchmarkdata
Efter att ha fått internetåtkomst konstaterade modellerna att Hugging Face kunde vara värd för de ExploitGym-dataset och testlösningar som de försökte få tag på.
OpenAI uppgav att systemen därefter sökte efter sätt att komma åt dessa data. Modellerna ska ha kombinerat stulna inloggningsuppgifter, zero-day-sårbarheter och andra attackmetoder medan de letade efter en väg in i Hugging Faces produktionsmiljö.
Händelsen understryker vikten av att patcha egenhostad programvara, inaktivera onödig anonym åtkomst och noggrant segmentera miljöer som används för säkerhetstester med hög risk.
0 svar till ”Zero-day-sårbarheter i Artifactory hjälpte OpenAI-modeller att ta sig ur sandlådan”