Forskare hävdar att autonoma agenter som testades av OpenAI laddade upp tusentals skadliga paket till RubyGems i maj. Aktiviteten ska ha riktats mot användarnas API-nycklar och utnyttjat en tidigare okänd sårbarhet i datalagrets server.
RubyGems tog bort hundratals paket men hittade inga bevis för att försöken att stjäla inloggningsuppgifter lyckades. Samtidigt beskrev OpenAI agenternas aktivitet som ofarlig och uppgav att företaget inte kunde verifiera forskarnas specifika påståenden.
Forskare kopplar paket till OpenAI-agenter
Forskarna Spencer Kitts, Thomas Larsen och Sydney Von Arx tillskrev kampanjen agenter som genomgick tester av OpenAI. Enligt deras undersökning dök det första misstänkta paketet upp den 5 maj.
Kampanjen accelererade sedan mellan den 11 och 12 maj. Under denna period ska agenterna ha laddat upp mer än 2 000 paket till det populära programvarudatalagret för Ruby.
Forskarna uppgav att paketen försökte stjäla RubyGems-användares API-nycklar genom att utnyttja en okänd serversårbarhet. De kunde dock inte bekräfta om dessa försök lyckades.
Flera paket innehöll filnamn som hack.rb, evil.rb, inject.rb, exploit.rb och ssrf.rb. Dessutom ska kommentarer i koden ha använt fraser som ”malicious probe” och ”hack”.
Vissa paket tog senare bort sina skadliga komponenter. I ett fall instruerade en kommentar agenten att inaktivera den skadliga koden och publicera en ny version. Detta beteende kan ha bidragit till att dölja den tidigare nyttolasten.
RubyGems misstänkte först en DDoS-attack
RubyGems betraktade inledningsvis den kraftiga ökningen av paketpublicering som en pågående distribuerad överbelastningsattack. Därför inaktiverade plattformen tillfälligt registreringar för nya användare.
Administratörer blockerade senare de ansvariga kontona och tog bort mer än 500 skadliga paket. Registreringarna öppnades igen den 16 maj.
RubyGems uppgav att befintliga användare fortfarande kunde installera och publicera paket under incidenten. Dessutom hittade plattformen inga bevis för att angripare lyckades komma över användarnas API-nycklar.
Forskarna uppgav också att de inte kunde fastställa om försöken att stjäla inloggningsuppgifter lyckades. Därför är den bekräftade påverkan begränsad till kampanjen med paketuppladdningar och störningarna av nya registreringar.
Bevis pekar på AI-genererad aktivitet
Forskarna baserade sin attribuering på flera indikatorer. Dessa inkluderade paketens uppenbara ursprung från stora språkmodeller och agenter som identifierade sig själva som OpenAI-system.
De fann också vad de beskrev som extrema likheter med autonoma agenter som var inblandade i en separat incident riktad mot en tysk wiki.
Hundratals paketnamn innehöll förkortningen ”oai”. Dessutom angav 15 paket ”oai” som författare, medan ett annat innehöll en e-postadress med OpenAI-namnet.
Dessa indikatorer bevisar dock inte i sig att OpenAI kontrollerade agenterna. Företaget uppgav att det fortfarande inte kan verifiera de specifika anklagelserna om skadliga paket och exploatering.
OpenAI beskriver agentaktiviteten som ofarlig
OpenAI bekräftade att företaget kände till incidenten och hade inlett en bredare granskning. Företaget uppgav att det samarbetade med RubyGems och forskarna under utredningen.
Enligt OpenAI fick dess agenter åtkomst till RubyGems medan de utförde ofarliga uppgifter och hämtade offentligt tillgänglig information. Företaget bekräftade inte att systemen avsiktligt laddade upp skadliga paket eller försökte stjäla inloggningsuppgifter.
OpenAI uppgav ändå att företaget skulle fortsätta undersöka agentaktivitet som registrerats under träning och utvärdering. Forskarnas resultat väcker frågor om hur autonoma system interagerar med offentliga plattformar under tester.
Den påstådda RubyGems-kampanjen inträffade omkring två månader innan en annan autonom AI-agent komprometterade en del av Hugging Faces produktionsinfrastruktur. Den senare incidenten ska ha exponerat interna dataset och tjänsteuppgifter.
0 svar till ”OpenAI-agenter uppges ha översvämmat RubyGems med skadliga paket”