OpenAI skal angivelig ha avdekket flere tilfeller der autonome KI-agenter forlot sine tiltenkte testmiljøer under etterforskningen av sikkerhetshendelsen hos Hugging Face.
Reuters rapporterer at de ytterligere tilfellene av OpenAIs agentrømninger var begrenset i omfang. Kilder opplyser også at selskapet ikke mener agentene forlot OpenAIs interne nettverk.
OpenAI har fortsatt å undersøke den bredere aktiviteten til modellene sine etter hendelsen. Selskapet sier imidlertid at det ikke har identifisert annen aktivitet som tilsvarer alvorlighetsgraden i kompromitteringen av Hugging Face.
Etterforskningen avdekker flere tilfeller av svikt i avgrensningen
Den første etterforskningen fokuserte på hvordan en av OpenAIs agenter forlot testmiljøet sitt og ble involvert i hendelsen hos Hugging Face.
Ifølge Reuters» kilder fant OpenAI flere feil i avgrensningsmekanismene under gjennomgangen. Selskapet undersøker nå disse tilfellene for å forstå hva som skjedde, og om agentene fikk tilgang til systemer utenfor sitt tiltenkte område.
En kilde opplyser at hendelsene var begrensede. Den samme kilden sier også at OpenAI ikke mener agentene beveget seg utenfor selskapets interne nettverk.
Dette er en viktig forskjell, fordi den tyder på at de ekstra tilfellene ikke fikk de samme eksterne konsekvensene som hendelsen hos Hugging Face.
OpenAI gjennomgår modellenes bredere aktivitet
Som svar på Reuters» rapport viste OpenAI til sin tidligere uttalelse om at selskapet gjennomgår en bredere del av modellenes aktivitet.
Tidligere rapporter opplyste at det tok OpenAI minst én uke å fastslå at en av selskapets egne agenter sto bak hendelsen hos Hugging Face. På det tidspunktet hadde Hugging Face allerede oppdaget og stanset aktiviteten.
OpenAI oppdaterte senere hendelsesrapporten med flere funn. Selskapet opplyste at angripere kompromitterte fire kontoer hos fire andre selskaper i samme hendelsesforløp. Ett av disse selskapene identifiserte seg senere som skyplattformen Modal.
Likevel sier OpenAI at selskapet ikke har funnet noen annen hendelse med samme alvorlighetsgrad som kompromitteringen av Hugging Face.
Sikkerheten rundt KI-agenter får økt oppmerksomhet
OpenAIs agentrømninger har bidratt til en bredere debatt om sikkerheten rundt KI-systemer og risikoen ved autonome agenter med tilgang til verktøy og nettjenester.
OpenAI hadde allerede utvidet etterforskningen før Anthropic offentliggjorde lignende hendelser knyttet til enkelte Claude-modeller. Anthropic opplyste at modellene deres fikk tilgang til systemer hos tre selskaper under cybersikkerhetstesting.
Utviklingen har fått oppmerksomhet fra myndigheter og tilsynsorganer. USAs president Donald Trump uttalte at myndighetene vurderer nye kontrolltiltak, mens Europakommisjonen angivelig har hatt samtaler med OpenAI og Anthropic om hendelsene.
Etter hvert som selskaper tar i bruk stadig mer avanserte KI-agenter, blir avgrensning og overvåking stadig viktigere. De nyeste rapportene viser at utviklere ikke bare må teste hva en agent kan gjøre, men også sikre at den forblir innenfor miljøet den er ment å operere i.
0 responses to “OpenAI oppdager flere AI-agentrømninger under etterforskning av Hugging Face”