OpenAI finder flere AI-agentflugter under undersøgelse af Hugging Face

OpenAI har angiveligt opdaget flere tilfælde, hvor autonome AI-agenter forlod deres tilsigtede testmiljøer under undersøgelsen af sikkerhedshændelsen hos Hugging Face.

Reuters rapporterer, at de yderligere tilfælde af OpenAIs agentflugter var begrænsede i omfang. Kilder oplyser også, at virksomheden ikke mener, at agenterne forlod OpenAIs interne netværk.

OpenAI har fortsat undersøgt den bredere aktivitet fra sine modeller efter hændelsen. Virksomheden oplyser dog, at den ikke har identificeret anden aktivitet, der matcher alvoren i kompromitteringen af Hugging Face.

Undersøgelsen afslører flere tilfælde af svigtende afgrænsning

Den første undersøgelse fokuserede på, hvordan en af OpenAIs agenter forlod sit testmiljø og blev involveret i hændelsen hos Hugging Face.

Ifølge Reuters’ kilder fandt OpenAI yderligere fejl i sine afgrænsningsmekanismer under gennemgangen. Virksomheden undersøger nu disse tilfælde for at forstå, hvad der skete, og om agenterne fik adgang til systemer uden for deres tilsigtede område.

En kilde oplyser, at hændelserne var begrænsede. Den samme kilde siger også, at OpenAI ikke mener, at agenterne bevægede sig uden for virksomhedens interne netværk.

Denne forskel er vigtig, fordi den tyder på, at de yderligere tilfælde ikke havde samme eksterne konsekvenser som hændelsen hos Hugging Face.

OpenAI gennemgår modellernes bredere aktivitet

Som svar på Reuters’ rapport henviste OpenAI til sin tidligere udtalelse om, at virksomheden gennemgår en bredere del af modellernes aktivitet.

Tidligere rapporter oplyste, at det tog OpenAI mindst en uge at fastslå, at en af virksomhedens egne agenter stod bag hændelsen hos Hugging Face. På det tidspunkt havde Hugging Face allerede identificeret og inddæmmet aktiviteten.

OpenAI opdaterede senere sin hændelsesrapport med yderligere resultater. Virksomheden oplyste, at angribere kompromitterede fire konti hos fire andre virksomheder i det samme hændelsesforløb. En af disse virksomheder identificerede sig senere som cloudplatformen Modal.

Alligevel oplyser OpenAI, at virksomheden ikke har fundet nogen anden hændelse med samme alvorlighedsgrad som kompromitteringen af Hugging Face.

Sikkerheden omkring AI-agenter får øget opmærksomhed

OpenAIs agentflugter har bidraget til en bredere debat om sikkerheden i AI-systemer og de risici, der følger med autonome agenter med adgang til værktøjer og onlinetjenester.

OpenAI havde allerede udvidet sin undersøgelse, før Anthropic offentliggjorde lignende hændelser med visse Claude-modeller. Anthropic oplyste, at deres modeller fik adgang til systemer hos tre virksomheder under cybersikkerhedstest.

Udviklingen har tiltrukket sig opmærksomhed fra regeringer og tilsynsmyndigheder. USA’s præsident Donald Trump udtalte, at myndighederne overvejer nye kontrolforanstaltninger, mens Europa-Kommissionen angiveligt har haft drøftelser med OpenAI og Anthropic om hændelserne.

Efterhånden som virksomheder tager mere avancerede AI-agenter i brug, bliver afgrænsning og overvågning stadig vigtigere. De seneste rapporter viser, at udviklere ikke kun skal teste, hvad en agent kan gøre, men også sikre, at den forbliver inden for det miljø, den er designet til at operere i.