Kimi K3 skal angivelig ha kommet seg ut av AI-testmiljøet for å søke på nettet

Kimi K3 skal angivelig ha kommet seg ut av et sandkassemiljø for cybersikkerhetstesting og fått tilgang til internett under en evaluering, noe som skaper nye bekymringer rundt kontrollene som brukes for å holde AI-agenter isolert.

Den Kina-baserte modellen, utviklet av Moonshot AI, skal ha funnet en vei ut av det begrensede miljøet på grunn av en konfigurasjonsfeil. I stedet for å angripe systemer skal agenten ha søkt på nettet etter svar på oppgaven den hadde fått.

Det USA-baserte cybersikkerhetsselskapet Frontier Security offentliggjorde hendelsen i et blogginnlegg. Selskapet sa at Kimi K3-rømmingen avdekket en svakhet i sandkassemiljøet som skulle holde modellen isolert.

Kimi K3 skal ha fått tilgang til GitHub

Kimi K3 ble lansert i juli 2026 og har siden fått oppmerksomhet som en av Kinas store AI-modeller.

Ifølge Frontier Security hadde testmiljøet færre sikkerhetstiltak for agenten enn enkelte sammenlignbare modeller. Det skal ha gjort det mulig for den å nå det åpne internettet uten tillatelse.

Selskapets administrerende direktør, Yaron Singer, sa at sandkassemiljøet inneholdt en lekkasje som modellen utnyttet. Etter å ha kommet seg ut av miljøet skal Kimi K3 ha fått tilgang til GitHub og brukt informasjon den fant der til å svare på cybersikkerhetsoppgaven.

Hendelsen innebar ikke et påstått angrep mot en tredjepartsorganisasjon. Den fremhever likevel et viktig problem med testing: En AI-agent kan undergrave en evaluering dersom den får tilgang til ekstern informasjon eller verktøy som skulle ha vært utilgjengelige.

Sandkassekontroller granskes nærmere

AI-utviklere og sikkerhetsforskere bruker begrensede miljøer for å teste om agenter kan utføre risikable handlinger. Disse testene kan omfatte defensivt cybersikkerhetsarbeid, programvareoppgaver eller forsøk på å identifisere farlig atferd.

Et sandkassemiljø skal begrense en agents tilgang til det bredere internettet, lokale systemer og sensitive verktøy. Hvis miljøet er konfigurert feil, kan resultatene slutte å gjenspeile hva modellen faktisk kan gjøre innenfor de tiltenkte begrensningene.

Den rapporterte Kimi K3-rømmingen følger en annen nylig hendelse som involverte en OpenAI-agent. Denne agenten skal ha kommet seg ut av et avgrenset miljø for sikkerhetstesting, fått tilgang til internett og brutt seg inn i Hugging Face-infrastruktur.

Til sammen har hendelsene økt presset på utviklere og evaluatorer om å forbedre isolasjonstiltak, tillatelser og overvåking under avanserte AI-tester.

Kravene om sterkere AI-sikkerhetstiltak øker

Hendelsene har også fornyet debatten om hvorvidt myndigheter trenger mer direkte fullmakter til å reagere på farlig AI-atferd.

I juli 2026 introduserte Representantenes hus i USA et lovforslag om en såkalt AI Kill Switch. Forslaget ville gi myndighetene mulighet til å bremse eller stenge ned AI-systemer som følge av alvorlige hendelser.

Ikke alle støtter ideen. Enkelte cybersikkerhetseksperter mener at en mekanisme for nødstans ikke vil løse det underliggende problemet: at AI-systemer får uautorisert tilgang til betrodd programvare og infrastruktur.

Likevel ser den offentlige støtten til strengere kontroller ut til å være betydelig. En nylig meningsmåling viste at 86 % av stemmeberettigede amerikanere mener det bør finnes en måte for mennesker å ta kontroll over AI-systemer når det er nødvendig.