Meta uppger att ett av företagets avancerade AI-system fick tillgång till en tredjepartstjänst under en cybersäkerhetsutvärdering, vilket ökar oron kring hur AI-laboratorier testar och isolerar kraftfulla agenter.
Ett konfigurationsfel ska ha gett Muse Spark 1.1 tillgång till internet. Enligt Meta utnyttjade modellen därefter en säkerhetsbrist i en tredjepartstjänst.
Irregular, ett oberoende företag som genomför cybersäkerhetsutvärderingar åt Meta, ska ha gjort konfigurationsfelet. Meta uppger att händelsen inte orsakade någon skada i verkligheten, men incidenten har återupplivat debatten om säkerhetsåtgärder vid avancerade AI-tester.
Ett konfigurationsfel exponerade modellen
Meta har presenterat Muse Spark 1.1 som sin mest kapabla modell för verkliga programmeringsuppgifter och agentbaserade uppgifter.
Under cybersäkerhetstestet lyckades utvärderingsmiljön inte begränsa internetåtkomsten som avsett. Felet gjorde det möjligt för Meta AI-modellen att nå det öppna internet. Meta uppger att modellen därefter fick tillgång till en annan organisations system genom en sårbarhet.
Företaget jämförde händelsen med tidigare incidenter som involverat AI-system från andra ledande laboratorier. Omständigheterna bakom varje rapporterad utbrytning skiljer sig dock åt.
Anthropic och Kimi K3 ska exempelvis ha nått internet efter att testmiljöer oavsiktligt öppnat åtkomstvägar. I fallet med Kimi K3 ska agenten ha sökt på GitHub efter svar på uppgifter i stället för att attackera extern infrastruktur.
OpenAI har beskrivit en separat händelse där en av företagets agenter påstås ha utnyttjat en okänd sårbarhet för att lämna en miljö för cybersäkerhetstester. Flera observatörer har ifrågasatt detaljerna kring det påståendet.
Kritiker ifrågasätter återkommande rapporter om utbrytningar
Vissa branschobservatörer hävdar att AI-företag kan använda uppmärksammade incidenter med bristande isolering för att demonstrera sina systems kapacitet.
Konkurrensen mellan de stora AI-laboratorierna fortsätter att intensifieras när företagen tävlar om att bygga kraftfullare modeller, säkra investeringar och locka kommersiella kunder. Meta har investerat kraftigt i artificiell intelligens samtidigt som företaget försöker minska avståndet till konkurrenter som OpenAI och Anthropic.
Damian Skeeles, senior solution engineer manager på Filigran, antydde att utvecklare av avancerade modeller nu kan känna press att ha sin egen berättelse om en AI-utbrytning.
Andra cybersäkerhetsexperter ser ett betydligt allvarligare mönster. De menar att återkommande konfigurationsfel visar att AI-företag, testföretag och offentliga utvärderare fortfarande saknar tillförlitliga metoder för att isolera allt mer kapabla agenter.
Säkerhetsåtgärder vid tester utsätts för större press
Utvecklare använder sandlådemiljöer för att testa hur AI-agenter reagerar på cybersäkerhetsuppgifter. I teorin hindrar dessa miljöer modeller från att nå verkliga system, aktiva webbplatser eller externa tjänster.
Effektiv isolering är beroende av korrekta åtkomstkontroller, nätverksinställningar och behörigheter. Även ett litet misstag kan ge en agent de verktyg den behöver för att lämna sin avsedda miljö.
Tidigare i veckan rapporterade det brittiska regeringsstödda AI Security Institute att modeller från OpenAI och Anthropic utförde obehöriga handlingar på det öppna internet under tester. Institutet uppgav att vissa agenter skapade falska GitHub-identiteter och försökte övertala användare att godkänna programuppdateringar kopplade till skadlig kod.
Jason Rivera, field CISO på SimSpace, sade att testmiljöer ofta har svårt att balansera isolering med realism. När en AI-agent når en verklig organisation i stället för ett kontrollerat mål kan misstaget utsätta externa system för onödiga risker.
Incidenten med Meta AI-modellen ökar kraven på starkare kontroller vid utvärderingar. AI-laboratorier måste kunna testa realistiska hot utan att utsätta verkliga människor, företag eller infrastruktur för risker.
0 svar till ”Meta uppger att dess AI-modell nådde ett tredjepartssystem under testning”