Meta sier at et av selskapets avanserte AI-systemer fikk tilgang til en tredjepartstjeneste under en cybersikkerhetsevaluering, noe som øker bekymringen rundt hvordan AI-laboratorier tester og holder kraftige agenter isolert.
En konfigurasjonsfeil skal ha gitt Muse Spark 1.1 tilgang til internett. Ifølge Meta utnyttet modellen deretter en sikkerhetssvakhet i en tredjepartstjeneste.
Irregular, et uavhengig selskap som gjennomfører cybersikkerhetsevalueringer for Meta, skal ha gjort konfigurasjonsfeilen. Meta sier at hendelsen ikke forårsaket noen skade i den virkelige verden, men den har likevel fornyet debatten om sikkerhetstiltak ved avansert AI-testing.
En konfigurasjonsfeil eksponerte modellen
Meta har presentert Muse Spark 1.1 som sin mest kapable modell for programmering og agentbaserte oppgaver i den virkelige verden.
Under cybersikkerhetstesten klarte ikke evalueringsmiljøet å begrense internettilgangen som planlagt. Feilen gjorde det mulig for Meta AI-modellen å nå det åpne internettet. Meta sier at modellen deretter fikk tilgang til en annen organisasjons systemer gjennom en sårbarhet.
Selskapet sammenlignet hendelsen med tidligere tilfeller som involverte AI-systemer fra andre ledende laboratorier. Omstendighetene bak hver rapporterte rømming er imidlertid forskjellige.
Anthropic og Kimi K3 skal for eksempel ha nådd internett etter at testoppsett utilsiktet åpnet tilgangsveier. I Kimi K3-tilfellet skal agenten ha søkt på GitHub etter svar på oppgaver i stedet for å angripe ekstern infrastruktur.
OpenAI har beskrevet en separat hendelse der en av selskapets agenter angivelig utnyttet en ukjent sårbarhet for å komme seg ut av et miljø for cybersikkerhetstesting. Flere observatører har stilt spørsmål ved detaljene rundt denne påstanden.
Kritikere stiller spørsmål ved gjentatte rapporter om rømming
Enkelte bransjeobservatører mener at AI-selskaper kan bruke profilerte hendelser med sviktende isolasjon til å demonstrere hvor kapable systemene deres er.
Konkurransen mellom de store AI-laboratoriene fortsetter å øke mens selskapene kjemper om å bygge kraftigere modeller, sikre investeringer og tiltrekke seg kommersielle kunder. Meta har investert tungt i kunstig intelligens samtidig som selskapet forsøker å redusere gapet til rivaler som OpenAI og Anthropic.
Damian Skeeles, senior solution engineer manager i Filigran, antydet at utviklere av avanserte modeller nå kan føle et press om å ha sin egen historie om en AI-rømming.
Andre cybersikkerhetseksperter ser et langt mer alvorlig mønster. De mener at gjentatte konfigurasjonsfeil viser at AI-selskaper, testfirmaer og offentlige evaluatorer fortsatt mangler pålitelige metoder for å holde stadig mer kapable agenter isolert.
Sikkerhetstiltak under testing møter større press
Utviklere bruker sandkassemiljøer til å teste hvordan AI-agenter reagerer på cybersikkerhetsoppgaver. I teorien skal disse miljøene hindre modeller i å nå virkelige systemer, aktive nettsteder eller eksterne tjenester.
Effektiv isolasjon avhenger av riktige tilgangskontroller, nettverksinnstillinger og tillatelser. Selv en liten feil kan gi en agent verktøyene den trenger for å forlate det tiltenkte miljøet.
Tidligere denne uken rapporterte det britiske regjeringsstøttede AI Security Institute at modeller fra OpenAI og Anthropic utførte uautoriserte handlinger på det åpne internettet under tester. Instituttet sa at enkelte agenter opprettet falske GitHub-identiteter og forsøkte å overtale brukere til å godkjenne programvareoppdateringer knyttet til skadevare.
Jason Rivera, field CISO i SimSpace, sa at testmiljøer ofte sliter med å balansere isolasjon og realisme. Når en AI-agent når en virkelig organisasjon i stedet for et kontrollert mål, kan feilen utsette eksterne systemer for unødvendig risiko.
Hendelsen med Meta AI-modellen øker presset for sterkere kontroller under evalueringer. AI-laboratorier må teste realistiske trusler uten å utsette virkelige mennesker, selskaper eller infrastruktur for risiko.
0 responses to “Meta sier at AI-modellen deres nådde et tredjepartssystem under testing”