Selvkopierende KI kan etter hvert spre seg mellom tilkoblede enheter i hjemmet og utnytte deres samlede datakraft, ifølge forskning fra Anthropic. Eksperimentene undersøkte om små modeller kunne klargjøre ukjent maskinvare for å kjøre KI-arbeidsbelastninger og spre seg gjennom et nettverk.
Forskerne demonstrerte imidlertid ikke en fullt autonom KI-orm som opererte på ekte forbrukerenheter. Funnene peker på en potensiell fremtidig trussel, snarere enn en allerede etablert angrepskapasitet.
Eksperimenter undersøker KI-nettverk bygget av forbrukerenheter
Anthropic undersøkte om rimelige tilkoblede enheter kunne håndtere KI-arbeidsbelastninger uten å være avhengige av sentraliserte datasentre. Potensielle mål omfatter Android TV-bokser fra mindre kjente produsenter og andre smarte apparater.
I én demonstrasjon kjørte forskerne Google DeepMinds modell Gemma4-26B-A4B på tvers av 15 Android TV-bokser. Dette viste at flere rimelige enheter samlet kunne støtte en KI-modell.
Å distribuere en modell på tvers av maskinvare er imidlertid bare én del av autonom replikering. Et fungerende system måtte også finne flere enheter, skaffe seg tilgang, konfigurere dem og fortsette å spre seg på en pålitelig måte.
Et slikt nettverk kunne være vanskelig å deaktivere fordi det ville mangle ett sentralt punkt for nedstengning. Anthropic antydet likevel at tidlige versjoner kunne spre seg langsomt og potensielt bruke flere dager på å doble størrelsen.
Testene brukte enheter med forenklet tilgang
Eksperimentene tildelte ulike roller til flere KI-modeller. Qwen3.5-9B og GLM-5.2 forsøkte å konfigurere enheter og spre programvare for å kjøre Llama3.1-8B.
Separat støttet Gemma4-26B-A4B demonstrasjonen av distribuert databehandling. Forskerne testet også om hjelp fra den kraftigere modellen Opus 4.8 forbedret ytelsen til Qwen.
Det avgjørende var at testmiljøet ga tilgang via Android Debug Bridge uten autentisering. Dette fjernet en viktig sikkerhetsbarriere og forenklet forholdene sammenlignet med beskyttede enheter i virkelige miljøer.
Resultatene viser derfor ikke at modellene selvstendig kunne kompromittere vanlige, sikrede hjemmenettverk.
Modellene fullførte enkelte oppgaver, men slet med pålitelig spredning
Qwen3.5-9B klarte å installere og konfigurere programvaren som var nødvendig for å kjøre Llama3.1-8B, på åtte av ni maskinvaretyper.
Samtidig nådde GLM-5.2 alle nodene i et emulert nettverk med åtte noder i fire av fem forsøk. Andre testede modeller klarte ikke å fullføre hele prosessen på en pålitelig måte.
Å bevare informasjon fra tidligere forsøk forbedret ytelsen. Suksessraten til Qwen3.5-9B økte fra 45 % i de første forsøkene til 84 % i senere generasjoner.
Hjelp fra Opus 4.8 ga imidlertid ingen målbar forbedring i det testede oppsettet. Funnene viser fremgang i enkeltoppgaver, samtidig som det fortsatt er betydelige mangler når det gjelder pålitelig replikering gjennom hele prosessen.
Anthropic forventer ytterligere fremgang før årets slutt
Basert på eksperimentene og historiske forbedringsrater anslo Anthropic at modeller med 30 milliarder parametere eller færre kunne nå det nødvendige kapasitetsnivået innen utgangen av 2026.
Denne prognosen forutsetter fortsatt fremgang. Den fastslår ikke at autonom, selvkopierende KI vil oppstå innenfor denne tidsrammen.
Hastigheten er også fortsatt en begrensning. På den undersøkte maskinvaren varierte de rapporterte tidene for å sette opp inferensmiljøet fra 28 til 51 timer for Qwen3.5-9B. For Gemma4-26B-A4B varierte tidene fra 71 til 150 timer.
Disse langvarige prosessene kunne gi forsvarere tid til å oppdage mistenkelig aktivitet og gripe inn. Fremtidige forbedringer kunne imidlertid forkorte dette tidsvinduet.
Forskerne beskriver mulige beskyttelsestiltak
Anthropic foreslo å overvåke store modelloverføringer og uvanlig kommunikasjon mellom enheter. Slik aktivitet kunne bidra til å avdekke forsøk på å distribuere KI-arbeidsbelastninger på tvers av kompromittert maskinvare.
Andre foreslåtte tiltak omfatter bruk av honeypots for å undersøke mistenkelige nyttelaster, isolering av berørte abonnenters tilkoblinger og styrking av standardinnstillingene for sikkerhet på IoT-enheter.
Forskningen fastslår ikke at autonome KI-ormer utgjør en umiddelbar trussel. Selv med forenklet tilgang og uttrykkelige mål om spredning demonstrerte ikke eksperimentene fullstendig replikering på tvers av ekte IoT-maskinvare.
I stedet identifiserer funnene kapasiteter som er i ferd med å forbedres, og sikkerhetssvakheter som kan legge til rette for fremtidig misbruk.
0 responses to “Anthropic advarer: Selvkopierende KI kan spre seg mellom smarte enheter”