Selvreplikerende AI kan med tiden sprede sig mellem forbundne enheder i hjemmet og udnytte deres samlede computerkraft, ifølge forskning fra Anthropic. Virksomhedens eksperimenter undersøgte, om små modeller kunne klargøre ukendt hardware til at køre AI-arbejdsbelastninger og sprede sig gennem et netværk.
Forskerne demonstrerede dog ikke en fuldt autonom AI-orm, der fungerede på virkelige forbrugerenheder. Resultaterne peger på en potentiel fremtidig trussel snarere end en allerede etableret angrebskapacitet.
Eksperimenter undersøger AI-netværk bygget af forbrugerenheder
Anthropic undersøgte, om billige forbundne enheder kunne håndtere AI-arbejdsbelastninger uden at være afhængige af centraliserede datacentre. Potentielle mål omfatter Android TV-bokse fra mindre kendte producenter og andre smarte apparater.
I en demonstration kørte forskerne Google DeepMinds model Gemma4-26B-A4B på tværs af 15 Android TV-bokse. Dette viste, at flere billige enheder tilsammen kunne understøtte en AI-model.
At distribuere en model på tværs af hardware er dog kun én del af autonom replikering. Et fungerende system skulle også kunne finde yderligere enheder, få adgang til dem, konfigurere dem og fortsætte med at sprede sig på en pålidelig måde.
Et sådant netværk kunne være vanskeligt at deaktivere, fordi det ville mangle et enkelt centralt nedlukningspunkt. Anthropic antydede dog, at tidlige versioner kunne sprede sig langsomt og potentielt bruge flere dage på at fordoble deres størrelse.
Testene anvendte enheder med forenklet adgang
Eksperimenterne tildelte forskellige roller til flere AI-modeller. Qwen3.5-9B og GLM-5.2 forsøgte at konfigurere enheder og sprede software til at køre Llama3.1-8B.
Separat understøttede Gemma4-26B-A4B demonstrationen af distribueret databehandling. Forskerne testede også, om hjælp fra den stærkere model Opus 4.8 forbedrede Qwens ydeevne.
Det afgørende var, at testmiljøet gav adgang via Android Debug Bridge uden godkendelse. Dette fjernede en vigtig sikkerhedsbarriere og forenklede forholdene sammenlignet med beskyttede enheder i virkelige miljøer.
Resultaterne viser derfor ikke, at modellerne selvstændigt kunne kompromittere almindelige, sikrede hjemmenetværk.
Modellerne gennemførte nogle opgaver, men havde svært ved pålidelig spredning
Qwen3.5-9B installerede og konfigurerede med succes den software, der var nødvendig for at køre Llama3.1-8B, på otte ud af ni hardwaretyper.
Samtidig nåede GLM-5.2 alle noder i et emuleret netværk med otte noder i fire ud af fem forsøg. Andre testede modeller gennemførte ikke hele processen på en pålidelig måde.
At bevare information fra tidligere forsøg forbedrede ydeevnen. Succesraten for Qwen3.5-9B steg fra 45 % i de tidlige forsøg til 84 % i senere generationer.
Hjælp fra Opus 4.8 gav dog ingen målbar forbedring i det testede setup. Resultaterne viser fremskridt inden for individuelle opgaver, mens der fortsat er betydelige mangler i forhold til pålidelig replikering gennem hele processen.
Anthropic forventer yderligere fremskridt inden årets udgang
Baseret på eksperimenterne og historiske forbedringsrater vurderede Anthropic, at modeller med 30 milliarder parametre eller færre kunne nå det nødvendige kapacitetsniveau inden udgangen af 2026.
Denne prognose afhænger af fortsatte fremskridt. Den fastslår ikke, at autonom selvreplikerende AI vil opstå inden for denne tidsramme.
Hastigheden er også fortsat en begrænsning. På den undersøgte hardware varierede de rapporterede tider for opsætning af inferensmiljøet fra 28 til 51 timer for Qwen3.5-9B. For Gemma4-26B-A4B var intervallet fra 71 til 150 timer.
Disse langvarige processer kunne give forsvarere tid til at opdage mistænkelig aktivitet og gribe ind. Fremtidige forbedringer kunne dog forkorte dette tidsvindue.
Forskerne beskriver mulige beskyttelsesforanstaltninger
Anthropic foreslog overvågning af store modeloverførsler og usædvanlig kommunikation mellem enheder. Sådan aktivitet kunne hjælpe med at afsløre forsøg på at distribuere AI-arbejdsbelastninger på tværs af kompromitteret hardware.
Andre foreslåede foranstaltninger omfatter brug af honeypots til at undersøge mistænkelige payloads, isolering af berørte abonnenters forbindelser og styrkelse af standardsikkerhedsindstillingerne på IoT-enheder.
Forskningen fastslår ikke, at autonome AI-orme udgør en overhængende trussel. Selv med forenklet adgang og udtrykkelige mål om spredning demonstrerede eksperimenterne ikke fuldstændig replikering på tværs af virkelig IoT-hardware.
I stedet identificerer resultaterne kapaciteter, der er under forbedring, og sikkerhedssvagheder, der kan understøtte fremtidigt misbrug.
0 svar til “Anthropic advarer: Selvreplikerende AI kan sprede sig mellem smarte enheder”