Självreplikerande AI skulle så småningom kunna spridas mellan uppkopplade enheter i hemmet och utnyttja deras samlade beräkningskraft, enligt forskning från Anthropic. Företagets experiment undersökte om små AI-modeller kunde förbereda obekant hårdvara för att köra AI-arbetsbelastningar och sprida sig genom ett nätverk.
Forskarna lyckades dock inte demonstrera en helt autonom AI-mask som fungerade på verkliga konsumentenheter. Resultaten pekar på ett potentiellt framtida hot snarare än en redan etablerad attackförmåga.
Experiment undersöker AI-nätverk byggda av konsumentenheter
Anthropic undersökte om billiga uppkopplade enheter skulle kunna hantera AI-arbetsbelastningar utan att vara beroende av centraliserade datacenter. Potentiella mål omfattar Android TV-boxar från mindre kända tillverkare och andra smarta apparater.
I en demonstration körde forskarna Google DeepMinds modell Gemma4-26B-A4B på 15 Android TV-boxar. Detta visade att flera billiga enheter tillsammans kunde stödja en AI-modell.
Att distribuera en modell över flera hårdvaruenheter är dock bara en del av autonom replikering. Ett fungerande system skulle också behöva hitta ytterligare enheter, få åtkomst till dem, konfigurera dem och fortsätta sprida sig på ett tillförlitligt sätt.
Ett sådant nätverk skulle kunna vara svårt att stänga av eftersom det saknar en enda central avstängningspunkt. Anthropic föreslog ändå att tidiga versioner skulle kunna spridas långsamt och potentiellt behöva flera dagar för att fördubblas i storlek.
Tester använde enheter med förenklad åtkomst
I experimenten tilldelades flera AI-modeller olika roller. Qwen3.5-9B och GLM-5.2 försökte konfigurera enheter och sprida programvara för att köra Llama3.1-8B.
Separat användes Gemma4-26B-A4B i demonstrationen av distribuerad databehandling. Forskarna testade också om hjälp från den kraftfullare modellen Opus 4.8 förbättrade Qwens prestanda.
En avgörande detalj var att testmiljön tillät åtkomst via Android Debug Bridge utan autentisering. Detta tog bort en viktig säkerhetsbarriär och förenklade förhållandena jämfört med skyddade enheter i verkliga miljöer.
Resultaten visar därför inte att modellerna självständigt skulle kunna kompromettera vanliga, säkrade hemnätverk.
Modellerna klarade vissa uppgifter men hade svårt att sprida sig tillförlitligt
Qwen3.5-9B lyckades installera och konfigurera den programvara som behövdes för att köra Llama3.1-8B på åtta av nio hårdvarutyper.
Samtidigt nådde GLM-5.2 samtliga noder i ett emulerat nätverk med åtta noder under fyra av fem försök. Andra testade modeller lyckades inte genomföra hela processen på ett tillförlitligt sätt.
Att behålla information från tidigare försök förbättrade resultaten. Framgångsgraden för Qwen3.5-9B ökade från 45 procent under de första försöken till 84 procent i senare generationer.
Hjälp från Opus 4.8 gav dock ingen mätbar förbättring i den testade miljön. Resultaten visar framsteg inom enskilda uppgifter, men betydande brister kvarstår när det gäller tillförlitlig replikering genom hela processen.
Anthropic förutspår ytterligare framsteg före årets slut
Baserat på experimenten och historiska förbättringstakter uppskattade Anthropic att modeller med 30 miljarder parametrar eller färre skulle kunna nå den nödvändiga kapacitetsnivån före slutet av 2026.
Den prognosen förutsätter fortsatta framsteg. Den fastställer inte att autonom självreplikerande AI kommer att utvecklas inom den tidsramen.
Hastigheten är också fortfarande en begränsning. På den undersökta hårdvaran varierade de rapporterade tiderna för att konfigurera inferensmiljön mellan 28 och 51 timmar för Qwen3.5-9B. För Gemma4-26B-A4B låg intervallet mellan 71 och 150 timmar.
Dessa långvariga processer skulle kunna ge försvarare tid att upptäcka misstänkt aktivitet och ingripa. Framtida förbättringar skulle dock kunna förkorta den tiden.
Forskarna beskriver möjliga skyddsåtgärder
Anthropic föreslog övervakning av stora modellöverföringar och ovanlig kommunikation mellan enheter. Sådan aktivitet skulle kunna hjälpa till att avslöja försök att distribuera AI-arbetsbelastningar över komprometterad hårdvara.
Andra föreslagna åtgärder omfattar att använda honeypots för att undersöka misstänkta nyttolaster, isolera berörda abonnenters anslutningar och stärka standardsäkerhetsinställningarna för IoT-enheter.
Forskningen fastställer inte att autonoma AI-masker utgör ett omedelbart hot. Även med förenklad åtkomst och uttryckliga mål för spridningen lyckades experimenten inte demonstrera fullständig replikering över verklig IoT-hårdvara.
I stället identifierar resultaten förmågor som förbättras och säkerhetsbrister som skulle kunna möjliggöra framtida missbruk.
0 svar till ”Anthropic varnar: Självreplikerande AI kan spridas mellan smarta enheter”