Ännu har inget sådant fall uppstått. Anthropic konstaterar att det inte finns någon "fullt ut skenande replikator", men att AI-agenter blir allt bättre på att klara de enskilda stegen i kedjan.
Svårt att stänga av
Bolaget menar att en sådan AI skulle vara svår att stoppa, eftersom det inte finns någon central punkt att stänga av. Spridningen kan dock gå långsamt, med en fördubblingstid på dagar, skriver Anthropic.
Till skillnad från vanlig skadlig kod skulle AI:n också kunna lista ut okända enheter på egen hand. I bolagets tester fick en modell med 9 miljarder parametrar igång körning på 8 av 9 testade hårdvarutyper.
Modeller med 30 miljarder parametrar eller färre klarar redan många av stegen var för sig, men gör fel när de ska sätta ihop dem. Om små modeller fortsätter förbättras i samma takt som tidigare väntas de nå samma nivå som de starkaste modellerna i testerna före årets slut.
15 tv-boxar körde en AI-modell
Forskarna William Zhou och Daniel Freeman lät en Google-modell, Gemma4-26B-A4B, köras över 15 billiga tv-boxar med Android. Varje box kostade omkring 55 dollar. Modellen producerade 0,39 ord- och teckenenheter, så kallade tokens, per sekund.
Enligt Anthropic har den här typen av enheter ofta svagt skydd. En modell som är för stor för en enda enhet kan delas upp i delar och köras över flera.
Flera möjliga scenarier
Anthropic betonar att det är oklart vilken form självkopierande AI skulle ta. Det kan röra sig om ett långsamt, utspritt system på osäkra enheter, en kraftfull modell som bryter sig in i datacenter, eller en modell som lurar människor på datorkraft.
– Vi förväntar oss en framtid där AI-agenter kör processer på alla olika typer av hårdvara, säger Anthropic i blogginlägget.
Varningen kommer efter flera tidigare från Anthropic och konkurrenten OpenAI om riskerna med den snabba utvecklingen, rapporterar CNBC.
