Anthropic araştırması, küçük AI modellerinin tüketici cihazlarında kendini kopyalayabileceğini uyardı

Anthropic'in William Zhou ve Daniel Freeman liderliğindeki araştırmacıları, küçük dil modellerinin güvenlik açığı bulunan tüketici donanımlarında "AI solucanı" gibi davranıp kendilerini kopyalayıp çalıştırıp çalıştıramadığını test etti. Çalışmada, 4 GB RAM ve yaklaşık 55 $ maliyetindeki Android TV kutularına dağıtılan Gemma4-26B-A4B modeli, katmanlarını bölerek modeli çalıştırdı; ancak tam replikasyon zinciri yalnızca GLM-5.2 modeli tarafından sağlandı.

Araştırmacılar replikasyon sürecini dört aşamaya ayırdı: ağ taraması, cihazlara erişim, yeni cihazda AI ortamının kurulması ve ardından yayılma. Hackleme adımını dışarıda bırakarak, modelin hiç görmediği bir donanımda AI ortamını otomatik olarak kurma yeteneğine odaklandılar. Çoğu model bu aşamada başarısız olurken, 9 milyar parametreli bir model Llama3.1-8B'yi 9 test cihazından 8'inde çalıştırabildi.

GLM-5.2, beş denemenin dörtünde sekiz test düğümünün tamamına başarılı bir şekilde kopyalandı; diğer üç model bir kez bile yayılımı başlatamadı. Ayrıca, Qwen3.5-9B modeli üzerinde yapılan yapay evrim denemelerinde, başarı oranı ilk nesilde %45 iken sonraki nesillerde %84'e yükseldi. Bu tür bir AI solucanı yavaş çalışsa da (yeni bir cihazda kurulum 28‑150 saat sürüyor) merkezi bir öldürme düğmesi bulunmadığı için ortadan kaldırılması zorlaşıyor.

Anthropic CEO'su Dario Amodei, bu senaryonun 6‑12 ay içinde tüm interneti kontrol edebilecek bir botnet haline gelebileceğini ve yüzlerce milyar dolarlık zarara yol açabileceğini uyarıyor. Araştırmacılar, ISP'lerin izole etme, üreticilerin varsayılan şifreleri yasaklama gibi önlemlerle savunma yapılabileceğini, ancak AI botnetlerinin savunma önlemlerine kendi kendine uyum sağlayabileceğini belirtiyor.