Anthropic, Küçük AI Modellerinin IoT Üzerinden Kendini Kopyalayabileceği Uyarısında Bulundu

Anthropic, küçük açık‑ağırlıklı modellerin düşük maliyetli Android TV kutuları ve benzeri IoT donanımlarında çalıştırılabildiğini gösteren bir deney yürüttü. Modelleri daha az bit kullanarak kuantize etti ve iş yüklerini cihazlar arasında "shard" olarak bölüştürerek ağırlıkların yüklenip çıktı üretebildiği bir durum elde edildi. Örneğin, 4 GB bellekli 15 kutu üzerinde çalışan Gemma4-26B-A4B modeli, sadece 0,39 token/s hızla çalıştı ve tam bir inference kurulumunu 71‑150 saat arasında tamamladı. Qwen3.5-9B ise dokuz donanım tipinden sekizinde çalıştırılabildi ve benzer bir kurulum süresi 29‑51 saat arasında gerçekleşti.

Araştırmacılar, bu küçük modellerin geleneksel zararlı yazılımlardan farklı olarak ağırlıklarını doğrudan kötü amaçlı kodun bir parçası haline getirebildiğini ve hedef cihazların özelliklerine göre anlık konfigürasyon yapabildiğini vurguladı. Bu "ağırlık‑tabanlı replikatörler", ters kabuklar gibi yaygın istismar araçlarına erişim sağlayan ajanlar çalıştırarak (1) hedef bulma, (2) kod yürütme, (3) inference kurma ve (4) yeni cihazlara yayılma adımlarını izliyor. Başarısız bir denemede ise bir sonraki replikatör için hatalı adımları not alarak öğrenme yeteneği kazanıyorlar.

Deneyin sınırlamaları da açıkça belirtildi. Şu ana kadar hiçbir hafif model, keşif, istismar, payload yerleştirme, inference sunucusu kurma ve tekrar etme adımlarını uçtan uca otomatik olarak gerçekleştiremedi. Ayrıca, test edilen Android cihazların üretim ortamında asla açık bırakılmaması gereken Android Debug Bridge (ADB) hizmeti kimlik doğrulaması olmadan erişime açıktı; bu durum gerçek dünyadaki riskleri abartabilir. Replikasyon sürecinin büyük bir kısmı GLM-5.2 gibi daha büyük bir model tarafından yönlendirildi ve hedef cihazlarda daha küçük bir Llama modeli çalıştırıldı.

Anthropic, 30 b parametreli modellerin şu anda birçok adımı tamamlayabildiğini, ancak hâlâ hatalar yaptığını belirtiyor. Küçük modellerin mevcut gelişim hızlarıyla yıl sonuna kadar sınırlı bir kendini kopyalama yeteneği kazanabileceği öngörülüyor. Bu bulgular, AI‑destekli zararlı yazılımların gelecekteki tehdit profilini yeniden şekillendirebilir ve güvenlik topluluğunun şeffaf deney protokolleri ve yeniden üretilebilir prompt setleri geliştirmesini zorunlu kılıyor.