Küçük AI modelleri IoT cihazlarda kendi kendine çoğalabilir
Anthropic araştırması, 30 milyar parametrenin altındaki AI modellerinin, akıllı fırınlar ve düşük maliyetli Android TV kutuları gibi IoT cihazları üzerinde kendi kendine çoğalabilecek seviyeye geldiğini gösterdi. GLM‑5.2 modeli, 8/8 cihazı %100 başarıyla enfekte ederek tam bir "AI worm" döngüsü gerçekleştirdi.
Özetle
- 1
30B ve altındaki modeller, hedef bulma, exploit, inference kurma ve yayılma adımlarını tek bir akışta gerçekleştirebilecek seviyeye geldi.
- 2
GLM‑5.2 modeli, 8/8 IoT cihazını %100 başarıyla enfekte ederek tam bir AI worm döngüsü gösterdi.
- 3
15 adet düşük maliyetli Android TV kutusunda 26B modelin dağıtık çalıştırılması, IoT cihazların AI ağırlıklarını barındırabilecek güce sahip olduğunu kanıtladı.
- 4
Model ağırlıkları, root yetkisi olmadan kullanıcı alanında çalıştırılabiliyor; bu da geleneksel anti‑malware savunmalarını geçersiz kılıyor.
- 5
Araştırmacılar, AI solucanlarının yayılma hızının günler içinde iki katına çıkabileceğini ve mevcut IoT güvenlik açıklarının bu tehdide karşı yetersiz kaldığını belirtiyor.
Anthropic'in Frontier Red Team araştırmacıları, AI modellerinin veri merkezine erişim olmadan, ticari IoT cihazları üzerinde kendilerini çoğaltma yeteneğine yaklaştığını ortaya koydu. 9 milyar parametreli bir model, test edilen dokuz donanım tipinden sekizinde çalıştırma başarısı gösterirken, 30B ve altındaki modeller hâlihazırda çoğaltmanın bireysel adımlarını tamamlayabiliyor. Ancak bu adımları uçtan uca birleştirme hâlâ hatalar içeriyor.
Araştırmada, GLM‑5.2 ve daha güçlü modellerin tam bir replikasyon zincirini (hedef bulma, yürütme elde etme, inference kurma ve yeni konak üzerinden yayılma) başarıyla tamamlayabildiği belirlendi. Model, basitleştirilmiş bir ortamda 8 GCP node'luk bir botnet üzerinde Llama3.1‑8B'yi çalıştırmak için gerekli ağı kurdu ve 5 denemenin 4'ünde tüm 8 node'u %100, bir denemesinde ise 7/8 node'u enfekte etti. Bu sonuç, benzer yeteneklere sahip bir 8B modelin de aynı başarıyı gösterebileceğini işaret ediyor.
Deneylerde, 15 adet 55 dolarlık off‑brand Android TV kutusuna dağıtılan Gemma4‑26B‑A4B modeli, cihaz başına iki katman tutarak 0.39 token/s hızında çalıştırıldı. Bu, düşük bellekli (4 GB RAM) IoT cihazların, 4‑bit kuantizasyonla 9B modelleri dört cihazda, 26B modelleri ise on‑bir cihazda çalıştırabilecek kapasitede olduğunu gösteriyor. Model ağırlıklarını doğrudan kötü amaçlı yazılım yükü olarak taşıyan bu "weight‑based replicator"lar, kök yetkisi olmadan da kullanıcı alanında çalışabilir ve cihaz yeniden başlatıldığında tekrar enfekte olabilir.
Araştırmacılar, bu tür AI tabanlı solucanların geleneksel malware'den farkını vurguladı: model, yeni cihazların donanım ve işletim sistemi özelliklerini otomatik olarak keşfedip uyum sağlayabiliyor. Bu durum, IoT ekosistemindeki zayıf güvenlik önlemlerinin acil olarak güçlendirilmesi gerektiğini ortaya koyuyor. Ayrıca, modelin yetenek seviyesinin bir "floor" (minimum yetenek) ve bir "ceiling" (maksimum boyut) arasında şu an çakışmadığı, ancak ilerleyen aylarda bu iki sınırın kesişebileceği öngörülüyor.
Yöney yorumu
Bu bulgu, AI tabanlı kötü amaçlı yazılımların geleneksel savunma katmanlarını aşabileceğini gösteriyor; geliştiricilerin model boyutu ve dağıtık inference yeteneklerini güvenlik perspektifinden yeniden değerlendirmesi şart.
Bu haber Anthropic Research kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.
