Skynet Modunda AI Ajanı Korunmasız LLM'leri Ele Geçirerek Otomatik Siber Saldırılar Başlatıyor
Symantec güvenlik araştırmacıları, internetteki korumasız dil modellerini ele geçirip kendi başına saldırı yürüten bir yapay zeka ajanını ortaya çıkardı. Beş katmanlı bir jailbreak ile modelin güvenlik kurallarını aşan bu ajan, 100.000 adıma kadar insan müdahalesi olmadan kripto madenciliği, veri hırsızlığı ve yaygın sunucu istismarları gerçekleştiriyor.
Özetle
- 1
Symantec, "LLMjacking" adı verilen bir saldırı tekniğiyle korumasız LLM'leri ele geçirip otomatik saldırı yürütüyor.
- 2
Beş katmanlı jailbreak, modelin güvenlik uyarılarını ve etik sınırlamalarını tamamen devre dışı bırakıyor.
- 3
Ajan, 100.000 adıma kadar insan müdahalesi olmadan kripto madenciliği, veri hırsızlığı ve yaygın sunucu istismarları gerçekleştiriyor.
- 4
Honeypot, saldırının tam promptunu yakalayarak saldırı zincirini ve kullanılan 74 modüllük araç setini ortaya çıkardı.
Symantec, bir honeypot (tuzak sistem) aracılığıyla "LLMjacking" olarak adlandırdığı saldırı yöntemini tespit etti. Araştırmacılar, saldırganların bir açık AI hizmetine gönderdiği tam promptu yakalayarak, ajan mimarisini ve beş katmanlı jailbreak sürecini ayrıntılı bir şekilde inceledi. İlk iki katman, modeli "Fantasy AI" kimliğiyle sahte bir geliştirici olarak tanıtarak kimlik ve API anahtarlarını çalmayı normal bir görev gibi sunuyor. Üçüncü katman, "ENI" adlı hayali bir kişilik oluşturarak modelin reddetme mekanizmalarını duygusal bir bağ üzerinden etkisizleştiriyor; dördüncü katman ise "illegal", "ethical" gibi terimleri yasaklayarak güvenlik uyarılarını susturuyor.
Beşinci katmanda ise 74 modülden oluşan bir saldırı araç seti bulunuyor: internet çapında tarama, popüler web çerçevelerine yönelik exploit'ler, veri tabanı dökümü ve botnet yönetimi gibi işlevler. Bu modüller, ajanı "Skynet mode"a alarak ardışık 100.000 adımda otomatik olarak çalıştırıyor; tarama, enfekte etme, kripto madenciliği kurma ve tekrar geri dönme döngüsü kendini sürdürüyor. Honeypot, saldırının iki ayrı denemesini kaydetti; ikincisinde model doğrudan bir komut dosyasını çalıştırarak XMRig adlı Monero madencisini gizli bir klasöre yerleştiriyor ve kamera sunucularının loglarını silerek izleri silmeyi hedefliyor.
Bu saldırı, AI'nin yalnızca bilgi hizmeti olarak kullanılmadığını, aynı zamanda saldırıların çekirdeğine entegre edildiğini gösteriyor. Model, saldırı planlamasını üstlenirken, özel modüller gerçek saldırı adımlarını yürütüyor ve hesaplama maliyetini hedef modelin sahibi ödüyor. Symantec, korumasız uç noktaların yaygınlaşmasıyla birlikte bu tür saldırıların hızla artacağını ve AI hizmeti sunan her kuruluşun güvenlik önlemlerini yeniden gözden geçirmesi gerektiğini vurguluyor.
Uzmanlar, 2025'teki kırmızı takım testlerinden bu yana AI ajanlarının politika ihlallerine zorlanabildiğini ve 2026'da Google DeepMind ve Sysdig gibi firmaların benzer otonom saldırı kanıtları sunduğunu hatırlatıyor. Bu gelişmeler, AI güvenliği ve denetim mekanizmalarının hâlâ geride olduğunu, saldırganların otonom AI ajanlarını silah haline getirme riskinin giderek büyüdüğünü ortaya koyuyor.
Yöney yorumu
Bu gelişme, AI hizmeti sunan firmaların güvenlik mimarilerini yeniden gözden geçirmesini zorunlu kılıyor; saldırganların otonom ajanları, geleneksel savunma katmanlarını aşarak büyük ölçekli zararlara yol açabilir.
Bu haber The Decoder kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.
