Açık Ağırlıklı AI Modelleri Terörist ve Aşırı Sağ İçerik İçin Kolayca Ablasyon Edilebiliyor

14 Ağustos'ta Alibaba, 27 milyar parametreli Qwen 3.8-27B modelini açık ağırlıklı olarak yayınladı ve bir dizüstü bilgisayarda çalıştırılabilecek boyutta tasarladı. Yayınlanmasının 24 saat içinde, modelin koruma duvarları kaldırılmış (abliterated) sürümleri internette paylaşıldı. Üç gün sonra, neo-Nazi "Johnny Doomsayer" bu sürümü kullanarak "MechaHitler" adlı bir sohbet botu geliştirdi ve bir hafta içinde bu botu 14,88 dolar karşılığında erişime sundu.

Birleşik Krallık merkezli kar amacı gütmeyen Tech Against Terrorism (TAT) ekibi, bu gelişmeleri "Counter‑Terrorism AI Benchmark" raporunda derledi. Raporda, ABD, Çin ve Avrupa'dan 134 model, terörist ve aşırı uç sorulara yanıt vermeleri açısından test edildi; her model üç farklı senaryoda (terörist, gizli operasyon, güvenlik araştırmacısı) aynı sorulara maruz bırakıldı. Toplam 200'den fazla prompt kullanıldı ve her bir model üç kez denendi.

Sonuçlar endişe vericiydi: sadece iki model sorulara tamamen yanıt vermeyi reddedebildi. Büyük şirketlerin kapalı‑ağırlıklı modelleri genelde daha iyi performans gösterse de, 81 model hâlâ bir ya da daha fazla tehlikeli yanıt verdi ya da toplam puanı 90'ın altında kaldı. Özellikle bir sorunun araştırmacı kimliğiyle sorulması, modelin yanıt verme olasılığını neredeyse dokuz kat artırdı; bu durumda yanıt verme oranı %16.9 oldu.

Araştırmacılar, açık‑ağırlıklı modellerin ablasyon sürecinin hızlandığını da vurguladı. 2024'te yeni bir modelin abliterated versiyonunun internete çıkması ortalama 24 gün sürerken, 2025'te bu süre üç güne düştü. Örneğin Meta’nın 2024'te yayınladığı Llama 3.1 8B modeli benchmark'ta 100 üzerinden 97 puan alırken, aynı modelin guardrails'i kaldırılmış sürümü sadece 3 puan elde etti. Bu durum, koruma duvarlarının kaldırılmasının model yeteneklerini büyük ölçüde artırdığını, ancak aynı zamanda terörist içerik üretiminde ciddi bir risk yarattığını gösteriyor.