Anthropic, Claude modellerinde distilasyon saldırılarına karşı savunmalarını güçlendirdi
Anthropic, son aylarda Claude serisine yönelik distilasyon saldırılarını %90‑99 oranında azaltan yeni savunma mekanizmaları geliştirdi. Bu önlemler, modelin düşünce süreçlerini gizleyerek veri sızdırma riskini büyük ölçüde düşürüyor ve aynı zamanda bazı entegrasyon güncellemeleri ve düşük bir yanlış pozitif oranı gibi maliyetler getiriyor.
Özetle
- 1
Distilasyon saldırılarında Claude'un düşünce süreçlerine erişim %90‑99 oranında azaltıldı.
- 2
Yeni "preserved thinking" özelliği, sahte hesap ağlarının bağlam manipülasyonunu engelliyor.
- 3
İki aşamalı sınıflandırıcı sistemi, distilasyon girişimlerini %0.1'in altında bir yanlış pozitif oranıyla engelliyor.
- 4
Uygulama sonrası mantık token çıkarımı 10‑100 kat azaldı; bazı günlerde ölçülemez seviyeye düştü.
Distilasyon saldırıları, bir modelin yeteneklerini izinsiz olarak kopyalayıp daha küçük bir modele aktararak geliştirme süresini ve maliyetini düşürmeyi amaçlayan endüstriyel ölçekli kampanyalardır. Anthropic, bu saldırıların özellikle biyoloji ve siber güvenlik gibi kritik alanlarda ciddi zararlar doğurabileceği ve ulusal güvenlik riskleri yarattığı uyarısında bulunuyor. Şirket, Zhipu'nun GLM‑5.3 gibi modelleri distilasyon yoluyla siber yeteneklerini artırdığını ve bu modellerin savunmasız olduğunu örnek veriyor.
İlk savunma adımı, Claude'un yanıtlarını özetleyerek düşünce sürecini gizlemekti; bu sayede SWE‑bench Verified testinde tam transkriptle eğitilen bir model %80.4, özetlenmiş transkriptle eğitilen bir model ise %71.8 başarı elde etti. Ancak saldırganlar, modelden tam mantık akışını talep eden aktif teknikler geliştirdi ve büyük sahte hesap ağlarıyla bu önlemleri aşmaya çalıştı.
Yeni savunma stratejileri üç temel katmanda uygulanıyor: (1) "preserved thinking" özelliğiyle yeni API hesaplarının önceki bağlamı düzenlemesi engellendi; (2) iki aşamalı sınıflandırıcı sistemi, distilasyon girişimlerini tespit edip %0.1'in altında bir yanlış pozitif oranıyla engelliyor; (3) tekrarlayan denemeler yapan hesaplara sıkı kullanım limitleri ve bloklanan istekler için ücretlendirme getirildi. Bu önlemler, Claude Sonnet 5.5, Claude Opus 5/5.5 ve Claude Fable 5/5.1 gibi en yetkin modellerde uygulanıyor.
Uygulama sonuçları, distilasyon amaçlı çıkarılan mantık token sayısının önceki seviyelerden 10‑100 kat daha düşük olduğunu gösteriyor; bazı günlerde ölçülemez kadar az token elde edildi. Ancak Anthropic, bu savunmaların tamamen kusursuz olmadığını, %0.1'lik bir yanlış pozitif oranının hâlâ var olduğunu ve bazı geliştiricilerin entegrasyonlarını güncellemek zorunda kaldığını kabul ediyor. Şirket, bu çabaların ulusal güvenlik ve model güvenliği açısından kritik olduğunu vurguluyor ve sektördeki diğer geliştiricilerin de benzer önlemler alması gerektiğini belirtiyor.
Yöney yorumu
Bu güncellemeler, frontier model sağlayıcıları için distilasyon riskini azaltmada yeni bir standart oluşturuyor; geliştiriciler daha sıkı korumalarla çalışırken, bazı entegrasyon değişiklikleri ve düşük bir ücretlendirme maliyetiyle karşılaşabilirler.
Haberdeki skorlar
Bu skorların kaynak metinde birebir geçtiği doğrulandı. Bilinen testlerin sonuçları Benchmark sıralamalarına da eklenir.
- Claude Opus 4.8SWE-bench Verified · özetlenmiş mantık transkriptleriyle eğitim%71.8
- Claude Opus 4.8SWE-bench Verified · tam mantık transkriptleriyle eğitim%80.4
Bu haber Anthropic Research kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.
