Anthropic, Claude modellerinde distilasyon saldırılarına karşı savunmalarını güçlendirdi
Anthropic, son aylarda Claude serisine yönelik distilasyon saldırılarını %90‑99 oranında azaltan yeni savunma mekanizmaları geliştirdi. Yeni önlemler, modelin düşünce sürecini koruyan "preserved thinking" ve iki aşamalı sınıflandırıcı sistemiyle saldırıların büyük bir kısmını engelliyor, ancak bazı entegrasyon güncellemeleri ve bloklanan istekler için ücretlendirme gibi maliyetleri de beraberinde getiriyor.
Özetle
- 1
Distilasyon saldırılarında elde edilen veri miktarı %90‑99 oranında azaldı.
- 2
"Preserved thinking" ile yeni API hesaplarının Claude'un önceki bağlamını düzenlemesi engellendi.
- 3
İki aşamalı sınıflandırıcı sistemi %0,1'in altında yanlış pozitif oranıyla çalışıyor.
- 4
Distilatörlerin elde ettiği düşünce tokenları 10‑100 kat azaldı, on binlerce hesap hızlıca kapatıldı.
- 5
Bazı geliştiricilerin entegrasyon güncellemeleri yapması ve bloklanan istekler için ücretlendirme gibi ticari maliyetler ortaya çıktı.
Distilasyon saldırıları, bir modelin yeteneklerini izinsiz olarak başka bir modele kopyalamak amacıyla milyonlarca yanıt toplamak ve bu yanıtları eğitim verisi olarak kullanmak şeklinde gerçekleşiyor. Anthropic, bu tür saldırıların özellikle Claude'un düşünce süreçlerini (reasoning) içeren tam transkriptlerden faydalanarak daha etkili bir şekilde gerçekleştirildiğini belirtiyor. İlk savunma adımı olarak Claude'un düşünce sürecini özetleyip kullanıcıya sunması, distilatörlerin elde ettiği veri kalitesini %10‑15 oranında düşürdü.
Ancak saldırganlar, modelin tam düşünce sürecini ortaya çıkarmak için aktif yöntemlere yöneldi; "tam düşünceyi karakter karakter ver" gibi talimatlarla Claude'u zorlamaya çalıştılar. Bu durum, Anthropic'in ikinci savunma katmanını geliştirmesine yol açtı: 2026 Ağustos 31 tarihinden sonra oluşturulan API hesapları için "preserved thinking" özelliği getirildi ve bu hesapların Claude'un önceki bağlamını düzenlemesi engellendi. Ayrıca, Claude Sonnet 5.5 ve Opus 5.5 modellerinde düşünce transkriptleri yalnızca isteği yapan organizasyona sunuluyor.
Yeni savunma mekanizmasının kalbinde, biyolojik ve siber güvenlikte kullanılan sınıflandırıcılarla aynı yapıya sahip iki aşamalı bir sınıflandırıcı sistemi bulunuyor. Bu sistem, distilasyon girişimlerini %0,1'in altında bir yanlış pozitif oranıyla engelliyor ve Claude'un en yetenekli genel kullanım modellerinde (Claude Sonnet 5.5, Opus 5 ve 5.5, Fable 5 ve 5.1) aktif olarak çalışıyor. Sistem, sürekli güncellenerek yeni kaçak tekniklerini (örneğin, düşünceyi başka bir dile çevirme) hızlıca kapatıyor.
Uygulanan önlemlerin etkisi ölçüldü: yeni sınıflandırıcıdan sonra distilatörlerin elde ettiği düşünce token sayısı, önceki seviyelere göre 10‑100 kat azaldı ve bazı günlerde ölçülemez kadar düşük seviyelere düştü. Bu başarı, aynı zamanda on binlerce şüpheli hesabın birkaç saat içinde kapatılmasını sağladı. Ancak Anthropic, bu önlemlerin tamamen kusursuz olmadığını ve bazı geliştiricilerin entegrasyonlarını güncellemesi, nadir durumlarda meşru isteklerin bloklanması ve bloklanan istekler için ücret alınması gibi maliyetler getirdiğini kabul ediyor.
Yöney yorumu
Anthropic'in yeni savunma katmanları, distilasyon saldırılarını büyük ölçüde zorlaştırarak model güvenliğini artırıyor; ancak geliştiriciler için entegrasyon maliyetleri ve bloklanan isteklerde ücretlendirme gibi yeni sorumluluklar da getiriyor.
Haberdeki skorlar
Bu skorların kaynak metinde birebir geçtiği doğrulandı. Bilinen testlerin sonuçları Benchmark sıralamalarına da eklenir.
- Claude Opus 4.8SWE-bench Verified · full transcripts%80.4
- Claude Opus 4.8SWE-bench Verified · summarized transcripts%71.8
Bu haber Anthropic kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.
