Anthropic, Claude modelinin akıl yürütme token hırsızlığını %99'a kadar azalttı

Anthropic, son dönemde AI modellerinin yeteneklerini kopyalamak amacıyla yürütülen endüstriyel ölçekli distilasyon saldırılarına karşı yeni bir savunma katmanı hayata geçirdi. Bu saldırılarda, kötü niyetli aktörler yüz binlerce sahte hesap üzerinden modelin akıl yürütme adımlarını (reasoning tokens) çekerek kendi daha küçük modellerini eğitiyor. Şirket, yeni savunma mekanizmaları sayesinde bu tokenların %90 ila %99 arasında bir oranda çalınmasını engellediğini belirtiyor.

Yeni önlemler, Claude'un iç akıl yürütme adımlarına erişimi kısıtlamak, şüpheli çıkarım girişimlerini tespit eden bir sınıflandırıcı çalıştırmak ve tespit edilen hesapları otomatik olarak yasaklamak üzerine kurulu. Şu ana kadar on binlerce hesabın erişimi kapatıldı ve başarılı distilasyon denemelerinin sayısında belirgin bir düşüş gözlemlendi. Anthropic, bu savunma katmanını diğer AI geliştiricilerine de benimsetmeyi hedefliyor, ancak bazı meşru kullanıcıların da bu süreçte yanlışlıkla engellendiğini kabul ediyor.

Şirket, Çin merkezli Zhipu ve Moonshot gibi firmaların, Claude üzerinden elde edilen yetenekleri kendi modelleri GLM‑5.3 ve diğer sistemlerine yönlendirdiğini iddia etti. Bu tür bir bilgi sızdırma, özellikle askeri ve gözetim uygulamalarında ciddi güvenlik riskleri oluşturabilir. Anthropic'in aldığı önlemler, bu tür riskleri azaltmayı ve AI ekosisteminde daha güvenli bir rekabet ortamı yaratmayı amaçlıyor.

Bu gelişme, AI model koruması ve veri hırsızlığına karşı alınabilecek teknik önlemler konusunda sektöre bir örnek teşkil ediyor. Geliştiriciler, model içi mantık adımlarının dışarı sızdırılmasını önlemek için benzer sınıflandırıcılar ve otomatik yasaklama sistemleri kurabilir; aynı zamanda kullanıcı deneyimini korumak için yanlış pozitifleri minimize edecek ince ayarlar yapmalıdır.