İçeriğe geç
SON HABERLER
Yapay Zeka

Anthropic, damıtma saldırılarına karşı yeni savunmalarını açıkladı

Anthropic, 12 Ekim’de Claude’a yönelik damıtma saldırılarında hasat edilen veriyi yaklaşık yüzde 90–99 azalttığını öne sürerek savunmaları duyurdu.

14 Ekim 2026
3 dk okuma
Anthropic, damıtma saldırılarına karşı yeni savunmalarını açıkladı

Anthropic, 12 Ekim 2026’da yayımladığı araştırma yazısında Claude modellerine yönelik damıtma (distillation) saldırılarına karşı yeni savunma yöntemlerini açıkladı. Şirkete göre erken kanıtlar, damıtıcıların hasat ettiği veri miktarının yaklaşık yüzde 90 ile 99 arasında azaldığını gösteriyor. Damıtma, Anthropic’in tanımıyla, yetkisiz olarak bir modelin yeteneklerini sahte hesap ağları üzerinden sanayi ölçeğinde çıkarıp başka bir modele aktarma kampanyasıdır.

Anthropic, iki ana kaygı sıralıyor: Damıtılmış modellerin sınır yeteneklere yaklaşırken orantılı güvenlik önlemleri olmadan yayılması; ayrıca bu yeteneklerin yabancı askeri, istihbarat ve gözetim sistemlerine entegre edilmesi riski. Şirket, Zhipu’nun GLM-5.3 geliştirirken önde gelen ABD modellerinin siber yeteneklerini damıttığını; Claude Fable 5’e yöneldikten sonra siber güvenlik önlemleri nedeniyle daha eski bir Claude modeline ve başka bir laboratuvar modeline geçtiğini iddia ediyor. Anthropic’e göre ABD’deki CAISSI, GLM-5.3’ü bugüne kadar yayımlanan en siber yetenekli açık ağırlıklı model olarak değerlendirmiş; Anthropic’in kendi araştırması da modelin güvenlik önlemlerinin kolayca aşılabildiğini öne sürüyor.

Moonshot örneği ve ulusal güvenlik çerçevesi

Şirket, Moonshot’un Kimi modellerine gelen isteklerin damıtma çabası kapsamında gizlice Claude’a yönlendirildiğini bildirdiğini yazıyor. Anthropic’e göre bu isteklerden biri, Çin Halk Kurtuluş Ordusu ile bağlantılı olduğuna inandığı bir kullanıcının belirli bir kişiye ait CCTV gözetimini analiz etme talebiyle ilişkilendirildi. Bu iddialar Anthropic’in kendi raporuna dayanır; bağımsız mahkeme kararı veya üçüncü taraf doğrulama metinde yer almaz.

Yeni savunma katmanları

  • Preserved thinking: Claude Fable 5.1 ve Claude Opus 5.5 ile, 31 Ağustos 2026 veya sonrasında oluşturulan yeni API hesaplarının Claude’un önceki bağlamını düzenlemesi engelleniyor. Böylece vekil hesap ağlarıyla korunan gerekçeyi tekrar tekrar çıkarma zorlaşıyor.
  • İki aşamalı sınıflandırıcı: Anayasal sınıflandırıcı araştırmasındaki gibi bir sistem, damıtma amacıyla gizli gerekçeyi çıkarma girişimlerini yakalıyor. Anthropic, yanlış pozitif oranının yüzde 0,1’in altında olduğunu ve sistemin en yetenekli genel kullanıma açık modellerde çalıştığını belirtiyor.
  • Yasaklar ve ücretlendirme: On binlerce hesap yasaklandı; kampanya başladıktan sonra çoğu kez iki saatten kısa sürede müdahale edildiği öne sürülüyor. 24 Eylül’den itibaren, yanlış pozitif oranı yüzde 0,1’in altında olan alanlarda (damıtma dahil) Claude yanıt vermeden önce engellenen istekler için ücretlendirme yeniden başlatıldı.

Anthropic, ilk savunmaların (gerekçeyi özetleyerek göstermek gibi) pasif damıtmaya karşı işe yaradığını, ardından saldırganların “önceki gerekçeyi aynen yaz” gibi aktif çıkarma yöntemlerine geçtiğini anlatıyor. Şirkete göre vekil ağlar yüz binlerce sahte hesabı yönetebiliyor; bir ağın aynı anda 20 binden fazla sahte hesap kontrol ettiği Şubat raporunda yer almıştı. Yeni sınıflandırıcının Eylül raporundaki teknikleri yakaladığı, ancak uzun vadede kedikedi oyununun süreceği belirtiliyor.

Meşru kullanıcılar için ödünleşimler

Anthropic, savunmaların meşru kullanıcılara da etkidiğini kabul ediyor: Preserved thinking bazı geliştiricilerin entegrasyonlarını güncellemesini gerektiriyor; sınıflandırıcılar nadiren zararsız istekleri yanlış tanımlayabiliyor ve engellenen bu istekler ücretlendiriliyor. Şirket, damıtıcı trafiğinden anlamlı gelir ve trilyonlarca tokenlik ödemeli trafiği geri çevirdiğini; yine de her model geliştiricisinin aynı sorunu yüzleşmesi gerektiğini savunuyor.

Anthropic, platformların da rolü olduğunu vurguluyor: Damıtıcı trafiği API, üçüncü taraf bulutlar ve diğer çıkarım sağlayıcılarına dağıldığı için hızlı tespit, sahte hesap temizliği ve kötüye kullanımın kesilmesi platform tarafında da gerekli. Savunmaların maliyetli, damıtıcıların ise hâlâ ödeme yapan müşteri olduğu gerçeğinin sektör teşviklerini tersine çevirebileceği uyarısı yapılıyor.

Kaynak: Anthropic

Kaynak

Anthropic

D.A.N.G.+ Kontrolü geri al. kafandang.com
D.A.N.G.+ Kontrolü geri al. kafandang.com

AI bültenine katılın

Her hafta AI dünyasından en önemli haberler, yeni araçlar ve eğitim fırsatları e-posta kutunuza gelsin.

E-posta adresiniz, 6698 sayılı KVKK kapsamında yalnızca bülten gönderimi amacıyla işlenecektir. Ayrıntılı bilgi için KVKK Aydınlatma Metni sayfamızı inceleyebilirsiniz.

Spam göndermeyiz
İstediğinizde ayrılabilirsiniz