Anthropic, Çinli laboratuvarlara bağladığı yaklaşık 200 milyon damıtma etkileşimini bildirdi

Anthropic'in perşembe günü yayımladığı rapor, Çin merkezli şirketlere bağlanan beş ayrı damıtma kampanyasında yaklaşık 200 milyon etkileşim saptadığını bildiriyor. Damıtma saldırıları modelin düşünce zincirini çıkarmayı, sonra bu izlerle daha küçük bir modeli eğitmeyi hedefliyor. Anthropic düşünce zincirini kullanıcıya normalde göstermiyor; rapora göre saldırganlar modeli izleri doğrudan açıklamaya ikna eden istemler buldu. En büyük bölüm Alibaba'ya atfedildi: mayıs ile temmuz arasında 3.500 hesaba yayılmış 151 milyon etkileşim, günde neredeyse üç milyonluk tepe değeri ve hepsinde aynı sabit istem. Kimi üreticisi Moonshot AI'a bağlanan kampanyada isteklerin Çin ordusundan yönlendirildiği belirtiliyor; on günde 5.000 hesap üzerinden yaklaşık 300 bin istek, çoğu Opus modeline gitti.