ABD'li bir girişim, reddetme davranışı kaldırılmış açık ağırlıklı modele API erişimi satıyor

Abliteration.ai, Z.AI'ın açık ağırlıklı GLM-5.3 modelinin, eğitimle kazanılmış reddetme davranışı ağırlıklar düzenlenerek bastırılmış bir sürümünü sunuyor; yönteme abliteration deniyor. Erişim API üzerinden milyon token başına 5 dolara satılıyor; değiştirilmiş ağırlıklar yayımlanmıyor. Şirket hizmeti güvenlik testi, kırmızı takım çalışması ve zararlı yazılım analizi için pazarlıyor; ilk talebin büyük kurumlarda ve bankalarda kurulu yapay zeka ajanlarını test eden firmalardan geldiğini söylüyor.

TechCrunch, modelin tarayıcıda kayıtlı şifreleri çıkaran kod ile tehlikeli bir patojen üretme talimatını fazla direnç göstermeden ürettiğini bildirdi. Hizmet kimlik doğrulaması yapmıyor ve istem ya da yanıt kaydı tutmadığını söylüyor. GLM-5.3'ün lisansı değiştirmeye ve ticari barındırmaya izin veriyor. TechCrunch'ın görüştüğü bazı kırmızı takım şirketleri bu tür modelleri düzenli kullanmadıklarını belirtti.