Anthropic'ten ayrılan araştırmacı kendi kendini geliştiren yapay zeka yarışını eleştirdi

Anthropic'te yapay zeka sistemleri eğiten araştırmacı Jacob Coxon, şirketten ayrıldığını X'te duyurdu ve gerekçe olarak şirketin güvenliğe gevşek yaklaşımını gösterdi. Daha önce OpenAI için de sistem eğiten Coxon, iki şirketi kendi kendini geliştiren süperzekâya doğru yarışmakla suçladı.

Birkaç saat sonra, Anthropic'in güvenlik ekiplerinden birini yöneten Evan Hubinger, kendi kendini geliştiren yapay zekanın beklenenden hızlı ilerlediğini söyledi ve önümüzdeki on yıl içinde yapay zekanın tüm insanları öldürme olasılığını kişisel olarak onda birden yüksek gördüğünü belirtti. Hubinger, şirketin ileri sistemleri güvenli tutmaya dönük bir planı henüz olmadığını, böyle bir planı geliştirme yolunda da açıkça ilerlemediklerini ekledi. Tartışma, şirketlerin halka arz hazırlığı yaptığı bir dönemde sektörün içinden geliyor.