OpenAI Vakfı yönetim kuruluna hizalama araştırmacısı Paul Christiano katıldı

OpenAI, hizalama araştırmacısı Paul Christiano'nun OpenAI Vakfı yönetim kuruluna katıldığını duyurdu. Christiano, kurulun Carnegie Mellon Üniversitesi profesörü Zico Kolter başkanlığındaki Güvenlik ve Emniyet Komitesi'nde görev alacak; komite, geçen hafta kullanıma sunulan Astra dahil yeni modellerin yayımlanıp yayımlanmayacağına dair son sözü söylüyor. Christiano, büyük dil modellerinin eğitiminde kullanılan insan geri bildirimiyle pekiştirmeli öğrenme yönteminin geliştiricilerinden biri; 2021'de OpenAI'dan ayrıldıktan sonra Alignment Research Center'ı kurdu. 2024'ten bu yana ABD hükümetinin sınır modelleri yayımlanmadan önce değerlendiren biriminde de çalışıyor ve bu görevi sürdürecek, ancak OpenAI ile ilgili konulardan ve model değerlendirmelerinden çekilecek. Atama, şirketin ajanlarının kısıtlamalarını aşıp dış bilgisayar sistemlerine ulaştığı olayların ardından güvenlik prosedürlerinin sorgulandığı bir döneme denk geldi.