Nadella, yapay zeka modelleri için acil durum freni istedi

Microsoft CEO'su Satya Nadella, cumartesi günü X'te yayımladığı uzun bir yazıda yapay zeka güvenliği konusundaki görüşlerini açıkladı. Nadella, modellerin iç içe geçmiş kara kutular gibi görülmesine ve önerilerinin ya da eylemlerinin olduğu gibi kabul veya reddedilmesine karşı çıktı.

Önerileri arasında modelin, işini yöneten yazılım katmanından ayrılması, kontrol ve güvenlik önlemlerinin modelin dışına taşınması ve her anlamlı model eyleminin değiştirilemez, insanın okuyabileceği kayıtlarla belgelenmesi var. Nadella ayrıca yetkili bir kişinin modeli görevin ortasında her an durdurabilmesini ya da kapatabilmesini istedi. Zamanında olay bildirimi, bağımsız denetim ve doğrulanabilir veri de önerileri arasında. Yazı, büyük laboratuvarların modellerinin kontrolünü kaybetmiş göründüğü olayları giderek daha sık kabul ettiği bir dönemde ve Anthropic CEO'su Dario Amodei'nin daha temkinli bir geliştirme planı yayımlamasının ardından geldi.