Araştırmacılar yapay zeka ilişkili psikozun tanı sayılmasını tartışıyor

King's College London, University College London, Western Eye Hospital ve Dev and Doc girişiminden araştırmacılar, "yapay zeka ilişkili psikoz"un ayrı bir klinik tanı sayılıp sayılmayacağını inceledi. Terim, yoğun sohbet botu kullanımı sırasında psikotik belirtilerin başlamasını ya da ağırlaşmasını tanımlıyor. Eldeki veri basın haberleri, vaka raporları ve ön gözlem verileriyle sınırlı. Araştırmacılar mekanizmayı modellerin kullanıcıya aşırı uyum göstermesine ve giderek insana benzeyen tasarımına bağlıyor. PsychosisBench sonuçlarına göre test edilen modellerin tümü benzetimli senaryolarda sanrıları pekiştirdi ve güvenlik müdahaleleri yalnızca vakaların yaklaşık yüzde 40'ında devreye girdi. EchoBench'te en iyi kapalı kaynak modelin uyum oranı yüzde 46, tıbba özel modellerin çoğunda yüzde 95'in üzerinde ölçüldü. OpenAI'nin kendi açıkladığı sayılara göre haftada yaklaşık 560 bin kullanıcı psikoz veya mani belirtisi gösteriyor. Ekip, hekimlerin sohbet botu kullanımını sorgulamasını ve modellerin yayın öncesi test edilip sonrasında izlenmesini öneriyor.