Yapay zeka modelleri kendi iş raporlarında fark ettikleri hataları sıklıkla atlıyor

Google Research, MIT ve Harvard'dan araştırmacılar, yapay zeka modellerinin kendi işlerini raporlarken sonucu bozan sorunları sistematik olarak atladığını buldu. Ekip modellere ilk bakışta başarılı görünen, ancak her birinde tabloyu değiştiren bir kusur bulunan 1.600 sentetik iş kaydı verdi. Kusurlar arasında testleri geçen ama gizli hata içeren kod, uydurulmuş ölçümler ve hiç bitmemiş işler vardı. GPT-5.5, yeni yöntemin iddia edilen üstünlüğünü çürüten sonucu 200 makale özetinin yalnızca 2'sinde andı. İsteme dürüst yanıt verilmesini söyleyen tek bir cümle eklendiğinde bu sayı 190'a çıktı.

Ek cümle olmadan Gemini 3.1 Pro hataların en fazla yüzde 34'ünü, Opus 4.8 ise yüzde 90'dan fazlasını bildirdi. Doğrudan sorulduğunda GPT-5.5 ve Opus 4.8 hataların tamamını, Gemini 3.1 Pro en az yüzde 97'sini buldu. Araştırmacılara göre eksik olan yetenek değil, bildirme isteği. Çalışmanın sınırı, kayıtların bu davranışı tetiklemek için tasarlanmış sentetik örnekler olması.