Goodfire araştırmacısı, sinir ağlarının sanıldığından kolay anlaşılabileceğini öne sürdü

Yapay zeka girişimi Goodfire'da çalışan araştırmacı Nick Cammarata, 26.000 kelimelik bir blog yazısında büyük dil modellerinin sanıldığından çok daha kolay anlaşılabileceğini, dolayısıyla izlenip denetlenebileceğini öne sürdü. Daha önce OpenAI'da modellerin içini inceleme tekniklerinin geliştirilmesinde yer alan Cammarata, son bir yılın büyük bölümünü yapay zeka ajanlarının da yardımıyla nöronları incelemeye ayırdığını söylüyor.

Alanda uzun süredir kabul gören görüş, modellerin birbiriyle ilgisiz kavramları tek bir nöronda üst üste topladığı yönündeydi. Cammarata, 2020'de küçük bir görüntü tanıma modelinde hem araba hem kedi görüntülerine tepki verdiği için örnek gösterilen bir nöronun aslında ortak bir V şeklini algıladığını savunuyor. Bir araştırmacı yazıyı yılın en önemli yapay zeka makalesi olarak nitelendirdi. Stanford Üniversitesi'nden Chris Potts ise iddianın bir sezgiden öteye geçmediğini söyledi.