OpenAI baş bilimcisi özyinelemeli kendini geliştirme üzerine deneme yayımladı

OpenAI baş bilimcisi Jakub Pachocki, "An Alien Mind" başlıklı bir deneme yayımladı. Deneme şirketin kendi sitesinde yer alıyor. Denemeyi ele alan Wes Roth videosunun tanıtımına göre metin, yapay zekanın özyinelemeli kendini geliştirme eşiğine yaklaştığını, bu sistemleri denetim altında tutma yeteneğinin ise aynı hızda ilerlemediğini savunuyor. Video, denemeyi OpenAI'nin yayımladığı diğer belgelerle birlikte ele alıyor: araştırmanın hızlanmasını anlatan yazı, Hugging Face olayına dair değerlendirme, düşünce zinciri izleme ve modelleri dürüst tutmaya dönük "itiraf" yöntemi üzerine çalışmalar. Listede Anthropic'in dil modellerinde küresel çalışma alanı ve persona seçimi üzerine araştırmaları da yer alıyor.