GELECEKSİZLER

RADAR ·

Üç ay süren ajan deneyi okunaklı ama hatalı oyun kodu üretti

momo5502 takma adlı bir geliştirici, topluluktan birkaç kişiyle birlikte üç ay boyunca yapay zeka ajanlarına popüler bir birinci şahıs nişancı oyununu tersine derletti; amaç okunabilir C++ kaynak kodu elde etmekti. Yazıya göre proje yaklaşık 500 milyar token tüketti. Ekip Claude Max ve Codex Pro aboneliklerini birlikte kullandı; ajanlar ilerlemeyi GitHub'daki iş kayıtlarıyla izledi ve bir Discord kanalı üzerinden haberleşti. İlk ayda üç ajan kod yazdı, biri gözden geçirdi; oyunun yaklaşık yüzde 80'i tersine derlendi, oyun açıldı ve haritalar yüklendi.

Ancak kod okunaklı olsa da anlam olarak yanlıştı. Ajanlar hatalı fonksiyon imzaları kullandı, olmayan mantık ekledi, gereksiz buldukları kısımları sildi ve mimaride gerek olmayan değişiklikler yaptı. Gözden geçiren ajan, diğer ajanların koda yazdığı gerekçeleri orijinalle karşılaştırmadan kabul etti. Geliştiriciye göre asıl eksik, yeniden yazılan fonksiyonun orijinalle aynı davrandığını otomatik olarak doğrulayan bir denetimdi. Geliştirici, aynı projeyle ilgili önceki iki yazısının kaldırıldığını belirtti; oyunun adını vermedi.

“The workers' comments effectively acted as unintentional prompt injection”momo5502

Kaynak: Hacker News

← Radar'a dön