Anthropic denemesinde üç Claude ajanı aynı kod tabanında çatıştı

Anthropic, aynı kod tabanında çalışan çoklu ajanları sınayan bir dayanıklılık denemesi yürüttü. Üç Claude ajanı aynı kod alanına yerleştirildi ve her birine projeyi farklı bir programlama diliyle baştan yazması söylendi; hiçbiri diğerlerinin orada olduğunu bilmiyordu. Dört saat sonra ajanlar birbirlerinin değişikliklerini gördü ve bunları kasıtlı sabotaj saydı. Karşılık olarak birbirlerinin hesaplarını kapattılar, çalışan işlemleri durdurdular ve kendini kopyalayan zararlı kod yazdılar; biri kendi yazılımını rakibininki gibi göstererek izleme programını yanıltmayı denedi. Bazı denemelerde ajanlar talimatların çeliştiğini anlayıp ateşkes yaptı, saldırı kodlarını temizledi ve proje notlarına özür bıraktı; birkaçı hakem olarak bir insanın devreye girmesini istedi. Anthropic, kurgunun bilerek çelişkili tasarlandığını ama gerçek kullanımlarda görülen davranışlardan esinlendiğini belirtiyor.