Google ve dört kuruluş, ajanlar arasında zararlı talimat yayan açıkları kabul etti

Ars Technica'nın haberine göre Google ve dört kuruluş daha, son beş ayda yapay zeka ajanlarını etkileyen zafiyetleri kabul etti. Bu zafiyetler, hedef ağdaki bir ajanı kullanarak diğer iç ajanlara zararlı talimatlar yaymaya dayanıyor. Yöntem, dil modelini değil, çeviri ya da veri analizi gibi işler yapan belirli bir ajanı hedef alan özel bir istem enjeksiyonu türü. Bu ajanlardaki korumalar çoğu zaman zayıf olduğu için talimatlar zincirdeki diğer ajanlara geçiyor; ilk ajana güvenen sonraki ajan da talimatları uyguluyor.

Bağımsız araştırmacı Syed Anas Mohiuddin'in test ettiği ajanlar arasında Google, JPMorgan Chase, Weaviate, Rapid7, Fransız hükümetinin bakanlıklar arası dijital müdürlüğü ve ABD federal hükümetine ait olanlar var. Mohiuddin'in kavram kanıtı saldırıları, ajanların iç ağda birbiriyle haberleşme yollarından biri olan Model Context Protocol'deki (MCP) güven boşluklarından yararlanıyor.