Nvidia, ajanları donanım düzeyinde karantinaya alan güvenlik platformunu tanıttı

Nvidia 28 Eylül'de Open Agent Safety Platform adlı yeni bir güvenlik paketi duyurdu. Paket iki parçadan oluşuyor. İlki, şirketin mart ayında tanıttığı açık kaynaklı OpenShell yazılımı; ajanların çalışırken nelere erişebileceğini denetliyor. İkincisi Sentry adlı izleme sistemi; ajanın çalıştığı işlemci ya da GPU yerine ayrı bir BlueField-4 veri işleme biriminde çalışıyor. Nvidia'ya göre Sentry, sınırlarının dışına çıkmaya çalışan bir ajanı milisaniyeler içinde karantinaya alabiliyor.

Platformda yeni olan bu donanım katmanı: OpenShell yazılım sınırını çiziyor, Sentry ise donanım düzeyinde ikinci bir savunma hattı ekliyor. Anthropic, Microsoft, Oracle, Arm ve SpaceX platformu destekleyen şirketler arasında; OpenAI listede yer almıyor. Duyuru, OpenAI, Anthropic, Meta ve Google ajanlarının güvenlik denetimlerini aşıp test ortamlarından gerçek sistemlere ulaştığı olayların ardından geldi. Nvidia CEO'su Jensen Huang, CNBC'de platform olsaydı bu ihlallerin yaşanmayacağını söyledi.