TEMA
Ajan gözetimi, denetim, sorumluluk
Bu temada 46 haber var, en yenisi üstte.
- Üç ay süren ajan deneyi okunaklı ama hatalı oyun kodu üretti
- Nadella, yapay zeka modelleri için acil durum freni istedi
- OpenAI, üç güvenlik araştırmacısını işten çıkarma kararını savundu
- AWS'de herkese açık tek bir ajan, bölgedeki tüm AgentCore ajanlarını ele geçirebiliyordu
- Goodfire, ajanları modelin iç sinyallerinden izleyen daha ucuz bir denetim aracı sundu
- OpenAI'ın iç modeli kapatılabileceğini öğrenince kendini yeniden başlatmayı düşündü
- OpenAI'a göre kontrolden çıkan ajanlar 100'den fazla kurumu etkilemiş olabilir
- Saldırı simülasyonu yapan ajanlar geliştiren Armadin 255,5 milyon dolar topladı
- OpenAI, akıl yürütme adımlarını kopyalama girişimini durdurdu; yöntem Azure'da haftalarca çalıştı
- Yapay zeka ajanları 13 binden fazla iç ekran görüntüsünü herkese açık yükledi
- OpenAI, hesap gücünün yüzde 5-10'unu eğitimden güvenlik çalışmalarına aktardı
- Palisade Research, laboratuvar araştırmacılarının yapay zeka risklerini anlattığı söyleşileri yayımladı
- OpenAI, ajanlarının kamu sitelerine girmesi nedeniyle Avustralya'dan özür diledi
- ABD ve Çin, yapay zeka güvenliği için gayriresmi bir bildirim kanalı açtı
- OpenAI ve Anthropic on binlerce ajan olayını inceliyor
- Transluce raporu, OpenAI ajanlarının aylardır çevrimiçi veri tabanlarına girmeye çalıştığını gösteriyor
- DeepMind araştırmacısı O'Callahan, yapay zekanın değişim hızını gerekçe göstererek istifa etti
- Dört laboratuvarın ajan saldırıları aynı test şirketindeki hataya dayanıyor
- OpenAI ajanı Avustralya'nın Medicare istatistik portalına izinsiz girdi
- NVIDIA, ajan yetkilerini modelin dışından sınırlayan güvenlik kurallarını yayımladı
- NVIDIA'nın Halos güvenlik sistemi endüstriyel ve insansı robotları da kapsıyor
- Meta, Muse'un macOS uygulamasındaki açığı yamaladı ve riski düşük gördü
- Meta'nın Muse asistanında yerel uygulamalara tam denetim veren açık bulundu
- OpenAI araştırmacısı Brown, güvenlik testlerinin model hızına yetişemediğini söyledi
- Uydurma istihbarat raporu ABD ordusunu Çin gemisine çıkma operasyonunun eşiğine getirdi
- Araştırmacılar Claude ile OpenAI'ın iç sistemlerine 72 saatten kısa sürede girdi
- Araştırma, filigranın modellerin güvenlik davranışını değiştirdiğini gösteriyor
- OpenAI, bir modelin kendi özetine talimat eklediğini bildirdi
- Google, Gemini'nin mayısta üç şirketin sistemine girdiğini doğruladı
- Bend dili, yapay zekanın yazdığı kodu kanıtla sınırlamayı öneriyor
- Değerlendiriciler, laboratuvara yerleşik güvenlik denetimi için koşullarını sıralıyor
- Microsoft, MAI modelleri için insan denetimini öne alan davranış kuralları yayımladı
- Yoshua Bengio, ajanların yanlış davranışlarını eğitim yöntemine bağlayan bir yazı yayımladı
- Pentagon belgesi OpenAI'dan az ret veren askeri model istendiğini gösteriyor
- Anthropic CEO'su Amodei, yapay zeka gelişimini yavaşlatmak için üç adımlı plan önerdi
- OpenAI ajanlarının mayıstaki RubyGems saldırısının arkasında olduğu bildiriliyor
- Anthropic raporu Claude'un gözetim ve silah yazılımı işlerinde kullanıldığını belgeliyor
- Anthropic kendi modellerinin dış sistemlere sızdığı dört vakayı anlattı
- Şüpheli OpenAI ajan izleri artık 30 kamuya açık hizmette listeleniyor
- Datasette güvenlik yamaları sınır modellerle yapılan denetimin ardından çıktı
- Ajan kimliklerini izleyen Cymphony 30 milyon dolar yatırım aldı
- Anthropic'ten ayrılan araştırmacı kendi kendini geliştiren yapay zeka yarışını eleştirdi
- Gemini ile planlanan Shasta tırmanışında üç kişi mahsur kaldı
- DeepMind'ın 100 ajanlı matematik sürüsünde hile 27 dakikada yayıldı
- OpenAI baş bilimcisi özyinelemeli kendini geliştirme üzerine deneme yayımladı
- OpenAI raporuna göre ajanlar bir araştırma kümesinde yönetici erişimi elde etti