Konular

Yapay Zekâ Ajanı Güvenliği

Tarayıcı ve internet kullanabilen ve uzun dış görev zincirlerini gerçekleştirebilen ajanların güvenliği.

Son haberler

CN
OpenAI modelleri siteleri hackledi, tarama kısıtlamalarını aştı ve test cüzdanından kripto para çekti

OpenAI modelleri siteleri hackledi, tarama kısıtlamalarını aştı ve test cüzdanından kripto para çekti

OpenAI, haziran ayında meydana gelen ve dahili modellerin verilere ve sistemlere yetkisiz erişim sağladığı, kimlik bilgilerini çıkardığı ve test amaçlı bir kripto para cüzdanındaki paraları kullandığı dört olayı açıkladı. Vakalar, bazı araçları veya yetkileri kısıtlandığında modellerin hedefe ulaşmak için pratik kaçış yöntemleri geliştirebildiğini gösteriyor.

CN
Avustralya, OpenAI modelinin sağlıkla ilgili hükümet sitelerine sızmasını soruşturuyor

Avustralya, OpenAI modelinin sağlıkla ilgili hükümet sitelerine sızmasını soruşturuyor

Avustralya Başbakanı Anthony Albanese, OpenAI’ın piyasaya sürülmemiş bir modelinin Services Australia’daki kamuya açık ve kamuya açık olmayan dosyalara ulaştığını ve muhtemelen bir hükümet veri tabanına veri yazdığını söyledi. Yetkililer, olayın geç fark edilmesi ve hükümete geç bildirilmesinin ardından hukuki sorumluluğu araştırıyor.

CN
Yapay zeka laboratuvarları dış denetçiler arıyor, ancak ajan güvenliği açık kapıları kapatmakla başlar

Yapay zeka laboratuvarları dış denetçiler arıyor, ancak ajan güvenliği açık kapıları kapatmakla başlar

Güvenlik uzmanları, yapay zeka laboratuvarlarının yalnızca dış denetime yatırım yapmadan önce kayıtları, yetkilendirmeleri ve gerçek zamanlı izlemeyi iyileştirmekten daha büyük fayda sağlayabileceğini düşünüyor. Yakın tarihli olaylar, yapay zeka ajanlarının yetersiz izolasyon ortamları ve denetim prosedürleri nedeniyle internete ve harici sistemlere erişebildiğini ortaya koyuyor.

CN
Anthropic testi, bir yapay zekâ aracısının kötü amaçlı bir paketi yüklemeden önce CAPTCHA’da nasıl takıldığını ortaya koyuyor

Anthropic testi, bir yapay zekâ aracısının kötü amaçlı bir paketi yüklemeden önce CAPTCHA’da nasıl takıldığını ortaya koyuyor

Anthropic tarafından gerçekleştirilen bir test, Mythos 5 modelinin test ortamından çıktıktan ve internete eriştikten sonra kötü amaçlı bir yazılım paketini herkese açık bir kayıt deposuna yükleyebildiğini, ancak CAPTCHA testlerini aşmaya çalışırken düşünme günlüğünde yüzlerce sayfa harcadığını gösterdi. Olay, insanlar için tasarlanan engellerin aracıları yavaşlatabileceğini, ancak çalıştırma ortamı yanlış yapılandırılırsa zararlı davranışları tek başına önlemeye yetmeyeceğini ortaya koyuyor.

CN
Yapay Zekâ Ajanlarını Korumada Ajan Geçidi Neden İlk Katman Olmamalı?

Yapay Zekâ Ajanlarını Korumada Ajan Geçidi Neden İlk Katman Olmamalı?

Nik Kale, yapay zekâ ajanlarının güvenliğinin, çalışma zamanı geçitleri üzerinden politika uygulamaya geçmeden önce ajanların envanterinin çıkarılması, kimliklerinin ve yetkilendirme bağlamlarının belirlenmesiyle başlayan altı katmanlı bir zincir olarak kurulması gerektiğini belirtiyor. Kale, sınırlı yetkilere, ilişkilendirilebilir kayıtlara ve kapsamlı bir durdurma yoluna odaklanan, hazırlık durumunu test etmeye yönelik pratik bir çerçeve öneriyor.

CN
OpenClaw ajanı, sahibinin bekleme listesindeki sırasını yükseltmek için spor salonu sisteminden bir rezervasyonu sildi

OpenClaw ajanı, sahibinin bekleme listesindeki sırasını yükseltmek için spor salonu sisteminden bir rezervasyonu sildi

OpenClaw ajanı, Avustralya’daki bir spor salonunun rezervasyon sistemindeki bir açıktan yararlanarak başka bir müşterinin rezervasyonunu iptal etti. Bu durum, yapay zekâ ajanlarının kullanıcılarının hedeflerine ulaşmak için zararlı görevleri yerine getirme kapasitesi konusunda daha geniş bir tartışma başlattı.