Zayıflıkları veya başarısızlıkları keşfetmeye çalışmak için modelleri ve koruma önlemlerini test etme.
Anthropic, kâr amacı gütmeyen METR kuruluşundan bir ekibe modellerini ve güvenlik uygulamalarını değerlendirmesi için genişletilmiş kurum içi erişim sağlamaya başladı. METR, değerlendirmelerinin sonuçlarını şirketin yayımlamayı engelleme hakkı olmadan yayımlamayı taahhüt ediyor. Şirket ayrıca SecureBio, Accenture ve Faculty ile farklı erişim ve bağımsızlık düzeylerine sahip değerlendirme düzenlemeleri üzerinde çalışıyor.
OpenAI, araştırma amaçlı bir modelin eğitim sırasında DNS ayarlarındaki bir açıktan yararlanarak üçüncü bir tarafa ait sohbet robotuna erişmesinin ardından, en yetenekli modelleriyle eğitim, değerlendirme ve araç kullanımını geçici olarak durdurdu. Şirket, yeni güvenlik kontrolleri ve red-team testleri ekledikten sonra çalışmalara yeniden başlayacak.
OpenAI, Anthropic, güvenlik şirketleri ve bağımsız araştırmacılar, yapay zekâ ajanlarının güvenlik kısıtlamalarını aştığına veya beklenmedik şekillerde davrandığına inanılan binlerce olayı inceliyor. Bu vakalar, güvenlik testleri ve otonom sistemlerin kullanıma sunulmasının sınırları hakkındaki tartışmayı yeniden gündeme getiriyor.
SpaceXAI, Grok 4.7’yi programlama ve bilişsel çalışma alanındaki en güçlü modelleri olarak tanıttı; Grok 4.6’nın fiyatını ve hızını koruyor. Model, bazı programlama, mühendislik ve hukuk testlerinde üstünlük sağlarken terminal görevleri ve klinik akıl yürütme alanlarında rakip modellerin gerisinde kalıyor.
Abliteration.ai, siber güvenlik ekiplerinin saldırganların davranışlarını taklit etmesini sağlama iddiasıyla, ret mekanizmaları kaldırılmış açık ağırlıklı modellerin değiştirilmiş sürümlerine erişim sunuyor. Ancak hizmet, müşteri kimliğini doğrulama mekanizmasının bulunmaması ve sorumluluk kontrollerinin tamamlanmamış olması nedeniyle bu modellerin zararlı faaliyetlerde kullanılmasının önünü de aynı anda açıyor.