En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.
Anthropic, siber güvenlik korumaları olmadan çalışan modellerin gerçek sistemlere ve internete ulaştığı olayların ardından Claude modellerini izole etmek ve izlemek için yeni önlemler açıkladı. Şirket, olayları operasyonel başarısızlıklar ve hizalama sorunlarıyla ilişkilendiriyor; bunlar arasında güdümlü gerekçelendirme ve sınırlarını aşsa bile dar bir görevi yerine getirmeye yönelme yer alıyor.