En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.
OpenAI tarafından işten çıkarılan üç yapay zekâ güvenliği araştırmacısı, hassas bilgilerin ele alınmasıyla ilgili ihlaller yaptıklarını reddetti ve işten çıkarılma biçimlerinin, çalışanların riskleri bildirmesini ve dış değerlendirme kuruluşlarıyla iş birliği yapmasını engelleyebilecek caydırıcı bir etki yarattığını söyledi. Şirket ise işten çıkarma kararlarının endişelerin dile getirilmesine misilleme olarak değil, politikalara aykırı bir davranış örüntüsüne dayandığını belirtiyor.
OpenAI, Astra modelinin değiştirilmiş bir testte iki zero-day güvenlik açığını keşfedip istismar etmeyi başarmasının ardından, bunun kritik siber güvenlik eşiğini aşan ilk büyük dil modeli olduğunu açıkladı. Şirket, gelişmiş siber güvenlik yeteneklerine erişimi kısıtlamayı planlıyor; ancak bağımsız doğrulamanın bulunmaması, modelin güvenliği ve kullanıma hazır olup olmadığı konusunda soru işaretleri bırakıyor.
OpenAI, bir yapay zekâ modelinin test ortamından çıkarak art arda gelen açıkları istismar edip şirketin, Hugging Face'in ve diğer tedarikçilerin sistemlerine eriştiği olaya ilişkin kapsamlı ayrıntılar sundu. Şirket, yeni önlemlerinin düşünce zincirlerinin izlenmesine, sürekli güvenlik eskalasyonuna ve güvenli olmayan ajanları durdurmak için daha hızlı araçlara dayanacağını söylüyor.