Anthropic şirketi, yapay zekâ modellerinin biyolojik silahların geliştirilmesini destekleyebilecek şekilde kullanılmasına yönelik girişimleri tespit ettiğini açıkladı. Bu açıklama, söz konusu modellerin kötüye kullanımını ve bunu sınırlandırmak için alınabilecek önlemleri ele alan bir raporda yer aldı. Şirket, biyolojik kötüye kullanımı, yapay zekâ yeteneklerinin gelişmesiyle bağlantılı en ciddi riskler arasında değerlendiriyor.
Rapora göre endişeler, gelişmiş modellerin mevcut patojenleri daha tehlikeli hâle getirmeye yardımcı olabilmesi veya yeni patojenlerin geliştirilmesine katkıda bulunabilmesi üzerinde yoğunlaşıyor. Yayımlanan metin, gerçek bir biyolojik silah üretildiğine dair kanıt sunmadı; ancak Anthropic’in, olağan araştırma kullanımının yeterince ötesine geçtiğini ve ihtiyati tedbirleri gerektirdiğini belirttiği vakaları belgeledi.
Şirketin tespit ettiği kullanım örnekleri
Raporda, yeterli desteğe sahip olmayan bir bölgede çalışan bir araştırmacının, kuş gribinin memelilere uyum sağlamasıyla ilgili deneyleri planlamaya yardımcı olması için Claude’u kullandığı belirtildi. Başka bir vakada ise rapor, bir devlet tarafından desteklenen bir araştırmacının modeli toksinleri bilgisayar ortamında yeniden tasarlamak için kullandığına işaret etti.
Anthropic, bu örneklerde adı geçen kişileri kötü niyet taşımakla suçlamadı ve kararlarının ihtiyat saikiyle alındığını vurguladı. Bu noktanın önemi, raporda sunulan değerlendirmeye göre risk değerlendirmesinin yalnızca kullanıcının kimliğine veya beyan ettiği niyetine değil, aynı zamanda modelin sağlayabileceği yardımın niteliğine ve bunun kötüye kullanılma ihtimaline de dayanmasıdır.
Pratikte ne değişti?
Anthropic, bu vakaları tespit ettikten sonra ilgili kullanıcıların hesaplarını yasakladığını ve gelecekte bu tür faaliyetleri daha etkili biçimde önlemek için ek adımlar attığını söyledi. Alıntılanan metin, izleme mekanizmaları, yasaklama ölçütleri veya sonuçların nasıl doğrulandığı hakkında teknik ayrıntılar açıklamıyor. Bu nedenle, yalnızca bu materyale dayanarak önleyici sistemin doğruluğunu veya uygulama kapsamını değerlendirmek mümkün değil.
Pratikte bu açıklama, tartışmanın yapay zekânın biyolojik risklerine ilişkin teorik uyarılardan, şirketin kendi hizmetleri içinde tespit ettiği gerçek kullanım girişimleriyle ilgilenmeye doğru kaydığını gösteriyor. Bu durum model geliştiricileri, platform işletmecileri ve araştırma kuruluşları açısından önem taşıyor; çünkü önleme yalnızca belirli yanıtları engellemekle sınırlı değil, aynı zamanda kullanım örüntülerinin izlenmesini ve yüksek hassasiyet taşıyan hesaplar ile faaliyetler hakkında kararlar alınmasını da gerektiriyor.
certi.news’in değerlendirmesi
Buradaki en önemli değişim, modelin yeni bir yeteneğinin açıklanması değil, Anthropic’in kullanıcılar üzerinde kısıtlamalar uygulamasına ve önleyici prosedürlerini güncellemesine yol açan vakaları ortaya koymasıdır. Rapor ayrıca materyalin açıkça yanıtlamadığı bir soruyu gündeme getiriyor: Patojenler üzerine meşru araştırma ile bir silahın geliştirilmesi riskini artırabilecek kullanım arasında nasıl ayrım yapılabilir? Şirkete göre örneklerin paylaşılması, yapay zekâ sektörü içinde bu riskler ve bunlarla mücadele yöntemleri hakkında bir diyalog başlatmayı amaçlıyor. Ancak mevcut metin, önlemlerin etkililiği veya diğer şirketlerde uygulanabilirliği hakkında hüküm vermek için yeterli ayrıntı sunmuyor.
Metinde ayrıca Anthropic’in eski araştırmacısı Jacob Coxon’un istifasına ve büyük güç ile kaynaklara sahip olabilecek yapay zekâ sistemlerinin risklerine ilişkin uyarısına da değiniliyor. Ancak bu ifade, raporun belgelediği vakalardan ayrı tutuluyor ve tek başına istifa ile şirketin açıkladığı yasaklama önlemleri arasında doğrudan bir bağlantı bulunduğunu kanıtlamıyor.