Modellerin Geliştirilmesinde Görülmemiş Bir Hızlanma
Yapay zeka güvenliği araştırma organizasyonu METR tarafından yayınlanan bir rapor, Anthropic'in akıllı modellerini geliştirme hızında büyük bir ivmelenme yaşadığını gösterdi. Veriler, şirketin geçen yıl, tarihsel gelişimin iki yılına eşdeğer bir ilerleme kaydettiğine işaret ediyor. 11 hafta süren araştırmaya göre bu hızlanma, yalnızca bilişim kapasitesindeki artıştan değil, yapay zekanın geliştirme sürecine bizzat katkı sağlamasından kaynaklanıyor.
Şirket çalışanları, en son dahili modellerin kullanımının, teknik yardım almadan çalışmaya kıyasla verimliliklerini 12 kat artırdığını belirtti; bu oran, yalnızca birkaç ay önce kaydedilen oranın iki katı. Rapor ayrıca, şirketin henüz halka açıklanmamış üç yeni modelin eğitimini tamamladığını ortaya koyarak geliştirme döngülerindeki aşırı hızı yansıttı.
Bu Haber Araştırmacıları Neden Endişelendiriyor?
Kriz; Anthropic CEO'su Dario Amodei'nin yapay zeka geliştirme hızının yavaşlatılması gerektiği yönündeki çağrıları ile şirketin, büyük bir insan müdahalesi olmaksızın kendi kendini geliştirebilen (Özyinelemeli Kendi Kendini İyileştirme) sistemlere doğru bir yarışa liderlik ettiğini gösteren gerçeklik arasındaki çelişkide yatıyor. Araştırmacılar, bu gelişmenin mevcut güvenlik önlemlerinin ayak uydurma kapasitesini aşabileceğini ve toplumu karmaşık teknik ve etik zorluklarla karşı karşıya bırakabileceğini düşünüyor.
Şeffaflık ve Editoryal Kısıtlamalar
Rapor, Anthropic'in ticari sırları korumak ve rakiplerin şirketin teknik yol haritasından yararlanmasını engellemek gerekçesiyle METR organizasyonunun ulaştığı sonuçların büyük bir kısmını gizleme kararı alması nedeniyle geniş çaplı tartışmalara yol açtı. Yapay zeka güvenliği alanındaki uzmanlar, bu karartmayı eleştirerek bunun kamunun ve denetleyici kurumların gerçek riskleri bağımsız olarak değerlendirmesini engellediğini belirtti.
Anthropic'in kurucu ortağı Sam McCandlish ise gizleme kararını savunarak, hızlanma motorlarının detaylarının ifşa edilmesinin şirketin kaçınmaya çalıştığı riskleri daha da kötüleştirebileceğini vurguladı. Bununla birlikte, özellikle Amerika Birleşik Devletleri'nde yapay zeka geliştirilmesine daha katı kısıtlamalar getirilmesi yönündeki siyasi baskıların artmasıyla birlikte, özel şirketlerin yeterli hükümet veya bağımsız denetim olmaksızın bu ölçekteki teknolojilerin güvenliğini yönetme kapasitesi hakkında sorular ortada kalmaya devam ediyor.