Y Combinator CEO’su Garry Tan, ABD’nin daha küçük yapay zekâ laboratuvarlarının, Çin laboratuvarlarına bağlı olmayan daha güçlü bir açık ağırlıklı model grubu oluşturmak amacıyla gelişmiş ABD modellerinden bilgi damıtmasına izin vermesi gerekebileceğini düşünüyor. Bu tutum, Anthropic’in Çin laboratuvarlarını gelişmiş modellere yönelik yasa dışı damıtma saldırıları gerçekleştirmekle suçladığı bir dönemde ortaya çıkıyor.
Tan, CNBC’ye verdiği bir röportajda Çin laboratuvarlarının damıtma tekniklerini kullanmasına düzenleyici müdahalede bulunmayacağını söyledi; bunun yerine bir “Amerikan damıtma sistemi” oluşturulması ihtimalini gündeme getirdi. TechCrunch’a yaptığı açıklamada kastının, açık ağırlıklı modeller geliştiren ABD laboratuvarlarının bu teknikleri kullanabilmesi olduğunu belirtti. Bu laboratuvarların hedef modellere kimlik taklidi, dolandırıcılık veya kimlik bilgilerinin çalınması yoluyla değil, açık erişim koşulları kapsamında “ön kapıdan” girmesi gerektiğini ifade etti.
Model damıtma nedir?
Model damıtma, çoğunlukla bir modele çok sayıda istek gönderip yanıtlarını ve akıl yürütme biçimini analiz ederek, başka bir modelin çıktılarından yararlanıp yeni bir model eğitme sürecidir. Yapay zekâ laboratuvarları bu tekniği bazı eğitim ve model iyileştirme senaryolarında meşru biçimde kullanıyor. Ancak hedef modele izinsiz veya kullanıcı kurumun kimliğini gizleyerek erişildiğinde, kullanım sınırları tartışmalı hâle geliyor.
Habere göre Anthropic bu hafta, Çin laboratuvarlarını “yasa dışı damıtma saldırıları” gerçekleştirmekle suçlayan ikinci raporunu yayımladı. Şirket, bu operasyonların kimlik gizlemeyi, modellere erişmek için dolandırıcılığı ve çalınmış kimlik bilgilerini kullanmayı içerdiğini söylüyor. Anthropic CEO’su Dario Amodei de daha önce ABD’li düzenleyici kurumları bu tür damıtmaya karşı daha sıkı önlemler almaya açıkça çağırmıştı.
Tan neden farklı bir görüş öne sürüyor?
Tan’ın argümanı yalnızca ABD ile Çin arasındaki rekabetle sınırlı değil. Tan, yapay zekâ laboratuvarlarının müşterilerin API’ler aracılığıyla elde ettikleri bilgilerle ne yapabileceklerini kontrol etme konusunda geniş bir yetkiye sahip olmaması gerektiğini düşünüyor. Ona göre kapalı modellerin çıktılarının kullanımına katı sınırlamalar getirilmesi, araştırmacıların ve geliştiricilerin açık alternatifler oluşturma kapasitesini kısıtlayabilir.
Tan bu tutumunu ticari modellerin eğitim geçmişiyle de ilişkilendiriyor. Kapalı model laboratuvarlarının sistemlerini eğitmek için telif hakkıyla korunan materyaller de dâhil olmak üzere, geniş ölçekte erişilebilen büyük miktarda insan bilgisini topladığını ve bunu her zaman fikrî mülkiyet sahiplerinden izin alarak yapmadığını belirtiyor. Bu nedenle Tan, geniş kamuya açık veriler üzerinde eğitilmiş zekâya erişimin özel şirketlerin dayattığı hizmet şartlarıyla tamamen yönetilmek yerine kamu yararına daha yakın olması gerektiğini savunuyor.
Pratikte ne değişir?
Bu fikir bir politikaya dönüşürse mücadele, modellerin her türlü kopyalanmasına izin verilmesi etrafında değil; erişim koşulları, kullanım sınırları ve hedef modelin onayının kanıtlanması etrafında şekillenecek. Tan’ın izin verilen damıtma ile kimlik bilgisi hırsızlığına dayalı damıtma arasında yaptığı ayrım önemli. Tan, Anthropic’in Çin laboratuvarlarına atfettiği operasyonları savunmuyor; daha küçük ABD laboratuvarlarına gelişmiş modellerin çıktılarını kullanmaları için yasal bir fırsat verilmesini savunuyor.
Açık ağırlıklı model geliştiricileri açısından bu yaklaşım, sıfırdan Frontier modelleri geliştirmek için gereken sermayeye, araştırmacılara ve altyapıya sahip laboratuvarlarla aralarındaki kaynak açığını azaltabilir. Öte yandan gelişmiş ticari laboratuvarlar bunu kapalı modellerinin değerine ve arayüzleriyle çıktılarının kullanımı üzerindeki kontrol yeteneklerine yönelik bir tehdit olarak görebilir.
Görüş ve olgular
Tan kendi tutumunu yapay zekâ pazarındaki çoğulculuğu korumanın bir yolu olarak sunuyor. En iyi sermaye erişimine ve en iyi araştırmacılara sahip tek bir şirketin en güçlü modele ve gelişmiş yeteneklere açılan tek kapıya sahip hâle geldiği bir senaryoya karşı uyarıda bulunuyor. Açık ağırlıklı modellerin kullanıcılara daha fazla özgürlük ve erişim sağladığını, gelişmiş laboratuvarların ise yeni yeteneklerin geliştirilmesine yatırım yapılmasını sürdürmesini güvence altına aldığını düşünüyor.
Ancak haberde bu tür bir “damıtma sistemi” konusunda bir ABD düzenleyici anlaşmasının bulunduğuna dair kanıt sunulmuyor; fikrî mülkiyet hakları, sözleşme şartları veya izin verilen kullanımın nasıl doğrulanacağına ilişkin meseleler de çözüme kavuşturulmuyor. Bu nedenle Tan’ın önerisi, ekonomik güvenlik ile şirket haklarının, araştırmacıların çıkarlarının ve modellerin kötüye kullanım risklerinin kesiştiği tartışmada bir politika ve düşünce görüşü olarak kalıyor; yürürlükteki bir politikanın ilanı niteliğini taşımıyor.