Google ve Google DeepMind, genel yapay zekâ (AGI) konusundaki tartışmayı genişletmek ve Google, Google DeepMind ile dünya genelindeki araştırmacıların görüşleri arasındaki farklılıkları öne çıkarmak amacıyla 17 Eylül 2026'da “DeepMind Institute”u kurdu. Enstitüyü DeepMind'ın kurucu ortağı Shane Legg, Google yöneticisi James Manyika ve Google DeepMind Başkanı Demis Hassabis yönetiyor; Legg aynı zamanda yayın yönetmeni görevini de üstleniyor.
Enstitü kendisini, her zaman birbiriyle örtüşmeyebilecek ve hızla gelişen alanda yeni veriler ile bilgilerin ortaya çıkmasıyla değişebilecek görüşlerin sunulduğu bir alan olarak tanımlıyor. Bu adım, yapay zekâ güvenliği tartışmasının kamuya açık açıklamalardan; açıklama, dış denetim ve gelişmiş modellerin geliştirilmesine, uygun güvenceler eşlik etmediği takdirde yavaşlatılması gibi daha somut önerilere evrildiği bir dönemde atıldı.
Tartışmanın dört boyutu
Enstitünün açılış koleksiyonu; genel yapay zekânın yol açabileceği olası ekonomik çalkantılarla başa çıkma politikalarını, modellerin çıkarım süreçlerinin insanlar tarafından anlaşılabilirliğini korumayı, insan refahını destekleme ilkelerini ve önde gelen yapay zekâ modellerinin değerlendirilmesine yönelik bir çerçeveyi ele alan dört makaleden oluşuyor.
DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan, makalelerden birinde araştırmacıların modelin çıkarım adımlarını görme ve doğrulama kapasitesindeki azalmanın kaçınılmaz bir sonuç olmadığı konusunda uyarıyor. En güçlü modellerin izlenmesini zorlaştıran mimariler geliştikçe araştırmacılar, geliştiricileri ve düzenleyici kurumları güvenlikle ilgili ödünleşimleri doğrudan ele almaya çağırıyor.
Önerdikleri seçenekler arasında “opak ardışık derinliği” (opaque serial depth) sınırlamak, yani modelin okunabilir bir çıkarım yolu üretmeden gerçekleştirebildiği ardışık hesaplama miktarını kısıtlamak ya da geliştiricilerden, daha az şeffaf sistemlerin hâlâ aynı düzeyde izlenebilir olduğunu kanıtlamalarını istemek yer alıyor.
Modelleri değerlendirmek için ABD merkezli çerçeve
Hassabis, başka bir makalesinde en gelişmiş modelleri değerlendirmek üzere ABD'nin öncülük edeceği bir gelişmiş yapay zekâ standartları kurumu oluşturulmasını öneriyor. Sunulan tasarıma göre geliştiriciler, modellerini yayımdan önce 30 güne kadar gönüllü olarak incelemeye sunacak. Değerlendirme sistemi etkili olduğunu kanıtlarsa, testleri geçmek daha sonra önde gelen modellerin ABD içinde yayımlanması için bir koşul hâline gelecek.
Kurum, değerlendirme testlerini başlangıçta yapay zekâ şirketleriyle istişare içinde tasarlayacak; ardından laboratuvarların modellerini önceden bilinen testlere göre iyileştirmesini önlemek amacıyla bağımsız ve önceden duyurulmayan testlere, yani çerçevenin “saklı testler” (held-out tests) olarak adlandırdığı testlere geçecek. Öneri ayrıca, durumun ciddiyeti gerektirirse gelişmiş model geliştiricileri arasında koordineli bir yavaşlamaya kadar varan önlemlerin kademeli olarak sıkılaştırılabileceğini belirtiyor.
Bu haber neden önemli?
Girişimin pratik önemi yalnızca yeni bir yayın platformu oluşturmasında değil, Google ve Google DeepMind'ın modellerin geliştirilme ve değerlendirilme biçimini etkileyebilecek konulara ilişkin tartışmalarını bir araya getirmesinde yatıyor. Makaleler şeffaflık, izlenebilirlik ve bağımsız denetimi yalnızca genel ilkeler olarak değil, operasyonel sorular olarak ele alıyor.
Bununla birlikte enstitü bağımsız bir düzenleyici kurum değil; ayrıca önerilen değerlendirme çerçevesi gönüllü olarak başlıyor ve yürürlükte olan bir politikaya dönüşmüş değil. Kurumun bağımsızlığı, duyurulmayan testlerin niteliği ve geliştirmeyi yavaşlatma ihtiyacının belirlenmesine ilişkin ölçütler gibi sorular, metinde yer alan bilgiler çerçevesinde açık kalıyor.