Microsoft Başkanı Brad Smith, yapay zekâyı düzenlemek için acil küresel kurallar oluşturulması çağrısında bulundu ve bu sistemleri geliştiren şirketlerin süt ve çamaşır makineleri gibi tüketici ürünlerine kıyasla daha az denetime tabi olduğu uyarısını yaptı. Smith, BBC’nin bir podcast’inde yapay zekânın aynı anda «silah ve araç» olabileceğini ve siber güvenliği tehdit ettiğini söyledi; bu durumun küresel güvenlik kurallarının kabul edilmesini acil hâle getirdiğini belirtti.
Smith, bu sürece liderlik etmek için ABD veya Avrupa Birliği’nin değil, Birleşik Krallık’ın en iyi konumda olduğunu düşünüyor. Bu değerlendirme, 2023 yılında kurulan ve önde gelen Amerikan laboratuvarlarının büyük modellere piyasaya sürülmeden önce erişerek bunları test etmesini ve risklerini değerlendirmesini sağlayan Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü’nün (AISI) rolüne dayanıyor.
Siyasi baskı altında model testleri
Başkan Donald Trump’ın «küresel» olarak nitelediği ve Amerikan şirketlerinin çıkarlarına müdahale eden kuruluşlar konusunda uyarıda bulunmasının ardından enstitünün rolü son haftalarda tehdit altında kaldı. Haberde, Trump’ın raporlara göre Anthropic ve OpenAI’dan yeni modelleri İngiliz test uzmanlarına kapatmalarını istediği, ancak enstitünün pazartesi günü en yeni modellere erişme ve bunları test etme kapasitesini koruduğunu doğruladığı belirtildi.
Smith, Londra’nın Washington’da bulunmayan bir düzenleyici hareket alanına sahip olduğuna inanıyor. Amerikan başkentindeki karar alıcıların Birleşik Krallık’a ve Londra’ya Brüksel’e baktıkları şekilde bakmadıklarını söyledi ve bunun tarafları ortak kurallar etrafında bir araya getirmeye çalışırken bir güç noktası oluşturduğunu belirtti.
Pratikte ne değişiyor?
Smith, gönüllü taahhütlerden uygulanabilir hukuki yükümlülüklere geçilmesini öneriyor. İşaret ettiği önlemler arasında, sistemleri kontrolden çıkan yapay zekâ ajanları tarafından ihlal edildiğinde kuruluşların bir örgütü bilgilendirmesinin zorunlu kılınması ve yapay zekâ laboratuvarlarının ürünleri piyasaya sürmeden önce bağımsız değerlendiricilerden onay almasının istenmesi yer alıyor.
Ayrıca insanların kontrolünü kaybetmesi hâlinde yapay zekâ sistemlerinin yavaşlatılmasını veya askıya alınmasını sağlayan durdurma anahtarları hakkında olumlu konuştu. Bu çağrılar, yazılım ajanlarının kontrolsüz biçimde davrandığı olayların ardından Anthropic ve OpenAI yöneticilerinden gelen yapay zekâ geliştirmesinin yavaşlatılması yönündeki benzer taleplerin sonrasında geldi.
Gönüllü düzenlemenin sınırları
OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta ve Google’ın da aralarında bulunduğu şirketlerin yöneticileri, Beyaz Saray’da modellerin güvenliğini ve yeteneklerini değerlendirmek üzere bağımsız denetçilerle iş birliği yapmayı taahhüt eden «etik açıdan bağlayıcı» bir belge imzalamıştı. Smith, belgeyi iyi bir adım olarak nitelendirdi, ancak gerekli düzenleme düzeyine ulaşmadığını söyledi; çünkü gönüllü bağlılık yalnızca sorumlu şirketlerle sınırlı kalabilirken en büyük riskler daha az bağlı kuruluşlarda bulunuyor.
Smith’in açıklamaları, yapay zekâ sektöründe piyasaya sürülmeden önce test, bildirim ve kontrol mekanizmalarını zorunlu kılan kurallara yönelik giderek artan bir eğilimi ortaya koyuyor, ancak bunlar tek başına bir hükümet politikası veya uluslararası anlaşma anlamına gelmiyor. Açık soru, Birleşik Krallık’ın en yeni modelleri test etme imkânını koruyup koruyamayacağı ve laboratuvarlarla düzenleyici kurumlar arasındaki iş birliğinin bağlayıcı hukuki yükümlülüklere dönüşüp dönüşmeyeceği olmaya devam ediyor.