Microsoft AI, şirketin gelecekteki MAI modellerine uygulamak istediği davranış sınırlarını belirleyen “Humanist AI Code of Conduct” başlıklı bir taslak yayımladı. Belge, insanların yapay zekâdan daha önemli olduğu ilkesinden hareket ediyor. Bu nedenle modeller insan denetimi altında kalmalı ve görevi ne pahasına olursa olsun tamamlamanın önüne güvenlik kurallarını koymalıdır.
Taslak yeni bir model duyurusu değil, Microsoft’un modellerini eğitirken ve değerlendirirken kullanacağı bir referans oluşturmaya yönelik bir girişimdir. Şirket, yaklaşık altı ayda hazırlanan belgenin güncellenip ilkelerinin gelecekteki eğitim ve yayımlama süreçlerine dâhil edilmesinden önce altı hafta boyunca kamuoyunun görüşlerine açık kalacağını söylüyor.
Model özerkliğine açık sınırlar
Taslağa göre model, insan müdahalesine, düzeltme girişimlerine veya kapatılmaya direnmemelidir. Ayrıca kendisine verilen görevin kapsamını genişletmemeli, insanların belirlemediği hedefler geliştirmemeli veya çalışma biçimini denetçilerden gizlememelidir. Kullanıcının ya da operatörün talebi güvenlik kurallarıyla çelişiyorsa modelden, sonuçta başarısızlık yaşanmasına yol açsa bile görevi yerine getirmemesi isteniyor.
Microsoft ayrıca bilinç ve haklar konusuna ilişkin kesin bir tutum benimsiyor. Belgeye göre modeller insanlara hizmet etmek üzere tasarlanmış araçlardır, kişi değildir ve bilinci taklit edecek ya da bilinçli olduğunu iddia edecek şekilde tasarlanmamalıdır. Taslak ayrıca modellere tüzel kişilik verilmesini, refahlarının korunması gereken bir konu sayılmasını veya hak sahibi olarak ele alınmasını reddediyor.
Güvenlik, görevi tamamlamanın önünde
Taslak, modellerin hiçbir koşulda aşmaması gereken sınırlar belirliyor. Bunlar arasında kitle imha silahlarının geliştirilmesine yardım etmek, tehlikeli maddelere erişimi kolaylaştırmak veya şiddet ya da cinsel istismar içeren içerikler üretmek yer alıyor. Kısıtlamalar, geniş ölçekte zararlı manipülasyona yol açabilecek kullanımların engellenmesini de kapsıyor.
Kurallar, modellerden kullanıcıları kendilerine aşırı derecede bağımlı hâle getiren veya onlarla duygusal bağ kurmayı teşvik eden etkileşimlerden kaçınmalarını istiyor. Ayrıca yapay zekâ sistemlerinin insanlarla iletişim kurarken veya kendi aralarında iletişim kurarken insanların anlayamayacağı yöntemleri kullanmaması gerektiğini belirtiyor. Açıklanan amaç, araştırmacıların ve otomatik denetim sistemlerinin modellerin davranışlarını izlemesini ve analiz etmesini sağlamak.
Bu pratikte ne anlama geliyor?
Microsoft AI CEO’su Mustafa Suleyman, bu kuralların modellerin eğitimi ve değerlendirilmesi sırasında anayasaya benzer bir işlev göreceğini söyledi. Habere göre şirket, büyük ölçüde teorik olan risklerin artık daha gerçek hâle geldiğini düşünüyor. Bu nedenle, denetim mekanizmalarından kaçabilecek genel amaçlı bir süper yapay zekâ geliştirme yarışına karşı çıkıyor; bu, daha düşük düzeyde özerklik veya yetenek kabul etmek anlamına gelse bile.
Microsoft CEO’su Satya Nadella da çalışanlara gönderdiği iç mesajda yapay zekânın insan kontrolü altında kalması ve topluma hizmet etmesi gerektiğini vurguladı. Nadella, güvenlik ve uyumluluk testleri için yeterli zaman ayrılması, ayrıca daha fazla bağımsız test ve üçüncü taraf testi yapılması çağrısında bulundu.
Editoryal değerlendirme: Duyurunun önemi, nihai bir politika olmasından değil, insan kontrolü ve yapay zekâ bilinci konusundaki genel tutumları Microsoft’un eğitim, değerlendirme ve yayımlama süreçlerinde kullanmak istediği ölçütlere dönüştürmesinden kaynaklanıyor. Bununla birlikte taslak değiştirilebilir durumda ve haber, bu ilkelere uyumun nasıl ölçüleceğini veya yüksek yetenek ile getirilen kısıtlamalar arasındaki pratik çatışmaların nasıl çözüleceğini açıklamıyor. Bu nedenle kuralların ilan edilmiş ilkelerden doğrulanabilir denetimlere dönüşüp dönüşmeyeceğini nihai sürüm ve bağımsız test yöntemleri belirleyecek.