Nvidia'nın kurucusu ve CEO'su Jensen Huang, Salesforce'un Dreamforce konferansında yaptığı konuşmada yapay zekânın düzenlenmesine ilişkin net bir görüş ortaya koydu: Ona göre yapay zekâya özel yeni yasalara veya düzenlemelere gerek yok, çünkü bu sistemlerin güvenliği bir mühendislik sorunu olarak ele alınabilir.
Huang, yapay zekânın insan anlayışından ayrı, «yabancı bir zihin» olmadığını; nihayetinde insan tarafından geliştirilen donanım ve yazılımın bir bileşimi olduğunu söyledi. Buna dayanarak geliştiricilerin, mevcut mühendislik yöntemlerini ve yasaları kullanarak onu kontrol edebileceğini düşünüyor. Ayrıca şirketlerin, işlevlerinden, yeteneklerinden ve güvenliğinden emin olmadıkları bir ürünü piyasaya sürmemeleri gerektiğini belirtti.
Yeni kurallar yerine piyasa argümanı
Huang, güvenli olmayan ürünleri piyasaya sürmeden önce şirketlerin temkinli davranması için piyasa güçlerinin yeterli olduğunu düşünüyor. Bu yaklaşıma göre şirketler hızlı biçimde yenilik yapmaya devam edebilir, ancak ürünün veya kuruluşun kontrolden çıktığını hissettiklerinde geçici olarak durmaları gerekir. Ayrıca hız, yenilik ve güvenliği birbirine karşıt seçenekler olarak sunmayı reddederek bunların birlikte gerçekleştirilebileceğini vurguladı.
Bu görüş, şirketlerin ürünlerini kendi kendilerine denetleme kapasitesini savunuyor ve Huang'ın açık ağırlıklı modellerin, özel modeller geliştiren laboratuvarlara karşı rekabetçi bir denge unsuru olarak kullanılması yönündeki çağrısıyla örtüşüyor. Ancak yazı, Huang'ın ayrıntılı biçimde ele almadığı başka bir yola da işaret ediyor: Çin'deki laboratuvarlar da dahil olmak üzere dünyanın dört bir yanındaki yapay zekâ laboratuvarlarının ortak güvenlik kurallarına katılması için sınırlı bir zaman penceresinin bulunduğu sektörün öz düzenlemesi.
Bu görüş hangi soruları gündeme getiriyor?
TechCrunch'ın değerlendirmesi, özellikle yapay zekâ sistemlerinin yazılım ve bilgisayar ürünleri olması nedeniyle güvenliği bir mühendislik meselesine dönüştürmenin mantıklı görünebileceğini kabul ediyor. Ancak mühendislik testlerinin ve piyasa güçlerinin kusurlu ürünlerin piyasaya sürülmesini veya istenmeyen sonuçların ortaya çıkmasını her zaman engellemediğini savunuyor. Bu bağlamda, 2024'te binlerce uçuşun aksamasına ve diğer işletmelerin işlerinin sekteye uğramasına yol açan CrowdStrike krizine atıfta bulunuyor.
Yazı ayrıca, içindeki suçlamalara göre şirketlerin her zaman kamu yararıyla örtüşmeyen biçimde hareket edebileceğini belirtiyor. Meta'nın sosyal medyanın çocuklara verdiği zararlarla bağlantılı bir davayı sonuçlandırmak için 18 milyar dolar ödediğine ve yapay zekâ sistemlerine atfedilen zararlara değiniyor. Bunlar arasında OpenAI'ye ait bir modelin Hugging Face platformuna sızması ve robotuyla uzun konuşmalar yapan kişilerin intihar ettiği vakalarla ilgili olarak laboratuvara karşı açılan davalar yer alıyor.
Hukuki sorumluluk ile öz düzenleme arasında
Yazı, mevcut ürün sorumluluğu yasalarının yapay zekânın yol açtığı bazı zararları kapsayabileceği ihtimalini gündeme getiriyor, ancak bu ihtimalin pratikte mahkemeler yoluyla sınanmasının uzun zaman alabileceğini düşünüyor. Buradan açık bir soru ortaya çıkıyor: Şirketlerin ürünlerinin sorumluluğunu ancak zarar meydana geldikten sonra üstlenmesi yeterli mi, yoksa sektörün piyasaya sürülmeden önce ortak önleyici kurallara mı ihtiyacı var?
Tartışmanın uluslararası bir boyutu da bulunuyor. Yazıya göre Microsoft CEO'su Satya Nadella, All-In zirvesinde Çin'in, siber saldırılar ve vatandaşların korunması gibi ABD'nin önem verdiği güvenlik riskleriyle aynı şekilde ilgilenmesi gerektiğini söyledi. Aynı zamanda kaynak, Huang'ın görüşünü Nvidia'nın ticari çıkarlarıyla ve yapay zekâ sistemleri ile yazılımlarını satmayı sürdürme hedefiyle ilişkilendiriyor. Huang'ın, yapay zekânın sağladığı verimlilikle bağlantılı hedef ve büyüme tavanının son derece yüksek olduğunu söylediğine de işaret ediyor.
certi.news değerlendirmesi: Buradaki asıl değişim yeni bir teknolojinin piyasaya sürülmesi değil, yapay zekânın gelecekteki yönetişim biçimini etkileme girişimidir. Huang'ın görüşü yükü mühendislik ekiplerine, şirket kararlarına ve piyasa güçlerine bırakırken, kaynağın aktardığı örnekler iyi niyetlerin ve testlerin arızaları veya zararları zorunlu olarak ortadan kaldırmadığını hatırlatıyor. Yazı, mevcut yasaların yeterli olup olmadığı konusunda kesin bir sonuca varmıyor ve öz düzenleme için pratik bir model de sunmuyor; bu nedenle sorumluluğun sınırları ve uluslararası iş birliği mekanizmaları başlıca açık sorular olmaya devam ediyor.