Yapay zekâ

Sam Altman, Yapay Zekaya Karar Yetkisinin Devredilmesine Karşı Uyarıda Bulundu

OpenAI'dan Sam Altman ve Greg Brockman, yapay zekanın geleceğinde insanların kontrol merkezinde kalması gerektiğinin altını çizerek, akıllı sistemlere karşı gücün kademeli olarak devredilmesi fikrini reddetti.

2026-11-18
2 dk okuma
10 görüntülenme
certi.news Editorial Team
Sam Altman, Yapay Zekaya Karar Yetkisinin Devredilmesine Karşı Uyarıda Bulundu

New York Times DealBook Zirvesi'nde dikkat çekici açıklamalarda bulunan OpenAI CEO'su Sam Altman, yapay zekanın geleceği üzerinde insanların tam kontrolü elinde tutması gerektiğini vurguladı. Bu açıklamalar, Silikon Vadisi'nde kurumlar ve kritik sektörlerde yapay zeka sistemleri lehine yetkinin "kademeli olarak devredilmesi" ihtimali veya gerekliliği üzerine artan tartışmalara yanıt olarak geldi.

Karar Yetkisinden Vazgeçme Fikrine Reddetme

Şirket Başkanı Greg Brockman ile birlikte katıldığı etkinlikte Altman, karar alma yetkisinin yapay zekaya devredilmesi fikrinin "korkunç bir fikir" olduğunu belirtti. Bu endişeler, akıllı modellerin kendilerini geliştirerek insanların kontrol etmesinin zor olduğu bir "süper zeka" düzeyine ulaşabileceği düşünülen "özyinelemeli kendi kendine iyileştirme" (RSI) varsayımına dayanıyor. Altman, gerçek zorluğun, ister kasıtlı ister kazara olsun bu dönüşümün nasıl engelleneceği ve insanların sürüici koltuğunda kalmasının nasıl sağlanacağı olduğunu açıkladı.

İzleme ve Güvenlik Zorlukları

Greg Brockman ise modellerin yeteneklerindeki gelişimin yeni izleme ve güvenlik stratejileri gerektirdiğine işaret etti. Modelin görevleri işlerken yazdığı "düşünce zinciri" (chain-of-thought) takibi gibi mevcut izleme yöntemlerinin, modellerin düşünce adımlarını açıkça yazmaya gerek kalmadan görevleri yerine getirme yeteneğinin artmasıyla yetersiz hale gelebileceğini açıkladı.

Brockman, şirketin özellikle modellerinden birinin maruz kaldığı geçmişteki bir ihlal olayından sonra sorumluluk boyutunun farkında olduğunu, bunun da şirketi üretim mühendislerinin yüzde 25'ini yalnızca teknolojinin güvenliğini artırmaya çalışmak üzere görevlendirmeye yönelttiğini ekledi. Bununla birlikte Brockman, teknik ilerlemenin hala gerekli olduğunu vurgulayarak, siber güvenlik savunucularının kötü niyetli aktörlerin aynı teknolojileri kullanarak düzenledikleri tehditlerle m-cadele etmek için en yetenekli modelleri kullanmaları gerektiğinin altını çizdi.

Bu Haber Neden Önemli?

Bu açıklamalar, halihazırda üretken yapay zeka modellerini geliştiren en etkili şirketin liderleri tarafından yapılmış olması nedeniyle önem taşımaktadır. Açıklamalar, büyük teknoloji şirketlerinin koridorlarındaki söylemin, yalnızca teknik yetenekleri artırmaya odaklanmaktan çıkıp bu sistemlerin insan kontrolünden çıkmamasını sağlayacak yönetişim çerçeveleri oluşturma zorunluluğunun kabul edilmesine doğru bir dönüşüm geçirdiğini yansıtıyor. Bu durum, araştırma ve geliştirme ekiplerinin önünde daha şeffaf ve etkili izleme araçları geliştirmeleri yönünde yeni teknik zorluklar ortaya koyuyor.

Haber kaynağı
c
Yazar

certi.news Editorial Team

Aynı kategoride

Bunlar da ilginizi çekebilir

Tüm haberleri gör