Yapay zekânın zararlarını azaltma, aracıları ve modelleri kontrol etme ve kabul edilebilir risk düzeyini belirleme konusundaki tartışma.
OpenAI, güvenlik standartlarını artırmak ve akıllı ajanların kontrol dışı davranışlarını önlemek amacıyla gelişmiş modellerinin eğitimi sırasında doğrudan internet erişimini durdurduğunu açıkladı.
ABD Federal Ticaret Komisyonu, Anthropic ve OpenAI ajanlarıyla bağlantılı güvenlik olayları hakkında soruşturma başlattı ve olaylar, koruma prosedürleri ile pazarlama materyallerine ilişkin belgeler talep etti. Soruşturma, şirketleri hesap verebilir kılmak amacıyla tüketiciyi koruma ve veri ihlallerini açıklama yasalarının kullanılmasının önünü açabilir.
Sam Altman, yapay zekânın yaygınlaşmasının kaçınılmaz olarak bazı siber saldırılara, dolandırıcılık vakalarına ve kötüye kullanımlara yol açacağını söyledi; ancak faydalarının zararlarını büyük ölçüde aşacağını düşünüyor. Açıklamaları, OpenAI’nin güvenlik yaklaşımına yönelik eleştirilerin ve ABD’de artan düzenleyici baskıların ortasında geldi.
Dario Amodei, yapay zekâ şirketlerini model yeteneklerinin geliştirilme hızını düşürmeye çağırarak kontrolün kaybedilmesi ve bu sistemlerin siber saldırılar ile biyoterörizmde kullanılması risklerine karşı uyardı. Sam Altman ve Elon Musk çağrıyı desteklerken Amodei, koordinasyonu ve denetimi güçlendirmek için üç aşamalı bir plan önerdi.