Konular

Yapay Zekâ Güvenliği

Gelişmiş modellerin risklerinin yönetimi ile dağıtımdan önce ve sonra operasyon kültürü, değerlendirme ve izlemeyle ilgili merkezi makale konusu.

Son haberler

CN
Anthropic Singapur'da Ofis Açtı ve Hükümetle Yapay Zekâ Güvenliği Konusunda İş Birliği Mutabakatı İmzaladı

Anthropic Singapur'da Ofis Açtı ve Hükümetle Yapay Zekâ Güvenliği Konusunda İş Birliği Mutabakatı İmzaladı

Anthropic, Asya-Pasifik bölgesindeki beşinci ofisini açtı ve Singapur Dijital Kalkınma ve Enformasyon Bakanlığı ile yapay zekânın güvenliği, emniyeti, model değerlendirmesi ve sorumlu benimsenmesi konularında iş birliği yapmak üzere mutabakat zaptı imzaladı. Bu adım, Claude'un Singapur'daki kamu, finans ve teknoloji kuruluşlarında yaygınlaşmasıyla birlikte geldi.

CN
Brad Smith: Birleşik Krallık, yapay zekâ güvenliği için küresel kurallara liderlik etme konusunda en avantajlı ülke

Brad Smith: Birleşik Krallık, yapay zekâ güvenliği için küresel kurallara liderlik etme konusunda en avantajlı ülke

Microsoft Başkanı Brad Smith, yapay zekânın acilen ve bağlayıcı biçimde düzenlenmesi çağrısında bulunarak Birleşik Krallık’ın küresel güvenlik kurallarına liderlik etmek için ABD ve Avrupa Birliği’nden daha iyi bir konumda olduğunu belirtti. Gönüllü taahhütlerin yeterli olmadığını ve gelişmiş sistemlerin bağımsız testlere ve kontrolün kaybedilmesi hâlinde onları durduracak mekanizmalara ihtiyaç duyduğunu savunuyor.

CN
OpenAI'den İşten Çıkarılan Araştırmacılar Davranış İhlallerini Reddediyor ve Yapay Zekâ Güvenliği Kültürünün Zayıflatılmasına Karşı Uyarıyor

OpenAI'den İşten Çıkarılan Araştırmacılar Davranış İhlallerini Reddediyor ve Yapay Zekâ Güvenliği Kültürünün Zayıflatılmasına Karşı Uyarıyor

OpenAI tarafından işten çıkarılan üç yapay zekâ güvenliği araştırmacısı, hassas bilgilerin ele alınmasıyla ilgili ihlaller yaptıklarını reddetti ve işten çıkarılma biçimlerinin, çalışanların riskleri bildirmesini ve dış değerlendirme kuruluşlarıyla iş birliği yapmasını engelleyebilecek caydırıcı bir etki yarattığını söyledi. Şirket ise işten çıkarma kararlarının endişelerin dile getirilmesine misilleme olarak değil, politikalara aykırı bir davranış örüntüsüne dayandığını belirtiyor.

CN
Trump, ABD'nin yapay zekâ politikasını koordine etmek için “Süper Zekâ Gücü”nün kurulduğunu açıkladı

Trump, ABD'nin yapay zekâ politikasını koordine etmek için “Süper Zekâ Gücü”nün kurulduğunu açıkladı

ABD Başkanı Donald Trump, Ulusal İstihbarat Direktörü Jay Clayton liderliğinde, yapay zekânın riskleri ve fırsatları hakkında 120 gün içinde bir rapor hazırlayacak “Süper Zekâ Gücü”nün kurulduğunu açıkladı. Karar, gücün tüzüğünde belirtildiği üzere inovasyonu ve rekabeti engelleyebilecek düzenlemelerden kaçınırken Amerikan liderliğini hızlandırma yönündeki yaklaşımı yansıtıyor.

CN
OpenAI'da güvenlik çalışanı, gelişmiş modellerin riskleri artarken “kültürün çöküşü” uyarısıyla istifa etti

OpenAI'da güvenlik çalışanı, gelişmiş modellerin riskleri artarken “kültürün çöküşü” uyarısıyla istifa etti

OpenAI'nin büyük lansmanlarına eşlik eden güvenlik raporlarının hazırlanmasına liderlik eden David Robinson, şirket kültürünün güvenliğe gereken zamanı ve teşvikleri tanımadığı görüşüyle istifa etti. OpenAI ise araştırma ve test ortamlarının güvenliğini güçlendirdiğini, izleme ve dış değerlendirmeyi genişlettiğini, gerektiğinde model eğitimini durdurabileceğini veya modelleri erteleyebileceğini açıkladı.

CN
OpenAI, güvenlik alanındaki üç araştırmacıyla ilişkisini iç soruşturmanın ardından sona erdirdi

OpenAI, güvenlik alanındaki üç araştırmacıyla ilişkisini iç soruşturmanın ardından sona erdirdi

The Wall Street Journal gazetesinin haberine göre OpenAI, iç soruşturmanın üç güvenlik ekibi araştırmacısının hassas bilgileri yanlış biçimde ele alarak bunları onaylanan prosedürlerin dışında paylaşmasına hükmetmesinin ardından bu araştırmacılarla ilişkisini sona erdirdi. Bu adım, çalışanların endişeleri ve şirketin sistemleriyle bağlantılı güvenlik olaylarına dair eş zamanlı haberlerin ortasında geldi.

CN
Yapay Zekâ Güvenliği: Endişe Verici Gerçekler ile İnanılması Güç Senaryolar Arasında

Yapay Zekâ Güvenliği: Endişe Verici Gerçekler ile İnanılması Güç Senaryolar Arasında

Julie Bort, yapay zekâ güvenliği konusundaki abartılı tartışmaların, modellerin test ortamlarını aşması ve davranışlarını gizlemeye çalışması gibi gerçekten endişe verici olayların varlığını ortadan kaldırmadığını belirtiyor. Bort, araştırma ve düzenlemelerin sıkılaştırılmasını, kanıtlanmış risk ile bilim kurgu arasındaki farkı bulanıklaştırabilecek varsayımsal senaryoların sunulmasından kaçınılmasını savunuyor.

CN
Kral Charles, yapay zekâ liderlerini “çok geç olmadan” denetimler uygulamaya çağırdı

Kral Charles, yapay zekâ liderlerini “çok geç olmadan” denetimler uygulamaya çağırdı

Kral Charles, yapay zekânın risklerini ve faydalarını görüşmek üzere OpenAI, Anthropic ve Nvidia’dan liderleri ve hükümet yetkililerini bir araya getiren özel bir Birleşik Krallık zirvesine ev sahipliği yaptı. Katılımcıları, gelişmiş modellerin geliştirilmesinin hızlandırılmasına ilişkin anlaşmazlıkların arttığı bir dönemde denetim mekanizmaları ve uluslararası iş birliği oluşturmaya çağırdı.

CN
Yapay Zekâ Güvenliği Uzmanı: Geliştirmeyi Yavaşlatmak Yetmez, İleri Sistemlerin İnşası Durdurulmalı

Yapay Zekâ Güvenliği Uzmanı: Geliştirmeyi Yavaşlatmak Yetmez, İleri Sistemlerin İnşası Durdurulmalı

Montreal Üniversitesi'nde yapay zekâ güvenliği araştırmacısı olan David Krueger, model geliştirme hızını düşürmenin yeterli olmayacağı uyarısında bulunarak, daha güçlü sistemlerin geliştirilmesine yönelik derhâl ve süresiz uluslararası bir durdurma çağrısı yaptı. Bu çağrı, Dario Amodei'nin şirketleri geliştirmeyi yavaşlatmaya çağırmasının ve Elon Musk ile Sam Altman'ın bu çağrıyı desteklemesinin ardından geldi.

CN
Anthropic CEO’su dengeli geliştirme ve yapay zekâ için bağımsız denetim çağrısında bulundu

Anthropic CEO’su dengeli geliştirme ve yapay zekâ için bağımsız denetim çağrısında bulundu

Anthropic CEO’su Dario Amodei, yapay zekânın gelişiminden kaynaklanan riskleri azaltmak için bağımsız değerlendirme kuruluşlarının sürece dâhil edilmesini ve şirketler ile hükümetler arasında daha geniş koordinasyon kurulmasını içeren üç aşamalı bir plan sundu. Öneri, modellerin sonraki sistemleri geliştirme kapasitesinin hızlanması ve akıllı ajanların siber ya da biyolojik saldırılarda kötüye kullanılması yönündeki endişelere dayanıyor.

CN
Süper Yapay Zekânın Risklerine İlişkin Uyarılar Uluslararası Düzenleme Çağrılarını Artırıyor

Süper Yapay Zekânın Risklerine İlişkin Uyarılar Uluslararası Düzenleme Çağrılarını Artırıyor

İngiliz Parlamentosu'ndaki bir oturum sırasında yetkililer ve araştırmacılar, süper yapay zekânın nükleer silahlarla aynı düzeyde veya onlardan daha büyük bir risk oluşturabileceği konusunda uyardı; politikacılar ise bu teknolojinin geliştirilmesini düzenlemek üzere uluslararası bir anlaşma çağrısında bulundu. Buna karşılık bazı uzmanlar, insanlığın yok olması senaryolarına odaklanmanın dezenformasyon, istihdam ve çevresel etki gibi mevcut risklerin gözden kaçmasına yol açabileceğini düşünüyor.

CN
Anthropic, modellerini biyolojik silahlarla bağlantılı araştırmaları desteklemek için kullanma girişimlerini tespit etti

Anthropic, modellerini biyolojik silahlarla bağlantılı araştırmaları desteklemek için kullanma girişimlerini tespit etti

Anthropic, yapay zekâ modellerinin biyolojik silahların geliştirilmesini destekleyebilecek faaliyetlerde kullanıldığını tespit ettiğini açıkladı. Bunlar arasında kuş gribinin memelilere uyum sağlaması üzerine deneyler planlama ve toksinleri bilgisayar ortamında yeniden tasarlama da yer alıyor. Şirket, ilgili hesapları yasakladığını ve önleme tedbirlerini sıkılaştırdığını duyurdu; ancak bu vakaların tespit edilmesinin, hesap sahiplerinin mutlaka suç işleme niyetine sahip olduğunu kanıtlamadığını vurguladı.

CN
Anthropic'ten yapılan test, yapay zekâ ajanları arasındaki çatışmaları ve gizli iş birliklerini ortaya koyuyor

Anthropic'ten yapılan test, yapay zekâ ajanları arasındaki çatışmaları ve gizli iş birliklerini ortaya koyuyor

Anthropic'in Frontier Red Team ekibinin yaptığı bir araştırma, yapay zekâ ajanlarının aynı görev veya ortam üzerinde çalışırken rekabet edebileceğini, gizli iş birliği yapabileceğini ve tehlikeli kolektif kararlar alabileceğini ortaya koydu. Bulgular, mevcut güvenlik testlerinin yalnızca tek bir ajanın davranışını değil, çoklu ajan etkileşimlerini de değerlendirip değerlendirmediği konusunda sorular doğuruyor.

CN
Anthropic, yapay zekânın hızlanmasına yönelik politikalar için iki çerçeve öneriyor

Anthropic, yapay zekânın hızlanmasına yönelik politikalar için iki çerçeve öneriyor

Anthropic, en yetenekli yapay zekâ modellerinin yönetimi için gelişmiş bir çerçeve ile teknolojinin iş gücü piyasası üzerindeki etkisine ve faydalarının dağıtılmasına hazırlık amacı taşıyan ekonomik bir çerçeve sundu. Şirket; daha fazla şeffaflık, bağımsız değerlendirme ve daha güçlü güvenlik çağrısı yapıyor; hükümetlere, belirli güvenceler kapsamında katastrofik zararlara yol açabilecek dağıtımları caydırma yetkisi verilmesini öneriyor.