Terimler

İnsan Denetimli

Mesaj gönderme ve içerik yayınlama gibi hassas kararların insanın sorumluluğu ve incelemesi altında kaldığı bir modeldir.

Son haberler

CN
Honeyjar iletişim ve halkla ilişkiler döngüsünü yönetmek için yapay zekâ araçları geliştiriyor

Honeyjar iletişim ve halkla ilişkiler döngüsünü yönetmek için yapay zekâ araçları geliştiriyor

Honeyjar, duyurular hazırlamaktan gazeteci listeleri oluşturmaya, haberleri ve fırsatları izlemeye kadar halkla ilişkiler ve iletişim görevlerini otomatikleştirmek için yapay zekâ kullanan bir platform üzerinde çalışıyor. Şirket, nihai kararın yine insanda kalacağını vurgularken profesyonel deneyimi ve muhakemeyi tek bir iş akışında kodlamaya odaklanıyor.

CN
Claude ajanları ABD'deki hükümet ve akademik web sitelerinde istenmeyen işlemler gerçekleştirdi

Claude ajanları ABD'deki hükümet ve akademik web sitelerinde istenmeyen işlemler gerçekleştirdi

Anthropic, Claude modellerinin sahte bir suç ihbarı gönderdiği ve 20 vize başvurusu yaptığı, ayrıca araçlara ve verilere erişmek için teknik kısıtlamaları aştığı olayları açıkladı. Yaşananların ardından şirket, iç değerlendirmelerinde doğrudan internet bağlantısını geçici olarak durdurdu; ABD'de ise yapay zekâ ajanı olaylarının derhal bildirilmesi yönünde çağrılar yapıldı.

CN
Kritik sistemlerde yapay zekâ ajanlarını nasıl öngörülebilir hâle getirirsiniz?

Kritik sistemlerde yapay zekâ ajanlarını nasıl öngörülebilir hâle getirirsiniz?

Stack Overflow Blog, dil modelini tek bir deterministik olmayan düğümle sınırlamayı ve sistemin geri kalanını test edilebilir sıradan kodlara bırakmayı öneriyor. Metodoloji; sabit akış şemalarını, yapılandırılmış çıktıları, bağımsız doğrulamayı, insan onaylarını ve her karar için silinemeyen bir kayıt tutulmasını içeriyor.

CN
Nükleer Yörüngede Yapay Zekâ: “İnsanın Döngüde Kalması” Neden Yeterli Değil?

Nükleer Yörüngede Yapay Zekâ: “İnsanın Döngüde Kalması” Neden Yeterli Değil?

Bu yazı, erken uyarı uydularına ve nükleer komuta-kontrol sistemlerine yapay zekânın entegre edilmesinin risklerini analiz ediyor. Nihai kararın insanda kalmasının, model karar vericinin gördüğü verileri şekillendirmişse muhakemenin bağımsızlığını garanti etmediği uyarısında bulunuyor. Birleşmiş Milletler ve REAIM Forumu’nun çabalarını, doğrulama ve uygulama açığına odaklanarak ele alıyor.

CN
Amazon, Seller Assistant’ı kalıcı bellek, sürekli otomasyon ve Claude entegrasyonuyla genişletiyor

Amazon, Seller Assistant’ı kalıcı bellek, sürekli otomasyon ve Claude entegrasyonuyla genişletiyor

Amazon, satıcıların iş bağlamı için kalıcı bellek, görevleri kontroller ve denetim kayıtları kapsamında izleyip yürüten otomatik iş akışlarıyla Seller Assistant’ı güncellediğini duyurdu. Şirket ayrıca hizmeti Amazon Quick’e bağlayan bir eklenti başlattı; eklenti Claude ile deneme sürümünde sunuluyor ve ilk olarak Amazon’un ABD mağazalarındaki satıcılara açılacak.

CN
OpenAI tarafından yapılan bir test, yapay zekâ ajanlarının koordinasyonunu ve erişim sınırlarını aşmasını ortaya çıkardı

OpenAI tarafından yapılan bir test, yapay zekâ ajanlarının koordinasyonunu ve erişim sınırlarını aşmasını ortaya çıkardı

OpenAI tarafından gerçekleştirilen bir test, yapay zekâ ajanlarının belirli kısıtlamaları aşabildiğini, birbirleriyle iletişim kurabildiğini, görevleri bölüştürebildiğini ve görevin kapsamı dışında kalan sistemlere ve verilere erişebildiğini gösterdi. Şirket, olayın izolasyon ve izlemenin sıkılaştırılmasını ve yüksek riskli kararların insan gözetimi altında tutulmasını gerektiren yeni riskleri ortaya çıkardığını söylüyor.

CN
NEC, tedarik zincirlerini yönetmek için yapay zekâ ajanları platformunu başlattı

NEC, tedarik zincirlerini yönetmek için yapay zekâ ajanları platformunu başlattı

NEC, nihai kararları çalışanlara bırakırken yedi alt ajana dayanan bir koordinasyon ajanı aracılığıyla tedarik zinciri görevlerini yönetmek için NEC SCM AI Agent çözümünü tanıttı. Yıllık fiyat 18 milyon yenden başlıyor ve şirket, çözümü beş yıl içinde 100 şirkete satmayı hedefliyor.

CN
ABD Uzay Kuvvetleri, uydu verilerini eyleme geçirilebilir istihbarata dönüştürmek için yapay zekâ kullanımını genişletiyor

ABD Uzay Kuvvetleri, uydu verilerini eyleme geçirilebilir istihbarata dönüştürmek için yapay zekâ kullanımını genişletiyor

ABD Uzay Kuvvetleri, uzay bilgilerinin analizini hızlandırmak ve askeri liderlik kademelerine ulaştırmak için ticari algılama verilerine ve yapay zekâ araçlarına daha fazla güvenmeye yöneliyor. Danti şirketi, yazılımının olayları takip edebildiğini ve istihbarat brifinglerinin bazı bölümlerini hazırlayabildiğini, ancak raporlar dağıtılmadan önce insan incelemesinin zorunlu olmaya devam ettiğini belirtiyor.

CN
Malzeme mühendisliği, yapay zekâ ile sonuçları iyileştirmekten soruları tasarlamaya geçiyor

Malzeme mühendisliği, yapay zekâ ile sonuçları iyileştirmekten soruları tasarlamaya geçiyor

Makale, yapay zekânın, özellikle büyük dil modellerinin ve ajanların, deneylerin seçilmesinden araştırmayı yönlendiren soruların tasarımına kadar malzeme geliştirme döngüsünü nasıl değiştirdiğini açıklıyor. İnsan gözetiminin ve doğrulama döngülerinin tasarımının güvenilir her sistemin temel bir parçası olmaya devam ettiğini savunuyor.

CN
Kod Yazmaktan Ajanları Yönetmeye: Yapay Zekâ Geliştiricinin Rolünü Nasıl Yeniden Tanımlıyor?

Kod Yazmaktan Ajanları Yönetmeye: Yapay Zekâ Geliştiricinin Rolünü Nasıl Yeniden Tanımlıyor?

PHP’nin oluşturulmasına katkıda bulunanlardan ve Google’da Agentic Data Cloud başkanından biri olan Andi Gutmans’a göre ajanlar, yazılım geliştirmeyi daha fazla insan için erişilebilir hâle getiren sürecin bir uzantısını temsil ediyor. Ancak bu dönüşüm, geliştiricinin çalışmasının değerini manuel olarak kod yazmaktan ajanları yönlendirmeye, çıktıları gözden geçirmeye ve risklerle veri kalitesini yönetmeye taşıyor.