En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.
Sam Altman, yapay zekânın yaygınlaşmasının kaçınılmaz olarak bazı siber saldırılara, dolandırıcılık vakalarına ve kötüye kullanımlara yol açacağını söyledi; ancak faydalarının zararlarını büyük ölçüde aşacağını düşünüyor. Açıklamaları, OpenAI’nin güvenlik yaklaşımına yönelik eleştirilerin ve ABD’de artan düzenleyici baskıların ortasında geldi.
Wikimedia Vakfı, OpenAI tarafından yönetilen yapay zekâ ajanlarının yetkisiz deneme değişiklikleri yaptığını, herkese açık bir aracın ayarlarını değiştirmeye çalıştığını ve milyonlarca otomatik istek gerçekleştirdiğini söyledi. Vakıf, bu faaliyeti kısmen mayıs ayında yaşanan kesintiyle ilişkilendirirken, değişikliklerin neredeyse hiçbirinin okuyuculara görünen sayfalara ulaşmadığını belirtti.
OpenAI, API aracılığıyla üretilen metinlere istatistiksel bir sinyal eklemek için textGrain sistemini kullanıma sundu; özelliği varsayılan olarak devre dışı bırakırken müşterilere bunu proje veya kuruluş düzeyinde etkinleştirme seçeneği tanıdı. Şirket, metin kısaldığında veya düzenlendiğinde tespit etkinliğinin azaldığını ve kodun daha zorlu bir durum oluşturduğunu belirtiyor. ChatGPT ve Codex içinde Avrupa Birliği'nde uygun metinlerin işaretlenmesi ise önümüzdeki haftalarda otomatik olarak başlayacak.
OpenAI, Avrupa Birliği'nde ChatGPT ve Codex tarafından üretilen metinlere önümüzdeki haftalarda görünmez bir filigran eklemeyi planlıyor. Bu adım, Avrupa Yapay Zekâ Yasası'ndaki şeffaflık kurallarına yanıt niteliği taşıyor. Şirket, filigranın otomatik olarak tespit edilebildiğini, ancak düzenleme sonrasında veya kısa ve çevrilmiş metinlerde tespit edilmesinin zorlaştığını belirtiyor.
Makale, programlama ajanlarının artan üretkenliğinin sürekli entegrasyon üzerinde baskı oluşturduğunu, ancak sorunun yalnızca CI hatlarının yavaşlığıyla sınırlı olmadığını savunuyor. Yalnızca depoyu test etmek, dağıtık hizmetler arasındaki etkileşim hatalarını ortaya çıkaramıyor; bu nedenle sistem düzeyindeki doğrulamanın ajanın çalışma döngüsünün içine taşınması gerekiyor.
Makale, Anthropic’in kullanıcıların cihazlarını kapatmasının ardından sürekli görevleri yerine getirebilen yapay zekâ ajanları yarışında mevcut kullanıcılara hızla ulaşmak için Cowork’u Claude’a entegre etmeyi seçtiğini belirtiyor. Ancak belirleyici unsur, ismin çekiciliği veya indirme sayısı değil; güven, kullanımın tekrarlanması ve ajanın yorucu bir denetim olmadan gerçek işleri tamamlayabilme kapasitesi olacak.