OpenAI, Avrupa Yapay Zekâ Yasası'nda yer alan şeffaflık kurallarına uymayı amaçlayan bir adım olarak, önümüzdeki haftalarda Avrupa Birliği içinde uygun kullanıcılara ChatGPT ve Codex tarafından üretilen metinlere görünmez bir filigran eklemeye başlayacak. Dağıtım tüm planları kapsayacak, ancak metin filigranlama başlangıçta küresel ölçekte varsayılan bir ayara dönüşmeyecek.
Şeffaflık kuralları 2 Ağustos'ta yürürlüğe girdi ve yapay olarak üretilen içeriğin, diğer sistemlerin onu tanıyabilmesini sağlayacak şekilde işaretlenmesini yapay zekâ şirketlerine zorunlu kılıyor. Buna karşılık, OpenAI'nin programlama arayüzünü dünyanın herhangi bir yerinde kullanan geliştiriciler, özelliği belirli modellerde bundan böyle etkinleştirebilecek; ancak özellik varsayılan olarak devre dışı bırakılmış durumda.
Filigran nasıl çalışıyor?
Filigran bir simge veya görünür bir uyarı şeklinde ortaya çıkmıyor; bunun yerine modelin önerdiği kelime seçimlerinde yapılan hassas bir değişiklik aracılığıyla oluşturuluyor. Bu değişiklik, özel bir tespit aracı tarafından algılanabilen bir örüntü bırakıyor ve metin kopyalanıp yapıştırıldığında da örüntü metin içinde kalıyor. OpenAI, filigranın kullanıcının kimliğini ortaya çıkarmadığını ve etkinleştirilmesinin şirketin testleri sırasında modellerin performansında anlamlı bir değişikliğe yol açmadığını söylüyor.
OpenAI eş zamanlı olarak, textGrain adını taşıyan yöntemi hakkında teknik bir rapor yayımladı. Rapor, şirketin yanı sıra Pennsylvania ve Yale üniversitelerinden araştırmacılar tarafından hazırlandı. Rapora göre yöntem, cümleler tamamlanırken sonraki kelimelerin olasılıklarını sıralamak için gizli bir anahtar kullanıyor, ardından yüzlerce değişikliği bir araya getirerek tespit aracının metni ve anahtarı kullanarak örüntüyü algılamasını sağlıyor.
Düzenleme sonrasında tespitin sınırları
Filigran, her durumda metnin kaynağına ilişkin kesin kanıt sunmuyor. OpenAI'nin gerçekleştirdiği bir testte, kelimelerin %10'unun eş anlamlılarla değiştirilmesi tespit oranını yaklaşık %92'den %66'ya düşürdü. Şirket ayrıca kısa bölümlerin, matematik yanıtlarının ve çevrilmiş metinlerin tespit edilmesinin daha zor olduğunu belirledi.
OpenAI, filigranın bulunmamasının metni bir insanın yazdığını kanıtlamadığı konusunda uyarıyor; metin çok kısa olabilir, yoğun bir düzenlemeden geçirilmiş olabilir veya başka bir şirkete ait bir yapay zekâ sistemi tarafından üretilmiş olabilir. Filigranın bulunması da bir OpenAI sisteminin bölümün bir kısmını oluşturduğuna veya işlediğine işaret edebilir, ancak üretiminde insan muhakemesinin, düzenlemesinin veya yaratıcılığının ne ölçüde yer aldığını belirlemez.
Bu haber neden önemli?
Bu dağıtım, Avrupa'daki kurumlara ChatGPT ve Codex içeriğini incelemek için ek bir teknik araç sağlıyor, ancak tek başına metnin kaynağını kanıtlama sorununu çözmüyor. Düzenleme, çeviri ve metin uzunluğuna karşı hassasiyet, tespit sonuçlarının dikkatle yorumlanması gerektiği anlamına geliyor. Bu nedenle OpenAI, tespit araçlarına ilk erişimi, güvenilirliklerini ve sorumlu kullanım alanlarını değerlendirmek üzere onaylı araştırmacılar ve uzman kuruluşlarla sınırladı.
Bu adım, Anthropic'in iki ay önce Claude tarafından üretilen metinleri dünya genelinde işaretleyeceğini duyurmasının ardından geldi. Bu karar, talimatlara, bağlama ve kararlara yaptıkları katkının Claude'u bir yazar değil, bir araç haline getirdiğini düşünen bazı kullanıcıların itirazlarıyla karşılaştı. The Wall Street Journal'ın 2024'te yayımladığı bir habere göre OpenAI daha önce metin filigranlama teknolojisi geliştirmiş, ancak kullanıcıların filigran kullanmayan rakiplere geçeceği yönündeki endişeler nedeniyle bunu yayımlamaktan kaçınmıştı.