Gizlilik ve Teknoloji Politikaları

OpenAI, Avrupa Birliği İçinde ChatGPT ve Codex Metinlerini Filigranlamaya Başlıyor

OpenAI, Avrupa Birliği'nde ChatGPT ve Codex tarafından üretilen metinlere önümüzdeki haftalarda görünmez bir filigran eklemeyi planlıyor. Bu adım, Avrupa Yapay Zekâ Yasası'ndaki şeffaflık kurallarına yanıt niteliği taşıyor. Şirket, filigranın otomatik olarak tespit edilebildiğini, ancak düzenleme sonrasında veya kısa ve çevrilmiş metinlerde tespit edilmesinin zorlaştığını belirtiyor.

2026-10-05
3 dk okuma
502 görüntülenme
certi.news Editorial Team
OpenAI, Avrupa Birliği İçinde ChatGPT ve Codex Metinlerini Filigranlamaya Başlıyor

OpenAI, Avrupa Yapay Zekâ Yasası'nda yer alan şeffaflık kurallarına uymayı amaçlayan bir adım olarak, önümüzdeki haftalarda Avrupa Birliği içinde uygun kullanıcılara ChatGPT ve Codex tarafından üretilen metinlere görünmez bir filigran eklemeye başlayacak. Dağıtım tüm planları kapsayacak, ancak metin filigranlama başlangıçta küresel ölçekte varsayılan bir ayara dönüşmeyecek.

Şeffaflık kuralları 2 Ağustos'ta yürürlüğe girdi ve yapay olarak üretilen içeriğin, diğer sistemlerin onu tanıyabilmesini sağlayacak şekilde işaretlenmesini yapay zekâ şirketlerine zorunlu kılıyor. Buna karşılık, OpenAI'nin programlama arayüzünü dünyanın herhangi bir yerinde kullanan geliştiriciler, özelliği belirli modellerde bundan böyle etkinleştirebilecek; ancak özellik varsayılan olarak devre dışı bırakılmış durumda.

Filigran nasıl çalışıyor?

Filigran bir simge veya görünür bir uyarı şeklinde ortaya çıkmıyor; bunun yerine modelin önerdiği kelime seçimlerinde yapılan hassas bir değişiklik aracılığıyla oluşturuluyor. Bu değişiklik, özel bir tespit aracı tarafından algılanabilen bir örüntü bırakıyor ve metin kopyalanıp yapıştırıldığında da örüntü metin içinde kalıyor. OpenAI, filigranın kullanıcının kimliğini ortaya çıkarmadığını ve etkinleştirilmesinin şirketin testleri sırasında modellerin performansında anlamlı bir değişikliğe yol açmadığını söylüyor.

OpenAI eş zamanlı olarak, textGrain adını taşıyan yöntemi hakkında teknik bir rapor yayımladı. Rapor, şirketin yanı sıra Pennsylvania ve Yale üniversitelerinden araştırmacılar tarafından hazırlandı. Rapora göre yöntem, cümleler tamamlanırken sonraki kelimelerin olasılıklarını sıralamak için gizli bir anahtar kullanıyor, ardından yüzlerce değişikliği bir araya getirerek tespit aracının metni ve anahtarı kullanarak örüntüyü algılamasını sağlıyor.

Düzenleme sonrasında tespitin sınırları

Filigran, her durumda metnin kaynağına ilişkin kesin kanıt sunmuyor. OpenAI'nin gerçekleştirdiği bir testte, kelimelerin %10'unun eş anlamlılarla değiştirilmesi tespit oranını yaklaşık %92'den %66'ya düşürdü. Şirket ayrıca kısa bölümlerin, matematik yanıtlarının ve çevrilmiş metinlerin tespit edilmesinin daha zor olduğunu belirledi.

OpenAI, filigranın bulunmamasının metni bir insanın yazdığını kanıtlamadığı konusunda uyarıyor; metin çok kısa olabilir, yoğun bir düzenlemeden geçirilmiş olabilir veya başka bir şirkete ait bir yapay zekâ sistemi tarafından üretilmiş olabilir. Filigranın bulunması da bir OpenAI sisteminin bölümün bir kısmını oluşturduğuna veya işlediğine işaret edebilir, ancak üretiminde insan muhakemesinin, düzenlemesinin veya yaratıcılığının ne ölçüde yer aldığını belirlemez.

Bu haber neden önemli?

Bu dağıtım, Avrupa'daki kurumlara ChatGPT ve Codex içeriğini incelemek için ek bir teknik araç sağlıyor, ancak tek başına metnin kaynağını kanıtlama sorununu çözmüyor. Düzenleme, çeviri ve metin uzunluğuna karşı hassasiyet, tespit sonuçlarının dikkatle yorumlanması gerektiği anlamına geliyor. Bu nedenle OpenAI, tespit araçlarına ilk erişimi, güvenilirliklerini ve sorumlu kullanım alanlarını değerlendirmek üzere onaylı araştırmacılar ve uzman kuruluşlarla sınırladı.

Bu adım, Anthropic'in iki ay önce Claude tarafından üretilen metinleri dünya genelinde işaretleyeceğini duyurmasının ardından geldi. Bu karar, talimatlara, bağlama ve kararlara yaptıkları katkının Claude'u bir yazar değil, bir araç haline getirdiğini düşünen bazı kullanıcıların itirazlarıyla karşılaştı. The Wall Street Journal'ın 2024'te yayımladığı bir habere göre OpenAI daha önce metin filigranlama teknolojisi geliştirmiş, ancak kullanıcıların filigran kullanmayan rakiplere geçeceği yönündeki endişeler nedeniyle bunu yayımlamaktan kaçınmıştı.

Haber kaynağı
c
Yazar

certi.news Editorial Team

Bilmeniz gerekenler

OpenAI, Avrupa Birliği'ndeki uygun kullanıcılar için önümüzdeki haftalarda ChatGPT ve Codex tarafından üretilen metinlere görünmez bir filigran eklemeyi planlıyor. Bu, Avrupa Yapay Zekâ Yasası'ndaki şeffaflık kurallarına uyum sağlamak amacı taşıyor. Filigran otomatik olarak tespit edilebilse de metnin kaynağını kesin olarak kanıtlamaz; düzenleme, çeviri ve metnin kısa olması bundan etkilenebilir.

  • Lansman, Avrupa Birliği içindeki tüm planları kapsayacak; ancak başlangıçta küresel olarak varsayılan bir ayar olmayacak.
  • textGrain yöntemi, gizli bir anahtar kullanarak kelime seçme olasılıklarında hassas değişiklikler yapmaya ve ardından metin içindeki örüntüyü tespit etmeye dayanıyor.
  • Filigran, metin kopyalanıp yapıştırıldığında genellikle korunuyor; ancak düzenleme sonrasında veya kısa ve çevrilmiş metinlerde tespit edilmesi zorlaşıyor.
  • Kelimelerin %10'unun eş anlamlılarla değiştirilmesi, OpenAI'nin testinde tespit oranını yaklaşık %92'den %66'ya düşürdü.
  • Filigranın bulunmaması metnin insan tarafından yazıldığını kanıtlamaz; filigranın bulunması ise bir OpenAI sisteminin metnin bir bölümünü oluşturmuş veya işlemiş olabileceğini gösterir, ancak insan katkısının kapsamını belirlemez.
  • Tespit araçlarına ilk erişim, güvenilirliklerini ve sorumlu kullanım alanlarını değerlendirmek üzere yetkilendirilmiş araştırmacılar ve uzman kuruluşlarla sınırlı olacak.

SSS

Filigran hangi metinleri kapsayacak?

Avrupa Birliği'ndeki uygun kullanıcılar için ChatGPT ve Codex tarafından üretilen metinleri kapsayacak ve tüm planlara uygulanacak.

Filigran kullanıcının kimliğini ortaya çıkarır mı?

OpenAI, filigranın kullanıcının kimliğini ortaya çıkarmadığını belirtiyor.

Filigran, metnin tamamen yapay zekâ tarafından yazıldığı anlamına mı gelir?

Hayır. Bir OpenAI sisteminin metnin bir bölümünü oluşturmuş veya işlemiş olabileceğine işaret edebilir; ancak kullanılan insan düzenlemesinin, muhakemesinin veya yaratıcılığının miktarını belirlemez.

Filigran kaldırılabilir veya tespit edilmesi zorlaştırılabilir mi?

Düzenleme sonrasında, kelimelerin eş anlamlılarla değiştirilmesiyle ve kısa veya çevrilmiş metinlerde tespit edilmesi zorlaşabilir.

Aynı kategoride

Bunlar da ilginizi çekebilir

Tüm haberleri gör