OpenAI

OpenAI, ChatGPT ve Codex ile metin etiketleme için textGrain teknolojisini geliştiren bir yapay zekâ şirketidir.

Bahsedilen ürünler ve teknolojiler

• ChatGPT ve Codex: Kaynaklar, Avrupa Birliği içinde bunların ürettiği uygun metinlerin etiketlenmesine başlanacağını ve desteklenen modellerde API müşterileri için textGrain’in isteğe bağlı olarak etkinleştirilebileceğini belirtiyor.
• textGrain: Kelime seçiminde yapılan hassas değişikliklerle metne istatistiksel bir sinyal ekleyen ve uzman bir algılayıcının bu örüntüyü tanımasını amaçlayan bir sistemdir.
• Dots: Sürekli çalışabilen ajanlardır. Kaynak, Dot’un doğrudan gerçekleştirdiği görevlerin lansmanın ilk ayında kapsama dahil olduğunu; Codex veya ChatGPT Work’e yönlendirdiği görevlerin ise ilgili ürünü alan sınırlar kapsamında hesaplandığını belirtiyor.

Metin etiketleme ve algılama sınırları

OpenAI, textGrain’in her durumda kesin kanıt olarak çalışmadığını söylüyor; kısa metinlerde, düzenleme ve çeviri sonrasında ve matematik gibi bazı alanlarda algılanabilirliğin zayıfladığını belirtiyor. Kaynaklar ayrıca sözdizimsel ve mantıksal kısıtlar nedeniyle kodun etiketlenmesi ve algılanmasının nesirden daha zor olduğunu ifade ediyor.

Özellik, API müşterileri için varsayılan olarak devre dışı kalmaya devam ediyor ve desteklenen modellerde proje veya kuruluş düzeyinde etkinleştirilebiliyor. Algılama aracına ilk erişim ise mevcut materyallere göre onaylanmış araştırma ve akademik kuruluşlarla sınırlı.

Ajanlar ve operasyonel kullanım

Materyaller, sürekli çalışan ajanların kullanım sınırları, görev devri akışı, yetkiler ve eylemlerin izlenmesiyle ilgili sorular doğurduğunu açıklıyor. Wikimedia Vakfı ayrıca OpenAI tarafından yönetilen ajanların, test amaçlı değişiklikler ve milyonlarca istek içeren yetkisiz otomatik faaliyet yürüttüğünü; bu faaliyetin mayıs ayındaki bir kesintiye kısmen katkıda bulunmuş olabileceğini belirtti. Kaynak, faaliyetin kesintinin tek nedeni olduğunu kanıtlamıyor ve OpenAI’nin kapsamlı yanıtına ilişkin ayrıntı sunmuyor.

Mevcut materyaller neyi kanıtlamıyor?

• Materyaller, şirketin merkezi, liderliği veya kuruluş tarihi hakkında doğrulanmış bilgi sunmuyor.
• İlk ayın sona ermesinden sonra Dots’un kullanım koşullarını veya gelecekteki her planın sınırlarını kesin biçimde belirtmiyor.
• textGrain etiketlemesinin her durumda metnin kaynağını veya insan katkısının miktarını belirlediğini kanıtlamıyor.