Google, yapay zekâyla oluşturulan veya değiştirilmiş içerikleri tespit etmeye yönelik SynthID aracını genişletti ve tüm kullanıcıların görsel, video ve ses dosyalarını görünmez filigran aramak üzere inceleyebileceği özel bir site kullanıma sundu. Kullanıcılar, filigranın mevcut olup olmadığı konusunda yanıt almak için Gemini’ye güvenmek yerine artık dosyayı SynthID.com’a yükleyerek doğrudan sonuç alabiliyor.
Ne değişti?
SynthID, görsellerin ve videoların piksellerinin içine veya ses dalgasına gizli bir işaret yerleştiriyor. Google, Gemini’nin bu teknolojiyi 180 milyardan fazla görsel ve videoya, ayrıca 240 bin yıllık ses içeriğine eşdeğer bir hacme entegre ettiğini söylüyor. Güvenilir test kullanıcıları programı dışındaki taramalar Gemini üzerinden gerçekleştiriliyordu. Bu yöntem, özellikle kullanıcının net bir evet-hayır yanıtına ihtiyaç duyduğu durumlarda her zaman pratik değildi.
Google’ın önceki aracındaki en büyük kısıtlama, yalnızca Google’ın SynthID sürümünü doğrulamasıydı. Yeni site, SynthID iş ortaklarının farklı filigranlarını da destekliyor. Bu ortaklar arasında OpenAI, Nvidia ve Kakao bulunuyor; Google’ın açıklamasına göre Apple’ın da katılması bekleniyor. Böylece site, her sağlayıcı için ayrı araçlar kullanma gereği yerine tek bir tarama noktası haline geliyor.
Kullanım sınırlamaları ve sonuçlar
Site, görsel içinde SynthID piksellerinin bulunduğu bölgeleri belirlemek gibi dahili araçta mevcut olan ayrıntıları göstermiyor. Bunun yerine kullanıcıya yalnızca filigranın medyayı üretmek veya değiştirmek için kullanılıp kullanılmadığını bildiriyor.
Hizmeti kullanmak için oturum açmak gerekiyor; hizmet Google, OpenAI ve Apple hesaplarını kabul ediyor. Google ayrıca kullanıcı başına görsel, video ve ses dosyaları için günlük yaklaşık 10 tarama kotası uyguluyor. Ars Technica’nın Google mühendislerinden aktardığına göre bu sınırlama, aracın SynthID’yi kaldırma veya aşma yöntemleri geliştirmek amacıyla kullanılmasını azaltmayı hedefliyor. Birbirine çok benzeyen dosyalar tarandığında gerçek erişim daha da düşebilir; çünkü bu durum, dedektörü aşmak üzere bir iş akışını ayarlama girişimine işaret edebilir.
SynthID neden tek başına yeterli değil?
SynthID’ye erişimin genişletilmesi, çeşitli yapay zekâ araçlarının parmak izlerini doğrulamayı kolaylaştırıyor; ancak aracı kapsamlı bir dedektöre dönüştürmüyor. Meta gibi bazı şirketler farklı etiketleme teknikleri kullanırken, diğer modeller herhangi bir filigran eklemiyor. Ayrıca açık ağırlıklı modeller, güvenilebilecek basit bir etiket veya meta veri olmadan yerel olarak içerik üretebiliyor.
Filigranın kaldırılması hâlâ mümkün olduğundan SynthID sonucunun bulunmaması, içeriğin özgün olduğunu kanıtlamıyor. Buradaki editoryal değerlendirmeye göre lansmanın değeri, içerik özgünlüğü doğrulama sorununu nihai olarak çözmesinde değil, tarama işlemlerini bir araya getirip birden fazla iş ortağına genişletmesinde yatıyor. Bunun karşıtı olan ve görsel, video ve ses dosyalarının oluşturuldukları anda C2PA gibi şifreleme teknolojileri kullanılarak özgünlüğünü kanıtlayan yaklaşım ise farklı bir yol sunuyor; maddede bu yaklaşımı uygulayan cihazlar arasında Pixel telefonların da bulunduğu belirtiliyor.