Meta, reklamların açıkça ihlal teşkil etmediği, ancak kullanıcıları çocuk cinsel istismarı materyallerinin barındırıldığı harici sitelere yönlendirmek için kullanıldığı yöntemleri hedefleyen yeni bir yapay zekâ araçları grubu duyurdu. Şirket ayrıca, 2026'nın ilk yarısında Facebook ve Instagram'da çocukların cinsel istismarıyla ilgili 33,2 milyon materyal hakkında işlem yaptığını ve sistemlerinin bunların yüzde 97'sinden fazlasını kullanıcılar bildirmeden önce tespit ettiğini söyledi.
Meta, aynı dönemde Hindistan'da 5,3 milyon materyal hakkında işlem yaptı ve bunların yüzde 98'inden fazlasının proaktif olarak tespit edildiğini söyledi. Kaynakta yer alan rakamlar, bu materyallerle bağlantılı hesap veya reklamların sayısını açıklamıyor; ancak şirketin insan bildirimleri ulaşmadan önce otomatik tespit yöntemlerine giderek daha fazla güvendiğini gösteriyor.
Yalnızca reklamı değil, varış noktasını da tespit etmek
Yeni araçların öne çıkanı, Meta'nın «gizli yönlendirme» (signposting) olarak adlandırdığı durumu tespit etmek için büyük dil modeline dayanan bir sistem kullanıyor. Bu terim, sıradan görünebilen, ancak şirketin platformları dışında yasa dışı içeriğe veya zararlı faaliyetlere açılan bir kapı olarak kullanıldığından şüphelenilen reklamları ifade ediyor.
Yeni yaklaşım kapsamında Meta, yalnızca reklamın içeriğini analiz etmekle kalmıyor, kullanıcının yönlendirildiği varış noktasını da inceliyor. Site veya varış noktasının şirketin kurallarını ihlal ettiği tespit edilirse Meta bu noktayı engelleyebiliyor ve arkasındaki hesaplar hakkında işlem yapabiliyor. Meta, bu değişikliğin, kötü niyetli aktörlerin geleneksel tespit araçlarından kaçınmak için yöntemlerini geliştirdiğinin fark edilmesinin ardından geldiğini söylüyor.
Saldırgan testler ve geri dönen hesapların takibi
Şirket ayrıca, önceki sistemlerinin tespit etmemiş olabileceği materyalleri bulmak için yapay zekâ destekli ek tarama işlemleri kullanıyor ve bu ağların nasıl çalıştığını daha iyi anladıkça yeni sinyaller ekliyor.
Meta ayrıca, iç koruma sistemlerindeki zayıf noktaları aramak ve istismarcıların bu sistemleri aşmak için kullanabileceği yöntemleri taklit etmekle görevli bir «saldırgan test yapay zekâ ajanı» (red-teaming AI agent) geliştirdi. Şirket, daha önce kaldırılan hesaplarının ardından yeni hesaplarla platformlara geri dönen kişileri tespit etme kapasitesini de geliştirdiğini duyurdu.
Bu haber neden önemli?
Pratikteki değişiklik, güvenlik izlemesinin bir bölümünü gönderi veya reklam analizinden, yasal görünen bir reklamla başlayıp zararlı bir harici sitede sona erebilecek sürecin tamamını analiz etmeye taşıyor. Bu, önleyici müdahalenin kapsamını genişletiyor; ancak sistemin etkililiğini, harici varış noktalarını ve hesaplar arasındaki ilişkileri değerlendirme kapasitesine bağlı hâle getiriyor. Bu alanlar, kötü niyetli ağların yöntemleri değiştikçe sürekli güncelleme gerektirebilir.
Bu önlemler, çocukların korunması konusunda Meta üzerindeki devam eden hukuki ve siyasi baskıların ortasında geliyor. Şirket ağustos ayında, 29 ABD eyaletinin çocuk güvenliğiyle ilgili açtığı davayı sonuçlandırmak üzere 18 milyar dolara kadar ödeme yapmak için anlaşmaya vardı. Şirket ayrıca yıl içinde Meta AI için ebeveyn denetimi araçları, WhatsApp'ta ergenlik çağının altındaki kişiler için özel hesaplar ve çocukların Instagram'da kendine zarar verme ile ilgili içerik araması durumunda ebeveynlere bildirim gönderilmesini içeren özellikleri kullanıma sundu.
certi.news'in değerlendirmesi: Duyuru, yapay zekânın rolünü ihlal teşkil eden içeriği tespit etmekten, bu içeriğe ulaşılmasını sağlayan yapıyı analiz etmeye doğru açıkça genişletiyor. Ancak kaynak, «gizli yönlendirme» araçlarının doğruluğuna ilişkin bağımsız ölçümler sunmuyor ve yeni araçlar sonucunda kaç site veya hesabın engellendiğini açıklamıyor. Bu nedenle açıklanan nicel sonuçlar, Meta'nın kendi raporlarına dayanmaya devam ediyor.