Cloudflare, metinleri, görüntüleri, sesi ve videoyu tek bir işleme hattı içinde analiz edebilen açık ağırlıklı bir karar modeli olan Clef-omni’yi kullanıma sundu. Duyuru, geçen hafta Clef ve Clef-flash’ın kullanıma sunulmasının ardından geldi ve sesi metne dönüştürmek veya görsel kanalları videodan ayırmak için ayrı modeller zincirine güvenmek yerine, belirli bir şemayla sınırlandırılmış kararların çıkarılmasını gerektiren kullanım alanlarını hedefliyor.
Çok modlu girdiler için tek model
Clef-omni, metin ve görüntülerin yanı sıra WAV ve MP3 ses dosyalarını, MP4 ve WebM video dosyalarını destekliyor. Cloudflare; bir ürün biriminin görüntüsü, çalışması sırasında alınmış bir ses kaydı ve fana ait bir videoyla cihazın incelenmesini, ardından model numarasının görünüp görünmediği, sesin normal olup olmadığı ve fanın çalışıp çalışmadığı hakkında yapılandırılmış sorular sorulmasını örnek olarak sunuyor.
Model, çoklu uzmanlar (MoE) teknolojisine sahip Qwen3-Omni-30B-A3B-Instruct temelinde oluşturuldu; temel anlama bileşeni kullanılırken metinden konuşmaya bileşenlerinden vazgeçildi. Büyük dil modelleri gibi çıktı token’ları üretmek yerine Clef, belirli bir şema içindeki aday seçeneklerin puanlarını doğrudan hesaplıyor; seçeneklerin anlamını korumak için iki aşamalı bir dikkat yönlendirme mekanizması ve yerleşik dilbilgisi kuralları kullanıyor.
Cloudflare, metin kararlarının yaklaşık 130 milisaniyelik bir medyanla, görüntü girdilerinin yaklaşık 150 milisaniyede, ses girdilerinin ise birkaç yüz milisaniyede döndürüldüğünü belirtiyor. Ses içeren 21 saniyelik bir video ise tek bir API isteği üzerinden yaklaşık 1,5 saniyede değerlendiriliyor. Şirket, Clef-omni ağırlıklarını geliştirici belgelerinin yanı sıra Hugging Face’te de kullanıma sundu.
Pratikte ne değişiyor?
Yeni tasarım, karar verilmeden önce konuşmanın metne dönüştürülmesi veya videonun ayrıştırılması için sıralı işleme hatları oluşturma ihtiyacını azaltıyor. Bu durum, fatura işleme, müşteri hizmetleri ve güvenlik olaylarının izlenmesi gibi yapılandırılmış yanıtlar gerektiren inceleme ve sınıflandırma görevlerine uyuyor; ancak modelin kalitesinin belirli alan için yeterli olması gerekiyor.
Ancak test sonuçları her görevde diğer modellerden üstün değil. Clef-omni, BFCL eşleşen durumlar testinde %98,2, API-Bank’te %92,7 ve BANKING77’de %94,8 oranlarına ulaştı; ancak ev aletleri, When2Call ve PhishNChips gibi bazı testlerde Clef ve Clef-flash’ın gerisinde kaldı. Bu nedenle yeni ortamların eklenmesi, her senaryoda genel bir üstünlük anlamına gelmiyor.
Clef-flash fiyatında indirim ve Clef’te hız artışı
Cloudflare, Clef-flash’ın fiyatını her bir milyon giriş token’ı için 0,09 dolardan 0,038 dolara düşürdü; Clef’in fiyatı 0,24 dolar olarak kaldı ve Clef-omni, her bir milyon giriş token’ı için 0,15 dolar fiyatla kullanıma sunuldu. Buna karşılık Clef-flash’ın barındırılan sürümündeki bağlam penceresi 64 binden 24 bin tokene küçültüldü. Şirket, isteklerin yalnızca %0,24’ünün yeni sınırı aştığını, Hugging Face ağırlıklarının ise kendi kendine barındırma sırasında 256 bine kadar token’lık bir pencereyi destekleyecek şekilde eğitildiğini belirtiyor.
Cloudflare ayrıca Workers AI üzerinde barındırılan Clef’in hızını artırdı. Yaklaşık 800 token’lık girdilerin medyan süresi 262 milisaniyeden 152 milisaniyeye, yaklaşık 3400 token’lık girdilerin süresi ise 616 milisaniyeden 305 milisaniyeye düştü; bu da 2,0 kata kadar hızlanma anlamına geliyor. Şirket, iyileşmenin bir bölümünü SGLang kullanımına bağlıyor; katkıların 0.5.22 sürümünde ortaya çıkacağını belirtiyor.
Bu duyuru neden önemli?
Duyuru, karar modelleri için pratik bir yönelim sunuyor: uzun metin üretmek yerine farklı girdileri işlemek ve yapılandırılmış seçenekler çıkarmak. Cloudflare içindeki ekipler bu modelleri GitHub’daki spam iletileri tespit etmek, EmDash sistemi eklentilerini kimlik avı açısından incelemek, kişisel meta verileri izlemek ve kötü amaçlı alan adlarını tespit etmek için kullandı. Ancak bu örnekler şirket içi örnekler ve değişken test sonuçları ile Clef-flash’taki bağlam penceresi sınırlamaları, modelin hassas operasyonlarda kullanılmasından önce değerlendirilmesi gereken faktörler olmaya devam ediyor.