TypeSafe AI, Transformer mimarisi üzerine kurulu olan ancak ne büyük dil modelleri kategorisine giren ne de kullanıcı için metin üreten Jev adlı bir yapay zekâ modelini piyasaya sürdü. Bunun yerine model, geliştirici gerekli çıktı türlerini önceden belirledikten sonra şirketin “kalibre edilmiş kararlar” olarak adlandırdığı sonuçlara ilişkin olasılıkları döndürüyor.
Şirketi, daha önce OpenAI'da araştırmacı olarak çalışan, ChatGPT'nin oluşturulmasına katılan ve insan geri bildirimlerinden pekiştirmeli öğrenme (RLHF) teknolojisinin geliştirilmesine katkıda bulunan Diogo Almeida yönetiyor. Almeida, yapay zekâ modellerinin insan diliyle etkileşimi iyileştirmeye büyük ölçüde odaklandığını, oysa yazılım otomasyonunun bilgisayar tarafından doğrudan kullanılabilecek daha disiplinli çıktılara ihtiyaç duyduğunu söylüyor.
Daha yüksek hız ve daha düşük maliyet
TypeSafe AI, dil üretmekten kaçınmanın Jev'i hızlı ve ucuz hâle getirdiğini, ayrıca kullanıcı olası sonuçları önceden belirlediği için halüsinasyon ihtimalini azalttığını söylüyor. Kaynak metne göre şirket çıktı belirteçleri için ücret almıyor; girdi belirteçleri ise milyon yerine milyar üzerinden ölçülüyor.
Model, geliştiricilerin hızla ilgisini çekti; talebin artması nedeniyle modele ait uygulama programlama arayüzü kullanıcı hizmetini geçici olarak durdurdu. Vercel'in güvenlik açısından incelenmek üzere komutları sınıflandırma amacıyla gerçekleştirdiği bir testte, OpenAI'ın bir modelinin Jev ile değiştirilmesi, yazılım mühendisi Pranit Sharma'ya göre daha yüksek doğrulukla birlikte beş ila 18 kat daha hızlı sonuçlar verdi.
Ticari e-postaları sınıflandırmaya yönelik başka bir testte ise Bryo AI'ın teknik direktörü Nikhil Mudholkar, Gemini'nin biraz daha doğru olduğunu, ancak maliyetinin 10 ila 20 kat daha yüksek bulunduğunu tespit etti. Mudholkar, Jev'in döndürdüğü güven puanlarını otomasyon açısından daha önemli gördü; çünkü bu puanlar, bir işlemin uygulanıp uygulanmaması gerektiğine karar vermek veya işlemi yok saymak için kullanılabilecek bir olasılık sunuyor.
Pratikte ne değişiyor?
Bu kullanım alanları, Jev'in her görevde dil modellerinin yerini almayı zorunlu olarak hedeflemediğini gösteriyor. Jev; sınıflandırma, talepleri uygun modele yönlendirme, yapay zekâ ajanlarının etkilerini izleme veya kısıtları aşma girişimlerini tespit etme görevlerini üstlenebilir. Bu senaryolarda hız ve düşük maliyet, gerçek zamanlı izlemeyi daha uygulanabilir hâle getirebilir.
Ancak olasılıklara dayanmak, insan muhakemesi veya işletim kurallarına duyulan ihtiyacı ortadan kaldırmıyor. Earendil'in teknik direktörü Armin Ronacher, kullanıcının %50 veya %95 gibi bir puanla nasıl başa çıkacağını belirlemesi, yani çıktıları otomatik eylemlere dönüştürmeden önce net eşikler koyması gerektiğine dikkat çekti. Böylece belirsizlikle başa çıkma sorumluluğunun bir bölümü modelden uygulamanın tasarımına aktarılıyor.
Açıklanmayan mimari ve beklenen rekabet
TypeSafe AI, Jev'in mimarisine ilişkin ayrıntıları açıklamadı. Dışarıdan bazı gözlemciler modelin açık ağırlıklı bir dil modelinin üzerine kurulmuş olabileceğinden şüpheleniyor; ancak şirket, kaynak metinde bu iddiayı doğrulamadı. TypeSafe AI, modeli sezgiye ve uygun görevin seçimine odaklanan bir “System One modeli” olarak tanımlıyor ve modelin yalnızca “kalibre edilmiş kararlardan pekiştirmeli öğrenme” adını verdiği bir teknik kullanılarak sentetik verilerle eğitildiğini söylüyor.
certi.news'un değerlendirmesine göre Jev'in önemi yalnızca yeni bir model olmasından kaynaklanmıyor; asıl önem, yapay zekâyı genel amaçlı bir sohbet arayüzü yerine yazılım içinde uzmanlaşmış bir karar katmanı olarak sunmasında yatıyor. Belirtilen test sonuçları doğruysa bu yaklaşım, çıktıları belirli tekrarlanan görevler için uygun olabilir. Ancak yayımlanan karşılaştırmalar sınırlı ve farklı alanlar veya iş yüklerinde performans hakkında tek başına hüküm vermeye yeterli değil. Ayrıca mimarinin ve veri üretim yönteminin belirsizliği, doğrulanabilirlik ve ölçeklenebilirlik konusunda açık sorular bırakıyor.
TypeSafe AI, modelin farklı tarzlarda başka sürümlerini oluşturmayı planlıyor. Ronacher ise bu tür modellerin pratik faydası netleştikten sonra rakiplerin ortaya çıkmasını bekliyor.