Devasa işlem yetenekleri gerektiren büyük yapay zeka modellerine yönelik genel eğilimin aksine, girişim şirketi Underdog, kullanıcıların cihazlarında yerel olarak çalışabilen hafif modeller geliştirerek farklı bir yola yöneldi. Şirket son zamanlarda Woof adını taşıyan ve boyutu 32 megabaytı geçmeyen sesli bir modeli, yeteneklerini öne çıkaran etkileşimli bir oyun aracılığıyla tanıttı.
Bu modeli özel kılan nedir?
Woof modeli, 31 milyon parametreye dayanmaktadır ve internet bağlantısına ihtiyaç duymadan tamamen tarayıcı içinde çalışacak şekilde tasarlanmıştır. Şirketin sunduğu tanıtımda kullanıcılar, modelin konuşmaya dönüştürdüğü metinleri yazmak için sanal bir klavye kullanabilir; ayrıca basit bir kontrol arayüzü aracılığıyla müzik klipleri üretebilirler. Bu da küçük modellerin belirli görevleri yerine getirmedeki verimliliğini kanıtlamaktadır.
Bu haber neden önemli?
Bu gelişme, bulut hizmeti sağlayıcılarına olan bağımlılığı azaltma yönünde pratik bir adım teşkil etmektedir ve bu durum, kullanıcıların kendi verilerine sahip olmasını amaçlayan şirket kurucusu Sijil Winn'in vizyonuyla uyumludur. Winn, geleceğin mevcut kişisel cihazlarda çalışabilen yapay zeka modellerini çalıştırmaya doğru gittiğini ve bunun buluta dayalı hizmetler için güvenli ve özel bir alternatif sağladığını düşünüyor.
Yerel modellerde genişleme
Woof, şirketin tek başarısı değildir. Ondan önce, konuşmadan metne dönüştürme (transkripsiyon) için ayrılmış 167 MB boyutundaki Bark modelinin piyasaya sürülmesi ve dizüstü bilgisayarlarda çalışmak üzere tasarlanmış 27 milyar parametre içeren devasa bir model gelmiştir. Underdog bu adımlarla, büyük yapay zeka platformlarına yerel barındırmalı bir alternatif olacak, açık ve yerel olarak üretilmiş modellerden oluşan bir ekosistem inşa etmeyi amaçlamaktadır.
Bu adım, veri gizliliği ve bulut veri merkezlerine aşırı bağımlılık hakkındaki tartışmaların arttığı bir dönemde gelmektedir; bu durum, cihaz üzerinde çalışan yapay zeka modellerini (Edge AI), gizlilik ve bağımsız performans arayan geliştiriciler ve kullanıcılar için cazip bir seçenek haline getirmektedir.