En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.
Perplexity, Computer platformu için Hybrid Compute özelliğini başlattı. Bu özellik, akıllı aracın görevlerini gelişmiş bulut modelleri ile Apple silicon çipli Mac cihazlarda çalışan yerel modeller arasında dağıtmasını sağlıyor. Şirket, cihazdaki bir gizlilik geçidinin hassas verileri buluta herhangi bir bölüm gönderilmeden önce taradığını söylüyor; ancak yanlış sınıflandırma riskleri ve kullanım verilerine ilişkin sorular sürüyor.
bartowski, llama.cpp üzerinden modelleri nicemlerken imatrix için kullanılan kalibrasyon verilerini kapsamlı biçimde test ediyor ve en büyük kazanımların düşük bit oranlarında, özellikle de çok uzmanlı MoE modellerinde görüldüğü sonucuna varıyor. Yeni dataset daha küçük ve daha odaklı; ancak araç kullanımına yönelik çeşitli metinleri ve biçimlendirilmiş konuşmaları bir araya getiriyor.