En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.
bartowski, llama.cpp üzerinden modelleri nicemlerken imatrix için kullanılan kalibrasyon verilerini kapsamlı biçimde test ediyor ve en büyük kazanımların düşük bit oranlarında, özellikle de çok uzmanlı MoE modellerinde görüldüğü sonucuna varıyor. Yeni dataset daha küçük ve daha odaklı; ancak araç kullanımına yönelik çeşitli metinleri ve biçimlendirilmiş konuşmaları bir araya getiriyor.