الأدوات

llama.cpp

أداة استدلال متوافقة مع نموذج LFM2.5-2.6B.

أحدث التغطيات

CN
كيف يبني Rust تطبيقات النماذج اللغوية باستخدام Rig؟

كيف يبني Rust تطبيقات النماذج اللغوية باستخدام Rig؟

يشرح عرض عملي مشترك بين JetBrains وRust Foundation كيفية استخدام مكتبة Rig لبناء وكلاء ذكاء اصطناعي في Rust، مع دعم مزودي النماذج والأدوات وRAG والنماذج المحلية. وتبرز المادة أيضاً أسلوب اختبار تكاملات النماذج عبر تسجيل طلبات HTTP وإعادة تشغيلها في بيئة التكامل المستمر.

CN
Qwen3.8-27B يقرّب نماذج الذكاء الاصطناعي المتقدمة من التشغيل المحلي

Qwen3.8-27B يقرّب نماذج الذكاء الاصطناعي المتقدمة من التشغيل المحلي

يقدم نموذج Alibaba المفتوح Qwen3.8-27B قدرات متعددة الوسائط وترميز ووكلاء برمجيين ضمن حجم يمكن تشغيله محلياً بعد ضغطه إلى نحو 17 غيغابايت. ورغم مؤشرات الأداء القوية، فإن استهلاكه الكبير للتوكنات وبطء الاستدلال يفرضان موازنة عملية بين الجودة والسرعة.

CN
تجربة bartowski تكشف حدود بيانات imatrix وأهمية تنوعها في نماذج GGUF

تجربة bartowski تكشف حدود بيانات imatrix وأهمية تنوعها في نماذج GGUF

يستعرض bartowski تجربة واسعة لتحسين بيانات المعايرة المستخدمة مع imatrix عند تكميم النماذج عبر llama.cpp، ويخلص إلى أن المكاسب الأكبر تظهر عند معدلات البت المنخفضة، خصوصاً في نماذج الخبراء المتعددين MoE. dataset الجديدة أصغر وأكثر تركيزاً، لكنها تجمع بين نصوص متنوعة ومحادثات منسقة لاستخدام الأدوات.

CN
Liquid AI تطرح نموذج LFM2.5-2.6B لتشغيل الوكلاء محلياً على الأجهزة

Liquid AI تطرح نموذج LFM2.5-2.6B لتشغيل الوكلاء محلياً على الأجهزة

أعلنت Liquid AI إتاحة نموذجي LFM2.5-2.6B وLFM2.5-2.6B-Base على Hugging Face، مع دعم استدعاء الأدوات وسير العمل متعدد الخطوات محلياً. ويستهدف النموذج تشغيل وكلاء سريعين على الحواسيب والهواتف، مع استهلاك أقل من 2.5 غيغابايت من الذاكرة.