وحدة قياس النص المستخدمة في معالجة نماذج الذكاء الاصطناعي واللغات الطبيعية.
نجحت Cloudflare في خفض تكلفة تشغيل أداة مراجعة الكود البرمجي بالذكاء الاصطناعي بنسبة 68% وتقليص وقت التنفيذ عبر تحسين استهلاك الرموز، وإدارة التخزين المؤقت، وتوجيه النماذج بذكاء.
توضح GitHub أن تقليل الرموز في كل استدعاء لا يعني بالضرورة خفض كلفة المهمة كاملة، إذ قد يدفع النموذج إلى إعادة تنفيذ الأوامر أو استرجاع مخرجات حُذفت. وتعرض الشركة أربع تحسينات في Copilot شملت ضغط المخرجات المتكررة، إزالة تنسيقات غير مفيدة، اختصار التعليمات، وتسليم نتائج المهام الخلفية مباشرة.